改革开放后，80年代初我军恢复军衔制成为军方高层的共识。在1982年的十二大之后，恢复军衔制被提到议事日程。1983年5月中央军委成立了“全军恢复军衔制领导小组”，负责实行军衔制的准备工作，由中央军委和总政治部直接领导。余秋里（总政治部主任）、杨得志（总参谋长）、肖克（军事学院院长）、王平（总后勤部政委）、朱云谦（总政治部副主任）为召集人。领导小组共有十余位成员，都是军委各总部、军兵种和有关部门（总政干部部、总参军务部）的领导。下设的办公室有二十多人，从全军各大单位调来，办公地点在北京西山。
全军恢复军衔制领导小组办公室全体成员合影（1987年4月于北京西山）
由于叫“恢复军衔制”，因此刚开始酝酿的军衔方案与1955年军衔制基本一样，也曾有过设大元帅和元帅的方案。
当时有关部门根据各国军衔设置的共同特点，结合我军的历史和实际情况，提出了我军军衔等级的设想，认为我军编制体制现在排以上层次有军委、大军区、兵团、军、师、团、营、连、排，共9级。另全军现有一些旅级建制单位，机关也有旅级（副师）的单位，因此，旅也应作为一级层次考虑。如果按尉官对应连、排，校官对应团、营，将帅一衔对应一级编制的惯例，我军的军官军衔等级可设13级。即：大元帅（最高统帅）、元帅（军委）、大将（大军区）、上将（兵团）、中将（军）、少将（师）、准将（旅）、上校、中校、少校、上尉、中尉、少尉。考虑到如果减少编制级别，兵团级取消，可不设大将。
这一方案，既不和东方型军衔完全一样，也有别于西方型军衔。
1978年3月15日，邓小平和叶剑英接见军事科学院全体人员。
既然设了元帅军衔，那么，谁当大元帅，谁当元帅？
大元帅是最高统帅，当时内定军委主席邓小平和四位健在老帅叶剑英、刘伯承、徐向前、聂荣臻为大元帅。主要考虑是：四位老帅年事已高，都是军委副主席（刘帅1982年9月十二大后因身体原因不再担任军委副主席），1955年他们授元帅后又过了30年（中央军委曾考虑1985年恢复军衔制），理应给他们提高一级；邓小平1955年也是元帅候选人，并且是军委主席，是最高统帅。因此这几位元勋应授予比元帅高一级的军衔，那就是大元帅了。
1987年12月30日，徐向前元帅与杨尚昆在一起
同时内定军委正副秘书长杨尚昆（军委常务副主席）、余秋里（总政治部主任）、杨得志（总参谋长）、张爱萍（国防部长）、洪学智（总后勤部部长）为元帅。理由是几位正副秘书长多是老上将，也应有相应提高。如果不设大将，提高一级就是元帅了。杨尚昆1955年没授衔，以他战争时期红三军团政委、中央军委总政治部副主任、中央军委秘书长的资历，授大将衔应该问题不大。余秋里虽是老中将，但他曾任过军委八大总部之一的总财务部部长，后来又当过石油部部长、国家计委主任，搞经济建设功不可没。
80年代，总参谋长杨得志和总政治部主任余秋里
谁知此方案提交高层讨论后，反对意见持多。几位老帅不同意给政工人员出身、谈不上战功且脱离军队几十年的某领导授元帅军衔。当时在职的除军军委员，还有几位老上将，按原计划1985年前后恢复军衔制，时任总政治部副主任傅钟，总后勤部政委王平，军事科学院院长宋时轮，军事学院院长兼第一政委肖克，甚至中央军委顾问谭政大将、黄克诚大将和李达、李志民、李聚奎，他们的军衔提不提？如果都提，这元帅又多好几位。有人说粟裕大将都没评上元帅。当然更多的人提出：毛主席都没有当大元帅，现在设这么多大元帅是否合适？几位老帅和军委邓主席也都表示不当大元帅，所以这个方案很快被否决，新中国十大元帅的人数也没有突破。
中央军委顾问黄克诚
1984年10月1日国庆三十五周年，军委委员（右起）余秋里、杨得志、张爱萍、洪学智在天安门城楼观看阅兵
1985年以后，高层基本达成共识：新军衔制不设大元帅、元帅和大将，平时最高军衔为上将。同时，考虑在特殊时期（如战时）军委主要领导需要授衔时，应与军委和总部其他领导的军衔（一般为上将）有所区别。因此，在上将之上又设了一级最高军衔，即一级上将。军委主要领导即军委主席、副主席，军委其他领导则是军委委员。
因此，当初确有设大元帅、元帅的方案，谁当大元帅、谁当元帅也只是一种设想。1955年军衔制不是也曾有周恩来、刘少奇、邓小平当元帅的设想吗。
而且，当初新军衔制大元帅、元帅的军衔标志（肩章）都搞出来了。笔者1983年分配到总后勤部军需生产管理部，那时正为恢复军衔制作各种准备，记得当时机关办公楼二层会议室作为新军衔服装样品临时展室，各种军服和军衔标志（肩章、领章）琳琅满目，大元帅和元帅肩章当然是最显眼的，笔者难免不多看两眼，印象和1955年的图案差不多，工艺也是金销锈，就是肩章形状稍有变化，顶端由四角形改为三角形，也稍微窄了几毫米。哎！那时也没手机，不然拍下两张多好，也可以和朋友们共享，你说有多遗憾啊！另外将官以上礼服有一方案，帽檐和袖口都有“双龙戏珠”图案，虽说是民族传统纹饰，但容易让人联想封建等级制度，因此“双龙戏珠”方案很快被否定了，改为松枝叶图案。
1988年设立一级上将为最高军衔后，由于当时够条件的邓小平（军委主席）、赵紫阳（军委第一副主席）、杨尚昆（军委常务副主席）都表示不授衔；1994年取消此衔前够条件的军委副主席刘华清、张震又未授，所以一级上将始终设而未授。
1988年9月14日，中央军委在北京中南海怀仁堂隆重举行授衔仪式，洪学智等17位高级军官被授予上将军衔。
