1948年5月，中央采纳了粟裕提出的三个纵队暂不过江，集中主力在中原黄淮地区打大歼灭战的建议。同时，为让粟裕放手指挥华东野战军，“钓大鱼”、打大仗，调陈毅为中原军区及中原野战军第一副司令员，其职责是“建立中原军区及中原局经常工作”，同时任命粟裕为华东野战军司令员兼政委。中央书记处会议结束时，毛泽东对粟裕说：“陈毅同志不回华野去了，今后华野就由你来搞。”
这个突如其来的组织大调整，陈毅显然没有足够的思想准备。此前，他在中共中央所在地陕北米脂杨家沟住了近两个月，中央丝毫没有考虑调动其工作的意思。因陈毅坚定地支持中央渡江南进的战略，毛泽东亲笔写了一个手令面交他，内容是：任命陈毅为东南野战军(由华东野战军6个纵队组成)司令员兼政委，粟裕为副司令员兼副政委，又兼东南野战军第一兵团司令员兼政委。具体安排是，粟裕率三个纵队先期南进，陈毅率其余三个纵队跟进。中共中央办公厅2月2日还专门为陈毅饯行。对于这次重大调整，陈毅系列传记之一的《传檄到中原》一书认为：“这个决定的实质是：实际上是将陈毅调离华东，并且免去了他对军队的指挥权——军权。军权，这在中国意味着什么，毛泽东阐发得最透彻。陈毅在1932年1月调任省军区工作，一直没有多少能打仗的部队好指挥，可他还是正职——军区司令员、支队司令员。直到黄桥一战，打开了华中局面，才赢得军事上的声誉。(成为)代军长、军长、华东军区兼华东野战军司令员兼政委。饶漱石只是华东军区政委，野战军陈毅是军政全权。对这，陈毅不能不有所感觉。”关于陈毅突然被调中原的原因，《一个老兵心目中的陈毅元帅》一书记载：“中央有人说：‘陈毅在山东，很多有能力的干部他没有充分用起来，很多事情他揽在自己一个人身上，结果这些事情没有做好。’而这人和饶漱石的关系密切。”《传檄到中原》后来也采用了这一说法。和饶漱石关系密切的这人，显然是指一直欣赏粟裕的刘少奇。
中共中央规定，元帅和大将由中央书记处提名，政治局讨论决定；上将至少将名单由总干部部和总政政治干部部分别提出，报请军委批准授予；校官人员名单由各总部、各军兵种和各大军区提出，报总干部部和总政政治干部部在全军统一衡量。因此，粟裕的军衔问题只能是由书记处、政治局以上领导人考虑的。
据《历史的真言——李银桥在毛泽东身边工作纪实》记载：
1955年9月中旬，毛泽东赴邯郸视察。回到北京后的一天深夜，毛泽东和周恩来、朱德、刘少奇一起在中南海颐年堂的小会议室里，商讨解放军高级将领的授衔、授勋事宜，李银桥和成元功、郭仁、石国瑞等人侍卫在侧间房中，听毛泽东谈起了粟裕。
毛泽东吸着烟说：“论功、论历、论才、论德，粟裕都可以领元帅衔：在解放战争中谁人不晓得华东粟裕呀！”
周恩来说：“可也不能不兼顾中国革命的各个历史阶段和各野战军的情况，要尽量做到人心舒畅、鼓舞士气，使全军有一个新的气象、新的面貌。”
就在粟裕辞帅被批准，新的元帅人选逐步确定，准备正式授衔之际，党内高层中有人在周恩来、刘少奇、邓小平因工作重心在地方而不授衔的情况下，提出了对同样主要从事地方工作的陈毅授衔的异议。此前的1954年9月，陈毅被任命为国务院副总理，兼管科学院、政法、文化，并“准备做外交工作”。1955年5月，国务院再次分工，确定陈毅分管第一、第二办公室、民族事务和科学、卫生工作。如果按这一异议陈毅不授衔，那么南方游击队、新四军及华东野战军显然要有一位其他代表担当元帅。时任总参谋长，坚持了国民党腹心地区三年游击战战争，从未离开过抗日战场并在新四军全军中“建立了最大的功劳”，长期实际负责华东野战军领导与指挥重任的粟裕，显然将再次成为考虑的焦点。当然，粟裕本人的再次谦让也必将在情理之中。据中央文献出版社出版的《周恩来年谱》记载，1955年9月11日，周恩来打电话给杨尚昆，主张给陈毅授元帅衔。
一、元帅军衔授予标准之一：领导战役军团作战、立有卓越功勋的高级将领，授予中华人民共和国元帅军衔。黄炎培说：“粟裕是可以当元帅的。”
1955年9月27日下午2点30分，中华人民共和国国务院隆重举行授予人民解放军将官军衔典礼，国务院秘书长习仲勋宣读了国务院总理授予人民解放军将官军衔的命令，其中粟裕、徐海东、黄克诚、陈赓、谭政、萧劲光、张云逸、罗瑞卿、王树声、许光达等10名解放军高级将领为大将军衔。接着，国务院总理周恩来将授予大将、上将、中将、少将军衔的命令状一一授予粟裕等在京的将官。同日下午5时，在中南海怀仁堂隆重举行授予中华人民共和国元帅军衔及勋章典礼。全国人大常委会副委员长兼秘书长彭真宣读了中华人民共和国主席授予朱德、彭德怀、林彪、刘伯承、贺龙、陈毅、罗荣桓、徐向前、聂荣臻、叶剑英10名人民解放军高级将领以中华人民共和国元帅军衔的命令。随后，国家主席毛泽东将授予中华人民共和国元帅的命令状一一授予朱德等在京的7人(林彪、刘伯承因病疗养，叶剑英因在大连准备军事演习均未出席)。与此同时，10位元帅与10位大将均被授予一级八一勋章、一级独立自由勋章、一级解放勋章，以表彰他们在工农红军时期、抗日战争时期、解放战争时期对革命战争建立的卓越功勋。
建国后的此次授衔授勋，既是当时解放军正规化建设的需要，也可说是对战争年代出生入死的将士们一次全面的“英雄排座次”。正如李世民在天下一统后，将杜如晦、魏征、房玄龄、李靖、李勣、秦叔宝、侯君集等24位开国功臣绘图形于凌烟阁一样，对人民解放军诸位将领而言，授衔有着非同一般的意义。其中，元帅与大将因为“双十”的限制设立，更是成为数百万指战员中耀眼夺目的佼佼者。
