1955年2月11日，为适应人民解放军开始进行的大规模革命化、正规化、现代化建设的需要和党的中央局、中央分局的设置情况，国务院、国防部发布《关于全国军区重新划分的决定》，决定将6个大军区改划为12个大军区：东北军区改编为沈阳军区；华北军区改称为北京军区，内蒙古军区改编为大军区；华东军区改编为南京军区，原属华东军区的山东军区改编为济南军区；中南军区改编为广州军区，原属中南军区的河南、湖北军区组成武汉军区，江西军区划归南京军区；西北军区改编为兰州军区，原属西北军区的新疆军区改编为大军区；撤销西南军区番号，在西南地区分别成立成都军区、昆明军区和西藏军区。1955年7月，国务院、中央军委决定取消按一、二、三级等级划分军区的做法，统一改称军区、省军区。此后，全军由原来的四级军区体制改为军区、省军区、军分区三级军区体制。
1955年上半年，在新的军区划分确定以后，各大军区领导班子的选配也在紧锣密鼓地进行。原来的六大军区司令员、政治委员中，高岗、薄一波、饶漱石、习仲勋属于地方干部，长期在军队工作的邓小平1952年也调任中央人民政府政务院副总理。其他8人（彭德怀、林彪、贺龙、陈毅、罗荣桓、徐向前、聂荣臻、叶剑英）在1955年都被授予元帅军衔。大军区调整后，中央军委将一批年富力强、战功赫赫的“少壮”将领推到第一线，担当大军区主官重任。他们当中除了邓华任东北军区代司令员，其他大多为原一级军区副职或二级军区主官。在今天来看，这些大军区司令员、政治委员的年龄简直不可思议：最年轻的只有40岁出头，如北京军区司令员杨成武、成都军区司令员贺炳炎、西藏军区司令员张国华仅有41岁，新疆军区司令员兼政治委员王恩茂42岁；多数在45岁左右；年龄最大的也不到50岁，如南京军区司令员许世友和内蒙古军区司令员兼政治委员乌兰夫49岁。
1956年4月，为解决华东战场防御正面过宽和加强福建前线对敌斗争的领导问题，国务院决定将原属南京军区建制的福建、江西两个省军区划出，单独组建福州军区。至此，全国共设13个大军区。其中，10个军区以驻地城市冠名，3个军区以自治区冠名。60年代后期，由于边防形势的需要，又从十三大军区调整为十一大军区。1967年5月，为统一华北战场作战指挥，中央军委决定将内蒙古军区降格为省军区，划归北京军区建制领导。1969年12月，鉴于西藏地区的特殊性，为便于对西南边防的支援，中央军委决定将西藏军区改为省级军区，划归成都军区建制领导。1979年5月，新疆军区与其他军区一样，也以领导机关驻地城市冠名，改称乌鲁木齐军区。
1985年至今的七大大军区
1984年底，中央军委依据国际形势和中国安全环境发生的新变化，为适应军队建设指导思想实行战略性转变，开始酝酿军队进行大规模裁减问题，并提出了精简整编初步方案。其中，精简的最大单位是大军区。为适应未来反侵略战争的需要，并解决现行军区体制存在的战役纵深浅、独立作战能力弱、机构重叠、后方部署重复等问题，中央军委考虑将现有11个大军区重新整合，有些大军区要裁撤，有些要降格。谁留谁撤，无疑成为这次大裁军的焦点。
北京军区地处京畿重地，沈阳军区担负东北方向防御，南京军区、广州军区分别镇守祖国东大门、南大门，这四个军区战略位置重要，历来编制单位和部队最多，显然都在保留之列。
福州军区是20世纪50年代中期专门为针对台海形势而设的，炮击金门的战斗一直由福州军区担任。“文化大革命”结束后，随着两岸关系相对缓和，1979年，叶剑英委员长发布《告台湾同胞书》，并宣布大陆方面全面停止炮击，表明大陆方面首先解除了对台的敌对态度；随着时间的推移，两岸的交流必定会越来越多。因此，没有必要单独设立一军区指挥机构，将福州军区撤销并入南京军区势所必然。
济南军区虽只辖山东一省，但地理位置特殊。从陆地来讲它是拱卫京畿的门户，也是华中、华东地区的最前沿，历来是兵家必争之地。从海上来讲，山东半岛也是重中之重的战略要地，控制了山东半岛的海域北可防卫京津、东北，南可节制江浙，进可攻退可守。另一方面，基地在山东半岛的海军北海舰队，编制级别为兵团级，在作战方面应受海军和大军区双重指挥。因南京军区辖区内已有东海舰队，北海舰队则应属另一军区统辖。况且，福州军区已划归南京军区，如山东半岛再划归南京军区，该军区防御正面过宽。以上原因，使济南军区得以保留。
武汉军区位于中原腹地，是当时十一大军区中唯一没有边海防的军区，辖湖北、河南两省，也是辖区较小的军区之一，一直当做总预备队使用。将武汉军区撤销并入广州军区，原来它所辖的河南划拨给济南军区，一来扩大辖区面积，增加战区纵深；二来山东与河南两省地理环境差不多，风土民情相近，都属北方，统归济南军区比较理想；三是河南距广州遥远，指挥不便。而湖北则划归广州军区。
