聂荣臻元帅在回忆50年代初建立军队的编制体制工作时说:“精简整编的另一项工作是统一全军的编制，包括部队的编制和武器的配备两个方面。过去打仗的时候，全军的编制极不统一，武器装备也是靠缴获，所以非常杂乱，要建设现代化正规化的军队，这种现象自然要迅速改变。为了使全国的国防军统一起来，就必须确定统一的编制序列。这是一项比较复杂的工作，需要考虑许多因素，如便于指挥，便于机动，便于作战，便于武器装备相对统一等等，我们参考了许多国家的编制，最后确定的方案是:以师为基本独立单位，并保持军的指挥机构，把兵团和野战军的机构取消。兵团机构有一部分调来建立海军和空军的直属机关。整编后的军、师统归各大军区直接指挥。军师团营连步兵部队的建制，都实行三三制，即每军三个师，每师三个团，余类推。全军统一成立省军区、军分区和县(市)人民武装部，领导地方武装的工作。”50年代，人民解放军编制体制的建设主要进行了如下几项工作:

　　建立健全全国统一的军事领导体制。1949年10月成立了“中华人民共和国中央人民政府人民革命军事委员会”，1954年9月改组为“中共中央军事委员会”。同时还成立了“国防委员会”和国防部。

　　建立健全解放军总部领导机构和军区领导体制。开始建立了八大总部:总参谋部、总政治部、总后勤部、总干部部、管理部、武装力量监察部、总财务部、总军械部、训练总监部。1958年又将八大部合并为三总部:总参谋部、总政治部、总后勤部。50年代初期，由野战军体制改编为6个大军区(一级军区)、18个二级军区、25个三级军区。1955年将三级军区体制，改编为13个大军区和省军区。

　　建立健全军事院校体制。到50年代末，全军建立了各类院校120余所，基本形成了诸军兵种院校齐全，初、中、高级院校衔接的正规化的军事院校培训体系。

　　建立了合成军队体制。在精简陆军的基础上，迅速组建了空军、海军、公安军、防空军、炮兵、装甲兵、工程兵、铁道兵、防化兵、通信兵等，5大军种7个兵种的诸军兵种领导机关和部队，完成了由单一兵种向合成军队的过渡。

　　建立了军事科学研究体制。1958年3月，成立了直属中央军委领导的军事理论研究机构中国人民解放军军事科学院。尔后，又陆续在各总部、大军区、军兵种司令部和军事院校，分别成立了与其业务相适应的军事研究专业机构，到60年代初，全军拥有各级军事研究机构达160余个，专业研究队伍达2000余人。

　　建立了国防科学研究领导体制。成立了国防科学技术委员会，在中央军委领导下统一组织领导国防科学技术研究工作，加强了对常规武器、尖端武器、航空、舰艇、电子等科学技术的筹划研制工作。