由于南京临时政府存在短暂，尚未能够对全国军队实行有效指挥，各省军队主要掌握在地方当权派手里，所以，此时并没有真正形成军事力量的统一编制和管理体系。临时政府当时颁布的《陆军官佐士兵阶级表》，对军衔的等级和称谓做了如下规定：第一，上等官佐：大将军、左将军、右将军；第二，中等官佐：大都尉、左都尉、右都尉；第三，初等官佐：大军校、左军校、右军校；第四，额外军官：司务长；第五，军士：上士、中士、下士；第六，兵：上等兵、一等兵、二等兵。
北洋政府的军事编制及管理体系，主要是在继承清末新军的制度基础上演化而来，一般分作中央军和地方军两大系统；军种以陆军为主，有少部分海军，空军处于萌芽阶段。
陆军是主要军种，陆军中主要是步兵，另有骑、炮、工、辎重、通讯等兵种。根据1912年8月颁布的《陆军部官制》和1914年颁布《修正陆军部官制》的规定，陆军编制层次依次为师、旅、团、营、连、排。根据《陆军平时编制条例》，对基本战略单位“师”的编制为：每个陆军师有两个步兵旅、一个骑兵团、一个炮兵团、一个工兵营、一个辎重营。其中，每个步兵旅辖两个团；每个团下辖三营和一个机关枪连；每个营下辖四个连；每个连下辖三个排。骑兵团分为甲乙两种，甲种下辖四连，乙种下辖三连，每个连下辖四个排。炮兵团下辖三个营，每个营下辖三连，每个连下辖三个排。工兵营下辖三连，每个连下辖三个排。辎重营下辖三连，每个连下辖三个排。混成旅则是北洋政府统治时期大量出现的一种特殊的编制，由于缺乏法定编制的约束，各混成旅的规模也存在着较大差异。中央军队主要是师和混成旅，北洋政府时期的师有二十余的，混成旅有二十余个，此外，还有驻守京师的宪兵五营、陆军部卫队营等。
北洋政府时期的海军规模较小，共有舰艇40余艘，总排水量约4万吨。只编成了第1舰队、第2舰队、练习舰队，各舰队所辖军舰数目不等。根据1914年公布的《海军舰艇职员令》的规定，军舰设有舰长、协长、航海、枪炮、鱼雷、轮机长、军需、军医等不同职位，士兵若干。海军陆战队为营制，下辖四连，每连下辖三排，每排四十人。
北洋政府时期的开始从国外购买飞机组建空军，20年代以后，各派军阀陆续组建航空学校或航空司令部，编练了规模很小的航空队。
北洋政府统治时期，军阀割据，拥兵自重，各立名目，军队编制混杂，如有警备队、游击队、守备队、巡防营、稽查队、讨逆军、讨贼军、自治军等。当时，正式设置或被政府认可的地方军事管理机构有如下几类：
第一，都督府、将军行署、督军公署等作为北洋政府设置的省级军事机构，先后负责主管一省军政事宜。武昌起义后，各省成立都督府，设都督为最高军政长官。后来，袁世凯改都督为将军；1916年7月，将军又被改为督军；1924年后，督军改称督理或督办，其机构为督办公署。
第二，巡阅使、经略使、检阅使等作为北洋政府设置的跨省性军事机构，是高于省级的军政职官，有的辖两省，如闽粤巡阅使；有的辖三省，如直鲁豫巡阅使、东三省巡阅使、苏皖赣巡阅使；还有的并不辖省，如长江巡阅使、海疆巡阅使等。巡阅使的职权设置没有统一的法规，实际权限多因人而设。按照规定，巡阅使只负责统辖该区域内的陆军，与其各省军政长官一道筹办处理有关军事事务，在形式上属陆军部管辖；而海疆巡阅使，则属海军部管辖。
第三，护军使作为北洋政府设置的临时性地方军事机构，是设于无军政长官省区的军政职官，往往冠以省名或地名等。护军使署的编制，一般参照省级军政长官公署的规定。个别护军使也有设副使的，称护军副使。
第四，镇守使作为北洋政府于省内某一要地设立的地方军事机构，普遍设于边疆及重要大城市，镇守使多由师长、旅长(中将或少将)兼任。
根据北洋政府公布的《陆军官佐士兵等级一览表》、《海军官佐士兵登记表》、《航空军官佐官等官俸条例》规定，陆海空的军官分为三等九级，即上等将官，为上将、中将、少将；中等校官，为上校、中校、少校；初等尉官，为上尉、中尉、少尉。陆海空军的士兵分为军士、兵两等，军士分为上士、中士、下士三等，兵分上等兵、一等兵、二等兵，共三等。
1928年南京政府在形式上统一全国以后，国民党收编了北洋各系军队，仍沿用北伐战争的“国民革命军”称号，继续保持了陆海空三个军种，它包括中央军和地方军两大系统，中央军以国民党嫡系部队为主，地方军则主要由各地各派系控制的杂牌军为主，诸如东北军、西北军、川滇军、桂军、晋军、粤军等，统称为国防军。起初，依然以师为战略单位，军被作为战时指挥机构，后来逐渐转为以军、师两级战略单位先后交替使用的编制序列。20年代末30年代初，大约有近50个军的番号，约有近20个独立师。到1932年国民政府通令，全国分为48个军。军队建制一般依次为军、师、旅、团、营、连、排、班的编制。特殊情况下，有几个军组成的一个集团军；根据甲乙丙等的编制，下辖单位分别采用二进制或三进制；还有加强排、连、营、团的编制出现。除正规军外，还有一支“绥靖”地方的保安部队存在。抗战胜利后，南京国民政府的正规军达到200万人，非正规的宪兵、警察、军事机关、军事院校等达到200余万人，再加上地方保安部队400万人，共计约800万人。
南京国民政府的国防军，逐渐组建了炮兵、工兵、通信兵、铁道兵、汽车兵、装甲兵、伞兵、防化兵、宪兵等特殊兵种。海军部直辖第1、第2舰队、练习舰队、鱼雷游击队和测量队、巡防队、航空队。到1937年海军共有各型舰艇120余艘，总排水量约6。8万吨。抗战爆发后，保留第1舰队、第2舰队的番号，建立海军炮队、海军特务队和海军雷队。抗日战争胜利后，先后通过收缴和接受援助等方式，获得并保留大小舰艇400余艘，编入战斗序列275艘，官兵4万人，组建成海防第1舰队和第2舰队、江防舰队、运输舰队及10个炮艇队。到30年代，空军成为南京政府国防军的独立军种，基本建制以空军大队为单位，大队下辖三个队，队下辖三个分队。1937年前建成七个空军大队，全面抗战爆发后又建立了一个轰炸机联队。
1931年南京国民政府颁布《陆军军官佐及士兵等级表》，沿用北洋政府时期的军衔制，1934年和1935年为适应需要，国民政府先后对军衔进行修订，重新制定了《陆海空军官制表》和《陆海空军士兵等级表》，颁布新的军衔等级：将官分为特级上将、一级上将、二级上将、中将、少将；校军分为上校、中校、少校；尉官分为上尉、中尉、少尉；此外，还设有准尉一级；军士分为上士、中士、下士；兵分为上等兵、一等兵、二等兵。特级上将是专为蒋介石而设立的，这一最高军衔特定授予陆海空军最高军事长官。
作为国民政府的地方军事机构，先后曾设有军事委员会分会组织、军事委员会委员长行营、绥靖公署、战区长官司令部、集团军总司令部、警备司令部、城防司令等。