旧中国由于军阀割据以及频繁的战事，各路军队的编制常常存在显著差异。由于此种状况，1937年初，我党与国民党政府在就红军改编为八路军的军事问题上进行了长时间且艰苦的谈判。为了能够适应未来对日作战的需求，红军曾提出过一套理想化的步兵师编制方案。虽然由于各种客观因素，最终未能实施这一方案，但它为后来的八路军改编工作提供了重要的理论基础。

实际上，军队的编制并非一蹴而就，而是通过长期的实践和与实际情况的结合，才能形成科学合理的结构。人民军队的前身，原为参与南昌起义与秋收起义的国民革命军。这些部队的编制深受北洋政府与苏联顾问的影响。1905年，清政府在实施“新政”时宣布将参照德国的军制来组建新军。新军的基本架构为镇，每个镇下设两协，每协下设两标，每标下设三个营。尽管清朝灭亡后，军阀割据时期军队规模有了大幅扩张，但基本的师级编制仍保持着每师下辖二旅四团12团的标准。

进入1926年，广东国民政府开始着手组建国民革命军。北伐的八个军虽然总兵力仅有10万，但每个军仅编为两师，每师下辖三团以及少量的直属队。1927年，在八一南昌起义和秋收起义之后，成立的工农革命军大多继承了三团编制，每个师通常能够容纳5000余人，每团平均约1600人左右。直到1928年4月，朱德和毛泽东在井冈山会师时，红四军的三个师总人数却仅为1万多人。随后的土地革命浪潮掀起了全国范围的红军建设，1930年在上海召开的全国红军代表会议上首次提出了“理想”编制方案，即每个师满员14000人。即便如此，在中央红军的鼎盛时期，红军依然只拥有五个军团、12个师和7万多人，按平均数来算，每个师仅有约6000人。

经过湘江战役后，中央红军的兵力大幅缩减，仅剩不到3万人，因此在遵义会议后，开始进行大规模的编制调整。红一军团仍下辖两个师，而其他三个兵团仅有三个到四个团。1935年10月，中央红军最终仅剩下红一军团和红三军团，红三军团缩编为红四师，所有的三个师合起来总人数仅有7000人左右。长征后的红军，尤其是每个师的规模显著缩小，相当于中央苏区时期一个团的兵力。

1936年10月，红一、二、四方面军的会师使得红军的总人数逐步恢复至7.44万人。即便如此，红一方面军的红一军团和红15军团，合计六个师，每个师的规模也仅有2500人左右。红二方面军三个军七个师，每个师人数在2000人左右。红四方面军在经历西征失败后仅剩四个师，而这些师的规模却略有提升，达到3500人左右。

因此，在红军改编为八路军时，由于国共两军的编制差异过大，如何平衡编制问题，成为了决定能否保留红军精锐力量的关键。1937年2月，随着“西安事变”的和平解决，国共双方正式开始商谈红军的改编事宜。

起初，我党提出的方案是将陕北红军全部改编为四个军，每军三个师，总共为12个师的大型军团。许多人认为这一方案是向蒋介石讨价还价的策略，但实际上考虑到当时红军的庞大编制以及红军作战时的需求，将其编制为四个军是完全可行的。然而，红军的高级指挥官也非常清楚，尽管有一年的时间准备，基于陕北的人员情况，依然无法恢复到红军时代的6000人一师标准。因此，红军很快提出了第二个方案，即将改编为四个师，每个师下辖二旅四团，合计14000人。

这个方案相较于国民党军的标准已经是极大的妥协。国民党军的步兵师有甲、乙、丙三种不同编制。甲种师由三旅九团组成，约2万人，而其他大多数国军部队的编制则为每师三旅六团或二旅六团。红军的这一编制方案，已在国军的标准范围内，且表现出强烈的诚意。

然而蒋介石对这一方案不以为然，甚至在之前的与苏联接触时就明确表示，红军只能保留3000人的编制，且红军的师以上军官必须全部出国。在他看来，红军提出的四个师的编制要求，是“狮子大开口”。蒋介石提出的方案是将红军只改编为两个师，总兵力为15000人，并不设总指挥部，直接由战区管理。这一方案的关键在于，它不仅严格限制了红军的人数，而且没有总指挥部，就意味着这两个红军师的部队有可能被拆散，分配到不同的战线。

在双方僵持时，国民党代表张冲提出了自己的方案：红军主力改编为四个师，总计16个团，兵力为4万余人，其余部队则改编为两个工兵师，主要负责修路等后勤工作。由于当时红军的武器匮乏，许多战士只能用冷兵器作战，这一方案在我党高层看来有一定的可行性。尽管如此，蒋介石依旧坚持自己的立场，并频繁修改方案，最终双方的谈判陷入僵局。

直到淞沪抗战爆发，蒋介石的军事压力剧增，才被迫恢复与我军的谈判。最终，经过一系列磋商，双方达成一致，红军改编为国民革命军第八路军，包括115师、120师和129师，每个师的编制为14000人，另设总部直属队3000人，合计兵力45000人。

那么，为什么我军最终认为每个师14000人的方案最符合当时红军的实际情况呢？尽管到了1937年7月，陕北红军的总人数随着西路军的幸存者回归有所增加，接近80000人，但由于武器严重短缺，实际的主力部队人数却仅恢复到了1.4万人左右。因此，将红军编为三个师恰好符合每个方面军对应一个师的需求，而且每个方面军的平均人数刚好为14000人，这正是1930年提出的理想编制。

每个师下辖骑兵营、炮兵营、工兵营、辎重营等各类支援单位，同时每个师也编有特务营等。这使得八路军的编制保持了相对的战斗力，尤其是在团一级，得以保持了与当年红军时期相似的指挥结构和作战理念。尽管编制上看似理想，但在实际执行中，武器的缺乏依然是八路军面对的巨大困难。