根本就用不着大兵团作战,因此采用了镇戍制，兵力极为分散.于是，我们就常常可以看到一旦发生战争,清朝就得从全国调兵，而每个省所调兵力往往仅有数百或千余人。这就造成了在清军中，根本就没有大编制的传统和经验。鸦片战争以后,尤其是太平天国起义爆发后，战争的规模较以前有了扩大。双方交战兵力常常可达数万以至数十万，但是，纸面上的数字并不能代表真实的情况。以太平军为例,虽然人数动辄数十万，但其中绝大多数是随从的饥民，属于乌合之众，真正的精锐并不多。史家一般认为陈玉成兵团的战斗力较李秀成兵团为强，但陈玉成兵团真正的战斗力也就仅仅是在于其几千，至多是万余"老兄弟"而已。
在曾国藩等人的领导下，湘淮军采取的是精兵战略.由于对手的精锐数量并不多，因此湘淮军也就不需要太多的部队.像著名的“三河大捷”,其实长驱直入太平天国腹地的湘军李续宾部只有13个不满员的营，5000余人。偶尔几场大的主力会战，如安庆会战，天京会战,湘军投入的兵力达到了数万，但这不过是很少的例子，同一时间，最多有一两个战略方向有这样大的兵团。湘军的领袖完全可以亲临督战,用不着担心会出现群龙无首的局面。最激烈的战争时期尚且如此，此后的“和平时期”中，淮军的主要功能又恢复到了原来绿营的维持治安，其情况更可想而知。
因此，从传统和自己的经历上，淮军就没有感到过有建立较大规模编制的必要，而李鸿章也没有能够预见到将来可能面临的新的情况，于是就以过去的经验为满足了。另一个重要原因则在于淮军的征兵制度，用个现代的词汇来说就是国防动员体制。
组建大的兵团，并使这些部队真正的成为国家的军队，能够在需要的时候任意调遣，组合成更大的建制，而不至于成为私人的部曲，很重要的前提就是要有良好而统一的国防动员体制以及相应的供给体制。而淮军组建之时，正值战乱之秋，成军的地点又是清军，太平军，捻军和地方豪强争夺拉锯之处,完整的国防动员体制早已荡然无存。国家不能统一的给提供兵员，李鸿章与曾国藩也做不到。
同治元年(1862)，淮军建军之初,李鸿章招募的淮勇加上曾国藩调拨的湘军再加上2营楚勇，拼拼凑凑只有6500人。仅仅两年之后,同治三年(1864),淮军就发展到一百余营,7万多人。这增加的部队是从哪里来的?就只能靠各个统领自己去招募。自己招募，自己训练，自己装备，自己指挥，许多时候由于国家财政无法支持还要靠统领自己去筹募军饷。再加上当时举国上下一片混乱，在人们心中国家的概念若有若无,在许多人看来，当兵是为了“吃粮”,谁招募了自己，给自己发军饷,就听谁的。
这种情况下建立的军队，很自然的只会服从自己统领的指挥。就如唐末的藩镇一样。战争时期淮军采取这样的征兵制度，应该说是由时局所迫,无可厚非。
但是，进入到和平时期,淮军仍然沿用这种制度，而无视其重大的负面影响，应该说，对于这一点，李鸿章是有着不可推卸的责任的。
