将清朝的世兵制改革为募兵制，也是曾国藩建立湘军的首要一着。他说，“数年来痛恨军营习气，武弁自守备以上无一人不丧尽天良。故决计不用营兵，不用镇将。”因此，他组建湘军时，主张不在市民而在乡农中招募兵员。其用意就是乡农中招募的兵员朴实壮健，有利于灌输封建的忠义伦理思想和便于适应艰苦残酷的战争环境。曾国藩还规定，“招募兵勇，须取具保结，造具府县、里居、父母、兄弟、妻子名姓、箕斗清册。各结附册，以便清查。”凡无保者，概不招募。曾国藩的这一做法，完全是承袭了明末抗倭名将戚继光的募兵思想。
曾国藩对绿营的编制方面也进行了改弦更张。湘军的编制以营为基本作战单位，营以下设哨，哨以下陆师为队，水师为船，马队为棚。湘军之始，营以上不再设官，各营全辖于曾国藩一人。其后营数增多，才有统领和分统的称谓。曾国藩要求以将必亲选、兵必自找、层层节制的原则组建军队，自统领至兵勇都是逐级进行募选，改变了绿营中“兵与兵不相知，兵与将不相习”的弊病，但也明显暴露了建立私家军队的用心，并从此就开创了近代中国“兵为将有”的先例，军阀拥兵割据的局面也就初显端倪了。
2.以仁礼忠信作为治军之本曾国藩在治军方略上苦费心机，主张用儒家学说治军，即用封建伦理纲常去教育官兵，以仁礼忠信作为治军之本去陶冶官兵，他的目的就是要以此来维系军心，培植出一支完全绝对服从于自己的私家军队。所以他认为，“用兵者必先自治，而后制敌。”
戚继光说过，练兵必从军礼训练入手，“军中名分，须从军礼为始”。曾国藩十分信服这一原则，他在日记中写道：“孟子曰：‘君子以仁存心，以礼存心’。守是二者，虽蛮貊之邦可行，又何兵勇之不治哉？”因此，他明确指出：“带勇之法，用恩莫如仁，用威莫如礼。”很明显，曾国藩治军的最终目的，就是要把孔孟的“仁”、“礼”思想贯穿于官兵的头脑之中，把封建伦理观念和尊卑等级观念融合在一起，将军法、军规与家法、家规结合起来，用父子、兄弟、师生的关系弥补军中上下尊卑等级关系的不足，来减少军中官兵之间的摩擦和抵触情绪。他说，军训之义有二：一曰训营规，二曰训家规。营规是指点名、演操、巡更、放哨，家规是指禁嫖赌、戒游惰、慎语言、敬尊长。若营官能“待兵勇如子弟，待人人学好，个个成名则众勇感之矣”。这样，士兵也就会像子弟对父兄那样忠义孝敬。对将帅的选拔和培养，曾国藩更是极力用仁礼忠信去进行训导，使之成为忠将和良将，以无负君父、国家之望。曾国藩还强调，军营主要是靠将帅的以身作则，做出榜样，以影响兵勇的言行。
