7月初，102师于奉调湖南衡阳，作为第9战区总预备队。师长柏辉章兼任衡耒警备司令，同时对师部进行改组。原参谋长杜肇华改任步兵指挥官，以参谋主任熊钦垣升任参谋长。副师长李奇中外调，以305团团长陈伟光升充。同时扩编通信兵连为两个。
是时序列为：
师长柏辉章，副师长陈伟光，参谋长熊钦垣
第304团，团长许世俊
第305团，团长刘威仪
第306团，团长陈希周
补充团，团长王宪扬
1939年9月14日日军以三个师团、一个骑兵大队、附以坦克、大炮、飞机，共十万余人进犯长沙。第一次长沙会战开始。
当102师于9月中旬奉调参战至湘潭布防后日军已开始撤退。第9战区司令长官部决定将102师再次调属第4军，作为前敌追击部队追击败退日军。102师以305团为左翼、306团附工兵营为右翼开始追击。败退日军则仓促应战，被击毙者甚多。10月6日，两路追击部队追至新墙河南岸后获令就地驻防，此时102师师长柏辉章被升为第4军副军长兼原师长职。第一次长沙会战胜利结束。位于新墙河对岸的是日军第6师团，该师团常派遣小分队偷袭102师驻地，但皆被击退。此后102师巩固新墙河长达两年之久，战绩显著。在南岳军事会议上，该师受到了蒋介石和薛岳的表扬。
1941年4月，日军集中四个师团又两个独立旅团约十二万的兵力第二次进攻长沙。而102师驻守之新墙河阵地为首战要冲。日军先集中炮火对防御新墙河的102师猛烈轰击，并在飞机的掩护下，抢修新墙河上的军桥，使用坦克掩护步兵强渡新墙河，建立桥头堡。
第102师组织部队连续打退日军数次强渡，并集中该师所有迫击炮封锁河桥通道，使日军攻势稍减。前线三个团在日军连日进攻下奋战抵抗，师长柏辉章则日夜坐守电话机旁，严令各团不得后退一步。306团在遭受日军骑兵穿插袭击后，伤亡颇重，该团团长陈希周数次以电话向师长柏辉章告急，皆被柏辉章以“采取近战肉搏，你如后退，就提头来见”顶回。
随着战况加剧，师部开始前移严令各团抵抗，而各团兵力所剩无几，第305团2营更是全营殉国。作为预备队的补充团也因逐次增补前线的三个团而损失殆尽。此时柏辉章改以各团所剩兵力各成据点互相支援的方针，以机动防御方式，采取灵活行动，阻击日军，坚守原来的战线。后终因侧翼友军59师的溃退，战线被日军突破。
此次102师遭受日军第40师团天谷直次郎所部主力强袭，经过二十一个昼夜的浴血奋战，最后各营、连所余士兵都形成大小不同的独立据点，坚持战斗直至全部殉国。但是102师的这些牺牲为而后反击日军、保卫长沙，打下了胜利的基础。新墙河防御战结束后该师残部撤退至黄花市集中待命。后因日军骑兵部队进击黄花，该师又后撤至浏阳田新镇集结。此时全师仅存官兵五百余人，武器装备所剩无几。
值得一提的是该师工兵营营长杨炯在102师撤离后因后路被段，乃率领该营所剩的三十一名士兵转移至岳阳大云山地区收容败兵后，组成一个九百余人的加强营在当地打游击。坚持到第二次长沙会战结束，方才归队，并被晋升为中校。
9月底，日军终因后援不继，再次后撤。第9战区司令长官部命令部队全线反击，102师残部随第4军主力追击日军败兵至新墙河，第二次担任新墙河防务。而此次奉令防守之前，102师并未获得任何补充，因此奉命接收由湖南茶陵师管区组织的两团新兵补充。102师的黔籍成分再次被削落。
由于新补充的士兵人数不能满足原102师四个团的建制，便撤消了补充团，改为三团制。由于武器也未能获得补充，只能将一些存放在衡阳的旧炮废枪交兵工厂修理后配发使用。
第102师由出黔参加抗战起，原有黔籍官兵九千余人，从淞沪、徐州、武汉、南昌、第一、二次长沙会战后黔籍官兵多已阵亡，后补充的贵州、湖南、江西新兵皆未获得足够的训练，因而该师的战斗力与出黔时的战斗力已今非昔比了。
1942年6月102师随第4军从湘北出发至曲江马场准备参与支援友军抗击日军登陆，并待机接收香港，但未及抵达香港沦陷，又因第三次长沙会战爆发，第4军奉命回湘支援。
10月30日102师抵达湘潭后，受命攻击进抵长沙南郊的日军。102师以步兵指挥官杜肇华率领304团为右路，306团为左路向南郊日军发动进攻。师部与305团则在后跟进。304团在进抵大塘以北地区、306团进抵新开店附近的猴塘塅后分别与日军发生战斗。战至11月7日，日军全线溃退，102师官兵再次追击日军至新墙河，第三次奉命防守该地。一个月后第4军后调浏阳休整，102师驻田新镇整补。此次整补，工兵营、通信营被缩编为连建制，迫击炮营因全部损失，被撤消建制。此时全师官兵约四千余人。
