形势的发展使彭德怀对毛泽东的游击战争战略有了更深刻的领悟，在敌后军事建设上，从过去偏重于对主力军的扩军整训，进而致力于加强地方武装和群众游击武装的建设。
1941年2月22日，彭德怀向各战略区发出关于军区工作的指示，要求把八路军的基干兵团与军区组织系统分开，建立起军区独立的组织机构与系统，在军区领导下加倍发展地方武装和组织各种群众性的抗日武装队伍，以便在任何情况下(即使主力转移)保卫根据地。3月28日，彭德怀在北方局干校发表关于《抗日根据地的武装斗争》的重要演说，根据毛泽东人民战争的思想、红军十年斗争和八路军三年抗战的经验，提出建立正规军、地方军、民兵三结合的武装体制，对三者各自的性质、任务、作用和相互关系作了明确的规定。彭德怀的这一方案，使敌后抗日武装的几个方面在毛泽东抗日游击战略的思想指导下，成为一个有机结合的整体，得到毛泽东、朱德的赞同。同年11月7日，中共中央军委发出《关于抗日根据地军事建设的指示》，这一武装体制，遂成为抗日战争以后解放战争到中华人民共和国武装体制的雏形。
百团大战后的半年多内，敌后根据地军事、政治、经济、文化各方面的建设整顿工作，在彭德怀雷厉风行的领导下加速进行。彭德怀常常提醒干部说，在敌后，从战争上说，是没有相持阶段的。敌人天天在进攻，不战则亡。只有这一个战役和下一个战役间存在相持的时间。敌人的这一次“扫荡”和下一次“扫荡”之间，就成为敌后建设的黄金时刻。敌人怀着深刻的恐惧在其情报中说：“共军……埋头于恢复战斗力及重建根据地的工作”。
在同一个时间内，敌人也在加紧制定新的谋略。
日本华北方面军通过加强其情报系统，在几个月内收集整理了关于中共区党委以上至中央局、华北抗日根据地县以上、八路军团以上的组织系统和负责人名单。其中很少阙漏及差错。对八路军的抗日意识、战斗力、干部士兵素质、武器、装备、战术动向和所实行的旨在改善生活、推进民主的各项政策，以至国共关系的细微变化，都做了细致调查，进行了“彻底的讨论”。然后制订出一个以灭共为目标的“三年治安肃正计划”。
这一计划的起草人，当时任日本华北方面军作战室主任参谋的岛贯武治大佐回忆说：
“方面军通过对中共势力实际情况调查，做出了如下结论：他们是党政军民结合成一体的组织，具有明确的使命观。他们为了实现革命，力图通过争取民众、组织民众，以扩大加强其势力。他们巧妙地把思想、军事、政治、经济的各项措施统一起来，且将其努力分配于七分政治、三分军事之上，从而使我方单靠军事力量无法进行镇压，也必须采取多元的综合措施。”
