倪志亮说：“王新亭既然能‘鉴宝’，自然有文化，让他当连队指导员吧！”倪志亮说这话的时候是在打下新洲城后。当时，国民党军立即组织兵力进行了反扑，红三团在麻埠阻击，一连指导员徐其德在战斗中牺牲。于是，倪志亮命令王新亭担任一连指导员。
从此，王新亭开始了部队政治工作生涯。1931年1月，红一师三团改称红十师三十团。王新亭当红三十团政治处主任。1933年5月，王新亭从红三十团调到红十二师当政治部主任；两个月后，即7月，红十二师扩编为红九军，王新亭跟着“水涨船高”，被任命为红九军政治部主任。1935年8月，王新亭从红九军政治部主任位置上调到红军大学政治部主任位置上。1936年9月，王新亭调任红三十一军政冶部主任。
1937年8月，国共达成协议，红军主力改编为国民革命军第八路军。王新亭被任命为八路军一二九师政治部组织部部长。一二九师师长是刘伯承，副师长是徐向前，倪志亮是参谋长，张浩是政训处主任。
八路军一二九师的初期工作是落实毛泽东的指示：“应照每师扩大三个团的方针，自筹枪支、军饷。实行减租减息，废除苛捐杂税，团结左翼力量，而以大部兵力尽量分散于各要地，发动群众，武装群众。”按照分工，师政治部副主任宋任穷、组织部部长王新亭、宣传部部长刘志坚率七七二团，分赴山西的沁县、长治、晋城、高平、武乡、平顺、壶关、安泽等地区开展群众工作。出发前，刘伯承对宋任穷、王新亭和刘志坚说：“晋东南是毛主席选定的下棋的‘眼位’，我们一定要把这个‘眼’做起来。”
1937年10月，王新亭对外以三八六旅政治部主任的身份，率七七二团3个连队到达长治。当天，王新亭拜会了国民党军第二军团司令官汤恩伯。
长治是上党地区的中心，阎锡山的第五行政公署所在地。第二天，王新亭去会见公署主任续济川。在接下来的日子里，八路军深入大街小巷，贴标语，发传单，演讲又表演，抗日宣传搞得有声有色，群众参加八路军的热情很高。但是，一股谣言也在悄悄地出现：“八路军仅仅是宣传工作做得好，参军与日本人打仗就是去送死。”“八路军过黄河到山西，是来抢地盘的，根本不是来抗日的。”“参军不如保家乡，保家乡还是参加保安队好！”等等。
