立下“赫赫战功”的俊六在战后被召回大本营，转任军事参议官。1939年5月25日，任天皇侍从武官长。同年8月出任陆相，这是日本陆军的最高长官。至1940年7月，连任阿部、米内两届内阁陆相。1940年希特勒在欧洲取得了胜利后，日本陆军要求与德意结成同盟，与英美争夺太平洋。而海军的米内首相因反对结成三国同盟被陆军视为祸害，陆军大臣俊六辞职导致了米内内阁的垮台。继而近卫文组阁启用强硬派东条英机担任陆军大臣，终于加入了三国同盟。俊六的辞职导致米内内阁垮台，这是他后来被推上远东国际军事法庭的主要原因。而他两度担任支那派遣军司令官时他的部下在中国大规模长时间的暴行使他被判处违反战争法规罪。
东条下台后平沼骐一郎曾推荐俊六担任首相，但重臣们反映冷淡。成为新首相的是米内光政推荐的小矶国昭大将。
1941年，日军侵略中国的战争正处于双方相持阶段，日军大本营为了改变战略态势，夺得战争主动权，解决国内因战争持续而激发的重重矛盾，重新启用在中国战场“屡立战功”的俊六。1941年3月，俊六正式被任命为侵华日军中国派遣军总司令官，接替他的前任西尾寿造，负责统一指挥侵华日军的侵略活动。当时，日本首相兼陆相的东条英机，让俊六担任“一号作战”，即豫湘桂战役的总指挥；同时要求他五个月完成打通“平汉”铁路。在8个月的时间里击溃了国民党军队五六十万，打通了大陆交通线，侵占了河南、湖南、广西、广东等省的大部和贵州的一部分地区。洛阳、长沙、桂林、福州4个省会及郑州等140余座城市悉被攻占，衡阳、零陵、宝庆、桂林、柳州、丹竹、南宁等7个空军基地和36个飞机场也被占据。由于这一“卓越”的“战绩”，俊六被晋升为陆军元帅，天皇亲自颁发了一级“金鹄”勋章。而在这场战役中，几千万中国人民蒙受了巨大的灾难，生命财产的损失不计其数，仅江西萍乡一地，就有19000余人遭杀害，6000千余名妇女被侮辱，700余间房屋被毁，被劫米谷50000担、棉花9500担，被毁的家具价值4700余万元。
1944年11月2日，俊六再次就任陆军教育总监。太平洋战争末期，任第二总军司令官。
确定的罪名以及逃脱的惩罚1945年8月15日，日本宣布无条件投降后，在中国政府的指控和强烈要求之下，俊六被远东国际军事法庭作为甲级战犯嫌疑人逮捕，关入东京巢鸭监狱。
