１９３９年，古德里安任第１９军军长。这个军包括一个装甲师和两个摩托化步兵师，在闪击波兰的战役中发挥了重要作用。他出色地执行了希特勒速战速决的战术原则，也使自己提倡的“闪击战”理论获得了惊人的成功。古德里安把他所在的“北方”集团军群中的两个装甲师和两个轻装甲师集中起来使用，横冲直撞，锐不可挡，强渡了那累夫河。９月１４日，突破了布列斯特——里托夫斯克的筑垒地域，１７日与“南方”集团军群的前卫装甲部队在布格河畔的符沃达瓦会师。古德里安像隆美尔一样，从来不在后方指挥，他总是乘坐装甲指挥车与先头部队一同前进，靠无线电同他的指挥机关和各师师长保持联系。有时由于前进速度过快，甚至进入己方的炮击区而险遭厄运。
波兰投降后，古德里安又转战西线。他所在的１９军属伦德施泰特指挥的“A”集团军群。１９４０年５月，该军作为在色当地区的攻击主力，从法军防线上打开一个缺口，５月１３日就渡过马斯河。一天之后，古德里安坦克军在色当以西和以南扩大了桥头阵地，并击退了法军第三装甲师的多次反击。当时在他看来，只有两件事可以阻止装甲部队的前进，即汽油耗尽和到达英吉利海峡。但是，德国最高统帅部包括希特勒在内都对装甲部队高速进攻获得的巨大战果感到惊疑，为防止法军发动翼侧反击，急令各坦克部队停止前进。对前线情况了如指掌的古德里安及一些前线指挥官们认为，这无异于放弃奇袭，会丧失一切初步战果。于是他们据理力争，终于获准作进一步的“强力侦察”，“扩大桥头阵地”。古德里安对这项命令加以灵活解释，率领部队沿索姆河一线神速前进。５月１８日到达圣康坦，１９日强渡索姆河，２０日其前卫抵达阿布维尔和英吉利海峡，接着又由阿布维尔向北推进，２２日占领布伦。６月初，古德里安被任命为第二集团军司令，率领所部又取得了一连串的重大胜利。古德里安和他的坦克兵拖着德国陆军前进，创造了现代史上空前的胜利。
１９４１年６月２８日，德国发动侵苏战争，古德里安指挥的装甲兵团属中央集团军群，担负了向莫斯科方向突击的任务。战争初期，他们节节获胜，１０月份，曾攻到距莫斯科几十公里的地方。但到１２月初，由于冬季的来临、苏军的英勇抵抗和德军战略目标分散等各种原因，进攻莫斯科之战以失败告终。１２月６日，古德里安被撤职，编入预备役，过了一年多闲散生活。１９４３年２月，希特勒在斯大林格勒遭到惨败之后，又重新起用古德里安，任命他为坦克兵总监，让其负责装甲部队的发展、组织和训练。在他任职期间，德国著名的虎式和豹式坦克投入生产并装备部队。
１９４４年７月，谋杀希特勒的事件败露后，与此事无关的古德里安出任德国陆军总参谋长。但这时德军的失败已成定局，第三帝国大厦将倾，已是独木难支。１９４５年３月底，希特勒免去了古德里安总参谋长的职务，再次将其贬入预备役。５月１０日，古德里安被美军俘虏。不久获释。
１９５４年，古德里安病逝。这位坦克战专家虽然到底没有挤进元帅的行列，但他为法西斯德国称雄一时所起的作用以及所负盛名，并不亚于纳粹德国２６位元帅中的任何人。他的肖像至今仍挂在德国的装甲兵军营中。
