灌夫将军是颍阴人。他父亲叫张孟，曾做过颍阴侯灌婴的家臣，因此就用灌家的姓更名为灌孟。吴、楚叛乱时，颍阴侯灌何担任将军，隶属于太尉周亚夫，他向太尉推荐灌孟担任校尉。灌夫带领一千人与父亲一起从军。灌孟年纪大了，每逢作战时，常常攻击敌人的坚固阵地，终于战死在吴军中。按照当时军法的规定，父子一起从军参战，有一个为国战死，未死者可以护送灵柩回去。但灌夫不肯随同父亲的灵柩回去。他慷慨激昂地表示：“希望斩取吴王或者吴国将军的头，来替父亲报仇。”于是灌夫身披铠甲，手拿戈戟，召集了军中素来与他有交情又愿意跟他同去的勇士几十个人。等到走出军门，没有人敢再前进。只有两人和发配到他军中服兵役的十多个囚徒骑兵飞奔冲入吴军中，一直到达吴军的将旗之下，杀死杀伤敌军几十人。灌夫身上十多处受重创。灌夫的创伤稍稍好转，又向将军请求说：“我现在更加了解吴军营垒中路径的曲折，请您让我再回去。”将军认为他勇敢而有义气，恐怕灌夫战死，便向太尉周亚夫报告，太尉便坚决阻止了他。等到吴军被攻破，灌夫也因此名闻天下。
