而吴佩孚听到了这个消息,很平静,既然已经说出来了,那就举行吧。土肥原让人给吴佩孚写好了讲稿,但是吴佩孚却视而不见,对记者表示,如果中日实现和平,必先有三个先决条件:一日本必须无条件撤兵。二中华民国必须保持其主权与领土的完整。三日本应以重庆的国民政府为全面议和和交涉的对象。说罢,对翻译说:把我说的每一个字都翻译给日本人。并且当着日本人的面把日本人写的讲稿撕的粉碎。
日本人感觉到被耍了,而且被耍的很惨。日本人再也没有耐心来拉吴佩孚出山,但是日本人也不希望吴佩孚安心的做寓公。1939年11月24日,吴佩孚因为吃羊肉馅饺子导致羊骨头卡在了牙缝里,之后虽然把羊骨头取了出来,但是却使得吴佩孚牙疼不已。10天之后,日本人以为吴佩孚看牙为名暗杀了吴佩孚,一代军阀自此溘然长逝。
吴佩孚逝世的消息很快传遍了中国,各界均向吴佩孚表示哀悼。1940年1月24日是吴佩孚移陵的日子,因为吴佩孚不做汉奸以及曾经不住租借,不举外债留下的名誉,使得很多人都自发的送吴大帅最后一程。据说,这是中华民国时期最壮观的葬礼。
国民政府在重庆为其举行追悼会,对吴佩孚的气节给予了高度的评价。中共元老董必武也肯定了吴佩孚的贡献,表示其没有积蓄,有清廉名。
1946年12月16日,国民政府为吴佩孚举行公葬,明令全国下半旗致哀并追赠其为陆军一级上将。