美国人其实并不服输，因此谈谈打打，假谈真打，所以整个谈判用了两年多的时间。当谈判最后进入签字阶段时，李克农不由得又担心起来，生怕再出什么意外。这样的教训不是没有过。一个多月前曾是预定的签字期，可是李承晚却制造了一起扣留战俘事件，致使推迟了签字。这次为避免节外生枝，李克农提出一个巧妙的办法，美国人连声叫好——这就是允许各国记者进入现场，双方司令官回避。平时谈判，不许新闻记者进入会场，这次必须打破常规。李克农的考虑是，万一李承晚或别的什么人在现场滋事，或对双方司令官的任何一位进行行刺，后果不堪设想，签字又得推迟。而记者可以目睹签字过程并公开报道，将真相公诸世人。于是，李克农提出一个双方司令官不到现场签字的办法，即先由双方首席谈判代表签字并立即生效，然后各自向自己的司令官送签互换的文本。这是条约签字形式上不寻常的作法。李克农的这个方案一提出，美方很快接受。
1953年7月27日上午，随着抗美援朝战争的最后一次战役——金城战役的结束，历时747天的板门店停战谈判终于画上了句号。本来地图上都找不到的“板门店”，成了举世闻名的地方。7月28日上午9点。中国人民志愿军总司令彭德怀在停战协议上签字。他对李克农等谈判代表们两年多的辛勤工作表示嘉奖，并说：“帝国主义在东方架起几门大炮，就可以征服一个民族的历史一去不复返了！”当夜，李克农躺在床上聆听窗外的动静。半夜时分，持续几年的硝烟和火药味随着夏风荡然无存。李克农紧缩的心第一次舒展开来，这一夜他睡得很沉很香。张爱萍将军后来做诗称赞李克农：“铁虎原是纸老虎，板门店里伏山姆。毕生探囊忘己生，无名英雄足千古。”
从朝鲜回国后，李克农被任命为中国人民解放军副总参谋长兼外交部副部长。1954年4月，李克农作为中国政府代表团代表，随同周恩来总理出席日内瓦会议，为争取和平解决朝鲜和印度支那问题做出了重要贡献。1955年被授予上将军衔，并兼任中共中央调查部部长。曾当选为中共第八届中央委员，第一、一二届人大代表，第三届全国政协常委。
1962年2月9日晚，李克农同志因脑溢血病逝于北京协和医院。走完他62年神秘而波澜壮阔的传奇人生。美国中央情报局得讯说“我们强有力的对手消失了”。中共中央为李克农举行的葬礼极为隆重，周恩来总理主祭，罗瑞卿总参谋长致悼词。首都各界2500多人前往八宝山革命公墓向这位情报战线上的“神秘将军”送行。
