4月2日，张国焘带着陆秘书、警卫员张海和一个警卫班，乘一辆大卡车，从延安出发，经甘泉、富县、洛川，前往黄帝陵。
4月4日是清明节，张国焘与西安绥靖公署主任蒋鼎文一同祭陵完毕后，对陆秘书和警卫班的人说：“你们先坐卡车回延安吧，我要去西安办事。”
张海忙说：“毛主席不是说让你祭陵完毕就回延安去吗﹖”
张国焘回答：“我要到西安找林祖涵（即林伯渠，时为陕甘宁边区政府主席兼八路军驻西安办事处主任）同志研究事情。”说完，就钻进蒋鼎文的小汽车。张海是负责保卫张国焘的，见张国焘要走，他急忙挤进西安公署宪兵队的车子随同去西安。
汽车开进西安城，蒋鼎文把张国焘安排在豪华的西京招待所。在这里，国民党官员会见了他。4月7日，国民党方面安排他乘火车去汉口。当时南京已沦陷，国民政府的军政机关大都已迁往武汉。中国共产党也在武汉建立了八路军办事处和秘密的中共中央长江局。
张国焘就要乘车离开西安了，但或许出于一时的冲动，或者出于对未来前途的担忧，临上火车之前，他对张海说：“你先去车站给林主席打个电话，叫他到车站等我，我马上就到。”
林伯渠匆匆赶到车站后，张国焘诉说了在延安遭到的批判，说他在延安呆不下去了，要到武汉去。林伯渠苦口婆心劝他回心转意，但张国焘执意不从。林伯渠见劝说无效，急忙返回办事处，向中共中央和长江局发出电报，报告了张国焘的去向。中共中央马上给在武汉的周恩来等人发电，要他们设法找到张国焘，促其觉悟，回党工作。
