1949年8月，程潜、陈明仁通电起义后，国民党和谈代表刘斐悄悄回到广州，劝李宗仁、白崇禧起义。李宗仁试探白崇禧，要他起义。但白崇禧反劝李宗仁去台湾，李宗仁气的大骂“乌龟王八蛋才去台湾！”
逃到台湾的蒋介石还需要利用白崇禧对李宗仁进行牵制，故于12月10日派专使到海南请白崇禧去台北“归队”，并许愿去台后“自有重用”，暗示蒋有意让他出任“行政院长”一职。还给白崇禧捎去数万两金砖，说是发清华中部队的军费，以示恩惠。
白崇禧遂于12月30日乘专机赴台，从此落入蒋的严密控制之下，成为蒋的“电钮”。每当李宗仁对蒋介石有所批评、揭露时，他都要奉命“驳斥”。
1966年12月2日，白崇禧在台北寓所逝世，据说是因心脏病。
去世的前一天，与其热恋的护士张小姐在白府留宿。而发现白崇禧遗体时，张小姐已不知去向，唯见白崇禧尸体周身发绿，留有死前痛苦地挣扎的痕迹，颇有可疑。
精明一世的“小诸葛”白崇禧，就这样谜一般地离开了人世。
