在渡江战役之前，其实蒋介石的精锐部队已经被消耗殆尽，因为战事上的失败，蒋介石第三次下野，由李宗仁短暂接班，暂时成为国民党的新总裁。

李宗仁知道大势已去，就想和共产党进行谈判，让两党以长江为界分治中国，但毛主席不愿意看到国家被分裂成两半，就拒绝了李宗仁的提议。此时渡江战役的爆发已经无可避免，李宗仁担心失败，就问白崇禧有没有信心挡住解放军。白崇禧说自己有80万兵马，解放军不足为惧。

但事实上白崇禧失算了，他构筑的长江防线很快崩溃，国军不得不开始思考退路，此时蒋介石就提议，将行政院迁往广州，李宗仁对这个建议不置可否，但孙科和阎锡山已经按照蒋介石说的去做了。只身留在南京的李宗仁气的破口大骂，但他也不得不离开南京，不过他不愿意和蒋介石继续为伍，就回到了老家广西。

但广州还需要李宗仁主持工作，蒋介石知道白崇禧和李宗仁关系好，就许以白崇禧国防部长的位置，让他去劝李宗仁到广州担任总统。李宗仁同意之后来到了广州，但他此时已经是个傀儡总统，但一向和他戮力同心的白崇禧都和他发生了矛盾。但李宗仁也憋着一口气，所以坚决不退位，蒋介石对此也毫无办法。

同时，李宗仁也给自己想好了后路，他决定远走香港，离开广州。临走前，李宗仁还是有些担心白崇禧，就给他留下了一句忠告，说白崇禧去哪里都可以，唯独不能去台湾。之后李宗仁就经过香港去了美国，一直到1965年7月才回国。

遗憾的是，白崇禧此时却自作聪明，把李宗仁的忠言当成了耳旁风。当然了，也有一些客观的因素，那就是白崇禧的老巢广西被解放军解放，白崇禧的部队全部被歼灭，此时白崇禧眼前的选择不多，要么成为解放军的俘虏，要么就经由海南再逃到台湾。

事实正如李宗仁所说，白崇禧到了台湾之后非常凄惨，在台湾白崇禧没有任何实权，只能担任一些无关紧要的虚职。对于白崇禧这样的名将而言，这样悲凉的下半生无比悲剧，但是这还不算完。1966年12月2日，白崇禧突然死在白府，死因也是众说纷纭，有人说是死于心脏病，但还有一种更可怕的说法是白崇禧死于他杀。