1927年4月2日，蒋介石自九江乘舰抵沪召见白崇禧，面示“清党”决心。蒋问白清党需要多少军队，白说：“只要调出薛岳之第一师，留下刘峙之第二师及周风岐之第二十六军便够了。”蒋问白需时多久，白说：“三天差不多，至多不会超过一星期。”4月8日，白派兵查封了在上海的国民革命军总司令部政治部，逮捕了十九名政工人员。9日，上海宣布戒严，白任戒严司令。白在部署“清党”工作中，采取调虎离山、内外策应的诡计，把薛岳师调至镇江后，即派员与上海帮会首领杜月笙、黄金荣密商，借得工会之符号、衣服分给帮会分子，化装成工人混入中国共产党全国总工会所在地——商务印书馆印刷厂以策应外面包围之部队。事前，还派人与驻沪法国领事交涉，请其准许“清党”部队经过法租界(至商务印书馆工厂的一条捷径)。4月11日，授意杜月笙以“上海工界联合会”、“中华共进会”的名义，请上海总工会委员长汪寿华赴晚宴，将汪诱骗至杜宅，加以杀害，使上海工人运动失去主要领导。12日凌晨5时。全副武装的青红帮流氓臂缠“工”字符号，冒充工人在闸北、南市、沪西、吴淞、虹口等区袭击工人纠察队，而埋伏在周围的军队趁机借口“工人内讧”而收缴“双方”的枪械，从而上海的二千七百名武装工人纠察队被解除武装。接著，里应外合地占领了商务印书馆工厂。13日，上海十万工人向白部请愿，第二师用机关枪扫射请愿队伍，当场死一百多人，伤者无数。当时天降大雨，宝山路上一时血流成河。莫斯科发动百万人抗议大游行，反对白色恐怖政策。在“白”字下面，还注明了白是白崇禧。

    以白崇禧等为首的新桂系，帮助蒋介石发动了“四·一二”反革命政变，建立了南京反动政权，尤其是在平定广西和北伐诸役中屡建战功而自傲，不大听命蒋。蒋在“四·一二”政变后密令何应钦执行剿灭桂系计划，何未执行。其因有二：一是当时蒋、桂力量不相上下，无成功把握；二是何与白崇禧私人关系不错，不想无故翻脸。何曾专程面见蒋，说明执行训令的困难。从此，蒋与何的关系也日趋恶化。白崇禧等知道蒋介石的阴谋之后，遂加紧勾结各方反蒋势力，准备把蒋赶下台。当蒋介石因徐州失守处决第十军军长王天培时，加速了何、白串通一气。当蒋命令白崇禧部与武汉作战时，白公开顶撞蒋，拒绝执行命令。蒋意识到桂系在“逼宫。，就以辞职相威胁。会上，吴稚晖等力主蒋留任。但白、何一言不发。当蒋表示其需要“休息一下”时，白崇禧马上表示赞成，何应钦支持白意见，李烈钧也同意。李宗仁表示“请总司令自决出处”。蒋只好决定下野。