这时，李宗仁又打算“致力促蒋出国”。在这之前，张治中与司徒雷登在南京有过多次接触。他们都感到“蒋在溪口操纵一切，实为南京政府进行和谈的障碍”，主张“劝蒋出国一行，以便李宗仁得以集中政府权力，推行其企求和平的政策”。后来，张治中和李宗仁商讨过此事，都表示同意。因此，3月3口，张治中和吴忠信乘飞机抵奉化，来到溪口。蒋介石同他们寒喧几句后，就气急败坏地说：“你们是来劝我出国的，报纸已经登出来了。他们迫我下野是可以的，要迫我亡命就不可以。下野后，我是个普通国民，哪里都可以自由居住，何况这里是我的家乡!”几句话就把张、吴的口封住了。

    李宗仁看到促蒋出国不成，便著手改组内阁。正好这时，孙科因“敝誊”蓝妮的颜料案问题提出辞职。李宗仁与白崇禧等商讨后，推举何应钦为行政院长组阁。何于23日就职，第二天，召集行政院政务会议，重新指定张治中、邵力子、黄绍竑等为和谈代表，并推张治中为首席代表，成立代表团。4月1日，代表团飞抵北平，住在六国饭店。当晚，中共中央副主席、和谈代表团首席代表周恩来设宴招待。随后，张治中等一面与李济深等接触，一面与林伯渠、叶剑英、聂荣臻、李维汉等联系及访谈，主要就战犯问题和渡江问题，一再交换意见。但是，李宗仁的主观愿望，还是坚持解放军不渡江，让南京政府盘踞半壁江山，徐图后计。这样，不得不将正式和淡时间推延。直到13日晚9时，才在中南海勤政殿正式举行了第一次和谈会议。中共首席代表周恩来提出了《国内和平协定》。黄绍竑将《协定》最后修改案带回南京后，李宗仁在备战和谈的第二次会议上作了悲愤激昂的讲话。他告诉黄绍竑说：“你回北平告诉张文白，叫他向中共代表团力争，取消逮捕战犯这一条，我愿意以国民政府代总统的身份到北平去负荆请罪；内战罪责，由我一人承担，但不要再追究国民政府所属的军政人员过去的罪过。其他各条款，我们都愿承认，并认真执行……”但当时白崇禧已作出“只要中共坚持渡江便不能接纳和议”的决定。这对李宗仁又是一个制约，他不可能批准代表团在《协定》上签字。

    4月20日午夜，中国共产党向国民党提出的在和平协定上签字的最后期已经到了。21日，中国人民军事委员会主席毛泽东和中国人民解放军总司令朱德联合发出了《向全国进军的命令》。这时，李宗仁更加慌了手脚，一筹莫展。第二天，只好会同白崇禧等飞往杭州，与幕后操纵局势的蒋介石会晤。行前，他与白商议，要同蒋介石“摊牌”：在中共大军渡江以后，蒋、李只能择一负责领导政府，要么蒋复职，李出洋；要么蒋出国，让李拥有指挥政，府的全部权力。可是，当李宗仁一到杭州，蒋介石就拿出一份电稿说：“这是一份通电，准备由我们两人联名发出，声明共产党毫无诚意，和谈已经破裂，中国国民党政府昭告内外，将继续作战到底。”他不料蒋有此一手，就转弯抹角地说：“我是为和谈而来的，如果继续作战，最好还是总裁复职。”蒋那时注意到美国人的态度，无意复职，便拍著李宗仁的肩膀说：“和谈由你负责，战争也你负责。请你免为其难，毋萌退志。”李宗仁无可奈何，悻悻然飞回南京。