同年3月初，杜一行四人到了北京，受到汪精卫的接待。他们见到了已处于昏迷状态的孙中山。杜聿明将廖仲恺的亲笔信双手递给了孙先生的副官马湘，后写了一封致廖先生的信，汇报子孙中山的病情。接著，他们转赴开封，在胡景翼的直接领导下，协助苏联顾问，筹办军校。仅一个月之久，胡因病去世，新任军长岳维峻(原第二师师长)对苏联顾问和黄埔学生都不相容，杜等在河南没有容身之地，被迫返回陕北。

    不久，国民二军高桂滋团补充营营长、大地主吴宝山为扩大日已的势力，用重金聘请杜聿明为副营长兼第一连连长。未几，补充营在榆次被晋军缴械解散，杜被押至太原监狱卜太原警备司令孪生达是老同盟会员，对黄埔学生抱有好感，将杜释放，还摆一桌酒饯行。之后，杜郑重地给广州革命大本营及黄埔军校分别写了书信，汇报自己的情况，请示行动。国民党中央组织部即回信指示：希望杜聿明仍留北方，争取机会和马湘联系，参加在北京碧云寺停厝的孙中山先生灵榇的守护。这时，正好高桂滋奉令率部开赴北京，担任京畿的卫戍勤务，重新组编的吴宝山补充营也随团北上。到达北京后，高桂滋将补充营改为特务营，派该营进驻西山碧云寺静宜园，守护孙中山灵榇。杜聿明仍任该营副营长兼第一连连长。

    1926年7月，广州革命政府誓师北伐。杜聿明获悉这一消息，决心南下归队。他历尽千辛万苦到达南京，不幸被孙传芳的稽查队抓获，关进老虎桥监狱。一天深夜，他约同牢囚犯数人，越狱逃出，乘船到达武汉。

    杜聿明逃到武汉，就去见邓演达(时任国民党总司令部政治部主任兼武汉行营主任，湖北省政务委员会主席等职)。邓向他了解北方一些情况后，问：“你现在准备到那里去?”他说：“我准备到南昌找校长。”邓只叫他到武昌南湖学兵团找黄埔军校武汉分校学兵团团长张治中。