大革命失败后被中共中央军委派往广州，任工人赤卫队第六联队队长，参加广州起义，撤出广州后转到海陆丰地区，任工农革命军第四师的团党代表、师参谋长、师长，坚持武装斗争。
1929年6月，中共中央军委派他到鄂东北，任中国工农红军第三十一师副师长、鄂豫边革命委员会军事委员会主席。
1929年11月总结海陆丰武装斗争失败的教训和鄂豫边的经验，与党代表戴克敏共同起草《军事问题决议案》。
1930年春，任第一军副军长兼第一师师长。率部转战于平汉铁路南段，连克云梦、光山、罗田等县城。
1931年初，任第四军参谋长，协助军长旷继勋等指挥部队连续挫败国民党军对鄂豫皖苏区第一、第二次“围剿”。
1931年7月任第四军军长，与政委曾中生率部南下，在一个月内连克英山、罗田、浠水、广济四城。
1931年11月任第四方面军总指挥兼第四军军长，半年中组织指挥了黄安、商(城)潢(川)、苏家埠、潢(川)光(山)战役，粉碎国民党军对鄂豫皖苏区的第三次“围剿”。
1932年10月，第四方面军未能打破国民党军的第四次“围剿”，主力二万余人被迫撤出鄂豫皖苏区，向西转移。他指挥部队历尽艰辛，开辟川陕苏区。
1933年2月起，连续指挥了反“三路围攻”和仪(陇)南(部)、营(山)渠(县)、宣(汉)达(县)等战役，并与王维舟率领的川东游击军会合。
1933年11月至1934年8月，指挥所部以灵活多变的战术，抗击国民党军30万人的“六路围攻”，取得歼敌8万余人的重大胜利。
1935年春，指挥广(元)昭(化)、陕南、强渡嘉陵江等战役后，率部长征。
1935年6月，第一、第四方面军会师后，任红军前敌总指挥。参加中共中央在毛儿盖召开的军事工作会议，积极拥护中共中央关于北上创建川陕甘根据地的战略方针。会议期间获中央革命军事委员会授予的金质红星奖章。会后率右路军北上，指挥包座战斗，打开进军甘南的通道。
同年9月，与毛泽东、周恩来等电促张国焘率左路军北进。第四方面军南下后，和广大指战员支持朱德、刘伯承等反对张国焘分裂活动的斗争。
1936年8月再次率军北上，指挥了通(渭)庄(浪)静(宁)会(宁)战役。第一、第二、第四方面军静宁会师后，中央军委指示，第四方面军一部西渡黄河，执行宁夏战役计划。
1936年11月，奉军委命令任西路军军政委员会副主席兼西路军总指挥，率部继续西进，计划在河西走廊创建根据地。西路军浴血奋战有力地策应了(黄)河东红军的战略行动。但终因众寡悬殊、弹尽粮绝而失败。
1937年6月到达延安，8月出席中共中央在洛川召开的政治局扩大会议，会后同周恩来赴太原同阎锡山谈判，开展抗日民族统一战线工作。
1937年8月，任八路军第一二九师副师长，参与指挥广阳、神头岭、响堂铺等战斗和晋东南反“九路围攻”。
1938年4月率一二九师和一一五师各一部进入河北南部平原地区，创建冀南抗日根据地。
1939年1月，参与组织和指挥冀南春季反“扫荡”。
1939年6月奉八路军总部令，到山东任八路军第一纵队司令员。
1940年6月离开山东，年底回延安。
1942年任陕甘宁晋绥联防军副司令员，1943年任抗日军政大学校长。
1945年6月当选为中共第七届中央委员。
解放战争时期，先后任晋冀鲁豫军区副司令员、华北军区副司令员兼第一兵团(后改为第十八兵团)司令员兼政委。
1948年3月至5月，指挥临汾战役，攻克坚固设防的临汾城。
1948年6至7月指挥晋中战役。
1948年10月至1949年4月，带病组织指挥太原战役，任太原前线司令部司令员兼政委、中共太原前线总前委书记。
中华人民共和国成立后任人民解放军总参谋长。
1954年任中央人民政府人民革命军事委员会副主席。
1955年被授予中华人民共和国元帅军衔。
1964年任军委人民武装委员会主任，掌管民兵工作。
1965年12月，任中央军委副主席。
“文化大革命”期间，参加被诬为“二月逆流”的“二月抗争”，同林彪、江青反革命集团进行了坚决斗争。
1969年夏受毛泽东和周恩来委托，在陈毅主持下，与叶剑英、聂荣臻一起，全面深入研究国际形势，向中共中央提出打开对外工作新局面的战略性的建议。
1978年至1980年任国务院副总理兼国防部长。
从1965年起任第三、第四届全国人大常委会副委员长。他是中共第八至第十二届中央委员，第八、第十一、第十二届中央政治局委员。
1990年9月21日在北京因病逝世。
