1927年大革命失败后,在广州、香港从事秘密工作。1929年 7月,他被中共党组织派到广西,任由俞作柏、李明瑞掌握的广西教导总队第四大队大队长,掌握部队,准备武装起义。12月11日,与邓小平等领导百色起义,创建右江苏区,任中国工农红军第七军军长、参谋长。1930年10月,与邓小平、李明瑞等率部离开右江根据地,在广西、贵州、湖南、广东、江西边界活动。1931年 3月到达江西永新。为统一领导赣江以西地区斗争,中共湘赣省委决定成立河西总指挥部,他任参谋长。 7月率部东渡赣江,在江西兴国与第一方面军主力会合,编入第三军团,参加第三次反“围剿”。 12月调任中央革命军事委员会副参谋长兼作战局局长,参与组建军委机关,加强参谋工作建设。 1933年任粤赣军区司令员,后任红军总司令部副参谋长兼作战部部长,参加了长征。
抗日战争初期,他被派到广州、香港等地,从事对国民党上层军政人员的抗日民族统一战线工作。1938年春任新四军参谋长兼第三支队司令员。1939年 5月兼任新四军江北指挥部指挥,领导新四军江北部队,挫败日伪军多次“扫荡”,巩固和发展了淮南抗日根据地。皖南事变后任新四军副军长兼第二师师长。1943年 1月陈毅赴延安后,他负责新四军的军事工作。1945年 6月被选为中共第七届中央委员。
解放战争时期,他先后任新四军副军长兼山东军区副司令员、华东军区副司令员兼山东军区司令员。1947年国民党军对山东实行重点进攻时,他指挥地方部队就地坚持斗争。后兼中共华东后方工作委员会书记,组织大量民工推着独轮车支援前线。
中华人民共和国成立后,任中共广西省委书记、广西省人民政府主席、广西军区司令员兼政委、中共中央华南分局第二书记。1955年被授予大将军衔。他是中共第八至第十届中央委员。1974年11月19日在北京逝世。