抗日战争爆发后历任八路军后方总留守处主任、留守兵团司令员、陕甘宁晋绥联防军副司令员,担负保卫中共中央、保卫陕甘宁边区的使命。 1945年 6月被选为中共第七届中央候补委员。解放战争时期任南满军区司令员,与陈云一起指挥“四保临江”,在北满部队“三下江南”的配合下,扭转了南满局势,巩固了南满根据地。 1947年率部参加夏季和秋季攻势。 1948年 5月兼任东北野战军第一前线指挥部(即后来的第一兵团)司令员,与萧华率部围困长春,争取国民党军一部起义,迫使其余全部投降,解放长春。 1949年 1月任第十二兵团司令员兼政委,率部参加平津战役,随后南下,参加渡江战役,解放武汉,进军湖南,和平解放长沙。 8月,兼任湖南军区司令员。在衡(阳)宝(庆)战役中,指挥第十二兵团,在兄弟部队配合下,歼灭国民党白崇禧集团四个主力师。
中华人民共和国成立后,奉命组建中国人民解放军海军,从1950年 1月至1980年 1月担任海军司令员。从建国初期的实际情况出发,提出“以空、潜、快为主,以潜艇为重点”,“建设一支现代化富有攻防力的、近海的、轻型的海上战斗力量”的建设方针和开展海上破袭战的思想。强调要打好政治思想、组织、文化技术三个基础。重视培养海军技术力量,积极兴办学校,兼任第一海军学校校长。1954年任国防部副部长,1955年被授予大将军衔。1962年受到林彪的打击。“文化大革命”中他同林彪、江青反革命集团进行了斗争。他是第五届全国人大常委会副委员长,中共第八至第十一届中央委员。1989年 3月 29日在北京病逝。