1907年9月10日生于湖南省醴陵北乡黄村。1923年入军阀吴佩孚军官教导团学习。1926年春入黄埔军校学习军事，同年加入中国共产主义青年团。1927年1月转为中国共产党党员。，4月被捕。

1929年出狱后，到湖南浏阳、醴陵和江西萍乡边界地区组建游击队，任萍醴边游击队队长，后编入中国工农红军第6军。

1930年起任湘东南第2纵队政委，红军学校第4分校校长，红35军参谋长。独立第3师长，红21军参谋长兼61师师长、江西军区兼东北战区指挥部作战科长、红军大学爹第二大队大队长等职。参加了中央苏区历次反“围剿”。

1934年10月参加长长征，任军委干部团教员。到达陕北后，他调任红15军团作战科科长。1936年任红30军、红28军军长。率参加东征、西征和山城堡战役。

抗日战争爆发后，红军改编为任八路军120师358旅716团团长，率部进入雁门关以北地区并开辟了抗日根据地。任雁北支队长兼政治委员。

1938年5月转赴平西区，任八路军第4纵队司令员兼第12支队司令员。6月，与政治委员邓华率领部队挺进冀东，支援李运昌、胡锡奎等组织领导的冀东抗日武装暴动。8月兼任冀察热辽军区司令员。1940到延安，先后入马列学院学习和中共中央党校学习。

1945年9月随陈毅到山东革命根据地工作，任津浦前线指挥部参谋长。1946年1月，任北平军事调处执行部中共方面执行处处长，协助中共代表叶剑英同国民党方面代表进行谈判。

1946年10月，宋时轮任渤海军区副司令员、军区前方指挥部指挥兼第7师师长、山东野战军参谋长。1947年2月起，任华东野战军第10纵队司令员。1949年2月，任第三野战军第9兵团司令员。上海解放后，宋时轮兼任淞沪警备区司令员。

中华人民共和国成立后，1950年11月率部参加抗美援朝，任中国人民志愿军第9兵团司令员兼政治委员，后任志愿军副司令员兼第9兵团司令员和政治委员。1952年回国后，任总高级步兵学校校长兼政治委员。1957年11月，调任军事科学院第一副院长，并先后兼任计划指导部、外国军事研究部部长。

10年动乱期间，曾遭受林彪、“四人帮”反革命集团的迫害。

1972年10月，任军事科学院院长，院党委第二书记、书记。1977年至1980年担任中央军委教育训练委员会主任、中国大百科全书总编辑委员会副主任和军事卷编审委员会主任、中国军事百科全书编审委员会主任。

是第一至第三届国防委员会委员、中共第八届和第十届中央候补委员、第十一届中央委员和中央军委委员。在中共第十二、第十三次全国代表大会上，被当选为中央顾问委员会委员、常务委员。

1955年被授予上将军衔，荣获一级八一勋章、一级独立自由勋章、一级解放勋章。1988年7月，被授予一级红星功勋荣誉章。

1991年9月17日在上海逝世，终年84岁。