抗日战争时期，任八路军第129师特务团团长，太行军区第5军分区司令员，第7军分区司令员，河南人民抗日军第1支队支队长，河南军区第1支队司令员。参加了豫西抗日根据地的创立和反“扫荡”斗争。
解放战争时期，1946年任中原军区第1纵队1旅旅长。6月，在国民党军重兵围攻中原解放区时，率部掩护中原解放军主力突围，孤军作战，击退敌人20余次追击堵截，跋涉20余天，行程2000里，胜利进入苏皖解放区，完成掩护任务并保存了部队。后任华东野战军第6纵队副司令员，第三野战军24军副军长、军长。参加了淮海、渡江等战役。
