1937年8月25日，根据中共中央军委命令，由中国工农红军第四方面军之红四、红三十一军和陕北红二十九军、红三十军、陕甘宁独立第一、二、三、四团和红十五军团骑兵团等部合编而成。刘伯承任师长，徐向前任副师长。倪志亮任参谋长，张浩任政训处主任(同年10月改任政治委员。1938年1月由邓小平接任)。下辖第三八五旅(旅长王宏坤)、第三八六旅(旅长陈赓)、教导团以及炮兵营，辎重营、特务营、工兵营和骑兵营，全师共1.3万余人。部队改编后，第三八五旅旅直及第七七○团、特务营、辎重营、工兵营、炮兵营奉命留守陕北，归八路军后方留守处建制(1938年6月以第七六九团、独立团。汪乃贵支队合编为新三八五旅)。1937年9月30日，刘伯承率第三八六旅，第七六九团、教导团、骑兵营等部由陕西富平县庄里镇地区出师抗日，同年10月6日，经韩城县芝川镇东渡黄河，随后进入太行山区，创建了晋冀鲁豫抗日根据地。1938年6月，李达接替倪志亮为师参谋长。1939年7月，副师长徐向前奉命到山东任八路军第一纵队司令员。1940年蔡树藩任师政治部主任。1942年春师兼太行军区，刘伯承、邓小平分别兼任军区司令员和政治委员。1943年10月6日，与第十八集团军前方总指挥部合并(保留第一二九师番号)，师机关与太行军区机关分开。1945年8月20日，根据中共中央决定，成立晋冀鲁豫军区，刘伯承任司令员，邓小平任政治委员，滕代远、王宏坤任副司令员，薄一波任副政治委员，张际春任副政治委员兼政治部主任。9月，第一二九师主力部队按冀鲁豫、冀南、太行、太岳次序，编为第一、二、三、四野战纵队。抗日战争期间，第一二九师共歼灭日伪军42万余人，解放县城109座，部队由出师抗日时的9000余人发展到近30万人。解放战争时期先后改编为华中野战军、第二野战军。