部队合编之后，战斗力有了增强，在夜袭李家集车站的战斗中，全歼敌人一个旅，缴获大批军需物资。在双桥镇战斗中，毙敌千余，俘筹五千人，缴枪六千余支，山炮四门，迫击炮十多门，并从俘虏的敌人师长那里得到军装十万套和大量银元。
张国焘到达根据地后，大搞“肃反”活动，搞掉了鄂豫皖红军连以上干部二千五百多人，团以上干部有百分之六十以上遭逮捕、被杀。在“肃反”中，连徐向前的妻子也被杀掉了。“肃反”的扩大化，严重摧残了红军的力量。
1931年11月7日，红四方面军成立，徐向前任总指挥。刚刚成立的红四方面军，迎来了蒋介石对鄂豫皖根据地的第三次“围剿”。面对强大的敌人，徐向前提出了“围点打援”等战术，连打四个战役。第一个是黄安战役，歼敌万余，缴枪七千余支；第二个是商演战役，歼敌四千多人；第三个是苏家埠大捷，歼敌三万余；第四个是潢川光山战役，歼敌八个团，缴枪七千余支。
在蒋介石组织的第五次“围剿”中，由于张国焘等人被胜利冲昏了头脑，低估了敌人的力量，错误地估计了敌我力量对比的形势，最终导致了反“围剿”斗争的失败。之后，红四方面军被迫实行战略转移，鄂豫皖根据地的大好形势被葬送掉了。
1932年10月，徐向前等红四方面军的领导率部转移，原来已经发展到四万余人的队伍，由于反“围剿”的失败，只剩下二万多人。这支疲惫饥饿的队伍，面对的是国民党十余万军队的围追堵截。徐向前率部历尽千辛万苦，行程三千余里，战斗数百次。到1933年初，在川陕边界找到了立足之地。徐向前在这里抓了三个月的大练兵，然后，发动了仪陇南部战役、营渠战役和宣达战役，歼敌二万，缴枪一万二千件，还缴获了敌人的兵工厂，造市厂，被服厂等全套设备。他利用这些缴获的武器，投入到反对蒋介石发动的六路围攻之中，蒋军出动二十万兵力，而徐部仅有六万人。经过十个月的战斗，歼敌八万多，仅最后二个月，就缴获枪支二万多支，火炮一百多门。这是红军时期缴获武器最多的战役之一。
3、西渡黄河欲血奋战
1935年春，徐向前奉命率部长征。六月，与中央红军的在懋功会师。两个方面军会师之后，张国焘见中央红军人数远不及四方面军多，就生出野心，想违背中央的“北上”方针，率部南下另搞一套。徐向前受命向毛泽东汇报张国焘的南下意见，毛泽东坚决指出：“北上方针，绝对不能改变。”徐向前表示赞同中央的决定。
两军会师之后，红军总司令是朱德，总政委是张国焘，总参谋长是刘伯承。徐向前是前敌总指挥，陈昌浩是政委，参谋长是叶剑英。八月，中央军事工作会议决定，红军分成左右两路行动，左路由红军总司令部率领；右路由红军前敌指挥部率领。中央机关随右路军前进。
徐向前忠实执行中央的决定，率右路军一路向北。而左路军却迟迟不前。毛泽东等发电指示张国焘率部北上。徐向前、陈昌浩都表示同意中央的意见。可是，张国焘接到电报后，立即电令陈昌浩，要他转告党中央，他坚持南下，反对北上。叶剑英收到电报后立即拿给了毛泽东。毛泽东与周恩来等同志商议之后，决定立即脱离险境，能带到多少人马算多少，当夜率一、三军团开走，前敌指挥部的参谋长也不辞而别。毛泽东离开的那天晚上，亲自到徐向前的住处，问道：“向前同志，你的意见怎么样？”徐向前说：“两军既然已经会合，就不宜再分开。”毛泽东见徐向前态度如此，只说了声让早点休息，然后告辞而去。后来，徐向前执行了张国焘的命令，率部南下了。
张国焘搞分裂活动亦步亦趋，最后发展到另立中央的地步。徐向前和朱德、刘伯承等与张国焘的分裂主义进行了坚决的斗争。经过中央的耐心工作，终于战胜了张国焘的分裂阴谋，红四方面军再次决定北上。1936年8月，二、四方面军实现了会宁会师。
会师之后，中央决定，四方面军一部西渡黄河，执行宁夏战役计划。组成西路军总指挥部，总指挥徐向前，政委陈昌浩。徐向前忠实地执行中央的决定，于1936年11月率部西征。这支经历了千辛万苦的部队，人烟稀少。他们面对的是数倍于已的凶残至极的马氏匪兵。敌人装备精良，善于骑射。经过四个月的苦战，歼敌两万五千人，给敌人造成极大损失，但西路军也基本上被打光了。
西路军彻底失败之后，政委陈昌浩决定回去。“同中央斗争去！”但徐向前却说：“我们的部队都垮了，孤家寡人到陕北干什么？我们留下来，至少能起到稳定军心的作用。”可是，他拗不过陈昌浩，只好服从了，“不堪回首”之悔。他说：“西路军的失败，长期使我愧悔交加，余痛在心。”徐向前回延安后，受到毛泽东的接见，毛泽东安慰说：“留得青山在，不怕没柴烧。你能回来就好，有鸡就有蛋。”
4、深入敌后指挥抗日
全国规模的抗战暴发之后，徐向前任八路军一二九师副师长。他随周恩来分别作过阎锡山和
