1928年5月1日，国民党军队开进济南后，日军为了阻止国民党军队向北推进，于5月3日起开始向国民党军队大举进攻，以重炮轰击济南城。蒋介石下令不准抵抗，并撤兵济南。日军在济南掳掠，屠杀中国军民5000余人，并公然违反国际惯例，将南京政府山东特派交涉员蔡公时等17名外交人员捆绑毒打，然后杀害，造成震惊中外的济南惨案。此事激起全国人民新的反日浪潮。
消息传到日本后，留日的黄埔校友立即召开紧急会议，决定组织示威声讨大会，抗议日军暴行。会议选出11人组成主席团，宋希濂任主席。几天后，1000多名留日的中国学生聚集到中华会馆举行大会，宋希濂等人发表慷慨激昂的讲话，痛斥日本军队暴行。当大家准备游 行时，遭到日本警察的阻拦，宋希濂等30余人被捕入狱，被关押达半月之久，经中国驻日公使交涉，获得释放，继续在日学习。
1930年5月，宋希濂回国，任国民党军队第一教导师参谋、营长、团长和第二教导师第六团团长，1931年冬升任第一教导师二旅旅长。不久，第一教导师改编为八十七师，他任该师二六一旅旅长，率部驻扎南京。
为国请缨血战淞沪
1932年，“一·二八”事变爆发，十九路军奋起抵抗，打响了淞沪抗战的枪声。
时在南京驻防的宋希濂看到各报刊登十九路军向全国、全世界发出抗日通电后，表示坚决支持十九路军的正义行动。30日上午，宋希濂部官兵得知上海对日开战的消息，纷纷奔向旅部，要求宋希濂向上级请缨，奔赴上海战场。年仅25岁的宋希濂，毅然决定代表全旅官兵直接去军政部面见何应钦。在南京三牌楼军政部，宋希濂向何应钦陈述了全旅官兵要求参战的强烈愿望，未达目的。当晚11时许，宋希濂率营以上干部30余人乘一辆大卡车飞奔何应钦住地，再次要求赴沪参战。经力争，何应钦答应待机调二六一旅赴沪参战。
2月初，蒋介石命令何应钦，调集驻扎在京沪、京杭两线的八十七、八十八师组成第五军，由张治中统帅开赴上海参战。宋希濂的二六一旅奉命首先出发。2月10日，宋希濂率二六一旅开到南翔，接防十九路军温藻浜北岸阵地，积极修筑工事，渡河侦察对岸日军兵力，并派人与右翼八十八师、左翼吴淞要塞地区部队联系。
这时，日军也向上海增派了大批兵力，并制定“中央突破”计划，企图以重兵在庙行镇突破。然后，向南将十九路军消灭在江湾、闸北地区，向北将第五军消灭在吴淞地区。从2月10日起，日军集中飞机、大炮向八十八师驻地庙行镇猛烈轰炸，以重兵连续发动进攻。张治中除令八十七师二五九旅孙元良部增援，自己率中央军校教导队策应八十八师作战外，还准备抽调守在温藻浜畔的宋希濂二六一旅1个团支援。
此时，宋希濂建议，立即率二六一旅主力强渡温藻浜，向日军侧背攻击，以减少在庙行镇正面的压力。建议得到张治中同意后，宋希濂率部以迅雷不及掩耳之势抢渡温藻浜，夺取齐家宅。然后，宋希濂又指挥部队向北孙宅、南孙宅方向的日军猛烈攻击，从而大大牵制了日军进攻八十八师阵地的主力部队。与此同时，十九路军六十一师也奉命从竹园墩出击，使日军遭到三面夹攻，陷入极度混乱。日军被迫停止进攻，他们的“中央突破”计划彻底破灭了。
然而，正当淞沪前线将士浴血奋战、抗击日寇之际，蒋介石却在3月3日下令十九路军和第五军从上海全线撤退。3月5日，以蒋介石、汪精卫为首的南京政府与日寇签订了丧权辱国的《淞沪停战协定》。之后，八十七师回南京。宋希濂因战功卓著，被晋升为八十七师副师长。
悲壮的淞沪会战和南京保卫战
1936年12月，西安事变爆发，驻扎苏州的国民党三十六师师长宋希濂奉命率部入陕，进驻毕县。
西安事变和平解决后，宋希濂任三十六师师长兼西安警备司令。周恩来授意陈赓前往拜访。宋希濂为谈话方便，不带警卫，不请人作陪，身着便装，在西安最豪华的鸿宾楼酒店设宴为陈赓接风。两人畅谈别后，重叙旧情。陈赓说：“你是国军师长，我是红军师长，十年内战，干戈相见，现在又走到一起来了，一晃又是10多年了，好不容易呀！”宋希濂连忙点头称是。两人谈话极为投机。3天后，根据陈赓提议，宋希濂冒可能违犯军纪的危险，拜访了原黄埔军校政治部主任周恩来。周恩来意味深长地说：“你和陈赓又走到一起了，这是颇有象征意义的好兆头！过去的事已经过去了，从现在起就走在一起吧！在国共两党第二次合作之时，你们就发扬黄埔精神，再来一个竞赛吧！”宋希濂作了一个立正姿势，与周恩来、陈赓握手告别。
1937年7月7日，日军发动卢沟桥事变。8月13日，日军又调集重兵向上海进攻。在上海严阵以待的八十七师王敬久部和八十八师孙元良部奉命奋起还击，最先投入了全面抗击日本帝国主义的战斗。当晚，驻防西安的宋希濂三十六师接到紧急命令：“火速开赴上海参战。”宋希濂率三十六师日夜兼程，于16日赶到上海前线。
8月17日，三十六师投入对日军作战。宋希濂亲率陈瑞河的一○六旅打头阵，又派一○八旅的二一六团胡家骥部殿后，进入八十七师与八十八师之间的天宝路一带，主动向日军阵地发动猛烈进攻，打得非常英勇。
在整个淞沪会战中，三十六师最精彩的一仗就是汇山码头战役。到达上海后，宋希濂令胡家骥的二一六团担任汇山码头的主攻部队。8月20日深夜，胡家骥令二一六团一营由兆丰路向汇山码头进攻，其他两营担任助攻和策应，一营全体官兵在胡家骥团长亲自率领下，冒着日军的猛烈炮火前进，与日军展开激烈巷战，穿户入室格斗，以英勇无畏的气概，连续冲过了进入汇山码头必经的唐山路和东熙德路、百老汇路，直逼汇山码头。码头上的日军支持不住，纷纷逃窜
