懿掌管雍(今陕西及甘肃各一部)、凉(今甘肃、宁夏及青海湟水流域)二州军事，指挥对蜀战争。司马懿采用以逸待劳、据险坚守的方针，使诸葛亮徒然消耗实力，师老无功。青龙二年(公元 234年)，诸葛亮率军10万至?(今陕西眉县)的渭河南岸的塬上，司马懿率军过渭河背水筑垒同诸葛亮相待。诸葛亮为准备长期作战，屯田于五丈原(今陕西眉县西)。这一期间，诸葛亮多次挑战，司马懿均不应战。诸葛亮给司马懿送来一些妇女的衣服，羞辱司马懿不是男子汉。司马懿装作很生气，向明帝上疏请战。明帝派使臣到军中进行监督，不准出战。诺葛亮识破了司马懿的用意，对助手姜维说：“他请战是做给将士们看的。将在军，君命有所不受，他要打，还用向千里之外的皇帝请示吗?”八月，诸葛亮病卒于军中。蜀军后撤。司马懿率军谨慎地跟踪前进。姜维命令部队擂鼓反击。司马懿怀疑诸葛亮并没有死，命令部队后撤。蜀军乘机安然撤退。百姓都说：“死诸葛吓走活仲达。”司马懿听后笑道：“我能预料活人，不能预料死人。”战后，他升为太尉。
景初二年(公元 238年)，他奉命率 4万人马征讨叛魏的辽东太守公孙渊。公孙渊派卑衍等率主力数万在辽隧(今辽宁鞍山西)安营扎寨，准备迎击魏军。司马懿派一部多张旗帜，佯攻辽隧，自率主力突然向北，渡辽河，直指辽东郡治襄平(今辽宁辽阳)。卑衍等在辽隧空等后也率军北归，在首山(今辽宁辽阳西南)迎战魏军，大败。司马懿进围襄平。时逢雨季，阴雨连绵一月余。公孙渊派人出来砍柴、放牧，司马懿不准去抓他们，也不发动进攻。部属问他：“以前攻孟达，急行军八天，速战速决，现在何以拖这么长时间?”他说：“孟达人少，但粮食足够用一年；我们人数是孟达的四倍，但粮食不够用一个月的。以一月图一年，不能不快；以四打一，也完全可以做到速战速决。现在情况相反，是敌众我寡，敌饥我饱，雨下这么大，不必匆忙进攻。我们担心的并不是敌人攻我们，而是敌人跑掉。如果这时去抢他们的牛马和柴禾，实际上就是驱赶他们跑掉。”天晴后，司马懿合围襄平，堆土山、架云梯，昼夜进攻，矢石如雨。公孙渊粮尽兵疲，城破被斩。辽东四郡全平。三年，他受明帝遗沼，和曹爽一同辅佐齐王曹芳。嘉平元年(公元 249年)，他谋杀曹爽，独揽朝政。三年，击败起兵反抗司马氏的太尉王凌，为以晋代魏奠定了基础。八月，病卒。
