公元234年2月，诸葛亮再起十万大军伐魏。为使魏国受到前所未有的打击，诸葛亮邀请孙权出兵十万合击魏国。魏国受到前所未有的重压。曹叡派人问司马懿的意见。司马懿认为，南线的防卫有扬州都督满宠在，兵力不在吴国之下，只要圣上亲征，孙权不会得逞，因为孙权出兵是为了配合诸葛亮，不会像志在必得的诸葛亮那样拼命。这次两国来犯，主力是诸葛亮，只要把孙权击退，诸葛亮必然败退。
曹叡大致同意司马懿的意见，但认为诸葛亮已数度出兵，还是应该小心为上，不能让其入侵关中。司马懿领命，率领大军到渭水之南筑起营栅阻击诸葛亮。诸将之中，多数人认为应该隔水相持。司马懿说，百姓积聚在渭南，是必争之地，必须在此坚守。
诸葛亮探得司马懿大军已过河扎营，就在五丈原（今陕西省岐山县五丈原）扎下营寨。两军虽不断摩擦，但对峙时间长达一百天。在此期间，因曹叡亲征东吴，加上满宠善于用兵，孙权退军，诸葛亮只能硬着头皮顶着。由于这次诸葛亮带的军粮充足，两军相持的时间最长。
诸葛亮等得不耐烦，数次派人挑战，把司马懿祖宗十八代都骂了，司马懿就是龟缩不出。由于司马懿兵多将广，工事修得扎实，诸葛亮也奈何不得。最后，诸葛亮想激司马懿，派人送女人的衣服头巾给司马懿，羞辱他是个娘们儿。魏军将领都气得要疯，认为士可杀不可辱，纷纷要求出战。司马懿不准，但将领们闹得凶，弄不好就会前功尽弃。于是司马懿想了一招：假意上表请曹叡下诏出战。曹叡知道司马懿的意思，就派卫尉辛毗到前线“节制”司马懿，每到司马懿“恼而出战”，辛毗就出来拦阻。诸葛亮探知，自然明白这是做戏。那时他的身体大不如前，暗叹上天让他碰上了软硬不吃的司马懿，只得分兵屯田，做长久相持的准备。
不久，诸葛亮派使者到司马懿营中下战书。司马懿好酒招待，不谈军事，而是拉起了家常，套出了诸葛亮饮食剧减，昼夜忙于工作。使者走后，司马懿对诸将说：诸葛亮饮食不行，又日益操劳，活不长了。果然，诸葛亮于当年八月病逝在五丈原。
应该说，司马懿并没有打败诸葛亮，但他有效阻止了诸葛亮的进攻，使双方损失减至最低。班师后的第二年，司马懿升任太尉（其时大司马与太尉同为三公）。当年与司马懿一起的托孤大臣陈群已死，司马懿成为资格最老、权势最强的大臣，可谓一人之下万人之上。
9
诸葛亮去世后，司马懿在军事上遇到的另一件麻烦事就是辽东公孙氏的挑战。自从郭嘉定计让公孙康斩了“二袁”后，曹操封公孙康为襄平侯，稳住了公孙氏。之后公孙康起兵占了高句丽一些地盘，地位得到巩固。他在世以及弟弟公孙恭承袭官爵的几十年，都没有明确表示反对曹魏。但公孙康之子公孙渊夺了叔叔公孙恭的权位之后，不满意辽东半独立的状态，自立为燕王，建都襄平（今辽宁省辽阳），设置百官，南通孙权，北联鲜卑，俨然成为魏国北方最大的威胁。
景初二年（公元238年）正月，曹叡命司马懿率兵讨伐公孙渊，临行前问司马懿估计公孙渊有什么手段。司马懿认为不外乎三种手段：第一种，弃城深入辽东；第二种，据辽水以西对抗魏军；第三种，坐守襄平城。曹叡问：你认为公孙渊会采取哪种对策？司马懿认为公孙渊先会依辽水用兵，再退守襄平城。曹叡问：为什么会这样？司马懿说：只有聪明的人才会弃城深入辽东躲避，但如果公孙渊是聪明人，就应该知道以他的实力与朝廷对抗是非常愚蠢的，所以他不会选择第一种方案；选择第二种方案，是因为公孙渊会认为我军孤军深入不能持久，所以会先依辽水而抗拒，打不赢后再退守襄平，但他退守只有死路。曹叡认同他的分析，问：多长时间可以搞定？司马懿回答说，到辽东要一百天，作战要一百天，归来要一百天，还有六十天休息，所以要一年时间。
于是司马懿率将军牛金、胡遵等四万步骑从洛阳出发，经过长途跋涉抵达辽水。公孙渊果然据辽水坚营高垒而守。论兵力，司马懿的部队远不如地头蛇公孙渊多，所以司马懿没有采取常规打法，而是把部队分成两部分：战斗力稍差的部队在南线多设旗帜，做出大举进攻的样子，以吸引守辽水的敌军主力；精锐部队则乘夜色的隐蔽渡过辽水，直逼公孙渊的老窝襄平城。因为司马懿料定公孙渊主力部队都去守辽河，襄平城反而空虚。
这种打法是最经济的，但天公不作美，辽水暴涨，魏军十分恐惧，诸将都想迁营。司马懿一看要坏事，就学曹操当年在官渡之战时斩粮官以平息将士情绪。刚好，都督令史张静在众将的怂恿下上书请求迁营，司马懿二话不说就拉出去砍了。众将都晓得张静是司马懿的属官，平日恩宠有加，现在连亲信都砍了，谁敢再言？于是都害怕了。
安定军心后，司马懿按兵不动。手下的人问他：大将军当年攻上庸，八路并进，日夜不停，所以能在半月之间斩杀孟达，这次我军为什么拖延不交战？司马懿说：当年孟达有粮，我军无粮，必须速战速决。再者，当年我们的军队是孟达的四倍，就算伤亡一半也足可取胜。如今敌兵多我军少，敌粮少我粮多，又遇大雨，速战不能取胜，而且有可能打草惊蛇，把公孙渊及其死党惊走，将来他们还会在这偏远之地为敌。我们这次远征，费了很大的劲，就是要彻底平定辽东，所以只能先稳住公孙渊，择机而动，斩草除根，永绝后患。
大雨下了一个月。司马懿严明军纪，分割了公孙渊的军队，完成了对襄平城的包围。由于襄平城城小缺粮，又不能出去打野物，开始有人饿死。公孙渊派使者求见司马懿，请求派人质前来换粮。司马懿对使者说：我不需要人质，我只要公孙渊人头。
公孙渊被司马懿困得没办法，只得率部从城南突围，被司马懿集精兵斩杀在梁水。随即，司马懿攻入襄平，把公孙渊任命的官员一律斩首，前后屠杀公孙渊党羽上万人，收编百姓四万户，释放被公孙渊关押的公孙恭，还为被公孙渊迫害的“烈士”修坟立碑，表彰他们的后代。遗留数十年的辽东问题，被司马懿彻底解决。曹叡接到表文，当即又给司马懿增食邑一个县。
然而，曹叡快要走到生命的尽头了。这位年轻的皇帝，虽然在治国上颇有才略，但由于太过淫奢，身体每况愈下。更可悲的是，三个儿子曹冏、曹穆、曹殷都短命而死，只得把养子曹芳视为己出。曹芳是曹操的曾孙、曹彰的孙子，当时才七岁。曹叡权衡利弊，封曹真之子曹爽为大将军辅助曹芳。曹叡私下里对曹爽说：司马懿对我们曹家的天下很有贡献，在朝中和军中的根子很深，不可能一下子解除他的兵权，况且有很多事需要他去协调。但是，这个人很危险，一定要制约他的权力。我死后，你要设法慢慢削弱他的兵权，让他好好为我们曹家服务，如有异动就杀了他。
安排好这一切，曹叡才下诏书催司马懿回来。司马懿那时已是花甲之年，一连几次接到诏书后，马上得出结论：曹叡不行了！他顾不得劳累，乘锋车（古时最轻快的马车，相当于现在的专机）昼夜疾行赶到洛阳，直接进宫到病榻前参见曹叡。那时的曹叡只剩一口气，目视司马懿。司马懿泪流满面，但眼角瞧见了小曹芳和曹爽，心头立即明白曹叡要托孤了。于是哭得更厉害了，说了些掏心窝的话。曹叡见他如此，也很感动，拉着司马懿的手喘息着说：爱卿有大功于国，以后的事就靠爱卿了。朕死后，爱卿与曹爽共同辅佐少子。朕临死前见到爱卿，此生没有什么遗憾了。当天，曹叡死于宫中，年仅三十五岁。
10
