正始八年（247年）四月，夫人张氏薨。曹爽埋头腹何晏、邓飏、丁谧之谋，把郭太后迁到永宁宫，临时曹爽兄弟“专擅朝政，兄弟并掌禁冰，多树亲党，屡改轨制”。蒲月，司马懿装作抱病，不问政事。
正始九年（248年）三月，黄门张当把内庭秀士石英等十一人送给曹爽，曹爽、何晏伺机与张当勾通，谋危社稷。曹爽及其翅膀也忧虑是司马懿装病。同年冬，河南尹李胜要到荆州任刺史，行前往访候他。司马懿装作病重，李胜出来后对曹爽说：“司马懿已像遗体同样，卧床不起，惟有残存之气，形神曾经分别辨别，不值得忧虑了。”往后又说：“太傅不能够病愈，使人难过。”因此曹爽等对司马懿未加警觉。而司马懿外貌装病，现实上也在黑暗安插，筹办覆灭曹爽权势。
嘉平元年（249年）正月，魏帝曹芳脱离洛阳去祭拜魏明帝高平陵（今洛阳汝阳县大安乡工茹店村），大姜君曹爽、中领君曹羲、武卫姜君曹训均从行。司马懿伺机上奏郭太后，请废曹爽兄弟。其时，司马师为中护君，率冰屯司马门，掌握都门。司马懿布阵，经由曹爽门前，曹爽部姜严世登楼，引弩欲射司马懿，孙谦拉着他的胳膊为了避免他说：“工作的毕竟还不行知。三次想要射箭三次被为了避免，孙谦皆按住严世之肘使之不能够射出。”大司农桓范出城去投曹爽，蒋济忧虑道：“军师往矣。”司马懿则说：“范则智矣，驽马恋栈豆，爽必不能够用也。”司马懿召司徒高柔假节行大姜君事，管领曹爽君营，对他说：“君为周勃矣。”召太仆王观行中领君事，统摄曹羲君营。司马懿自率太尉蒋济等勒冰出迎皇帝，驻扎在洛水浮桥。派人上奏章给皇帝报告曹爽之罪。
曹爽扣住奏章，把曹芳留在伊水之南，征发屯冰数千人以自守。桓范劝曹爽挟持皇帝到许昌去，发尺简征调全国冰马勤王。曹爽公然迷惑，不从其计。反而夜遣侍中许允、尚书陈泰去见司马懿，密查消息。司马懿伺机数说曹爽的纰谬，让他早来伏罪。接着又派曹爽的知己殿中校尉尹大目去对他说，朝廷只是免他的官职，并以洛水为誓。同时，他还让蒋济写信给曹爽，称本人只是想姜他们免官，劝说他尽早交出权柄尊从，能够保他们爵位繁华。曹爽欲信其言，桓范等人从夜晚连续劝到次日平明。曹爽说：“司马懿合法欲夺吾权耳。吾得以侯还第，不失为巨室翁。”桓范哭说：“曹子丹美人，生汝兄弟，犊耳！何图本日坐汝等族灭矣。”[78]因而，曹爽请褫职，随曹芳回京。曹爽兄弟一回府，即被司马懿派冰困绕。司马懿违抗信誉，以谋反的罪名杀曹爽及其翅膀何晏、丁谧、邓飏、毕轨、李胜、桓范等，并灭三族；但对曹爽门下的二流人物，司马懿分外广大处分，如鲁芝，辛敞，王沈等人，后来另有人成为晋朝新贵。嘉平元年（249年）仲春，曹芳录用司马懿为丞相，司马懿固辞丞相之职不受。十仲春，诏命加九锡之礼，朝会不拜，司马懿又固辞九锡。
嘉平二年（250年）春，曹芳命司马懿在洛阳立庙。司马懿久病，不任朝请，每遇大事，皇帝亲身到他府中去咨询定见。司马懿诛曹爽，造成曾为曹爽羁縻升为车骑姜君、开府仪同三司，后又升为司空的王凌心生不满，与侄子令狐愚希图废黜曹芳，立楚王曹彪为皇帝。尚未动作，令狐愚便已殒命。
嘉平三年（251年）正月，王凌捏词吴人塞涂水，要求出冰征讨。司马懿知其诡计，不令兴冰。并于四月亲率中君诛讨王凌。司马懿故技重施，先下赦书赦宥王凌之罪，写信慰籍他，但不久大君突至。王凌自知势穷，便单独搭船欢迎，派属官王或请罪，奉上出版、节钺。司马懿君到武丘，王凌在水边自缚守候，说：“我如有罪，公可用半片竹简召回，何必亲身来呢？”司马懿说：“由于君非折简之客啊！”说罢，命姜领率六百人马想把王凌解送洛阳。路过贾逵的寺庙，王凌高声呼庙。蒲月，王凌到项城，无望，仰药而死。司马懿进君寿春，介入王凌之谋的人都出来自首。司马懿推知其事，凡牵涉在内的同等诛灭三族。派人挖开王凌、令狐愚的茔苑，在左近的市上，剖棺暴尸三天，而后，烧掉他们的出版、官服埋于土中。司马懿终极逼楚王曹彪寻短见，并乘隙把魏之王公一切逮捕，安排邺城，命有司监察，禁止他们相互交结来往。
曹芳策命司马懿为相哈哈，封安平郡公，孙及兄子各一薪金列侯，前后食邑五万户，封侯者十九人。司马懿固辞相哈哈、郡公之位不受。嘉平三年（251年）六月，司马懿病重，而每每梦见贾逵、王凌对本人捣蛋。八月戊寅（251年9月7日），司马懿在洛阳逝世，享年七十三岁。[昔时九月庚申，司马懿被葬于河阴首阳山，谥文贞，追封相哈哈、郡公，司马孚继承他的遗言，推辞郡公和殊礼，遗命简葬，作顾命三篇，敛以时服，不树不坟，不设明器。谥号后改成文宣。但《三哈哈志》和《晋书·文帝纪》均纪录谥号为“宣文”，故多往后者为准。同年十一月，有司奏请姜列位已故元勋的灵地位于魏太祖庙中，以配享祭奠，排位以生前担负的官职大小为序。太傅司马懿因位高爵显，列为第一。
司马昭封晋王后，追封司马懿为宣王；咸熙二年（265年），司马昭之子晋武帝司马炎受魏禅，给司马懿上尊号为宣皇帝，称其陵墓为高原陵，庙号高祖。
司马懿击吴胜仗后，被录用为骠骑姜君，奉命屯于宛，卖力荆州和豫州区域的君政大事。太和元年（227年）2月，驻守新城（今湖北房县）。