以后四十余年，高句丽不敢再向辽东入寇，并频频向魏、晋纳表称臣，过了一段太平的日子。

后来，毋丘俭迁任左将军，假节监豫州诸军事，领豫州刺史，转为镇南将军。嘉平四年(252年)，与镇东将军诸葛诞的防区互换，并任毋丘俭为镇东将军都督扬州。次年与扬州刺史文钦、司马孚击退围攻合肥新城的东吴太傅诸葛恪。

…… ……

高平陵之变后，与曹爽关系密切的文钦，见曹爽被司马懿所诛，已经非常畏惧，后想用敌兵首级换赏赐又屡被司马师拒绝，心怀怨念，毋丘俭以礼厚待文钦，文钦亦感念毋丘俭的恩德，两人交好。

嘉平六年(254年)三月，夏侯玄、李丰等重臣密谋取代权臣司马师元辅的地位，事情败露，司马师诛杀夏侯玄等人全族。同年九月，皇帝曹芳欲利用司马昭因伐蜀被召见的时候，夺取司马昭所指挥的部队攻击大将军司马师。

事情败露，司马师再次发动政变，废魏帝曹芳，改立高贵乡公曹髦（máo）为帝。

毋丘俭与夏侯玄、李丰平素友好，二人被害令毋丘俭不安，同时亦感昔日魏明帝之恩，想为曹魏政权做拼死一搏。

毋丘俭之子毋丘甸亦鼓励父亲反抗司马师，于是，在正元二年(255年)正月，毋丘俭、文钦谎称得到了郭太后的手诏，毋丘俭与文钦于寿春举兵讨伐司马师。

毋丘俭起兵之前，管录（辂lù）曾路过毋丘家的祖墓，靠在树边哀叹说，“林木虽茂，无形可久；碑诔（lěi）虽美，无后可守。玄武藏头，苍龙无足，白虎衔尸，朱雀悲哭，四危以备，法当灭族，不过两载，其应至矣。”

…… ……

他们将在淮南屯驻的大小将领都召集到寿春城内(安徽寿县)，在城西筑坛，歃血为盟，留下老弱的驻守寿春，其余的五六万人向西北进到项城附近(河南项城)，毋丘俭构筑工事，文钦率领机动部队在外围。

同时，向天下发出公告，揭露司马师的罪恶并将毋丘宗等四子送入东吴为质以求外援。

司马师于是亲征毋丘俭，又派诸葛诞、胡遵、王基等到附近驻守，同时命令各路大军不可与毋丘俭交战。

毋丘俭、文钦不能进攻，退军又怕寿春被袭击。

但是淮南将士的家属都在北方，于是士气低落，越来越多士兵投降，只有淮南新加入的农民仍然效忠。

司马师调遣兖州刺史邓艾调泰山诸军一万多人至乐嘉，并要求他示弱以引诱毋丘俭，而司马师帅大军从汝阳潜兵与邓艾会合。

文钦不察，率军攻打邓艾而中了司马师设下的诱敌之计，被魏军击破败走。

毋丘俭听到文钦战败的消息后慌忙弃城，乘夜逃遁。走至慎县，左右侍从各自逃命，毋丘俭和幼弟毋丘秀和孙毋丘重藏匿在草丛中。平民张属射杀毋丘俭，因而被封侯，毋丘俭枭首送入洛阳。毋丘秀、毋丘重和文钦都逃入东吴。

其余均降。毋丘俭事后被诛灭三族。

后来西晋灭吴，其在东吴的子孙得以重返中原，在晋朝任官。毋丘俭之孙毋丘奥，仕晋为巴东监军。