再说司马光自罢官后，戴着一个端明殿学士的头衔，两耳不闻窗外事，闲居洛阳，潜心编撰《资治通鉴》。公元1084年十二月，《资治通鉴》修撰完毕，朝廷授司马光为资政殿学士。

司马光一边隐居一边修书，在洛阳长达十五年，反而为他在民间赢得了巨大的名声，世人认为司马光是真宰相，田夫、野老都称他为“司马相公”，连妇人、小孩也知道他的字为“君实”。

神宗驾崩，司马光入朝哭临，京都卫士远远望见，以手抚额道：“司马相公回来了！”

司马光所到之处，老百姓聚集拦住道路大呼道：“司马相公不要回洛阳了，留下来做天子的宰相啊！”道路拥塞，导致司马光的马都不能进发，司马光心里感到害怕，急忙返回洛阳。

太皇太后高氏听说这事之后，派内侍梁惟简到洛阳慰问司马光，并征询司马光当务之急的治国方略。

司马光上疏洋洋洒洒几千言，中心思想就是“放开言路，虚心纳谏！”高氏认为有道理。五月，朝廷下诏，让百官进言朝政得失。

朝中有大臣不高兴了，在诏书中设置了六个进言的门槛：“一，进言发泄不满；二，超越职权范围；三，擅自议论机密的军国大事；四，迎合已经施行的法令；五，对上观望朝廷意图想侥幸升官；六，对下迷惑世俗沽名钓誉，出现上述六种情况，一定要处罚不宽恕！”

太皇太后又将这份意见命人拿给司马光看，司马光道：“这哪里是征求谏言，这是分明是拒绝谏言啊！人臣要么不进言，一说话怎么会脱离这六件事范围？”

太府少卿宋彭年、工部员外郎王谔率先响应诏书，上书言事，有大臣要拿他们两个杀鸡儆猴，说他们上言不是本职工作，罚铜三十斤。司马光上疏详细驳斥这种观点，朝廷依司马光意见，重新颁布诏书，不久上书言事的近达千人。

五月初，朝廷下诏，起复司马光为知陈州（河南淮阳），司马光即从洛阳启程进开封拜见哲宗皇帝和太皇太后。

五月中旬，首相王珪在任上薨逝，王珪在三月上旬担任山陵使，应该说身体尚健硕，否则王珪定然会推辞，不然王珪如何上山查看陵墓？仅两个月，王珪突然薨逝，可见他得的是急病，来势凶猛！

王珪一死，山陵使空缺，宰相剩蔡确一人了，山陵使自然而然由蔡确担任。

几天后，司马光从洛阳赶到了开封，入宫拜见小皇帝和太皇太后，太皇太后和司马光面谈之后，却改变了几天前的决定，不让他走了，直接提拔他为门下侍郎。这次，司马光仍然上劄子（宋朝大臣的奏折）辞免，并在箚子提出更改新法的要求，这就有点要挟的味道了，好在太皇太后的政治观点和司马光比较契合，派使者赐司马光手诏，让他慢慢来，算是半应允了。司马光的亲朋好友也规劝他，如要废除新法，不在朝廷怎么实现？司马光醒悟过来后，立即走马上任。

前文说过，门下侍郎实际就是元丰改制前的参知政事，为副宰相。司马光是保守派的首脑人物，太皇太后的这个任命，透露出一定的信息，难道朝廷的政策要大变吗？