公元1086年四月，宰相尚书右仆射兼中书侍郎韩缜被罢免，吕公着接替。吕公着空出的门下侍郎位置，由韩维接替。顺便说一句，韩缜和韩维是哥俩，但不是同一战线。

同时，司马光推荐文彦博出山为宰相，太皇太后也有这个意向，但有言官认为文彦博年纪太大，于是朝廷特设了一个“平章军国重事”的官职，授予文彦博，班序在宰相之上。

文彦博成了不是宰相的宰相，他每六天入朝一次，一月两次陪皇帝听经筵。此时文彦博已经八十一岁了。

四月初六日，荆国公王安石病逝，享年六十六岁，司马光闻讯，立即写信给吕公着道：“介甫（王安石字介甫）文章、节义过人处甚多，可惜性格不晓事，喜欢掩饰错误，以致忠臣疏远、奸佞聚集。现在朝廷正在矫正他的过失，革除他的弊病，他却不幸逝世了。当此之时，反复小人肯定会百般诋毁他。我的意思是，朝廷应该优加褒奖，致以厚礼，从而抑制浮薄的风气。我身体不行，晦叔要多尽力！”

根据司马光的提议，王安石被追赠太傅。

王安石死后才五个月，九月初一司马光因病逝世，享年六十八岁。

司马光当政仅一年多，但卧病时间居半，可是事必亲躬，不分昼夜，宾客见他体弱，劝道：“诸葛亮二十罚以上都亲自为之，因而致病，公不可不警戒啊！”

司马光道：“生死，命运安排！”反而更加尽力，病危时，口中还喃喃自语，都是朝廷事务，病故后，留遗书八张，都是当世的要务。太皇太后闻讯，痛哭不已，赵煦也流涕哭泣。赠太师、温国公，谥号文正，赵煦赐碑名为“忠清粹德”。

朝廷下诏，让户部侍郎赵瞻、内侍押班冯宗道护送司马光灵柩回陕西夏县，京城的人们罢市前往凭吊，有的人甚至卖掉衣物去参加祭奠，街巷中的哭泣声超过了车水马龙的声音。等到安葬的时候，哭的人仿佛是在哭自己的亲人。京城及全国各地都画他的像来祭祀他。

苏轼对司马光做了恰如其分的评价：“司马光之所以感人心、动天地，两个字概括：'诚'；'一'。”

司马光一生诚信，深受父亲司马池的影响。司马光几岁的时候，有次，他要给胡桃去皮，他不会做，姐姐想帮他，也她去不掉，后来一位婢女用热汤替他顺利完成。他姐姐回来，十分惊异便问道：“谁帮你做的？”他欺骗姐姐是自己做的。

司马池知道这件事后，训斥他道：“小孩子怎敢说谎？”从此之后，司马光不敢说谎，年长之后，还把这件事，写到纸上，策励自己，一直到死，没有说过谎话。