年正月十五的晚上，皇上大宴群臣赏灯。酒兴正浓之时，太宗道：“正当五代之际，天下生灵涂炭，哀鸿遍野，周太祖自邺城南归，无论是当官的还是老百姓，无不惨遭虏掠，城野大火漫燃，天上彗星划过，看者无不心惊肉跳，以为天下再无太平之日。朕自当政之后，日理万机，从不敢懈怠，常想天下百姓，以至才有今日之昌盛景象。由此来看，无论是大乱还是大治，无不是人之所为，并非是什么天意啊！”大臣们听后，纷纷赞美皇上英明。吕蒙正却走到太宗面前说道：“皇上在此设宴，百姓莫不云集在此，放眼望去满城灯火辉煌，确实一片繁荣的景象。臣不久前曾到城外，离城不数里就看到有许多人面露饥色，甚至还看到一些因饥饿而死的人。由此可见天下并不都像我们眼前所看到的这样啊。愿陛下不但看到眼前的繁荣，而且也能看到远处的正挨饿受冻的百姓，这才是天下苍生的幸事啊！”太宗听到这话，一时黯然失色，群臣都不敢出声。过了好一会儿，太宗转怒为喜：“我得蒙正如唐太宗得魏征，倘若做臣子的都能这样时时提醒朕不忘以天下苍生为念，国家哪里还会不富强，百姓不舒心啊。”有一次，太宗让吕蒙正选一个人出使辽国，吕蒙正觉得有一姓陈的官员最称职，就把名字呈上，太宗竟不同意。第二天，太宗问人选好了吗？吕蒙正又以此人呈上，太宗还是不同意。当第三次问及时，他仍以此人呈上，气得太宗把呈上的文书掷到地上，愤愤地说：“你为什么如此固执呢！”吕蒙正拾起文书平静地说：“哪里是臣固执呢？明明是陛下对这个人有偏见吗。出使辽国，只有这个人最称职，其余的人都不如他，臣不敢为了讨好陛下而误了国家大事。”看到吕蒙正顶撞太宗，满朝大臣都吓得连大气都不敢出。太宗气冲冲走下朝堂后，又回过头来说：“罢罢罢，吕蒙正的气量，我不如也，就依你的吧！”陈出使辽国，果然出色地完成了使命。
至道元年（995年），太宗再度罢贬吕蒙正，蒙正以右仆射出判河南府，期间，政尚宽静，事多委任属僚，其总裁定夺而已。真宗即位（998年），吕蒙正被任命为左仆射，为感先帝之恩，蒙正献家财三百万助之朝廷。咸平四年（1001年），第三次登上相位。六年，封莱国公，授太子太师。不久，因病辞官，回归故里。真宗朝拜永熙陵，封禅泰山，过洛阳两次看望吕蒙正，曾问其子中谁可为官。蒙正道：“诸子皆不足用，有侄吕夷简，真乃宰相器也！”吕蒙正病逝于大中祥符四年（1011年），享年六十七岁，谥文穆，赠中书令。
古人对历史可是惜字如金的，但《宋史》却不惜重墨记述吕蒙正的故事，足见人们对他做人的襟怀和气度是如何的推崇备至。“君子坦荡荡，小人忧戚戚。”“宰相肚里能撑船”。吕蒙正襟怀宽广、度量如海，成为后世之人学习的榜样。