小子到今天还摆皇帝的臭架子，真是岂有此理！”由于段祺瑞和溥仪的不欢而散使得日本方面的如意算盘落了空。九一八事变后，日本扶持溥仪成立了伪满洲国，土肥原贤二又多次到天津秘密拜访段祺瑞，想请段出面组织华北政府，并许愿只要段同意，日本将会全力支持，但遭到了段祺瑞的严词拒绝。后来，蒋志清通过国民党皖籍要员吴忠信引见，在北京饭店和段祺瑞的侄子段宏纲见过一面。蒋志清很诚恳地对段宏纲说：“我也是保定陆军学堂学生，段先生是我的老师。我因公务繁忙，不能前往天津看望先生。”蒋志清早年曾就读于保定军官武备学堂，段祺瑞当时兼任该校总办，虽未为蒋直接授业解惑，但也算有师生之谊。会见后，蒋志清派吴忠信去天津拜访段祺瑞，送去两万元生活费。以后经常赠送巨款，保障段祺瑞全家的日用开销。这些钱对于捉襟见肘的段祺瑞来说无疑是雪中送炭，也让他加深了对蒋志清的好感。1933年1月19日，交通银行董事长钱永铭持蒋志清亲笔信赶到天津。信中，蒋志清恳请段祺瑞南下颐养，并表示待其南下之后可以随时就商国事。年近七旬的段祺瑞本想在北方颐养天年，但当时风传日本人要劫持段祺瑞的消息，因此段也同意南下。
1934年春，段祺瑞胃溃疡发作，引起胃部出血，经医治暂愈。家人劝他开荤，以加强营养，但被他拒绝：“人可死，荤不可开。”1936年11月1日段祺瑞胃病突然发作，急送医院救治，次日在医院病逝，终年七十二岁，
段祺瑞在弥留之际，还心系国事，留下亲笔遗嘱，向政府提出“八勿”之说，作为国家的“复兴之道”：勿因我见而轻起政争；勿尚空谈而不顾实践；勿兴不急之务而浪用民财；勿信过激言行之说而自摇邦本；讲外交者，勿忘巩固国防；司教育者，勿忘保存国粹；治家者，勿弃国有之礼教；求学者，勿鹜时尚之纷华。
刘庆斌对段祺瑞拱拱手：“这样吧，总长大人，咱们一码归一码。等我先向徐大人交了差事，再说我们之间的事情。如果我没有估计错的话，我们需要商量的事情还很麻烦！”