1936年11月2日，段祺瑞在上海病逝，终年71岁。12月11日，向来闭门不出的吴佩孚出现在了公共场合，因为这天是他曾经的政敌段祺瑞灵柩运抵北平的日子。

在段祺瑞的葬礼时，吴佩孚送来了一副流传甚广的挽联，“天下无公，正未知几人称帝，几人称王，奠国著奇功，大好河山归再造；时局至此，皆误在今日不和，明日不战，忧民成痼疾，中流砥柱失元勋。”

曾经的政敌如此称赞段祺瑞，可见段祺瑞在当时的影响力。光绪十一年，晚清重臣李鸿章在天津紫竹林创办了武备学堂，段祺瑞把握住了这个机会，成为了第一期预备生，进入炮兵科学习。

在武备学堂学习期间，段祺瑞非常刻苦，成为了一等一的好学生。光绪十三年，段祺瑞以最优秀的成绩毕业。当李鸿章得知段祺瑞的祖父等都曾是淮军将领，他对这个学生越发赏识。

在给清廷的奏折中，李鸿章夸赞道，“各项操法，一律娴熟，试以炮台工程做法及测绘，无不洞悉要领。”光绪二十一年，袁世凯奉旨在天津小站练兵，段祺瑞来到袁世凯麾下。

从这里走出了无数民国风云人物，当然最杰出的要数“北洋三杰”，即王士珍、段祺瑞、冯国璋。小站练兵期间，段祺瑞出任炮营统带，兼随营学堂总监。除了负责炮兵的编训工作，段祺瑞还编写了大量操练书籍，比如《编练章程》、《战法操典》、《训练操法详晰图说》等。

如此尽心尽力，袁世凯自然对段祺瑞刮目相看。另外，段祺瑞还娶了袁世凯的干女儿张佩蘅，从这个角度来看，段祺瑞还是袁世凯的女婿。

段祺瑞有“六不总理（不抽不喝不嫖不赌不贪不占）”和“三造共和”之美誉。1926年，段祺瑞退出政坛后，来到天津过着深居简出的生活。鉴于段祺瑞的影响力，日本特务多次来到天津，请他出面华北政府，并许以重利，遭到段祺瑞严词拒绝，坚决不到卖国贼。

1931年“九一八事变”后，日本人再次找到段祺瑞。为了拒绝日本人的骚扰，段祺瑞南下来到上海。在接受《申报》采访时，段祺瑞说道，“日本暴横行为，已到情不能感、理不可喻之地步。我国惟有上下一心一德，努力自求。语云：求人不如求己。全国积极准备，合力应付，则虽有十日本，何足畏哉？”

参考资料：《民国总理档案》、《北洋之虎段祺瑞》