光绪二十七年（1901年）5月31日，袁世凯将义女张佩蘅（江西巡抚、都察院左副都御史张芾之孙女）嫁与段祺瑞为继室。11月7日袁世凯任直隶总督，保奏段祺瑞“以知府仍留原省补用，并加三品衔”，“兼充武卫右军各学堂总办”。

鹿钟麟爱新觉罗·溥仪熊秉坤（鹿钟麟鹿兆许）

光绪二十八年（1902年）5月参与镇压广宗县景廷宾起义。6月任北洋军政司参谋处总办，全面主持编练新军，7月9日升道员留直隶补用，并加二品衔。8月9日因镇压直隶广宗、威县反洋教团众“劳绩”，被袁世凯保奏，准赏戴花翎，加“奋勇巴图鲁”勇号。

光绪二十九年（1903年）12月4日清廷成立练兵处（庆亲王奕劻为总理练兵大臣，袁世凯为会办大臣，铁良为襄办大臣，徐世昌为总提调），段祺瑞任练兵处军令司正使，加副都统衔，与王士珍、冯国璋并称为“北洋三杰”。

光绪三十四年（1908年）10月17日，段祺瑞任会考陆军留学毕业生主试大臣。11月慈禧和光绪先后病死，摄政王载沣欲杀袁世凯，段祺瑞制造假的兵变，致使载沣不敢动手。

宣统元年（1909年）1月2日，军机大臣、外务部尚书袁世凯被“着即开缺，回籍养疴”，袁世凯临走前将北京私宅赠与段祺瑞，段祺瑞仍留军中，常赴河南彰德与袁世凯密议。12月29日又任陆军第六镇统制。

宣统二年（1910年）5月25日，清廷以段祺瑞督办北洋陆军学务有功，赏头品顶戴。12月18日加侍郎衔，外放任江北提督，驻江苏清江浦，负责本地治安。

“一造共和”

宣统三年（1911年）10月10日，武昌起义爆发，袁世凯出山，急令段祺瑞为第一军统领兼湖广总督。段祺瑞由于早年出国留学，接受了西方民主共和的思想，深知中国的落后源于集权腐败的家天下统治。于是在讨伐革命军时，并不真的大举进攻，而是与革命军谈判并接连电告清廷内阁、军咨府、陆军部，声言：“共和思想已深入将士之心，将领颇有不可遏之势。压制则立即暴动，敷衍亦必全溃。”

民国元年（1912年）1月26日，段祺瑞联名握有重兵的46名将领，致电清廷内阁、军咨府、陆军部，一致要求“明降谕旨，宣示中外，立定共和政体。清廷如不速断，则江海尽失，势成坐亡”。2月5日，段祺瑞再率第一军全体将领致电清廷。2月12日，隆裕太后宣布清帝退位。

“二造共和”

民国四年（1915年），段祺瑞反对袁世凯称帝，所以被迫卸去职务。袁称帝前，他曾五次劝阻，结果三次被拒绝，两次吃了闭门羹。他劝阻袁世凯称帝，说此事关系国家安危及袁氏身家性命是万不能做的。而袁称帝后，出于他受袁世凯几十年知遇之恩，虽未公开声讨，但绝不参与，且未获任何封赏。袁世凯死后，段祺瑞推举黎元洪任大总统，平息了南方革命军的反对声音，恢复国会和《临时约法》。

“三造共和”

民国六年（1917年）2月16日，段祺瑞力主加入协约国，黎元洪表示反对，因对德宣战问题府院发生激烈冲突，段祺瑞主张宣战，黎元洪不同意，争执不下，段祺瑞去职。6月14日张勋复辟。后段祺瑞立即到马厂准备讨逆。3日段祺瑞以讨逆军总司令名义发出讨伐张勋的通电，在马厂誓师，并与冯国璋联电数张勋八罪，发表讨伐张勋檄文。12日即攻入北京，赶走张勋恢复共和后，冯国璋任总统，段祺瑞任总理。

民国六年（1917年）在继任的冯国璋总统任期内，就解决南北分裂，统一中国的方式问题，与冯国璋发生第二次府院之争，11月22日辞职。次年3月22日复职。同年10月10日，冯国璋总统的任期届满，安福国会选举徐世昌为大总统。段与冯约定共同下野。段祺瑞通过安福系继续在幕后操纵政权。

民国九年（1920年）直奉两系结成反段联盟进攻皖系。皖系方面号称定国军，段祺瑞为总司令。一开始直系攻势略挫，皖系西路第1师师长曲同丰率部猛袭直军，直军退出高碑店。皖系东路徐树铮以西北边防军四独立旅进攻张庄、蔡村、杨村。17日，吴佩孚率兵突袭松林店，皖系西路溃退。接着直军占领涿州并向长辛店追击。皖系东路徐树铮部追赶直军到北仓、李家嘴一带，这时奉军大军压境，与直军结合，反败为胜。这次战争历时五日，皖军大败，数万新组建的边防军大半覆没。

同年7月19日，段祺瑞被迫辞职，7月23日，直奉两军至北京，接收了南北苑营房，下令解散安福国会，通缉王揖唐、徐树铮、段芝贵等十人。徐树铮等逃往日本。

直皖战争后，曹锟被徐世昌总统任命为直、鲁、豫三省巡阅使，吴佩孚为副使，并成立了直鲁豫巡阅副使署。直、奉两系军阀遂控制了北京政权。

民国十三年（1924年）10月23日冯玉祥发动北京政变，推翻大总统曹锟，先邀请孙中山北上，后与奉系妥协，请段祺瑞出山，任中华民国临时政府的临时执政（国家元首）。

民国十四年（1925年）4月24日，段正式下取消法统令，废除中华民国第一届国会，由临时参政院替代之。

1926年3月18日，北京群众5000余人，由李大钊主持，在天安门集会抗议，要求拒绝八国通牒。段祺瑞执政府竟下令开枪，当场打死47人。3月19日，各地舆论纷纷谴责国务院门口屠杀。3月20日，段祺瑞明令抚恤死者，医治伤者。强大民意压力迫使段祺瑞政府召集非常会议，通过了屠杀首犯“应听候国民处分”的决议。

民国十五年（1926年）年4月9日被冯玉祥、鹿钟麟驱逐下台，避入东交民巷法使馆。后联奉军不成，20日下台，退居天津日租界当寓公，潜心佛学，自号“正道居士”。

民国二十年（1931年）九一八事变后，拒绝与日本人往来。

民国二十二年（1933年）1月21日，段祺瑞悄悄离开天津，脱离日本人的势力范围。1月24日段祺瑞移居上海。

民国二十五年（1936年）11月1日段祺瑞胃病突然发作，2日在医院病逝，终年七十二岁。3日行政院决议国葬段祺瑞。1月11日灵柩运抵北京西山卧佛寺后殿。

民国二十六年（1937年）7月抗战爆发后，段祺瑞家人匆匆将段埋葬于北平西郊白石桥附近。1949年1月北平解放，段墓移到北郊清河镇。1963年秋移葬于北京西郊香山附近万安公墓。章士钊题写了墓碑：“合肥段公芝泉之墓”。