
6月6日,袁世凯病亡,南北各方关于他退位的争执随之烟消云散。黎元洪出任总统,段祺瑞以国务总理的名义掌握北洋政府的大权。10月30日国会选举冯国璋为副总统。冯国璋不愿意放弃地盘,乃于11月8日在南京就职,仍兼江苏督军。1917年2月间他曾一度到北京调解黎元洪和段祺瑞的矛盾。7月张勋复辟失败以后,黎元洪下野,冯以副总统代理大总统,段祺瑞仍任国务总理,组成新内阁,阁员大都是段的亲信。冯、段本来各有自己的派系,“关系始终未融洽”,冯国璋见以段祺瑞为首的皖系军阀把持北洋政府,本不想进京就职,后来经过多方疏通,段祺瑞又派其亲信靳云鹏到南京“欢迎”,他才答应北上。但为了维持以他为首的直系军阀在长江中下游各省的实力地位,入京前他断然拒绝属于皖系的倪嗣冲接任江苏督军,而安排自己的心腹李纯担任江苏督军,陈光远为江西督军,并通过李纯、南京交涉署交涉员兼督署顾问温世珍与英国驻南京领事馆和广西陆荣廷等保持联系。
冯国璋于8月1日抵京就职,不久和段祺瑞的矛盾便尖锐起来。当时,段祺瑞拒绝恢复民国初年约法,孙中山联合西南地方实力派在广州组成护法军政府,反对北洋军阀。段祺瑞依靠日本的援助,派兵攻入川、湘,决心推行“武力统一”政策;而冯国璋由于受英美策动,主张以维持西南军阀的地位和地盘,换取他们对北洋政府的承认,美其名曰“和平统一”,并暗中指示进入湖南的直系军队消极怠战。10月,二十师师长范国璋在湖南通电主和,并自动撤兵,段祺瑞的亲信湘督傅良佐仓皇失措,弃长沙出走。同时,入川的北洋军吴光新部也损兵折将,败退下来。紧接着,直隶曹锟、江苏李纯、江西陈光远、湖北王占元等督军相继发表主和通电。段祺瑞的“武力统一”政策严重受挫,乃于11月先后辞去陆军总长和国务总理职务。冯国璋派王士珍继任。但是段祺瑞不甘罢休,唆使皖系督军团要挟冯国璋继续对南方作战,奉系军阀张作霖也派兵入关,支持皖系。冯国璋见势不妙,即托词至南方巡阅,于1918年1月26日南下,当他的专车于次日行抵蚌埠时,却被皖系安徽督军倪嗣冲截住,逼他返京,下令作战。冯国璋不得已折回北京,在内外形势的压迫下,只得派曹锟兼两湖宣抚使,率第三师等北洋军主力进攻湖南,并准王士珍辞职,复任段祺瑞为国务总理。
1918年3月段祺瑞重新上台后,“武力统一”叫得更响。冯国璋表面支持段的政策,暗中却唆使李纯、曹锟等与西南军阀接洽和谈。8月,代理第三师师长吴佩孚在衡阳首先发难,公开通电主张罢战息兵,并对皖系人物徐树铮等进行斥责。皖系控制的安福国会以冯国璋代理期满为由,于10月选举徐世昌为总统,实际是把冯国璋撵下了台。冯国璋遂通电全国,以报告代理总统一年经过情形为名,发泄自己对皖系的怨怼,他说:“查兵祸之如何酝酿,实起于国璋摄政以前,而兵事之不能结束,则在国璋退职以后。其中曲折情形,虽有不得已之苦衷,要皆国璋无德无能之所致。兵连祸结,于斯已极……人非木石,宁不痛心?”并表示今后“绝无希望出山之意”。冯国璋失去政治地位,同时段祺瑞也自动辞去国务总理,直皖两系的利害冲突表面似乎缓和下来,实际上却日趋剧烈。为了平息其不满,徐世昌特准他仍节制北洋十五、十六两师。这两个师是由禁卫军改编的,冯国璋代理总统时一直担任公府警卫。师长刘询、王廷桢都是他的亲信。
1919年春,冯国璋归河间故里,由十六师的两个连更番随护驻守。这时,他已变成田连阡陌的大地主兼大官僚资本家,在诗经村一带就有土地千余亩,在苏北又与张謇合办盐垦公司,占地七十万亩,在北京、天津和南京拥有几个钱庄,其中较为著名的有华通银行、华充银号。此外在开滦煤矿公司、中华汇业银行等处还有大量投资。当人们指责他“善自封殖”时,他还口说:“项城雄主,吾学萧何田宅自肥之计,多为商业,以塞忌者之口耳”,用骗人的鬼话来掩饰自己的贪欲。
同年10月,冯国璋由河间抵北京,表面说是为十五、十六两师争陆军部所欠月饷,实则是联络直系,企图东山再起。但12月初“忽感风寒,医治不愈”,于28日病故于北京帽儿胡同冯宅。临危召张一麐等口授遗言给徐世昌,仍希望“和平统一”早日完成。1920年2月2日葬于河间诗经村。