期间徐树铮带兵开赴外蒙古，软硬兼施，迫使外蒙古放弃独立，做了一回民族英雄，直皖战争前，张作霖作为“调停人”来到北京，被徐树铮骗到团河。张作霖正与段祺瑞谈话时，徐树铮给段祺瑞去电话。在电话中，徐树铮劝段祺瑞杀掉张作霖。段吓了一跳，犹豫了好一阵儿，不忍下手。段祺瑞通完电话回来后，思绪烦乱，坐立不安，想起了张作霖这么多年来对自己的帮助，迟迟下不了决心。张作霖一看段祺瑞的举止神色，知道情况不妙。就对段祺瑞说：“我出去方便一下”出了门，门前的汽车已经发动起来，张作霖和随行的人绕道回到北京。事后，段祺瑞得知张作霖巧妙脱身，感慨的说：“雨亭真乃机敏过人！”徐树铮则说：“一步之差，放虎归山，万事休矣。”
因为徐树铮为人多诈，袁世凯曾这样评论徐树铮：“又铮其人，亦有小才，如循正轨，可期远到。但傲岸自是，开罪于人特多”。冯玉祥杀徐树铮，有政敌的原因，但徐树铮杀了冯玉祥的舅舅兼大恩人陆建章，才是自己埋下的真正祸根。
1925年12月30日在途经京津间廊坊车站时被劫杀，享年45岁。当时震惊了国内外各界。徐树铮死后落叶归根，葬于出生地安徽省萧县醴泉村。
这一起悲痛的历史事件，影响深远，获悉徐树铮被杀，段祺瑞禁不住痛哭失声，连呼：“断我股肱！断我股肱！”不久后通电下野，离京南返，从此再也没有重返政坛舞台。
