吴俊升认为，不先夺回镇东，难免有后顾之忧，且不足以挫叛军锐气，遂“于22日督队驰援，历战数时，枪毙蒙兵23名夺获快枪5杆……当将镇东克复”。就在吴俊升克复镇东县之时，洮南府已危在旦夕。
乌泰叛军的中路统领锡勒图喇嘛甩掉黄帽，以黑布裹头，号称刀枪不入，率一部叛军直抵洮南城北。洮南知府眼见大军远出，城内空虚，急中生智，命仅有的200名城防队员每天夜里悄悄出城，白天大张旗鼓，列队进城，而且每天都改换军服的颜色和进城的方向，以为疑兵之计。
叛军果然中计，攻城计划一再推迟。但是，知府惟恐计策被叛军识破，最后又不得不主动弃城而走。孰料知府刚刚弃城，叛军尚未进攻，吴俊升的巡防队便于23日晚赶回了洮南。
随后，双方在洮儿河南北两岸展开激战。每遇战斗，吴军先用大炮轰击，炮弹接二连三地在叛军队伍中爆炸，令叛军大为惶恐，吴俊升随即亲率骑兵冲入叛军队伍。乌泰的叛军大都是未受过正规训练的乌合之众，所用的只是些小炮和猎枪。相比之下，吴俊升的军队不仅训练有素，富有战斗经验，而且枪炮精良。
经过数天的战斗，乌泰叛军伤亡修重，渐渐力不能支，开始后退。吴俊升边战边追，先后激战10余次，攻克被叛军占领的嘎喜喇嘛庙、白虎店、靖安、瓦房等城镇。到9月12日，叛军全部龟缩到葛根庙。
乌泰发动叛乱之时，还大肆驱逐汉民出境，引起两族人民的相互残杀和抢掠，吴俊升虽以“期抚兼施，先战后和”为宗旨，并“严戒兵弃，其蒙人非骑马持枪与我敌对者，妄杀一人，以军法论”。
9月12日傍晚，吴俊升率所部5营追至葛根庙。葛根庙是科右前旗地位最高的喇嘛葛根的本庙，不仅墙垣高厚，而且集中了叛军精锐，防守坚固。吴俊升部虽历战数日，但勇气百倍，愈战愈勇。他们在附近山顶上架起大炮，向庙内轰击。炮火将庙中大殿的西南角轰塌，殿上的铜顶也被打落，管带曹俊奋不顾身，率先登上高墙。乌泰等只得趁夜半时分突围，向北面丛山中的乌泰王府逃去，吴俊升继续率部追击。
吴俊升部一直追到归流河南岸，叛军在北岸依险布防，双方隔河对峙。与此同时，吉林、黑龙江等其他各部平叛军队也都取得胜利。黑龙江省还派出一支生力军，前赴王府夹击乌泰。乌泰见事已至此，不仅沙俄的军队未曾露面，就是外蒙古的军队也未见一兵一卒前来支援，不由得心灰意冷。畏于政府军的威力，乌泰决定放弃王府，逃往索伦山中。
乌泰不久被俄国人从索伦山中救出并逃往外蒙的首府库伦，后任库伦政府的“刑部副大臣”。但寄人篱下的日子并不好过。1915年，中俄蒙两国三方签订条约，外蒙取消独立，实行自治。民国政府宣布对以前宣布独立及举兵叛乱者“既往不咎”。
1915年10月28日，乌泰和他的儿子一起到达北京，表示“悔过”，受到袁世凯的接见，后来被聘为总统府的二等军事顾问，并被赐予官邸一座。1920年4月，乌泰在北京病逝。
吴俊升由于平叛有功，办成了“中华民国开国以来的第一件体面之事”而名声大噪，备受重用，由一个巡防队统领迅速升到黑龙江省都督的位子。1928年6月，吴俊升和张作霖坐火车被日本人炸死在皇姑屯。
