等再次拥戴张作霖为中华民国陆海军大元帅，组织安国军政府，其军队统称安国军，吴俊升任第七军团军团长。
9月，齐齐哈尔人民示威游行，反对日本在临江设领事，吴派大批军警进行弹压。
10月，吴被任命为东三省边防司令兼保安总司令。
翌年1月，以通化为中心的东边道大刀会暴动，反对封建军阀和日本帝国主义侵略，吴亲自率部配合宪兵司令齐恩铭督“剿”，残酷屠杀大刀会员和无辜农民三千余人，烧毁民房数千间。
...........................................................
1928年4月，。。。党继续北伐，蒋、冯、阎（锡山）、李（宗仁）的一、二、三、四集团军向张作霖的安国军进攻，安国军节节败退。
吉、黑增援军已赶到关内，张作霖派吴俊升率领至德州布防，旋决定放弃德州，命吴在榆关设后方总司令部。
吴于5月上旬偕张作霖家属回奉。
张作霖见大势已去，决定退回关外。
日本政府乘机要挟奉方解决“满蒙悬案”，未得满意回答，日本军方必欲除掉张作霖。
张于6月3日夜乘专列返奉，吴俊升得报即同莫德惠等前往山海关迎接，并同车北行。
4日晨五时二十七分，列车行至皇姑屯三洞桥铁路交叉处，突然被日本关东军高级参谋河本大作等设伏炸毁。
张作霖重伤送至大帅府，当日死去。
吴俊升头部被一硬铁扎入，脑浆外溢，当即身亡，终年六十五岁，正应了“但愿同死”一语。
...........................
..................................