保安总司令，宣布东北自治。1924年他又发动第二次直奉战争，这一次奉系打败了直系军阀，控制了北洋政府。1926年，张作霖称安国军总司令，并于6月18日在北京就任北洋军政府陆海军大元帅，代表中华民国行使统治权，成为国家最高统治者，并组成北洋军阀统治时期第32届、也是最后一届内阁，成为北洋军政权最后一个统治者。
1928年4月，在蒋、冯、阎、桂四大集团军的攻击下，奉军全线崩溃。6月2日，张作霖声言退出北京。6月4日，在返回东北的途中，张作霖被炸死在沈阳皇姑屯车站附近，结束了他具有浓厚传奇色彩的一生。
张作霖的死，日军、俄军、国民军、军阀都有嫌疑，凶手被揣测机率最高的是日军。当时日本为了掩盖真相，诬指皇姑屯事件是“南方便衣队员”所为。直至1946年7月，“远东国际法庭”开庭审判日本战犯时，真相才大白于天下。日本前田中内阁海军大臣冈田启介出庭作证，供认张作霖被炸是关东军所为。
因为张作霖是当时中国的实际国家元首，谋杀一国的国家元首理应是违反国际法、是战争罪的行为，所以皇姑屯事件被视为日本侵华的起点。
日本关东军是出于什么样的目的，要炸死张作霖？