解決掉馮德麟以後，奉天成為張作霖經營東北的策源地和大後方。奉天在東三省中地位排在第一，其省會所在地奉天市為東北政治、經濟、文化中心。從張作霖的前幾任徐世昌、趙爾巽、張錫鑾、段芝貴等來看，一般奉天督軍都是兼管奉天、吉林和黑龍江的軍務。所以從這一點上來看，張作霖離東北王已經不遠了。
張作霖還有兩個對手，分別是黑龍江省督軍朱慶瀾和吉林省督軍孟恩遠。至於張錫鑾、段芝貴和馮德麟，歷史已經輕輕地翻過了一頁，他們已不再能構成對張作霖的任何威脅了。
朱慶瀾和孟恩遠兩人中，朱慶瀾沒什麼威脅，因為他是個文官，雖然位列黑龍江省督軍之位，但文官是沒有根基的，只不過是個職務的代名詞而已，只要上面一紙公文就可以撤換，所要找的只不過是個撤換的理由。真正讓張作霖頭痛的是孟恩遠，此人手握重兵，在吉林省經營十幾年，頗有根基，要對付他相當困難。這裡我們先說朱慶瀾。
朱慶瀾，字子橋，浙江紹興人，1875年生，與張作霖同歲。1912年，任黑龍江督署參謀長，1914年，袁世凱任命其為黑龍江省巡閱使並升任黑龍江將軍(即黑龍江省省長兼督軍)，這省長兼督軍的職位，張作霖要到兩年以後才取得。可見朱慶瀾比張作霖資格更老，不過資格老是一回事，有沒有根基就是另外一回事了。朱慶瀾雖貴為督軍，其軍事實權卻掌握在時任黑龍江省陸軍暫編第一師師長許蘭洲手上。許蘭洲是河北南宮人，也是個外地人。袁世凱小站練兵時，許因為會武術而成為袁的貼身衛隊，很得袁的信任。許因為手握重兵，以為有資本，像張作霖當初一樣也覬覦著黑龍江省督軍的位置。
蒼蠅不盯無縫的蛋，朱慶瀾和許蘭洲的貌合神離，給了張作霖以絕好的機會。張作霖暗示許蘭洲排擠朱慶瀾，事成後保舉他為黑龍江省督軍。許於是製造旗人事端，鼓動旗人到處散發傳單，導致警察干涉，這些旗人見有警察介入，非常害怕，就躲到了許蘭洲的師部。許於是找到了反對朱慶瀾的理由，以出面調解為名，暗中鼓動旗人代表聯名電告北京政府，攻擊朱慶瀾等人。朱和許都是袁世凱信任的人，雖經袁世凱左右調和，但兩人僵持的局面始終無法打破，萬般無奈下，袁世凱將朱慶瀾調走。
許蘭洲成功排擠掉了朱慶瀾，但是自己也沒有撈到好處。為了安撫朱慶瀾，同時也是為了處理好對俄關係，袁世凱又派了一位懂俄文的畢桂芳來擔任黑龍江省將軍兼巡閱使，讓許蘭洲擔任軍務幫辦兼陸軍第一師師長。
這個時候的許蘭洲，其地位和處境倒有點像馮德麟，都是幫辦，都是師長，也都有野心。馮德麟要對付的是張作霖，許蘭洲要對付的是畢桂芳，相比而言，畢桂芳要好對付多了，因為畢無根基，沒有自己的部隊。事實也確實如此，許蘭洲聯合黑龍江省第一旅旅長巴英額、騎兵第四旅旅長英順和第二旅旅長任國棟向畢桂芳施壓，畢桂芳被迫宣佈下野，將督軍、省長等職務移交給許蘭洲。應該說，這是許蘭洲最接近成功的時候，如果他有張作霖那樣的胸襟和策略的話，黑龍江省必然是許蘭洲的，那此後也就沒有張作霖什麼事了，只要黑龍江省和吉林省聯合起來(事實上以吉省督軍孟恩遠當時的處境，這種聯合完全有可能)，張作霖想做東北王那基本上沒什麼可能了。
可惜的是關鍵時候許蘭洲犯了一個小的錯誤。當時巴英額、英順支持許蘭洲逼迫畢桂芳下野是有條件的，那就是你許蘭洲當督軍沒錯，兄弟們跟著你混好歹也得撈點好處吧？他們當時給出的條件是巴英額升任師長，英順兼任鎮守使。也不知許蘭洲哪根筋搭錯了，接管督軍職務後竟然不願履行自己當初的承諾，反而任命了任國棟為師長。也許許蘭洲太有個性，不喜歡英順和巴英額這種講條件的人。但是作為政治家，在自己羽翼未豐之時，必要的妥協和退讓無論如何都是應該有的，即使你不喜歡，你也可以先任命著，以後瞅準機會再拿掉就是了，可惜許蘭洲不懂這個，不懂這個就犯了大忌了。巴英額和英順感覺自己被耍了，一怒之下發表通電要「誓師西討，掃清妖孽」，形成了許蘭洲駐兵省城，英順、巴英額陳兵呼蘭和海倫的情況，雙方均處於戰備狀態，一觸即發，從而給了外部勢力介入調解衝突的機會，而這個機會被張作霖牢牢抓住了。
從許蘭洲簡單粗暴的處理英順、巴英額之事從而導致一發不可收拾的情況，可以看出當時張作霖與馮德麟相爭時張作霖的英明之處，馮德麟處處挑釁，而張作霖處處委曲求全，其目的就是穩住馮德麟，避免兩虎相爭從而給外人以可乘之機。張作霖委曲求全以待時變的策略奏了效，而許蘭洲則把大好局面搞砸了。
許蘭洲與英順、巴英額陳兵相向時，北京政府正在鬧著張勳復辟的事情，無暇顧及地方。張作霖趁機主動請纓要幫政府排憂解難，他派五十四旅旅長孫烈臣急赴黑龍江瞭解情況。由於許蘭洲與英順、巴英額雙方勢均力敵，誰也沒有用兵取勝的把握，又擔心不服調解張作霖會幫助對方，因此都表示願意聽張作霖的。張作霖也就順水推舟向北京政府推薦了一個人，這個人既不是許蘭洲，也不是英順或者巴英額，而是此前誰也沒有想到的鮑貴卿。
鮑貴卿，字霆九，奉天海城人。一看海城兩個字就知道是張作霖的鐵桿老鄉了。1914年許蘭洲當師長的時候，鮑貴卿任黑龍省第三混成旅旅長，1915年升任陸軍講武堂堂長，陸軍中將。1917年7月，鮑貴卿在張作霖的推薦下出任黑龍江省督軍兼省長。
這憑空冒出的鮑貴卿除了是張作霖的鐵桿老鄉外，他還是張作霖的兒女親家，對張作霖來說，黑龍江省由他把持再合適不過。至於許蘭洲，那是竹籃打水一場空，雖擁有軍事實力，但胳膊擰不過大腿，面對著軍事實力高出他不知多少倍的張作霖以及反對他的英順和巴英額，那是一點脾氣也沒有了。而北京政府，1917年7月份的北京政府是段祺瑞做主，這時已經上位的張作霖在東北舉足輕重，且又跟段祺瑞背景相同(背後都是日本人)，出於利益共享的關係，對張作霖推薦的新任黑龍省督軍人選自是沒有異議。況且該人選各方都願意接受，從而避免了黑龍江省陷入戰亂的困境，何樂而不為？
為了保持黑龍江省的穩定，張作霖借段祺瑞之手，將許蘭洲的第一師調到奉天省，放在了自己的眼皮底下，從此許蘭洲不作他想，安安心心地歸在了張作霖的手下，成為奉軍中的一支精銳。就這樣，張作霖不僅順利地拿下了黑龍江省，還收穫了一支原本有可能成為對手的勁旅，這沒本錢的買賣做得實在划算。
收服黑龍江省後，下一個要對付的就是吉林了，吉林是最難對付的。前文已經說過，時任吉林省督軍為孟恩遠，孟恩遠在袁世凱小站練兵時即已投入其麾下。1907年就開始在吉林任記名提督。1912年，袁世凱任命其為吉林省陸軍第二十三師師長。1914年，升任鎮安左將軍督理吉林軍務。1916年改任吉林督軍。孟恩遠在吉林經營多年，已將吉林省打造成了自己的自留地，其外甥高士儐是吉林督署的參謀長，又兼師長。女婿陸承武的父親是直系裡面很有影響的陸建章，也就是說朝中有人。
但是此時的吉林省形勢非常不妙。當年許蘭洲一個小小的失誤導致他本人陰溝裡翻船，把到手的黑龍江省督軍硬生生地送給了張作霖的親家鮑貴卿。許蘭洲這一送不打緊，東北的整個形勢頓時逆轉，原本有望形成黑吉兩省聯合對抗奉天的局面，如今成了黑龍江與奉天夾擊吉林省的狀態。諸君知道，從地理位置上看，吉林省處在黑龍江省與遼寧省(即那時的奉天)之間，從戰略態勢上看是腹背受敵。不僅僅如此，從中央層面來看，此時直皖之戰還沒有發生，掌實權的還是皖系的段祺瑞，皖系的勢力正如日中天。孟恩遠雖然與直系有關係，但是不僅得不到多少幫助，反而要受到中央層面皖系的打壓。
屋漏偏逢連夜雨，讓孟恩遠最擔心的事情發生了。1918年9月4日，徐世昌當上了總統。前文說過，徐世昌當年是東三省總督，一手把張作霖扶上舊軍五路巡防營統領之一，並將其部隊擴編至3500人，成為舊軍中實力最強的部隊，從而為張作霖迅速崛起創造了條件。這位徐世昌總統一上任，他做的第一件事就是任命張作霖為東三省巡閱使，可見對張作霖的信任和器重。
東三省巡閱使是個什麼職位，東三省巡閱使實際上就是清廷時期的東三省總督，位置在各督軍之上，也就是說張作霖已經變成了孟恩遠的上級，可以名正言順的對孟恩遠發號施令了。天時地利人和佔盡的張作霖沒有像以前對待馮德麟那樣採取懷柔政策，相反，他採取的是兵臨城下的威逼。1919年6月，張作霖以東三省巡閱使身份，電請徐世昌將孟恩遠他調，而以黑龍江省督軍鮑貴卿繼任，黑龍江省督軍則由孫烈臣擔任。
1919年7月6日，北京政府下令免去孟恩遠吉林督軍職務，調孟恩遠為惠威將軍，這是個有名無權的虛職。面對張作霖的咄咄逼人，孟恩遠的可選項已經不多。道理上，張作霖是自己的上級，還有北京政府的命令，自己不走那就是抗命，予人以口實；形勢上，黑龍江與奉天對其夾擊之勢已成；軍事上，自己的軍力本就敵不過奉天，再加一個黑龍江，那是必敗之局。但他在部下的支持下還是兵行險招，拒不卸任，以此看看接下來張作霖如何打算。張作霖並沒有給他任何機會，他立即向北京政府請求了討伐令，組成了吉林討伐軍，調兵向吉林進發。大兵壓境之下，陷入絕境的孟恩遠終於選擇了妥協，在得到張作霖保全其個人生命財產安全的承諾後，交出了吉林省督軍大權。其部下反抗最強烈的高士儐師長和高夙城旅長，見事已至此，只好放棄了抵抗，身著便裝逃往他方。障礙掃除了。張作霖下令：將鮑貴卿調到吉林，任吉林督軍；將孫烈臣調到黑龍江，任黑龍江督軍。
至此，張作霖完完全全地掌握了東三省的領導權，成了名副其實的東北王。