魯南於4月下旬失守後，張學良、楊宇霆意識到津浦失利，天津危急，因此提前就開始做撤退準備。這時又接到張作霖命令向灤東集結，於是按計劃分兩期實行。第一期，把攻打馮軍安陽一帶的部隊先撤到保定附近，然後由鐵路輸送到灤東各縣；第二期，把攻打閻軍的石家莊、娘子關部隊撤到保定以南，先掩護由安陽方面撤退的各部安全通過保定之線，然後各掩護部隊以軍為單位，經過京、津中間地帶向灤東一帶撤退。第一期各部隊於5月上旬先後通過保定開赴灤東一線，第二期各部隊於5月上旬先後撤到保定以南佈防，然後經津浦中間地帶向灤東撤退，所有撤退計劃均有條不紊執行，因此奉軍主力未受到任何損失。撤退途中僅有馮軍鄭大章部率騎兵尾追了一陣，但兵力很少，僅屬於騷擾性質，無大的戰鬥。
張作相率領的第五方面軍團，於5月底分別向熱河、京東一帶撤退。第十二軍退承德，第九軍退灤平，第三十軍退馬蘭峪一帶，僅留四十七旅在北京辦理交涉。汲金純部在第五方軍撤退前，於5月中旬已奉令向熱河境內凌源一帶後撤。
褚玉璞第七方面軍團在大名防守軍，未發生主力戰鬥。4月下旬因張宗昌敗退而下令所部，經南宮、武強等縣向天津以東撤退。
關於這次奉軍大規模撤退，其實是張作霖看見關內形勢明顯不利於自己時採取的一項保存實力的做法。當時關內蔣馮閻桂攜手，反對的目標只有張作霖一個，以前還有直系可以依賴，於今是孤家寡人。當然，只要張作霖願意，還是有人願意幫助他的，那就是日本人。日本公使芳澤曾於5月中旬攜帶秘密文件晉見張作霖，承諾如張允可簽訂，日本可以出兵相助，阻止南軍北進，但被張作霖拒絕了。張作霖不願賣國，同時也認為，只要自己退出關內，那麼蔣馮閻桂之間為爭奪北京政權一定會打起來，這樣以後還有捲土重來的機會。應該說張作霖的判斷非常有先見之明，大概一年後蔣馮閻桂之間果然就爭鬥了起來，甚至在1930年還爆發了史無前例的中原大戰。如果張作霖還在，那麼他一定還是民國歷史上的不死鳥，極有可能再次率軍馳聘中原。只可惜惱羞成怒的日本人再沒給他這樣的機會。1928年6月4日，張作霖在大軍撤退之時被日本人炸死於皇姑屯，即本文開篇所說的皇姑屯一聲巨響。
奉軍撤退時，閻錫山撿了大便宜。此時離奉軍撤退地方最近的就是閻錫山的部隊了。奉軍在前邊走，閻軍就在後面跟，就好像約好了一樣。閻錫山也就這出息，打仗打不過別人，所以就不打了，只管跟著就是，跟著跟著也就進佔了石家莊、保定等重要據點，收編了安錫嘏師，還獲得了奉軍運不走的或者不屑於運的一些物資和軍用物品。6月8日，閻軍商震、徐永昌部進佔了北京。撿到便宜的還有馮軍韓復矩部，他們派汽車載著一部分軍隊跟著閻錫山進了北京，因此也算撈到了一點外快。最倒霉的就是蔣介石了，仗打得比誰都大，戰利品卻一毛也沒有撈著，不過蔣財大氣粗，也不在乎這些。
1928年7月下旬，蔣介石約馮玉祥、李宗仁、閻錫山、李濟深到京，在西山碧雲寺召開軍事會議，決定停止對奉軍的進剿，雖然張作霖被日本人炸死了，但張學良已接續大位，擁有相當的實力，短期內進軍關外解決不了問題。而此時共產黨已在井岡山建立了革命根據地，成為蔣介石的心腹大患，急需派部隊前去征剿。至於張宗昌、褚玉璞以及孫傳芳等的殘部，決定由白崇禧率軍解決。此外，將北京改名為北平，派閻錫山為平津衛戍司令，派張蔭梧為北平警備司令，傅作義為天津警備司令。直隸改為河北，派商震為河北省主席，楊愛源、徐永昌分任察哈爾、綏遠主席。平、津和北方的大權，均落到了閻錫山的手中，使閻錫山成為此次北伐的最大獲益者。