天祐七年(910年)十一月，朱溫遣軍三千進駐 深州、 冀州，企圖奪取成德、義武兩鎮。成德節度使 王鎔、義武節度使 王處直先後遣使向李存勖求援，表示願與晉國結成反梁同盟，共退李存勖為盟主。李存勖力排眾議，毅然發兵相救。他親率晉軍東進，於是年十二月進至距離 柏鄉五裏處的 野河(今 滏陽河支流)北岸，與梁軍隔河對峙。
天祐八年(911年)正月，李存勖命周德威率三百精騎到梁軍營前挑戰，激怒梁將 王景仁。王景仁集結全軍，列陣出擊，被誘至鄗邑以南的平原曠野地帶。李存勖利用地形優勢，以逸待勞，趁梁軍疲憊之時率騎兵突擊，大破梁軍，俘獲梁軍將校二百八十五人，斬首二萬級。此戰，梁軍伏屍數十裏，龍驤、神威、神捷等禁軍精銳全軍覆沒，王景仁、韓勍、 李思安等僅率數十騎連夜逃歸。 成德鎮、 義武鎮從此徹底倒向晉國。
進兵河北
柏鄉之戰後，李存勖決定暫緩對後梁的攻勢，先奪取河北地區，以消除後顧之憂。他首先要對付的便是囚禁父親劉仁恭而繼任幽州節度使的燕王 劉守光。
平定幽州鎮
天祐八年(911年)三月，李存勖採用驕兵之計，聯合成德、義武、昭義、振武、天德五鎮，遣使奉冊，共尊劉守光為 尚父，以滋長其野心。劉守光卻以為六鎮此舉是畏懼幽州，更是驕狂。他得知尚父無權祭天、改元，不顧幕府諸將反對，於八月在幽州稱帝，改元 應天，國號大燕，史稱 桀燕。是年十二月，李存勖命周德威兵出 飛狐口(在今河北 蔚縣)，聯合成德鎮、義武鎮一同征討劉守光。
天祐九年(912年)，周德威奪取 涿州，進圍幽州。劉守光忙向後梁求救。朱溫親率大軍北上，命 楊師厚圍攻棗強，又命 賀德倫攻打蓚縣(治今河北 景縣)。但梁軍雖攻破棗強，卻在蓚縣被晉將 符存審、 史建瑭擊敗。朱溫羞憤發病，返回洛陽，不久便被其子 朱友珪弒殺。
天祐十年(913年)， 朱友貞發動政變，誅殺朱友珪，奪取帝位，史稱 梁末帝。而晉軍則連奪幽州鎮統轄的 順州(治今北京 順義)、 檀州(治今北京 密雲)、 武州(治今河北 宣化)、 平州(治今河北 盧龍)、 營州(治今遼寧 朝陽)等地。是年十一月，李存勖親征燕國，攻破幽州，俘獲劉仁恭(一直被劉守光囚禁)、劉守光父子。他留周德威鎮守幽州。
天祐十一年(914年)，李存勖返回太原，處死劉仁恭父子，以祭奠李克用。當時，李存勖南破後梁，北定桀燕，威震天下。王鎔、王處直相繼遣使入晉，共推李存勖為 尚書令。李存勖依禮三辭，而後接受尚書令之職。他在太原開設 霸府，建立 行台，以唐朝皇帝的名義 承製任命官吏。
兼併魏博鎮
天祐十二年(915年)，魏博節度使 楊師厚病逝。梁帝朱友貞趁機將 魏博鎮分為兩鎮，以削弱藩鎮勢力，結果引發魏博兵變。 變兵囚禁新任節度使 賀德倫，向李存勖請降。李存勖乘勢進占 魏州(治今河北 大名東北)，並殺死變兵首領張彥等人，以威懾兵變士卒，穩定亂局。他親自兼領 魏博節度使，隨後又攻取 德州、 澶州(治今河南 清豐西)。是年七月，李存勖進兵 莘縣，與梁將 劉鄩展開對峙。
天祐十三年(916年)，李存勖聲言回師太原，以引誘劉鄩出戰。劉鄩果然中計，欲趁機奪回魏州，結果遭到李存勖、 李嗣源、 符存審的三麵夾擊，在元城一戰中全軍潰敗，逃奔 滑州(治今河南 滑縣)。此後，李存勖又遣軍接連攻取 衛州(治今河南 衛輝)、 洺州(治今 永年東南)、 相州(治今河南 安陽)、 邢州(治今河北 邢台)、滄州、 貝州(治今河北 清河西)等地。黃河以北除 黎陽(治今河南 濬縣東)一地外，全部被晉國占領。梁晉形勢從此發生逆轉。
夾河對峙
天祐十四年(917年)， 契丹南犯河北，圍困幽州。周德威堅守二百餘日，最終在李嗣源所率晉軍援助下擊退契丹軍，取得 幽州保衛戰的勝利。而後，梁晉夾河對峙，進行了一些列爭奪黃河沿岸各處要點的戰鬥。是年十二月，李存勖率軍東進，連破梁軍數座營寨，攻陷魏州通向 鄆州(治今山東 東平)的重要渡口 楊劉城(在今山東 東阿北)，俘獲守將安彥之，並攻掠至鄆州、 濮州(治今山東 鄄城北)一帶。當時，朱友貞正在洛陽進行祭天大典，聞聽楊劉失守，倉皇趕回 汴州(治今河南 開封)。
天祐十五年(918年)，李存勖調發河東、魏博、幽州、橫海、義武等鎮軍隊，齊集魏州，準備直搗汴州，一舉滅亡後梁。是年十二月，李存勖由濮州境內的麻家渡渡過黃河，進駐胡柳陂(在今山東鄄城西北)，與梁軍展開血戰。當時戰況激烈，晉軍小敗，周德威戰死。李存勖被迫奪取土山以自保。他採用 閻寶、 李建及的建議，趁山下樑軍立足未穩以騎兵突擊，終於反敗為勝，擊潰梁軍，並乘勝奪取濮陽。
天祐十六年(919年)，符存審進據 德勝城(治今河南 清豐西南)，修築南北兩城。梁將 賀瑰圍攻德勝南城，並以竹索連結戰船橫列河麵，阻止晉軍渡河增援，將李存勖阻在黃河北岸。但 李建及率三百勇士，乘船駛至河中，用戰斧砍斷竹索，又用木甕裝盛柴草，澆油點燃，從上遊放流，火燒梁軍戰船。李存勖乘勢揮軍渡河，大敗梁軍。後來，梁將王瓚從黎陽渡河，屯據楊村渡，修造浮橋，儲存大量軍需物資。而李存勖也徵發數萬民丁，擴建德勝北城。當時，梁晉兩軍每日大小百餘戰，互有勝負。
天祐八年(911年)正月，李存勖命周德威率三百精騎到梁軍營前挑戰，激怒梁將 王景仁。王景仁集結全軍，列陣出擊，被誘至鄗邑以南的平原曠野地帶。李存勖利用地形優勢，以逸待勞，趁梁軍疲憊之時率騎兵突擊，大破梁軍，俘獲梁軍將校二百八十五人，斬首二萬級。此戰，梁軍伏屍數十裏，龍驤、神威、神捷等禁軍精銳全軍覆沒，王景仁、韓勍、 李思安等僅率數十騎連夜逃歸。 成德鎮、 義武鎮從此徹底倒向晉國。
進兵河北
柏鄉之戰後，李存勖決定暫緩對後梁的攻勢，先奪取河北地區，以消除後顧之憂。他首先要對付的便是囚禁父親劉仁恭而繼任幽州節度使的燕王 劉守光。
平定幽州鎮
天祐八年(911年)三月，李存勖採用驕兵之計，聯合成德、義武、昭義、振武、天德五鎮，遣使奉冊，共尊劉守光為 尚父，以滋長其野心。劉守光卻以為六鎮此舉是畏懼幽州，更是驕狂。他得知尚父無權祭天、改元，不顧幕府諸將反對，於八月在幽州稱帝，改元 應天，國號大燕，史稱 桀燕。是年十二月，李存勖命周德威兵出 飛狐口(在今河北 蔚縣)，聯合成德鎮、義武鎮一同征討劉守光。
天祐九年(912年)，周德威奪取 涿州，進圍幽州。劉守光忙向後梁求救。朱溫親率大軍北上，命 楊師厚圍攻棗強，又命 賀德倫攻打蓚縣(治今河北 景縣)。但梁軍雖攻破棗強，卻在蓚縣被晉將 符存審、 史建瑭擊敗。朱溫羞憤發病，返回洛陽，不久便被其子 朱友珪弒殺。
天祐十年(913年)， 朱友貞發動政變，誅殺朱友珪，奪取帝位，史稱 梁末帝。而晉軍則連奪幽州鎮統轄的 順州(治今北京 順義)、 檀州(治今北京 密雲)、 武州(治今河北 宣化)、 平州(治今河北 盧龍)、 營州(治今遼寧 朝陽)等地。是年十一月，李存勖親征燕國，攻破幽州，俘獲劉仁恭(一直被劉守光囚禁)、劉守光父子。他留周德威鎮守幽州。
天祐十一年(914年)，李存勖返回太原，處死劉仁恭父子，以祭奠李克用。當時，李存勖南破後梁，北定桀燕，威震天下。王鎔、王處直相繼遣使入晉，共推李存勖為 尚書令。李存勖依禮三辭，而後接受尚書令之職。他在太原開設 霸府，建立 行台，以唐朝皇帝的名義 承製任命官吏。
兼併魏博鎮
天祐十二年(915年)，魏博節度使 楊師厚病逝。梁帝朱友貞趁機將 魏博鎮分為兩鎮，以削弱藩鎮勢力，結果引發魏博兵變。 變兵囚禁新任節度使 賀德倫，向李存勖請降。李存勖乘勢進占 魏州(治今河北 大名東北)，並殺死變兵首領張彥等人，以威懾兵變士卒，穩定亂局。他親自兼領 魏博節度使，隨後又攻取 德州、 澶州(治今河南 清豐西)。是年七月，李存勖進兵 莘縣，與梁將 劉鄩展開對峙。
天祐十三年(916年)，李存勖聲言回師太原，以引誘劉鄩出戰。劉鄩果然中計，欲趁機奪回魏州，結果遭到李存勖、 李嗣源、 符存審的三麵夾擊，在元城一戰中全軍潰敗，逃奔 滑州(治今河南 滑縣)。此後，李存勖又遣軍接連攻取 衛州(治今河南 衛輝)、 洺州(治今 永年東南)、 相州(治今河南 安陽)、 邢州(治今河北 邢台)、滄州、 貝州(治今河北 清河西)等地。黃河以北除 黎陽(治今河南 濬縣東)一地外，全部被晉國占領。梁晉形勢從此發生逆轉。
夾河對峙
天祐十四年(917年)， 契丹南犯河北，圍困幽州。周德威堅守二百餘日，最終在李嗣源所率晉軍援助下擊退契丹軍，取得 幽州保衛戰的勝利。而後，梁晉夾河對峙，進行了一些列爭奪黃河沿岸各處要點的戰鬥。是年十二月，李存勖率軍東進，連破梁軍數座營寨，攻陷魏州通向 鄆州(治今山東 東平)的重要渡口 楊劉城(在今山東 東阿北)，俘獲守將安彥之，並攻掠至鄆州、 濮州(治今山東 鄄城北)一帶。當時，朱友貞正在洛陽進行祭天大典，聞聽楊劉失守，倉皇趕回 汴州(治今河南 開封)。
天祐十五年(918年)，李存勖調發河東、魏博、幽州、橫海、義武等鎮軍隊，齊集魏州，準備直搗汴州，一舉滅亡後梁。是年十二月，李存勖由濮州境內的麻家渡渡過黃河，進駐胡柳陂(在今山東鄄城西北)，與梁軍展開血戰。當時戰況激烈，晉軍小敗，周德威戰死。李存勖被迫奪取土山以自保。他採用 閻寶、 李建及的建議，趁山下樑軍立足未穩以騎兵突擊，終於反敗為勝，擊潰梁軍，並乘勝奪取濮陽。
天祐十六年(919年)，符存審進據 德勝城(治今河南 清豐西南)，修築南北兩城。梁將 賀瑰圍攻德勝南城，並以竹索連結戰船橫列河麵，阻止晉軍渡河增援，將李存勖阻在黃河北岸。但 李建及率三百勇士，乘船駛至河中，用戰斧砍斷竹索，又用木甕裝盛柴草，澆油點燃，從上遊放流，火燒梁軍戰船。李存勖乘勢揮軍渡河，大敗梁軍。後來，梁將王瓚從黎陽渡河，屯據楊村渡，修造浮橋，儲存大量軍需物資。而李存勖也徵發數萬民丁，擴建德勝北城。當時，梁晉兩軍每日大小百餘戰，互有勝負。