這時，晉冀魯豫區敵人尚有31個旅，連同地方團隊共有30多萬人。他們依仗其“黃河防線”和各交通要道進行防禦。其中王仲廉的4個整編師和暫編第三縱隊孫殿英等地方團隊共約7萬人，守備平漢、道清線及沁陽、濟源、孟縣等地區；孫震的2個整編師及部分地方團隊約2.5萬人，守備平漢路以東、黃河以北的濬縣、滑縣、濮陽、長垣地區。
劉伯承、鄧小平決心以野戰軍主力和太行、冀南軍區主力及冀魯豫軍區一部，進行豫北戰役。同時，要求各縱隊和軍區，從思想上組織上做好連續作戰兩個月的準備，以便統一行動，殲滅敵人，收復一切可以收復的失地，配合山東、陝北粉碎敵人的重點進攻。陳賡、謝富治指揮第四縱隊和太嶽軍區主力同時舉行晉南戰役。
這時，中共中央軍委指示：晉冀魯豫野戰軍主力應在晉南反擊的同時向平漢線實施進攻，專打王仲廉集團。劉伯承、鄧小平根據新鄉以北敵人防禦工事較強，迴避野戰，生怕黃河交通被切斷的特點，確定集中優勢兵力，向敵人縱深輾轉機動，調動敵人，力爭在運動中殲滅王仲廉部，相機奪取城鎮據點。打擊重點放在新鄉、黃河之間，視情況向新鄉以北擴大戰果。第一步的任務是破壞黃河鐵橋及其以北的平漢、道清鐵路，肢解敵人防禦體係，逼近新鄉，調動敵人，殲滅王仲廉部有生力量。
為了培養和提高地方武裝的戰鬥力，劉伯承、鄧小平決定集中4個縱隊和太行、冀南、冀魯豫軍區部隊混合編為4個集團。第一縱隊和冀魯豫軍區一部為第一集團。第一縱隊和冀南軍區兩個獨立旅為第二集團。第三、六縱隊為第三集團。太行軍區兩個獨立旅和第四、第五分區部隊及第十七師為第四集團。共約60個團的部隊和10萬餘民兵、20萬支前群眾參戰。劉伯承為各集團明確了分工：第一集團攻殲黃河鐵橋守敵，炸毀鐵橋，破壞坑村驛以南的鐵路，奪取陽武、原武；第三集團攻取小冀、獲嘉；主力集結小冀附近，準備打擊由新鄉南援之敵；第四集團切斷新鄉、汲縣間鐵路，圍攻潞王墳，主力打輝縣、汲縣增援新鄉之敵。另以有力一部和10萬民兵，分別向道清鐵路，平漢鐵路湯陰、汲縣段積極破擊。第二集團除以1個旅佯攻滑縣、道口外，主力進至新鄉東南張店附近侍機。
各集團於3月21日開始行動。到28日，分別解放濮陽、封丘、延津、原武、陽武等城鎮、據點多處，殲敵地方團隊一部。29日夜，第一集團擬襲擊黃河鐵橋，因狂風大作，飛沙走石，摧折樹木，人馬行進困難，延誤了時間，攻擊未成。這時，內線關係報知，汲縣守敵整編第三十二師，在解放軍進攻策應下，有一部或全部起義的可能。劉伯承看到敵第六十六師和第九師已從河南來援，王仲廉龜縮新鄉不動，斷然改變決心，首先利用內線關係，圍攻汲縣整編第三十二師。4月1日夜，圍攻開始，2日夜占領東關及外圍據點多處。不料內線工作遭敵破壞，該敵主力退守城內，攻擊受阻。同時發現王仲廉已將整編第六十六師、第九師、第三師、第四十一師等5個整編師蝟集新鄉地區，並有增援汲縣模樣，於是停止作戰，以避開優勢之敵，另尋戰機。
4月3日夜，劉伯承令各集團分路急速北進，連克淇縣城、回壟楚旺、宜溝、鶴壁等數十據點，殲滅陸軍暫編第三縱隊第五總隊及河南保安司令部第三專署第四縱隊、人民自衛縱隊第一總隊等部，徹底破壞了安陽、汲縣段平漢鐵路，主力逼近安陽，圍攻湯陰，吸敵來援。
果然，王仲廉率整編第六十六師兩個旅、第四十一師1個旅、第四十師1個團和第二快速縱隊，沿平漢路東側來援，第三十二師隨後跟進。援敵進至宜溝，發現晉冀魯豫野戰軍主力後，立即縮回。劉伯承判斷：在繼續圍攻湯陰、威脅安陽的情況下，敵人仍可能來援。即令第六縱隊1個旅和冀南軍區兩個獨立旅，加緊強攻湯陰和崔橋，主力集中準備打援。第一、二集團主力合組為路東集團，第三、四集團主力合組為路西集團，以便於打援時向心突擊。13日，敵陸軍總司令顧祝同嚴令王仲廉率14個半旅為第一梯隊，分3路北援湯陰。以第三十二師為第二梯隊，在衛河岸掩護。劉伯承以小部隊作運動防禦，誘敵前進。15日，將敵誘至宜溝、屯子冊地區。16日夜，集中主力兩麵夾擊，將敵第一、二梯隊割裂，把第一梯隊包圍在衛河以北、淇河以東地區。經16、17兩晝夜激戰，殲敵第二快速縱隊全部，整編第四十一、第六十六師各一部，俘第二快速縱隊司令李守正以下9000餘人，繳獲其全部坦克和汽車，收復淇縣、滑縣、濬縣3城。
王仲廉遭此殲滅性打擊後，退縮新鄉。湯陰之敵更加孤立恐慌。劉伯承決心以第三集團攻湯陰，第二集團攻崔橋，第四集團一部在淇縣地區偵察敵情，主力集結休整備戰。
4月下旬掃清湯陰外圍據點，5月1日發起總攻。首先以滑縣戰役所繳獲的榴彈炮進行破壞性射擊，結合坑道作業，為步兵打開了突破口。經徹夜激戰，5月2日上午全殲守敵孫殿英部近萬人，俘國民黨暫編第三縱隊司令孫殿英以下7000餘人。17日克崔橋，殲頑匪王自全部2000餘人。
為了擴大戰果，相機攻取安陽並再誘殲援敵，劉伯承指揮部隊，於5月9日發起對安陽外圍據點的圍攻，經16天戰鬥，攻克據點多處，殲守敵整編第四十師兩個團和地方團隊共6000餘人，豫北戰役勝利結束，野戰軍轉人體整。豫北反攻，連續作戰近兩月，共殲敵4萬餘人，收復大片解放區。與此同時，第四縱隊和太嶽軍區部隊，殲敵1.8萬餘人，收復縣城20座。豫北、晉南反攻戰役的勝利，標誌著南線人民解放軍的戰略性反攻已經開始。而蔣介石的重點進攻，已瀕臨失敗。
劉伯承、鄧小平決心以野戰軍主力和太行、冀南軍區主力及冀魯豫軍區一部，進行豫北戰役。同時，要求各縱隊和軍區，從思想上組織上做好連續作戰兩個月的準備，以便統一行動，殲滅敵人，收復一切可以收復的失地，配合山東、陝北粉碎敵人的重點進攻。陳賡、謝富治指揮第四縱隊和太嶽軍區主力同時舉行晉南戰役。
這時，中共中央軍委指示：晉冀魯豫野戰軍主力應在晉南反擊的同時向平漢線實施進攻，專打王仲廉集團。劉伯承、鄧小平根據新鄉以北敵人防禦工事較強，迴避野戰，生怕黃河交通被切斷的特點，確定集中優勢兵力，向敵人縱深輾轉機動，調動敵人，力爭在運動中殲滅王仲廉部，相機奪取城鎮據點。打擊重點放在新鄉、黃河之間，視情況向新鄉以北擴大戰果。第一步的任務是破壞黃河鐵橋及其以北的平漢、道清鐵路，肢解敵人防禦體係，逼近新鄉，調動敵人，殲滅王仲廉部有生力量。
為了培養和提高地方武裝的戰鬥力，劉伯承、鄧小平決定集中4個縱隊和太行、冀南、冀魯豫軍區部隊混合編為4個集團。第一縱隊和冀魯豫軍區一部為第一集團。第一縱隊和冀南軍區兩個獨立旅為第二集團。第三、六縱隊為第三集團。太行軍區兩個獨立旅和第四、第五分區部隊及第十七師為第四集團。共約60個團的部隊和10萬餘民兵、20萬支前群眾參戰。劉伯承為各集團明確了分工：第一集團攻殲黃河鐵橋守敵，炸毀鐵橋，破壞坑村驛以南的鐵路，奪取陽武、原武；第三集團攻取小冀、獲嘉；主力集結小冀附近，準備打擊由新鄉南援之敵；第四集團切斷新鄉、汲縣間鐵路，圍攻潞王墳，主力打輝縣、汲縣增援新鄉之敵。另以有力一部和10萬民兵，分別向道清鐵路，平漢鐵路湯陰、汲縣段積極破擊。第二集團除以1個旅佯攻滑縣、道口外，主力進至新鄉東南張店附近侍機。
各集團於3月21日開始行動。到28日，分別解放濮陽、封丘、延津、原武、陽武等城鎮、據點多處，殲敵地方團隊一部。29日夜，第一集團擬襲擊黃河鐵橋，因狂風大作，飛沙走石，摧折樹木，人馬行進困難，延誤了時間，攻擊未成。這時，內線關係報知，汲縣守敵整編第三十二師，在解放軍進攻策應下，有一部或全部起義的可能。劉伯承看到敵第六十六師和第九師已從河南來援，王仲廉龜縮新鄉不動，斷然改變決心，首先利用內線關係，圍攻汲縣整編第三十二師。4月1日夜，圍攻開始，2日夜占領東關及外圍據點多處。不料內線工作遭敵破壞，該敵主力退守城內，攻擊受阻。同時發現王仲廉已將整編第六十六師、第九師、第三師、第四十一師等5個整編師蝟集新鄉地區，並有增援汲縣模樣，於是停止作戰，以避開優勢之敵，另尋戰機。
4月3日夜，劉伯承令各集團分路急速北進，連克淇縣城、回壟楚旺、宜溝、鶴壁等數十據點，殲滅陸軍暫編第三縱隊第五總隊及河南保安司令部第三專署第四縱隊、人民自衛縱隊第一總隊等部，徹底破壞了安陽、汲縣段平漢鐵路，主力逼近安陽，圍攻湯陰，吸敵來援。
果然，王仲廉率整編第六十六師兩個旅、第四十一師1個旅、第四十師1個團和第二快速縱隊，沿平漢路東側來援，第三十二師隨後跟進。援敵進至宜溝，發現晉冀魯豫野戰軍主力後，立即縮回。劉伯承判斷：在繼續圍攻湯陰、威脅安陽的情況下，敵人仍可能來援。即令第六縱隊1個旅和冀南軍區兩個獨立旅，加緊強攻湯陰和崔橋，主力集中準備打援。第一、二集團主力合組為路東集團，第三、四集團主力合組為路西集團，以便於打援時向心突擊。13日，敵陸軍總司令顧祝同嚴令王仲廉率14個半旅為第一梯隊，分3路北援湯陰。以第三十二師為第二梯隊，在衛河岸掩護。劉伯承以小部隊作運動防禦，誘敵前進。15日，將敵誘至宜溝、屯子冊地區。16日夜，集中主力兩麵夾擊，將敵第一、二梯隊割裂，把第一梯隊包圍在衛河以北、淇河以東地區。經16、17兩晝夜激戰，殲敵第二快速縱隊全部，整編第四十一、第六十六師各一部，俘第二快速縱隊司令李守正以下9000餘人，繳獲其全部坦克和汽車，收復淇縣、滑縣、濬縣3城。
王仲廉遭此殲滅性打擊後，退縮新鄉。湯陰之敵更加孤立恐慌。劉伯承決心以第三集團攻湯陰，第二集團攻崔橋，第四集團一部在淇縣地區偵察敵情，主力集結休整備戰。
4月下旬掃清湯陰外圍據點，5月1日發起總攻。首先以滑縣戰役所繳獲的榴彈炮進行破壞性射擊，結合坑道作業，為步兵打開了突破口。經徹夜激戰，5月2日上午全殲守敵孫殿英部近萬人，俘國民黨暫編第三縱隊司令孫殿英以下7000餘人。17日克崔橋，殲頑匪王自全部2000餘人。
為了擴大戰果，相機攻取安陽並再誘殲援敵，劉伯承指揮部隊，於5月9日發起對安陽外圍據點的圍攻，經16天戰鬥，攻克據點多處，殲守敵整編第四十師兩個團和地方團隊共6000餘人，豫北戰役勝利結束，野戰軍轉人體整。豫北反攻，連續作戰近兩月，共殲敵4萬餘人，收復大片解放區。與此同時，第四縱隊和太嶽軍區部隊，殲敵1.8萬餘人，收復縣城20座。豫北、晉南反攻戰役的勝利，標誌著南線人民解放軍的戰略性反攻已經開始。而蔣介石的重點進攻，已瀕臨失敗。