新編十四師的部隊，當然也沒有落在友軍後麵。得到了師部特務營這支新銳力量的補充以後，邱行湘組織了近千人的反擊部隊，發動了自新編十四師加入莊內戰局以來最大規模的夜襲作戰。部隊以衝鋒鎗和20響駁殼槍為前鋒，後麵緊跟著人投擲手榴彈，最後還有使用繳獲的鬼子擲彈筒和輕型迫擊炮，隨時給予前麵部隊火力支援的，每個人都學著第二集團軍的部隊一樣，背上背著一把大砍刀。所有人都分成了若幹的小組，不管三七二十一，隻要見到前麵人的頭頂上有反光，就二話不說，一通下雨一樣的子彈掃射過去，然後就是手榴彈和擲彈筒，迫擊炮彈。一旦衝進了敵陣，就立刻人自為戰，奮勇異常，手執大刀，見敵就砍就殺。在兩部分守軍幾乎同時發動的夜襲裏，鬼子忙於應付，顧此失彼，應對乏術，丟失了不少白天經過反覆拉鋸，付出驚人代價才占據的陣地。最關鍵的是，新編十四師經過和鬼子的白刃格鬥，一舉占領了台兒莊城內最重要的兩個核心建築，也是莊內的製高點，天主教堂和古清真寺。
4月4日，台兒莊內的雙方部隊，繼續展開激烈巷戰。日軍第五師團阪本支隊擊破了城外部隊的阻擊，突入城內，和瀨穀支隊會合。日軍兩個支隊合兵一處以後，繼續向莊內的守軍陣地發動猛烈的進攻，以重炮轟擊，坦克猛衝，步兵以浪式隊形不斷進攻。
劉建業知道，敵人到了這種時候，還這樣的瘋狂進攻，隻可能是最後的賭博，一旦賭博不成功，就很可能會選擇開溜。因為，雖然沒有能夠阻止阪本支隊入城，但是城外的部隊並沒有離開，而是調整了部署，配合著城內的守軍，向城內的日軍發起攻勢。處於這種不利境地情況下的日軍，如果不能取得預料的戰果，就隻能撤退，否則將會被全麵包圍，到時候能不能脫身，就不知道了。所以，劉建業沒有和以往一樣命令部隊堅守每一寸陣地，而是命令集中火力，封鎖日軍的進攻路線，在給予日軍有生力量足夠的殺傷以後，部隊可以自行選擇是否收縮防禦。前提是必須至少抱住西南角和南門不被敵人占據。得到了師長的命令，新51旅就採用了磁性戰術，始終和敵人保持接觸，以密集的步兵火力，殺傷敵人的步兵，敵人進攻的時候，逐次抵抗後撤，敵人停下來休整的時候，就發動反擊，不讓敵人有喘息的機會。同時，部隊還組織了若幹小分隊，換上鬼子的軍服，由會一些日語的軍官帶隊，滲透到敵人戰線後麵，放火，投擲炸藥，打冷槍，攪得鬼子不得安寧。
在新51旅陣地前損失了不少兵員的鬼子，發現眼前的這些對手，簡直就像牛皮糖一樣，咬不斷嚼不爛，難纏的很，而且步兵火力與自己相比根本不落下風，雖然陣地是占據了一些，可是代價實在是太大了，於是主動調整了進攻方式，把全麵進攻改成了重點進攻，集中兵力和火力進攻相對來說，火力要差一些的31師。31師麵臨的壓力驟然加大，損失直線上升。第二集團軍不斷從城外的部隊抽調兵員支援城內，才勉強保住了陣地不被敵人全部占領。為了給守軍一精神鼓勵，中國空軍出動了27架飛機再次對台兒莊東北、西北日軍陣地進行轟炸。
4日深夜，此時台兒莊孫連仲部守軍已傷亡殆盡，再也抽調不出部隊了。孫連仲強烈地意識到，再孤軍死守，將全軍覆亡，於是他向李宗仁報告說：“第2集團軍已傷亡慘重。敵人火力太強，攻勢過猛，但是我們把敵人也消耗得差不多了。可否請長官答應暫時撤退到運河南岸，好讓第2集團軍留點種子，也是長官的大恩大德。”
李宗仁聽得出，孫連仲講這番話時，語調哀婉，他深知孫的處境是何等的艱難，又是何等的悲壯，但李宗仁更清楚，台兒莊目前的重要性，他估算湯恩伯軍團第二天中午可趕至台兒莊北部，因此鼓勵孫連仲說：“敵、我在台兒莊已血戰一周，勝負之數決定於最後5分鍾。援軍明日中午可到，我本人也將於明晨來台兒莊督戰，你務必守至明天拂曉。”說完，李怕孫情緒低下，影響士氣，又下令道：“我的命令如若違抗，當軍法從事。”孫連仲以前雖和李宗仁隻一麵之緣，但聽人說過，李在戰區司令官中，屬較通情理的一位，此時此刻李下這樣的命令，深知台兒莊對整個戰役至關重要的價值，以及李宗仁對此次戰役勝利的信心。於是孫態度堅決地表示：“我絕對服從命令，整個集團軍打完為止。”孫連仲的態度，使焦急萬分的李宗仁感到有些安慰，但他總有些不放心，於是又指示孫連仲，“今夜你還須向敵夜襲，以打破敵軍明晨拂曉攻擊的計劃，則湯軍團明日中午到達後，我們便可對敵人實行內外夾擊。”孫表示部隊已用完，夜襲不容易。李聽後立即指示：“我現在懸賞10萬元，你將後方凡可拿槍的士兵、擔架兵、炊事兵與前線士兵一起集合起來，組織一支敢死隊，實行夜襲。這10萬塊錢將來按人平分。”
孫連仲將李宗仁的命令傳達後，數百人一支的敢死隊很快成立起來。
4月5日午夜，敢死隊在敢死隊長仵德厚的率領下，分組向敵出襲，衝擊敵陣。他們各個精神異常振奮。已是血戰數十天的敵軍，也精疲力竭，深夜正墜入夢鄉，聽到不知從哪來的槍聲，頓時亂作一團，一麵倉皇應戰，一麵後退。經血戰為敵所占的台兒莊各街，竟在短短不到一小時內，一舉奪回四分之三。激戰通宵，敵軍被逼退守北門一隅。此時，李宗仁不但得報孫連仲夜襲成功的喜訊，又得湯恩伯部翌日天明前可趕到台兒莊的消息，高興極了，他立即率隨員，連夜親自趕到台兒莊郊外，準備親自指揮對磯穀師團的殲滅戰。
4月4日，台兒莊內的雙方部隊，繼續展開激烈巷戰。日軍第五師團阪本支隊擊破了城外部隊的阻擊，突入城內，和瀨穀支隊會合。日軍兩個支隊合兵一處以後，繼續向莊內的守軍陣地發動猛烈的進攻，以重炮轟擊，坦克猛衝，步兵以浪式隊形不斷進攻。
劉建業知道，敵人到了這種時候，還這樣的瘋狂進攻，隻可能是最後的賭博，一旦賭博不成功，就很可能會選擇開溜。因為，雖然沒有能夠阻止阪本支隊入城，但是城外的部隊並沒有離開，而是調整了部署，配合著城內的守軍，向城內的日軍發起攻勢。處於這種不利境地情況下的日軍，如果不能取得預料的戰果，就隻能撤退，否則將會被全麵包圍，到時候能不能脫身，就不知道了。所以，劉建業沒有和以往一樣命令部隊堅守每一寸陣地，而是命令集中火力，封鎖日軍的進攻路線，在給予日軍有生力量足夠的殺傷以後，部隊可以自行選擇是否收縮防禦。前提是必須至少抱住西南角和南門不被敵人占據。得到了師長的命令，新51旅就採用了磁性戰術，始終和敵人保持接觸，以密集的步兵火力，殺傷敵人的步兵，敵人進攻的時候，逐次抵抗後撤，敵人停下來休整的時候，就發動反擊，不讓敵人有喘息的機會。同時，部隊還組織了若幹小分隊，換上鬼子的軍服，由會一些日語的軍官帶隊，滲透到敵人戰線後麵，放火，投擲炸藥，打冷槍，攪得鬼子不得安寧。
在新51旅陣地前損失了不少兵員的鬼子，發現眼前的這些對手，簡直就像牛皮糖一樣，咬不斷嚼不爛，難纏的很，而且步兵火力與自己相比根本不落下風，雖然陣地是占據了一些，可是代價實在是太大了，於是主動調整了進攻方式，把全麵進攻改成了重點進攻，集中兵力和火力進攻相對來說，火力要差一些的31師。31師麵臨的壓力驟然加大，損失直線上升。第二集團軍不斷從城外的部隊抽調兵員支援城內，才勉強保住了陣地不被敵人全部占領。為了給守軍一精神鼓勵，中國空軍出動了27架飛機再次對台兒莊東北、西北日軍陣地進行轟炸。
4日深夜，此時台兒莊孫連仲部守軍已傷亡殆盡，再也抽調不出部隊了。孫連仲強烈地意識到，再孤軍死守，將全軍覆亡，於是他向李宗仁報告說：“第2集團軍已傷亡慘重。敵人火力太強，攻勢過猛，但是我們把敵人也消耗得差不多了。可否請長官答應暫時撤退到運河南岸，好讓第2集團軍留點種子，也是長官的大恩大德。”
李宗仁聽得出，孫連仲講這番話時，語調哀婉，他深知孫的處境是何等的艱難，又是何等的悲壯，但李宗仁更清楚，台兒莊目前的重要性，他估算湯恩伯軍團第二天中午可趕至台兒莊北部，因此鼓勵孫連仲說：“敵、我在台兒莊已血戰一周，勝負之數決定於最後5分鍾。援軍明日中午可到，我本人也將於明晨來台兒莊督戰，你務必守至明天拂曉。”說完，李怕孫情緒低下，影響士氣，又下令道：“我的命令如若違抗，當軍法從事。”孫連仲以前雖和李宗仁隻一麵之緣，但聽人說過，李在戰區司令官中，屬較通情理的一位，此時此刻李下這樣的命令，深知台兒莊對整個戰役至關重要的價值，以及李宗仁對此次戰役勝利的信心。於是孫態度堅決地表示：“我絕對服從命令，整個集團軍打完為止。”孫連仲的態度，使焦急萬分的李宗仁感到有些安慰，但他總有些不放心，於是又指示孫連仲，“今夜你還須向敵夜襲，以打破敵軍明晨拂曉攻擊的計劃，則湯軍團明日中午到達後，我們便可對敵人實行內外夾擊。”孫表示部隊已用完，夜襲不容易。李聽後立即指示：“我現在懸賞10萬元，你將後方凡可拿槍的士兵、擔架兵、炊事兵與前線士兵一起集合起來，組織一支敢死隊，實行夜襲。這10萬塊錢將來按人平分。”
孫連仲將李宗仁的命令傳達後，數百人一支的敢死隊很快成立起來。
4月5日午夜，敢死隊在敢死隊長仵德厚的率領下，分組向敵出襲，衝擊敵陣。他們各個精神異常振奮。已是血戰數十天的敵軍，也精疲力竭，深夜正墜入夢鄉，聽到不知從哪來的槍聲，頓時亂作一團，一麵倉皇應戰，一麵後退。經血戰為敵所占的台兒莊各街，竟在短短不到一小時內，一舉奪回四分之三。激戰通宵，敵軍被逼退守北門一隅。此時，李宗仁不但得報孫連仲夜襲成功的喜訊，又得湯恩伯部翌日天明前可趕到台兒莊的消息，高興極了，他立即率隨員，連夜親自趕到台兒莊郊外，準備親自指揮對磯穀師團的殲滅戰。