經過近一周的守城激烈殘酷戰鬥，台兒莊守軍傷亡慘重，到4月3日，全莊2/3已為敵有，我軍仍守南關一隅，死拚不退。敵方更調集重炮，坦克猛衝，急於攻克台莊。日本電台且宣稱已將台兒莊全部占領。我方守莊指揮官第三十一師師長池峰城，深覺如此死守下去，有全軍覆沒的危險，於是向孫連仲總司令請示，可否轉移陣地，暫時退至運河南岸。孫連仲打電話請示長官部參謀長徐祖詒請示，徐以事關重大，報告司令長官李宗仁，李宗仁長官回答：已令湯恩伯軍團迅速南下，援軍不日可到，嚴令該部死守，決不許後撤。孫連仲隨後直接打電話給李宗仁說：“報告長官，第二集團軍已傷亡7/10，敵人火力強，攻勢過猛，但是我們把敵人也消耗得差不多了。可否請長官答應暫時撤退到運河南岸，好讓第二集團軍留點種子，也是長官的大恩大德！”1
孫總司令說得如此哀婉，李宗仁也很理解、體諒，但他考慮，湯恩伯部隊明日中午可趕到台兒莊北部戰場，如果今天第二集團軍放棄台兒莊，豈不功虧一簣？因此，李宗仁堅決回答說：“敵我在台兒莊已血戰一周，勝負之數決定於最後5分鍾。援軍明日中午可到，我本人也將於明晨親來台兒莊督戰。你務必守至明天拂曉。這是我的命令，如違抗命令，當軍法從事。”2孫連仲看李宗仁態度堅決，便說：“好罷，長官，我絕對服從命令，整個集團軍打完為止。”
在電話中，李宗仁還指示孫連仲，不但要守到明天拂曉之後，今夜還須向敵夜襲，以打破敵軍明晨拂曉攻擊的計劃，則湯軍團於明日中午到達後，我們便可對敵人實行內外夾擊！孫連仲說，他的預備隊已全部用完，夜襲甚為不易。李宗仁說：“我現在懸賞10萬元，你將後方凡可拿槍的士兵、擔架兵、炊事兵與前線士兵一齊集合起來，組織一敢死隊，實行夜襲。這10萬塊錢將來按人平分。重賞之下，必有勇夫，你好自為之，勝負之數，在此一舉。”
孫連仲說：“服從長官命令，絕對照辦！”3
孫連仲與李宗仁通話後，在台兒莊內親自督戰。隨後池峰城又來電向他請求準備撤退。孫連仲命令：“士兵打完了你就自己上前線去。你填過了，我就來填進去。有誰敢退過運河者，殺無赦！”4
池師長奉命後，知軍令不可違，乃以必死決心，逐屋抵抗，任憑敵人如何衝殺，也死守不退。
下午2時，敵機4架轟炸台兒莊及西關，運河浮橋被炸毀兩孔，旋以機炮向我運河掃射，經我台兒莊部隊擊中1架，降落於三裏莊附近，當夜，三十一師派韓團吳春秋班長率隊赴三裏莊焚燒被擊落敵機，該隊由小屋子潛入機身，用汽油縱火焚燒，火光沖天，敵兵發現急忙前來撲救，當即被我擊斃數名，我焚機班安然返回，吳春秋被擢升為排長。
下午3時，台兒莊內日軍在城東南地區之敵配合下，向我軍全線總攻，我禹營、彭營防線均被突破，敵又施放摧淚瓦斯，敵之野蠻、兇殘行徑，激起我官兵無比憤怒，益激發我軍殺敵復仇之決心，我官兵以極大毅力，堅忍苦撐，士氣更加旺盛。
3日2時，日軍為解除台兒莊左側的威脅，向我右翼第二十七師大舉進犯，我園上、孟莊、彭村、邵莊、陶溝橋各村陣地均被敵突破，日軍沖入街市，與我守軍發生最激烈、最悲慘的巷戰，雙方白刃相接，殺聲震天，硝煙瀰漫，彈雨橫飛，我官兵鬥誌不減，均抱成仁最大之決心，與敵血拚到底。鏖戰至上午4時，我園上之焦營、孟莊之田營、陶溝橋之王營，彭村、邵莊之王營，官兵均傷亡慘重。尤以守備彭村王景衛營長所率該營營部及第五連為激烈、悲壯。當敵以戰車沖入彭村，又以火焰噴射器向我陣地四處火攻，掩護其步兵進攻，我陣地形勢異常險惡。王營長見狀怒火中燒，滿懷抗戰激情，裸臂督戰，激勵該營部下，今日為本營長與本營全體官兵殉職報國之最後一日，隻有殺敵，不計生命。待敵逼近，我官兵迅速以炸彈殺敵開路，接著衝上去揮刀殺敵12人，王營長不幸中彈身亡，敵將其身亂刀肢解，殘酷之極。其部下官兵目睹其營長犧牲如此英勇壯烈，無不抱復仇之決心與敵拚死惡鬥，最後全部殉難，無一倖免。我田、焦二位營長負重傷。
拂曉，當麵之敵又集中強大炮火向我陣地轟擊，隨後以步騎兵2000餘名，附戰車30餘輛，向我滄浪廟、邊莊、趙村、紀莊、丁家橋、東莊、五窯路、火石埠等處陣地猛攻。我二十七師官兵強韌抵抗，邊莊之楊團守兵曾以手榴彈炸毀敵戰車1輛，創造了炸敵車先例。戰至上午10時，我滄浪廟、邊莊、趙村、東莊、紀莊、火石埠一帶陣地，悉被敵炮轟成焦土，守兵犧牲大半，經血戰八九晝夜，該師戰鬥員兵犧牲甚眾，僅剩官兵千餘。適逢我四十四旅增援之一團，已到運河北岸，我友軍一三九師及第二師、第六師部隊，已向敵之側背襲擊，敵受威脅，不得不抽調兵力策應，我陣地方減輕壓力，至下午2時，戰況始逐趨和緩。
是日，日軍在台兒莊東南地區多次發起進攻。上午7時30分，敵集中炮火攻擊我二十七師新陣地，占領陳莊、李莊，我軍退守石拉、梁王城。
上午9時20分，台兒莊南門外敵步兵300餘、坦克4輛進占黃林莊，圖謀渡運河，時我河防空虛，台兒莊中央守備隊奉命急調一營兵力向左延伸至黃林莊之線，防敵強渡。
孫總司令說得如此哀婉，李宗仁也很理解、體諒，但他考慮，湯恩伯部隊明日中午可趕到台兒莊北部戰場，如果今天第二集團軍放棄台兒莊，豈不功虧一簣？因此，李宗仁堅決回答說：“敵我在台兒莊已血戰一周，勝負之數決定於最後5分鍾。援軍明日中午可到，我本人也將於明晨親來台兒莊督戰。你務必守至明天拂曉。這是我的命令，如違抗命令，當軍法從事。”2孫連仲看李宗仁態度堅決，便說：“好罷，長官，我絕對服從命令，整個集團軍打完為止。”
在電話中，李宗仁還指示孫連仲，不但要守到明天拂曉之後，今夜還須向敵夜襲，以打破敵軍明晨拂曉攻擊的計劃，則湯軍團於明日中午到達後，我們便可對敵人實行內外夾擊！孫連仲說，他的預備隊已全部用完，夜襲甚為不易。李宗仁說：“我現在懸賞10萬元，你將後方凡可拿槍的士兵、擔架兵、炊事兵與前線士兵一齊集合起來，組織一敢死隊，實行夜襲。這10萬塊錢將來按人平分。重賞之下，必有勇夫，你好自為之，勝負之數，在此一舉。”
孫連仲說：“服從長官命令，絕對照辦！”3
孫連仲與李宗仁通話後，在台兒莊內親自督戰。隨後池峰城又來電向他請求準備撤退。孫連仲命令：“士兵打完了你就自己上前線去。你填過了，我就來填進去。有誰敢退過運河者，殺無赦！”4
池師長奉命後，知軍令不可違，乃以必死決心，逐屋抵抗，任憑敵人如何衝殺，也死守不退。
下午2時，敵機4架轟炸台兒莊及西關，運河浮橋被炸毀兩孔，旋以機炮向我運河掃射，經我台兒莊部隊擊中1架，降落於三裏莊附近，當夜，三十一師派韓團吳春秋班長率隊赴三裏莊焚燒被擊落敵機，該隊由小屋子潛入機身，用汽油縱火焚燒，火光沖天，敵兵發現急忙前來撲救，當即被我擊斃數名，我焚機班安然返回，吳春秋被擢升為排長。
下午3時，台兒莊內日軍在城東南地區之敵配合下，向我軍全線總攻，我禹營、彭營防線均被突破，敵又施放摧淚瓦斯，敵之野蠻、兇殘行徑，激起我官兵無比憤怒，益激發我軍殺敵復仇之決心，我官兵以極大毅力，堅忍苦撐，士氣更加旺盛。
3日2時，日軍為解除台兒莊左側的威脅，向我右翼第二十七師大舉進犯，我園上、孟莊、彭村、邵莊、陶溝橋各村陣地均被敵突破，日軍沖入街市，與我守軍發生最激烈、最悲慘的巷戰，雙方白刃相接，殺聲震天，硝煙瀰漫，彈雨橫飛，我官兵鬥誌不減，均抱成仁最大之決心，與敵血拚到底。鏖戰至上午4時，我園上之焦營、孟莊之田營、陶溝橋之王營，彭村、邵莊之王營，官兵均傷亡慘重。尤以守備彭村王景衛營長所率該營營部及第五連為激烈、悲壯。當敵以戰車沖入彭村，又以火焰噴射器向我陣地四處火攻，掩護其步兵進攻，我陣地形勢異常險惡。王營長見狀怒火中燒，滿懷抗戰激情，裸臂督戰，激勵該營部下，今日為本營長與本營全體官兵殉職報國之最後一日，隻有殺敵，不計生命。待敵逼近，我官兵迅速以炸彈殺敵開路，接著衝上去揮刀殺敵12人，王營長不幸中彈身亡，敵將其身亂刀肢解，殘酷之極。其部下官兵目睹其營長犧牲如此英勇壯烈，無不抱復仇之決心與敵拚死惡鬥，最後全部殉難，無一倖免。我田、焦二位營長負重傷。
拂曉，當麵之敵又集中強大炮火向我陣地轟擊，隨後以步騎兵2000餘名，附戰車30餘輛，向我滄浪廟、邊莊、趙村、紀莊、丁家橋、東莊、五窯路、火石埠等處陣地猛攻。我二十七師官兵強韌抵抗，邊莊之楊團守兵曾以手榴彈炸毀敵戰車1輛，創造了炸敵車先例。戰至上午10時，我滄浪廟、邊莊、趙村、東莊、紀莊、火石埠一帶陣地，悉被敵炮轟成焦土，守兵犧牲大半，經血戰八九晝夜，該師戰鬥員兵犧牲甚眾，僅剩官兵千餘。適逢我四十四旅增援之一團，已到運河北岸，我友軍一三九師及第二師、第六師部隊，已向敵之側背襲擊，敵受威脅，不得不抽調兵力策應，我陣地方減輕壓力，至下午2時，戰況始逐趨和緩。
是日，日軍在台兒莊東南地區多次發起進攻。上午7時30分，敵集中炮火攻擊我二十七師新陣地，占領陳莊、李莊，我軍退守石拉、梁王城。
上午9時20分，台兒莊南門外敵步兵300餘、坦克4輛進占黃林莊，圖謀渡運河，時我河防空虛，台兒莊中央守備隊奉命急調一營兵力向左延伸至黃林莊之線，防敵強渡。