3月23日拂曉，第三十一師乜子彬第九十三旅王鬱彬第一八五團及師騎兵連自台兒莊北上嶧縣誘敵，與自嶧縣出發沿台棗支線南下的日軍瀨穀支隊台兒莊派遣隊騎兵200餘人，步兵600餘人，坦克6輛，炮4門，在康莊（位於嶧縣南3公裏）發生遭遇戰，台兒莊保衛戰爆發。
上午10時，日軍續增300餘，炮4門，沿棗台支線向東南追擊至趙莊，與我騎兵連接戰。11時，敵再增500餘，戰車7輛、炮6門，向趙莊、前城、獐山之線壓迫，並炮擊泥溝。下午2吋，敵攻占趙莊，包圍前城，同時以猛烈炮火攻擊獐山，我副營長王保甲、連長寇寶珍率部占據有利地勢，沉著應戰。王保甲負傷不下火線。我軍手榴彈用盡，後方聯絡線被截斷，王團長多次下令後退，寇寶珍以“人在陣地在”之決心，堅持戰鬥。敵機炮聯合轟炸，我官兵百餘人，幾乎全部犧牲，獐山陷於敵手。
敵占獐山後，繼以炮火攻擊泥溝，高鴻立營據險抵抗，且戰且退，下午5時半，敵步炮10門，戰車5輛，一齊向北洛發起進攻，我簡易工事被毀殆盡，北洛中彈著火數起。一八五團王鬱彬團長率高營奮勇抵抗，斃敵甚眾，同時令顏營所部由歡堆出擊，未能奏效。激戰半小時，我官兵續有傷亡，敵攻擊益急，北洛失陷，我軍扼守南洛、賈家口。
第三十一師一八五團王鬱彬團長對來訪記者講述3月23日戰況時說：
敵人的意圖，是在奪得臨城、棗莊、嶧縣之後，想乘勝占領台兒莊，威脅徐州。這一路的敵人，當時有25000左右，以磯穀師團為主力。我方早已看透了敵人的奸計，所以一方麵將本路急調台兒莊附近堵擊，一方麵並調曾經在南口作戰的□［湯］軍向臨城、棗莊大迂迴，以圖一舉將臨棗台支線敵人消滅。首先渡過運河進駐台兒莊的，是我和烈武［王震］團長所帶領的這兩團人，當時盤據嶧縣想進犯台兒莊的敵人約有3000餘名。當時我們向旅長請示，決不等他們進犯，再去迎戰，我們要先給他們一個教訓才行。於是決定由烈武團長指揮全團把守台兒莊，由我率領本團全部北進去引誘敵人，兩麵夾擊，一舉將嶧縣的敵人消滅。計議既定，於是我便在上月23號正午向北進至泥溝車站去誘敵，該地距嶧縣隻18裏，敵人乘占嶧縣之餘威，正想南下進攻台兒莊，見我們向他來挑戰，便立時派一×［大］隊約1000餘人向我們猛衝，激烈戰事遂於該下午一時在泥溝附近開始，雙方肉搏衝鋒，敵人炮火失去效用，激戰約三小時，斃敵200餘人，我方亦傷亡百餘，並有八連連長陣亡。同時我並派便衣將泥溝迤東×村將敵人消滅一部。
這時，我見誘敵的目的已達，為的和台兒莊我軍收夾擊之效，便佯作敗退，於同日下午5時，撤至泥溝迤南8裏之北洛。7時許，敵人果跟蹤而至，全力向我攻擊，我與激戰兩小時，便又於當晚12時撤至北洛迤南5裏之□□。這時敵人距台兒莊已不過十七八裏了。1
23日晚7時，第三十一師部署變更如下：
1.師騎兵仍於蘇家埠、潘家庵附近地區，監視嶧縣敵人之行動。
2.第九三旅（欠一八六團之一營）以一部位置於南洛、賈家口、孫莊各據點，與敵保持接觸，主力控置於板橋，並以有力之一部，在今夜襲擊北洛之敵。
第一八六團（欠第三營）仍任台兒莊之守備，速構築防禦工事。該旅便衣隊著即進出獐山東北地區，極力活動。
3.九一旅以一部進駐北站附近，並對該處工事應速加強。1
是夜，九十三旅之一部襲擊北洛，未奏效。
24日清晨，天霧蒙蒙，日軍步炮兵千餘人，繞過南洛，經邵莊、劉家湖向台兒莊進攻。我部隊逐次抵抗，後退至園上，但終因敵炮火猛烈，我守兵犧牲甚眾，中午園上被敵占領。同時，敵以步炮猛攻台兒莊，又派飛機3架輪番轟炸，戰況益烈。我台兒莊守備隊奮力拚搏，打退敵人數次進犯。
三十一師師長池峰城料斷，敵以主力攻擊台兒莊之企圖非常明顯，為確保台兒莊，擬以部隊攻擊當麵之敵，乃令九十三旅先機反攻。派一八五團全部，不顧一切犧牲，向劉家湖、邵莊之敵進攻，一八六團同時全力反擊當麵之敵，規復園上村。
下午2時，第一八五團由南洛向敵繞攻，動作神速，激戰時許將敵主力擊潰，斬獲甚眾，並占領劉家湖。該村敵兵不足百人，除8名逃至村南跪地舉槍投降外，其餘全部被殲。邵莊之敵，大部向滄浪廟、邊莊潰退。我一八六團反攻園上之敵，因敵據碉樓死守，未能奏效。
下午5時，北洛之敵復向劉家湖反攻，經高鴻立營擊退。同時滄浪廟、邊莊敵人也全部反攻，炮擊猛烈。敵以優勢山野炮向台兒莊猛烈轟擊。頓時全莊煙火四起，北部城牆多毀於炮火，師指揮所所在地南車站大樓被擊毀，被迫轉移到車站南麵鐵路橋下。台兒莊寨外為開闊地帶，敵人要攻占台兒莊，迫近寨牆，完全暴露於我陣地前，在我密集火力掃射下，敵兵死傷甚眾。敵指揮官以前進受阻，又急調平射炮10餘門，配合飛機向寨牆狂轟濫炸，硝煙瀰漫，寨牆逐段斷裂倒塌，後被轟開幾個缺口。我官兵傷亡甚巨。下午6時，敵人200餘狼奔豕突沖入缺口，情勢危急。我一八六團團長王震、營長薑常泰帶領預備隊及時趕到，馬上組織反擊，集中輕重機槍向敵人猛烈掃射，殲敵大部。敵後繼部隊連續數次沖入，均被我擊退，棄城逃竄。據日本防衛廳戰史記載：
上午10時，日軍續增300餘，炮4門，沿棗台支線向東南追擊至趙莊，與我騎兵連接戰。11時，敵再增500餘，戰車7輛、炮6門，向趙莊、前城、獐山之線壓迫，並炮擊泥溝。下午2吋，敵攻占趙莊，包圍前城，同時以猛烈炮火攻擊獐山，我副營長王保甲、連長寇寶珍率部占據有利地勢，沉著應戰。王保甲負傷不下火線。我軍手榴彈用盡，後方聯絡線被截斷，王團長多次下令後退，寇寶珍以“人在陣地在”之決心，堅持戰鬥。敵機炮聯合轟炸，我官兵百餘人，幾乎全部犧牲，獐山陷於敵手。
敵占獐山後，繼以炮火攻擊泥溝，高鴻立營據險抵抗，且戰且退，下午5時半，敵步炮10門，戰車5輛，一齊向北洛發起進攻，我簡易工事被毀殆盡，北洛中彈著火數起。一八五團王鬱彬團長率高營奮勇抵抗，斃敵甚眾，同時令顏營所部由歡堆出擊，未能奏效。激戰半小時，我官兵續有傷亡，敵攻擊益急，北洛失陷，我軍扼守南洛、賈家口。
第三十一師一八五團王鬱彬團長對來訪記者講述3月23日戰況時說：
敵人的意圖，是在奪得臨城、棗莊、嶧縣之後，想乘勝占領台兒莊，威脅徐州。這一路的敵人，當時有25000左右，以磯穀師團為主力。我方早已看透了敵人的奸計，所以一方麵將本路急調台兒莊附近堵擊，一方麵並調曾經在南口作戰的□［湯］軍向臨城、棗莊大迂迴，以圖一舉將臨棗台支線敵人消滅。首先渡過運河進駐台兒莊的，是我和烈武［王震］團長所帶領的這兩團人，當時盤據嶧縣想進犯台兒莊的敵人約有3000餘名。當時我們向旅長請示，決不等他們進犯，再去迎戰，我們要先給他們一個教訓才行。於是決定由烈武團長指揮全團把守台兒莊，由我率領本團全部北進去引誘敵人，兩麵夾擊，一舉將嶧縣的敵人消滅。計議既定，於是我便在上月23號正午向北進至泥溝車站去誘敵，該地距嶧縣隻18裏，敵人乘占嶧縣之餘威，正想南下進攻台兒莊，見我們向他來挑戰，便立時派一×［大］隊約1000餘人向我們猛衝，激烈戰事遂於該下午一時在泥溝附近開始，雙方肉搏衝鋒，敵人炮火失去效用，激戰約三小時，斃敵200餘人，我方亦傷亡百餘，並有八連連長陣亡。同時我並派便衣將泥溝迤東×村將敵人消滅一部。
這時，我見誘敵的目的已達，為的和台兒莊我軍收夾擊之效，便佯作敗退，於同日下午5時，撤至泥溝迤南8裏之北洛。7時許，敵人果跟蹤而至，全力向我攻擊，我與激戰兩小時，便又於當晚12時撤至北洛迤南5裏之□□。這時敵人距台兒莊已不過十七八裏了。1
23日晚7時，第三十一師部署變更如下：
1.師騎兵仍於蘇家埠、潘家庵附近地區，監視嶧縣敵人之行動。
2.第九三旅（欠一八六團之一營）以一部位置於南洛、賈家口、孫莊各據點，與敵保持接觸，主力控置於板橋，並以有力之一部，在今夜襲擊北洛之敵。
第一八六團（欠第三營）仍任台兒莊之守備，速構築防禦工事。該旅便衣隊著即進出獐山東北地區，極力活動。
3.九一旅以一部進駐北站附近，並對該處工事應速加強。1
是夜，九十三旅之一部襲擊北洛，未奏效。
24日清晨，天霧蒙蒙，日軍步炮兵千餘人，繞過南洛，經邵莊、劉家湖向台兒莊進攻。我部隊逐次抵抗，後退至園上，但終因敵炮火猛烈，我守兵犧牲甚眾，中午園上被敵占領。同時，敵以步炮猛攻台兒莊，又派飛機3架輪番轟炸，戰況益烈。我台兒莊守備隊奮力拚搏，打退敵人數次進犯。
三十一師師長池峰城料斷，敵以主力攻擊台兒莊之企圖非常明顯，為確保台兒莊，擬以部隊攻擊當麵之敵，乃令九十三旅先機反攻。派一八五團全部，不顧一切犧牲，向劉家湖、邵莊之敵進攻，一八六團同時全力反擊當麵之敵，規復園上村。
下午2時，第一八五團由南洛向敵繞攻，動作神速，激戰時許將敵主力擊潰，斬獲甚眾，並占領劉家湖。該村敵兵不足百人，除8名逃至村南跪地舉槍投降外，其餘全部被殲。邵莊之敵，大部向滄浪廟、邊莊潰退。我一八六團反攻園上之敵，因敵據碉樓死守，未能奏效。
下午5時，北洛之敵復向劉家湖反攻，經高鴻立營擊退。同時滄浪廟、邊莊敵人也全部反攻，炮擊猛烈。敵以優勢山野炮向台兒莊猛烈轟擊。頓時全莊煙火四起，北部城牆多毀於炮火，師指揮所所在地南車站大樓被擊毀，被迫轉移到車站南麵鐵路橋下。台兒莊寨外為開闊地帶，敵人要攻占台兒莊，迫近寨牆，完全暴露於我陣地前，在我密集火力掃射下，敵兵死傷甚眾。敵指揮官以前進受阻，又急調平射炮10餘門，配合飛機向寨牆狂轟濫炸，硝煙瀰漫，寨牆逐段斷裂倒塌，後被轟開幾個缺口。我官兵傷亡甚巨。下午6時，敵人200餘狼奔豕突沖入缺口，情勢危急。我一八六團團長王震、營長薑常泰帶領預備隊及時趕到，馬上組織反擊，集中輕重機槍向敵人猛烈掃射，殲敵大部。敵後繼部隊連續數次沖入，均被我擊退，棄城逃竄。據日本防衛廳戰史記載：