李秉衡蒞任後，深知時局艱難，而“材輇任重，懼弗克勝”，但決心破除情麵，“殫竭愚忱”，能有一番做為。他發現山東半島兵力嚴重不足，而“籌辦海防，款無所出”。為了籌款，李秉衡釆取了兩個辦法：一是“裁併局員，節省糜費”注8；一是清庫挖潛，“移緩就急”。注9在不到半月的時間內，便籌集了三十萬兩餉銀。隨後，他親臨沿海重要口岸，審度行勢，籌辦防務。李秉衡於九月三十日離開省城，先抵登州，再至煙臺，又赴威海視察，於十月二十九日返回煙臺，歷時一月。此後，便坐鎮煙臺，居中調度。通過視察，他看到山東防務確實存在不少漏洞，如不抓緊補救，將是很危險的。於是，決心進行整頓。他主要做了以下三件事：
其一，撤換了一大批不稱職或瀆職的文武官員。如駐營登州的候補道李正榮，以“統率多營，未能辦理裕如”，“撒去統領，飭令回省供差，以策後效”注10，而以提督夏辛酉接替李職。駐紮威海後路的膠州協副將馮義德，以“於各營軍衣糧米，皆其親屬自行釆辦，在各勇營糧內任意攤扣，其隊伍亦未能精壯”，先行革職，“如查有侵蝕虛冒情弊，即當按律懲辦，以儆貪黷而肅戎行”。注11其所統福字中、前、後三營，委記名總兵李楹接帶。候補道黃璣“攬權納賄”，候補知府嚴福保“得勢妄為”，直隸州知州範一雙“借勢通賄”，淄川縣知縣“誣良為盜”注12，棲霞縣知縣陳洵“苛斂團費”注13，均即行革職。此外，還有一批文職官員被降職。經過此番整頓，山東的吏治有了起色，對安定民心。加強防務起了一定的作用。
其二，充實山東沿海一帶防線的薄弱環節。根據實地考察，李秉衡認為：“山東海防以威海、登州為最吃重，煙臺次之，膠澳又次之。威海為北洋門戶，近十年中經北洋大臣極力經營，已成重鎮。……大致尚屬完固。登州郡城與旅順對海，其北水城上即蓬萊閣，下即大洋，並無炮台巨炮，設守甚難。”他親自周曆審視，發現城西沿海有天恆山，城東海岸有沙岡十裏許，皆可安設炮位。於是，便飭防營在天恆山頂趕修土炮台，圍以後牆，並從煙臺找到五六千斤炮位數尊，遠住山頂安放。又沿沙岡趕挖長溝，築避炮的土牆，將從各地查訪出來的五六百斤和千斤廣炮，皆排列沙岡之上。他兢兢業業，努力籌劃，“期於毫無把握中力求守禦之法”。注14
其三，建議成立大支遊擊之師，以鞏固威海後路的防禦。李秉衡認為：“敵圖威海，必先由後路登岸。”注15先是，煙臺守將漢中鎮總兵孫金彪提出：“威海既為水師根本，艦攻不利，或以陸隊潛渡汊港，從後抄襲，則我全台俱難為力，非得大支援兵扼要屯紮，誠慮百密不免一疏。”注16李秉衡完全贊同孫金彪的意見，於十一月九日奏稱：“查登、萊兩郡，三麵環海，島嶼紛歧，已屬防不勝防，而武定府屬之利津、霑化、海豐等縣亦處處瀕海。前奉電旨，諭令嚴防利津海口，遵即調撥河防兩營前往駐紮。又霑化縣屬之陳家廟海口，亦可容巨艦，自應一體嚴防，復挑撥河防一營移紮該處。合觀全勢，非另有大支遊擊之師，不足以資策應。”注17
同一天，又奏：“已飭提督夏辛酉先募數營，以實登防。惟合計兵力尚單，必須另有一大支遊擊之師，以資策應。”他靖求批準招募二十營，先趕募十餘營，“總期紀律嚴明，操練純熟，一軍可作一軍之用，庶有事得所藉手。”而且，還考慮到國家財政困難，提出：“增募營餉，購買軍械需用款項，擬取給於海防捐輸，並飭藩司盡力挪借，萬不得已不敢遽請部帑。”注18設立大支遊擊之師，具有重要的戰略意義。在這個問題上，李秉衡的意見與丁汝昌不謀而合。然而，此舉卻受到種種幹擾，未能順利地實現。在對日戰爭的戰略指導上，清廷始終有一種嚴重的重京畿、遼瀋而輕山東的思想。在李秉衡籌防的過程中，清廷先是旨諭李秉衡，即飭曹州鎮總兵王連三“統帶所部馬步練軍北上，並由李秉衡抽調陸路勁旅數營，撥定糧餉，配齊軍火，一併交該總兵迅速起程，前赴津、通一帶，聽候調遣”。注19王連三北上後，紮於北塘後路的軍糧城，起不了多大的作用。可是，這不僅使山東的兵員減少，而且還支出了三個月的軍餉，以及秋季底餉、公費和津貼，不能不影響山東的防務。繼之，清廷又旨諭李秉衡飭令章高元四營和夏辛酉四營往援旅順。在李秉衡看來，登州防務與威海同樣重要，提出夏辛酉不宜遠調。清廷又重申前旨：“現在旅顧防務萬分吃緊，登州尚非敵鋒所指，盡可移緩就急，何得專顧一隅，致滋貽誤？著懍遵前旨，飭夏辛酉統帶四營，即日拔隊前往，不準刻延。”注20李鴻章也令盛宣懷電登萊青道劉含芳，勸李秉衡遵旨速派夏辛酉援旅。注21李秉衡無奈，隻好將夏辛酉所部嵩武軍撥歸章高元，共成八營，統帶東渡援旅。這樣一來，威海後路的防務更為空虛了。
盡管如此，李秉衡仍然—麵積極添募勇營，一麵調兵遣將。先是蒞任之初，他即添募興字軍四營，駐防萊州，另添募練軍一營，增防煙臺。十月上旬，將駐曹州之鬆字營馬隊和濟字副中營東調，分紮琅玡台和石臼所；又命萊州知府何鳴高招募萊邊炮隊四營，守備萊州海口。十一月，旅順危殆，威海吃緊。為加強威海後路的防禦，李秉衡飭令青州駐防之步隊一營、馬隊一營，以及駐濟南之河成左營和河定右營，前往煙臺；福字步隊二營駐威海衛城西之田村(後移上莊)，福字炮隊一營駐前雙島(後亦移上莊)。此後，威海後路便無兵可增。
其一，撤換了一大批不稱職或瀆職的文武官員。如駐營登州的候補道李正榮，以“統率多營，未能辦理裕如”，“撒去統領，飭令回省供差，以策後效”注10，而以提督夏辛酉接替李職。駐紮威海後路的膠州協副將馮義德，以“於各營軍衣糧米，皆其親屬自行釆辦，在各勇營糧內任意攤扣，其隊伍亦未能精壯”，先行革職，“如查有侵蝕虛冒情弊，即當按律懲辦，以儆貪黷而肅戎行”。注11其所統福字中、前、後三營，委記名總兵李楹接帶。候補道黃璣“攬權納賄”，候補知府嚴福保“得勢妄為”，直隸州知州範一雙“借勢通賄”，淄川縣知縣“誣良為盜”注12，棲霞縣知縣陳洵“苛斂團費”注13，均即行革職。此外，還有一批文職官員被降職。經過此番整頓，山東的吏治有了起色，對安定民心。加強防務起了一定的作用。
其二，充實山東沿海一帶防線的薄弱環節。根據實地考察，李秉衡認為：“山東海防以威海、登州為最吃重，煙臺次之，膠澳又次之。威海為北洋門戶，近十年中經北洋大臣極力經營，已成重鎮。……大致尚屬完固。登州郡城與旅順對海，其北水城上即蓬萊閣，下即大洋，並無炮台巨炮，設守甚難。”他親自周曆審視，發現城西沿海有天恆山，城東海岸有沙岡十裏許，皆可安設炮位。於是，便飭防營在天恆山頂趕修土炮台，圍以後牆，並從煙臺找到五六千斤炮位數尊，遠住山頂安放。又沿沙岡趕挖長溝，築避炮的土牆，將從各地查訪出來的五六百斤和千斤廣炮，皆排列沙岡之上。他兢兢業業，努力籌劃，“期於毫無把握中力求守禦之法”。注14
其三，建議成立大支遊擊之師，以鞏固威海後路的防禦。李秉衡認為：“敵圖威海，必先由後路登岸。”注15先是，煙臺守將漢中鎮總兵孫金彪提出：“威海既為水師根本，艦攻不利，或以陸隊潛渡汊港，從後抄襲，則我全台俱難為力，非得大支援兵扼要屯紮，誠慮百密不免一疏。”注16李秉衡完全贊同孫金彪的意見，於十一月九日奏稱：“查登、萊兩郡，三麵環海，島嶼紛歧，已屬防不勝防，而武定府屬之利津、霑化、海豐等縣亦處處瀕海。前奉電旨，諭令嚴防利津海口，遵即調撥河防兩營前往駐紮。又霑化縣屬之陳家廟海口，亦可容巨艦，自應一體嚴防，復挑撥河防一營移紮該處。合觀全勢，非另有大支遊擊之師，不足以資策應。”注17
同一天，又奏：“已飭提督夏辛酉先募數營，以實登防。惟合計兵力尚單，必須另有一大支遊擊之師，以資策應。”他靖求批準招募二十營，先趕募十餘營，“總期紀律嚴明，操練純熟，一軍可作一軍之用，庶有事得所藉手。”而且，還考慮到國家財政困難，提出：“增募營餉，購買軍械需用款項，擬取給於海防捐輸，並飭藩司盡力挪借，萬不得已不敢遽請部帑。”注18設立大支遊擊之師，具有重要的戰略意義。在這個問題上，李秉衡的意見與丁汝昌不謀而合。然而，此舉卻受到種種幹擾，未能順利地實現。在對日戰爭的戰略指導上，清廷始終有一種嚴重的重京畿、遼瀋而輕山東的思想。在李秉衡籌防的過程中，清廷先是旨諭李秉衡，即飭曹州鎮總兵王連三“統帶所部馬步練軍北上，並由李秉衡抽調陸路勁旅數營，撥定糧餉，配齊軍火，一併交該總兵迅速起程，前赴津、通一帶，聽候調遣”。注19王連三北上後，紮於北塘後路的軍糧城，起不了多大的作用。可是，這不僅使山東的兵員減少，而且還支出了三個月的軍餉，以及秋季底餉、公費和津貼，不能不影響山東的防務。繼之，清廷又旨諭李秉衡飭令章高元四營和夏辛酉四營往援旅順。在李秉衡看來，登州防務與威海同樣重要，提出夏辛酉不宜遠調。清廷又重申前旨：“現在旅顧防務萬分吃緊，登州尚非敵鋒所指，盡可移緩就急，何得專顧一隅，致滋貽誤？著懍遵前旨，飭夏辛酉統帶四營，即日拔隊前往，不準刻延。”注20李鴻章也令盛宣懷電登萊青道劉含芳，勸李秉衡遵旨速派夏辛酉援旅。注21李秉衡無奈，隻好將夏辛酉所部嵩武軍撥歸章高元，共成八營，統帶東渡援旅。這樣一來，威海後路的防務更為空虛了。
盡管如此，李秉衡仍然—麵積極添募勇營，一麵調兵遣將。先是蒞任之初，他即添募興字軍四營，駐防萊州，另添募練軍一營，增防煙臺。十月上旬，將駐曹州之鬆字營馬隊和濟字副中營東調，分紮琅玡台和石臼所；又命萊州知府何鳴高招募萊邊炮隊四營，守備萊州海口。十一月，旅順危殆，威海吃緊。為加強威海後路的防禦，李秉衡飭令青州駐防之步隊一營、馬隊一營，以及駐濟南之河成左營和河定右營，前往煙臺；福字步隊二營駐威海衛城西之田村(後移上莊)，福字炮隊一營駐前雙島(後亦移上莊)。此後，威海後路便無兵可增。