光緒二十八年（1902）秋，上諭準許洪述祖開復原官，以候選知縣分發湖北。[27]他在漢口兩年多，曾擔任漢口清丈局坐辦、漢口厘局交涉文案兼辦鄂中洋務交涉、漢陽府夏口廳發審委員等，特別是曾任漢口警察第二局總辦，經歷了漢口警察從無到有的創辦過程。[28]在此期間他還於光緒三十年受鄂撫端方之命，與都司黎元洪等帶勇乘輪赴湘，將在湖南抓獲的著名會黨首領曾幗漳提解至鄂正法。洪述祖與黎元洪相識，應當就在此時。事後兩江總督魏光燾和已調署江蘇巡撫的端方奏保洪述祖免補本班，以同知仍留原省補用，奉旨依議。[29]光緒三十一年正月湖北鹽法道繼昌調任江漢關道後，整頓警務，因洪述祖“兼差重疊，氣焰甚張”，“將洪所辦各要差一律撤委，並擬詳參，經人緩頰始止”。[30]洪述祖見不能立足，遂於4月間自漢口警察第二局總辦職任告退，結束了其在漢口兩年多的工作。[31]
辭去漢口警察第二局總辦職務後，洪述祖憑藉私人關係重返上海。其時，正值安徽紳商籌築全省鐵路，該省京官呈文商部請奏明朝廷派李經方為總辦，奉旨依議。[32]李經方遂在滬設立安徽全省鐵路駐滬通信接待所，自九月初一日（9月29日）起辦公。[33]洪述祖受命擔任駐滬坐辦，於是年底協助李經方謀劃創立蘇、浙、閩、贛、皖五省鐵路總會，但因信用不孚，各方態度消極，未有結果。[34]
除協助李經方辦理安徽鐵路事宜外，據陳去病記述，洪述祖還幫助李經方在滬經理房地產事務。刺宋案發生後，陳曾撰《洪述祖醜史補遺》一篇記述其事，並及洪當時在滬生活情況：
洪蔭之者，安徽省徽州府歙縣西鄉之西坑人也……至丁未來上海，因以安徽同鄉名義，結識李伯行經方。時李方經營滬寧車站東首之愛而近路一帶房屋，乃即囑洪為之監督，並經理放租事宜。於是洪遽擇其善者為己住宅，而以旁捨出租。時餘方偕同誌組織國學保存會，設藏書樓以供人士披覽，其屋即從洪租得也。洪既與餘等為鄰，又見琳琅滿室，車馬駢闐，便思托人介紹，欲以書籍相寄。奈為同人所拒，洪竟無如之何。每當夕陽西下，僅與其私人徘徊於藏書樓之門外，約略有所刺探，作一二不滿之語而已。然其人雖被擯，其家僅與餘等隔一垣，故諸凡瑣屑事輒有所聞，今亦不暇詳紀。惟有一事，足見其人之凶暴者，則虐待家中奴婢是。時其家約有奴婢多名，年約二十許，暇時則露台作嬌態，調笑謔浪，又無所不至。雜唱男女相悅之詞，至為淫俚俗鄙，不堪入耳，幾不識人間有廉恥事者。然一經呼喚，輒翩然而入。入來片時，即又聞呼叱聲、枰擊聲、鞭撻聲與哀號聲，紛然迭起。久之，餘或登樓檢書，則往往聞啜泣聲，唏噓猶未已也。[35]
光緒三十三年（1907）夏，李經方出任駐英公使，所定隨員名單中本有洪述祖，“嗣以不孚輿論，遂行撤去”。[36]先是在光緒三十一年或三十二年，洪述祖便已在奉天捐得道員雙月選用，接著又捐三班分指直隸試用，於光緒三十三年九月二十八日（1907年11月3日）驗看，十月初五日（11月10日）由吏部帶赴內閣，經欽派王大臣驗放，奉旨照例發往直隸，於十月二十三日（11月28日）到省。[37]直隸總督楊士驤先後劄委他擔任全省水利總局會辦、洋務局會辦、印花稅局會辦、度量權衡局會辦等多個差使。[38]一年試用期滿甄別，楊士驤給他的考語是“精明幹練，頗知大體，堪列優等”，奏請留省補用。[39]宣統元年（1909）楊士驤病死任上。是年冬，護理直督崔永安任命洪述祖為中德合資井陘礦務局總辦。[40]洪到任後，曾代表井陘礦務局就京漢鐵路運煤減價事與郵傳部交涉，態度強硬，引起郵傳部強烈不滿。[41]又與法國東方匯理銀行於宣統二年五月簽署抵押借款合同，準借庫平海關白寶銀75萬兩，以發行三批債票為擔保，每批25萬兩。“為使債票更有擔保起見，礦務局將該局井陘縣或其他地方現有或日後取得之各種動產與不動產抵押給銀行及其繼承人或轉受人。”[42]此舉在當時曾引起輿論質疑。宣統二年十一月初二日（1910年12月3日），洪述祖被直督陳夔龍以“聲名平常，罔知自愛，心粗膽大，辦事荒謬”為由，奏請革職。[43]而據報紙披露，洪述祖被革職的真正原因是他在辦礦過程中有謀利行為，“私與德人（實為法人——引者）訂立合同，借款七十五萬兩，但顧回扣之小利，竟忘將來之大害”。[44]
革職後的洪述祖居留天津，與曾經長期擔任袁世凱幕僚的傅增湘交往密切。傅增湘也曾提到洪述祖“以管井陘礦局，擅貸外債，為陳督部筱石（夔龍）所劾罷”，並說他曾去安慰洪述祖，不料洪述祖一點也不沮喪，反而說：“吾自推命運，今歲當得奇禍，茲以官事褫職，殊可喜也。”[45]傅增湘還詳細描述了洪述祖在天津的奢華生活，謂：
光宣之交，（述祖）以道員待補於津門，與餘相谉，頗至傾挹，文宴過從，月必數集，狂言怪論，恆驚座人。性嗜奢華，精治肴饌，廚夫月給，等於幕賓。嚐謂：生我者父母，養我者廚子，雖置之五倫之一可也。治第於河北車驛之右，與顏韻伯（清末天津畫家——引者）望衡而居。高樓華廈，陳設精麗，曾導餘周覽內外，庖湢皆列，鹹有思致。家有四妾，懼其逸也，設為重門，出則嚴扃，攜鑰而去，令其竹戲（打麻將）以遣日。樓巔有平台，而高其垣及肩，謂以便家人憑眺，而禦者不得窺其姝麗，以內樓正對車室也。此皆其親以語餘者。然亦多雅嗜，書畫文籍，鑑別殊精。今篋中所藏鈔本《楚檮杌》《忠烈事實》二書，猶君所持贈，雲居閩中時得之傅節子家，知餘好明季野史，謂此君家物，可傳刻之。[46]
辭去漢口警察第二局總辦職務後，洪述祖憑藉私人關係重返上海。其時，正值安徽紳商籌築全省鐵路，該省京官呈文商部請奏明朝廷派李經方為總辦，奉旨依議。[32]李經方遂在滬設立安徽全省鐵路駐滬通信接待所，自九月初一日（9月29日）起辦公。[33]洪述祖受命擔任駐滬坐辦，於是年底協助李經方謀劃創立蘇、浙、閩、贛、皖五省鐵路總會，但因信用不孚，各方態度消極，未有結果。[34]
除協助李經方辦理安徽鐵路事宜外，據陳去病記述，洪述祖還幫助李經方在滬經理房地產事務。刺宋案發生後，陳曾撰《洪述祖醜史補遺》一篇記述其事，並及洪當時在滬生活情況：
洪蔭之者，安徽省徽州府歙縣西鄉之西坑人也……至丁未來上海，因以安徽同鄉名義，結識李伯行經方。時李方經營滬寧車站東首之愛而近路一帶房屋，乃即囑洪為之監督，並經理放租事宜。於是洪遽擇其善者為己住宅，而以旁捨出租。時餘方偕同誌組織國學保存會，設藏書樓以供人士披覽，其屋即從洪租得也。洪既與餘等為鄰，又見琳琅滿室，車馬駢闐，便思托人介紹，欲以書籍相寄。奈為同人所拒，洪竟無如之何。每當夕陽西下，僅與其私人徘徊於藏書樓之門外，約略有所刺探，作一二不滿之語而已。然其人雖被擯，其家僅與餘等隔一垣，故諸凡瑣屑事輒有所聞，今亦不暇詳紀。惟有一事，足見其人之凶暴者，則虐待家中奴婢是。時其家約有奴婢多名，年約二十許，暇時則露台作嬌態，調笑謔浪，又無所不至。雜唱男女相悅之詞，至為淫俚俗鄙，不堪入耳，幾不識人間有廉恥事者。然一經呼喚，輒翩然而入。入來片時，即又聞呼叱聲、枰擊聲、鞭撻聲與哀號聲，紛然迭起。久之，餘或登樓檢書，則往往聞啜泣聲，唏噓猶未已也。[35]
光緒三十三年（1907）夏，李經方出任駐英公使，所定隨員名單中本有洪述祖，“嗣以不孚輿論，遂行撤去”。[36]先是在光緒三十一年或三十二年，洪述祖便已在奉天捐得道員雙月選用，接著又捐三班分指直隸試用，於光緒三十三年九月二十八日（1907年11月3日）驗看，十月初五日（11月10日）由吏部帶赴內閣，經欽派王大臣驗放，奉旨照例發往直隸，於十月二十三日（11月28日）到省。[37]直隸總督楊士驤先後劄委他擔任全省水利總局會辦、洋務局會辦、印花稅局會辦、度量權衡局會辦等多個差使。[38]一年試用期滿甄別，楊士驤給他的考語是“精明幹練，頗知大體，堪列優等”，奏請留省補用。[39]宣統元年（1909）楊士驤病死任上。是年冬，護理直督崔永安任命洪述祖為中德合資井陘礦務局總辦。[40]洪到任後，曾代表井陘礦務局就京漢鐵路運煤減價事與郵傳部交涉，態度強硬，引起郵傳部強烈不滿。[41]又與法國東方匯理銀行於宣統二年五月簽署抵押借款合同，準借庫平海關白寶銀75萬兩，以發行三批債票為擔保，每批25萬兩。“為使債票更有擔保起見，礦務局將該局井陘縣或其他地方現有或日後取得之各種動產與不動產抵押給銀行及其繼承人或轉受人。”[42]此舉在當時曾引起輿論質疑。宣統二年十一月初二日（1910年12月3日），洪述祖被直督陳夔龍以“聲名平常，罔知自愛，心粗膽大，辦事荒謬”為由，奏請革職。[43]而據報紙披露，洪述祖被革職的真正原因是他在辦礦過程中有謀利行為，“私與德人（實為法人——引者）訂立合同，借款七十五萬兩，但顧回扣之小利，竟忘將來之大害”。[44]
革職後的洪述祖居留天津，與曾經長期擔任袁世凱幕僚的傅增湘交往密切。傅增湘也曾提到洪述祖“以管井陘礦局，擅貸外債，為陳督部筱石（夔龍）所劾罷”，並說他曾去安慰洪述祖，不料洪述祖一點也不沮喪，反而說：“吾自推命運，今歲當得奇禍，茲以官事褫職，殊可喜也。”[45]傅增湘還詳細描述了洪述祖在天津的奢華生活，謂：
光宣之交，（述祖）以道員待補於津門，與餘相谉，頗至傾挹，文宴過從，月必數集，狂言怪論，恆驚座人。性嗜奢華，精治肴饌，廚夫月給，等於幕賓。嚐謂：生我者父母，養我者廚子，雖置之五倫之一可也。治第於河北車驛之右，與顏韻伯（清末天津畫家——引者）望衡而居。高樓華廈，陳設精麗，曾導餘周覽內外，庖湢皆列，鹹有思致。家有四妾，懼其逸也，設為重門，出則嚴扃，攜鑰而去，令其竹戲（打麻將）以遣日。樓巔有平台，而高其垣及肩，謂以便家人憑眺，而禦者不得窺其姝麗，以內樓正對車室也。此皆其親以語餘者。然亦多雅嗜，書畫文籍，鑑別殊精。今篋中所藏鈔本《楚檮杌》《忠烈事實》二書，猶君所持贈，雲居閩中時得之傅節子家，知餘好明季野史，謂此君家物，可傳刻之。[46]