1944年夏，隱藏在上海的共產黨物資站“51號兵站”由于叛徒程路出賣，被漢奸馬浮根迫害，運往蘇中新四軍的物資渠道被掐斷。為了盡快恢復蘇北新四軍的后勤供給，中共華東局委派新四軍某部作戰科長梁宏（本名范云洪），以青幫“小老大”的身份前往上海重建51號兵站。梁宏的父親是上海幫會“義展堂”的堂主，家境顯赫。此次回來他正是以范家“小老大”的身份作掩護，一邊了解上海復雜環境，一邊設法聯系51號兵站幸存的同志。“小老大”的突然出現，不僅讓范家大管家李墨林頗感驚訝，同時也引起了大特務馬浮根和黃元龍乃至日本憲兵隊隊長田中敏行的疑慮，梁宏一回到上海就被馬浮根派人盯上。黃云龍在吳淞口截獲了一批盤尼西林，正準備送出上海的時候被馬浮根派人搶走，而這批藥主人是和馬浮根關系親密的國民黨軍統女特務徐曼麗。為了擺脫特務的跟蹤，梁宏借著拜訪在日本留學時候的老師凇原教授同時，和田中見上了一面，鎮住了他周圍的特務，暫時打消了馬浮根的懷疑。老師盤尼西林的出現使得上海幾股大勢力都蠢蠢欲動，梁宏和助手胡阿強幾經周折終于和51號兵站的同志楊顯庭、宋振中取得上了聯系，并制定好了搶藥計劃，準備在馬浮根賣藥的時候奪走藥品。大管家李墨林按照青幫的規矩為小老大拉場子，請來同是青幫弟子的馬浮根和黃云龍。宴會上，馬浮根用幫會行話試探梁洪，梁宏沉著冷靜，應對如流，使馬浮根雖有疑慮卻無可奈何。同時在馬浮根賣藥的樹林里，黃云龍的手下打退了馬浮根的偵緝隊，而真正的盤尼西林卻被老楊他們從徐曼麗手里搶走。梁宏在青幫的亮相，不僅贏得了李墨林的信任，還和黃云龍拉近了關系，打開了吳淞口通往蘇中根據地的交通要道。叛徒程路在身份被暴露后，依仗日本人和馬浮根在上海大肆實施恐怖活動，梁宏利用程路和黑幫的矛盾，不動聲色地干掉了他。程路的死使得田中和馬浮根察覺到了共產黨的存在，又開始把懷疑的目光集中在梁宏身上。梁宏偽裝成日本人從馬浮根手里搶走了無縫鋼管，狡猾的田中知道這批必然會從吳淞口運走，就讓馬浮根包圍住吳淞口，結果從梁宏的船上只搜出一臺渣油機。馬浮根的幾次失敗讓田中臉面盡失，一怒之下把馬浮根貶到了吳淞口。馬浮根表面上被處分，實際上在暗中監視著吳淞口。徐曼麗發現田中時刻在阻礙她和馬浮根的物資交易，派殺手在田中和龜田的交接宴會上鋤掉了田中，馬浮根卻因禍得福又重新回到了上海。馬浮根利用他的吳淞口買通的特務提供的情報，在吳淞口抓住了老楊。龜田和馬浮根在日本憲兵隊擺下“鴻門宴”宴請梁宏……