1936年秋，上海，中共上海地下党中层负责人向亦鹏得到了组织中另一名负责人邹凯林身份暴露的消息。向亦鹏曾经在黄埔军校的同学——国民党特务处驻上海特别行动组组长阎天指挥抓捕邹凯林。
向亦鹏的公开身份是上海东亚大酒店的经理，在这一身份的掩护下秘密进行着革命工作。邹凯林被阎天抓获，他的被俘一时间使中共地下党组织陷入被动。向亦鹏在直接上级“看门人”的安排下，立即展开对邹凯林的营救，撤销联络站、转移家属、制定营救方案。与此同时，上海青帮杜老大的一批烟土生意亦跟邹凯林有关，杜老大指使手下方孝一定要找到邹，以绝后患。
向亦鹏启用我党地下组织在国民党特务处内部的卧底“猫眼”，探明了阎天押解邹凯林的路线。我党上海地下组织成员余铭真带领数名快枪手埋伏在路上，当押解邹凯林的车开进伏击圈时，以方孝为首的青帮成员突然从旁杀出，余铭真等人在意外之余果断出击，现场形势大乱，激烈的枪战中，本来已经解救出来的邹凯林竟然又自己跑回特务处那边，令余铭真大为不解，面对敌人的强大火力只能命令撤退，营救行动失败。
为了从阎天的手上抢回邹凯林，组织上派余铭真伪装成向亦鹏的女友，协助向亦鹏的工作。阎天在一处公墓附近发现了酷似自己和向亦鹏的旧时玩伴——林璇的身影，勾起了他对往事的回忆，他感觉林璇就在上海。
谍影重重之上海剧照
杜老大让手下将邹凯林及其情妇灭口。原来，邹凯林在从事我党工作时，又兼做黑道生意，为逃避我党对他进行调查，他认为只有躲到国民党特务处的牢里才是最安全的，便故意暴露身份被国民党特务处抓获。
为了尽快离开上海，作为交换条件，邹凯林将自己手中掌握的两条线索透露给阎天，使阎天不仅抓获了邹凯林的上线，并与其安插在我党上海地下组织中的内线“A”取得联系，欲查出谁是“猫眼”。向亦鹏在邹凯林的情人家中找到秘密账本，发现一切都在其计划之中。此时，向亦鹏接到“猫眼”的情报，得知邹凯林已叛变，国民党特务处特别行动组组长阎天将亲自将邹凯林押往南京。为了安全地将邹送到南京，足智多谋的阎天制定了数个方案，他在特务处的死对头赵兴为了抢功，委托青帮杜老大在押运途中将邹凯林劫走，此事正中杜老大的下怀。
阎天让邹凯林安插在我党地下组织中的内线“A”尽快调查出谁是“猫眼”。这时，码头游侠游闲海偷窃了杜老大的一批烟土，杜老大怀疑此事跟邹凯林被捕有关。
阎天亲自押送邹凯林，半路上方孝带着手下杀出，将车上的邹凯林打死。阎天跑到原先设定的地点伏击，而向亦鹏却觉得事有蹊跷，并没有出击。原来，车上被打死的人并不是真的邹凯林，而是替身，这是阎天为了引出各方势力而设下的圈套。向亦鹏带着手下安全撤离，阎天伏击中共地下党的计划落空，他意识到自己遇上了真正的对手。
杜老大在未能除掉邹凯林前不敢得罪赵兴，为给对方交代惩治手下方孝，后派其调查黑市上那批烟土究竟被何人所抢。
曾经与向亦鹏和阎天是童年及少年时期的玩伴的林璇，再次回到上海与阎天邂逅，三人重聚首。林璇得知向亦鹏已有女友余铭真，心中不免有些失落。
阎天“明修栈道，暗度陈仓”企图避开中共与上海青帮的追杀，将邹凯林从水路转移。但最终被向亦鹏识破，码头上，扮装成搬运工的向亦鹏果断出枪，叛徒邹凯林饮弹赴黄泉。向亦鹏发现地下党内部有阎天的眼线，即邹凯林安插在我党上海地下组织中的内线“A”，欲在内部进行追查。
