姥爷曹骅鲤，毕业于东京工业大学，是留日学习机械专业的优秀人才，原本想过与世无争的生活，不料日军强暴了他的女儿并杀害了女婿，伤心欲绝的姥爷不再沉默，他用自己的方式开始报仇，残害女儿的日军被悉数杀死。一个让日军胆寒的名字“老枪”由此产生，日军派兵追杀曹骅鲤，日军的重重紧逼终于激起了他抗争的决心，曹骅鲤被逼躲进了天津减速机械厂。当日军潜艇即将研究成功之时，曹骅鲤和爱人唐玉婷做了一个重要决定，为了挽救无数个百姓的生命，为了中华大义，他们引爆了经营一辈子的工厂，就在爆炸那一瞬间，唐玉婷做了一个意外的举动，曹骅鲤被推开。
日军赶到时只发现了倒地的唐玉婷，曹骅鲤失踪，潜艇装置车间被炸毁，日军通缉曹骅鲤，唐玉婷被送往医院抢救。国军也在寻找曹骅鲤，蒋介石下了死命令。曹骅鲤潜入医院，他想自己包扎伤口时被日军医生发现，军医给特高课打去电话，曹骅鲤将他打晕。兵工厂厂长黄建强被司令员指责，日军碉堡难以攻破，只有穿甲山炮可以炸毁，黄建强知道曹骅鲤能造出远程迫击炮，通过延安发送电报至天津，天津地下党接到寻找曹骅鲤的命令。
日军残忍地杀害了曹骅鲤的工友们，然后炸毁工厂。日军高级特工牛满三郎携带日军的“西部计划”来到天津客运码头，妓女小红上前和他打招呼，牛满三郎掏出纸条后跟小红离开。曹骅鲤躲藏起来，日军四处搜捕，曹骅鲤在街上被日军追赶，所幸安全逃离。翟明泰在舞厅遇到多年前的邻居刘怡然，她记得他曾救过自己，两人聊起往事，翟明泰拿出一百个大洋定金，还劝她不要再做交际花，刘怡然答应他包月的要求。小红在街上小摊吃馄饨时被曹骅鲤叫住，曹骅鲤付账时才发现身上的钱被人偷了，小红替他付账，饭后曹骅鲤向她打听租房信息。
我姥爷1945海报
牛满三郎的尸体在大街上被发现，旅馆老板说出他死前曾和一个妓女接触，日军怀疑那是一个有计划的谋杀，牛满三郎携带的重要文件不知所踪。曹骅鲤旧伤发作，好心的小红救了他，还把他带到自己房间，军警搜查时小红让曹骅鲤赶快脱衣，她发现他腹部的伤。日军上百架飞机对晋察冀根据地，寻找曹骅鲤刻不容缓。
小红帮曹骅鲤缝合伤口并上药，他对她的帮忙表示感谢，他第一次感觉到那么落魄无助。卞家兴在党组织的安排下进入明泰机械厂，那样可以借助厂房设备制造远程炮。曹骅鲤为了解决生存问题去名泰机械应聘高级技师，他冒用李华草的名字，见到卞家兴后两人比试技能，曹骅鲤获胜，但机械厂没能留住他。
明泰机械厂故障设备被曹骅鲤说中，厂里工人们无法维修，卞家兴清楚曹骅鲤的能力，觉井在明泰机械厂见到卞家兴和刘怡然，刘怡然让卞家兴修好机器并趁机留下，明泰机械厂是日军“西部计划”的重要地点，觉井没有放松寻找曹骅鲤的行动。卞家兴仔细检查损坏设备，他认为只有曹骅鲤能把它们修好。
房东催要房租，还让曹骅鲤搬家，翟明泰找到他后把三块大洋交给他，还表示歉意，房东感觉曹骅鲤可疑，曹骅鲤跟着翟明泰来到机械厂，说明原因后卞家兴十分钦佩，机器被连夜修好。川美敏子来到天津，特高课义雄带她到司令部，司令左田为抓曹骅鲤而调回前线部队，敏子也是为曹骅鲤而来。小红夜里出云做生意时被特务带走，曹骅鲤给她送窝头时看到，他上了黄包车追赶过去。
小红被关押，曹骅鲤为救她才重出江湖，两名特务当场毙命，曹骅鲤打开门后小红逃走。小红到家后在曹骅鲤面前哭诉，他不清楚日本人为何要活埋那些风尘女子。日军发现特务尸体后判断是绝命枪所为，更加严格的搜查在天当全城展开。卞家兴向代号为黑桃尖的同志汇报情况，他奉命制造山炮。
小红在街上险被日军抓获，曹骅鲤劝她不要随便出门。曹骅鲤无意中和敏子遇到，还帮她找回被偷的钱包。曹骅鲤在街上看到刘怡然后劝她不要站在那里，刘怡然不听，结果她被日军士兵带走，曹骅鲤上前替她解围。刘怡然支开翟明泰，以便让卞家兴制造炮弹所需的物件。
王妈妈找到小红，她谎称有客人要接待，被拉走途中遇上马巡警，王妈妈想收买他时被拒绝，王妈妈只好说明那是日军的差事，马巡警把她赶走，小红脱险，但又落入巡警之手，她谎称多年来存有五百大洋，马巡警安排人跟她去取，小红借机逃回家。张大爷发烧，小红出门帮他买药，结果在街被特务追赶，津门十虎之一小虎看到她后出手相救，子弹打光后被军统特工鸳鸯所救。日军赶往小红家搜查，曹骅鲤回去时发现门口出现了很多陌生人，他推门进入，因担心小红有危险才取出枪。
