1939年，山西汾梁山，日军炮火向我八路军阵地发起攻击，八路军奋力反抗，战斗异常激烈。赵传奇在山中无意中看到被日伪军追赶的八路军，见日伪军追赶过来之后赵传奇慌忙逃走。日伪军来到小王庄村搜寻受伤的八路，赵传奇得知受伤的八路被师娘所救，日军准备带走20名老百姓，受伤的八路听到日军喊话后想出去时被赵传奇师娘打晕过去。
赵传奇听说乡亲们被抓走后赶往太原城，他在绑架太原城日本商人西川，还将他弄出太原城，此事震动整个汾梁山区。赵传奇没有回东汾，他判断日军在路上有埋伏，真传奇决定带人重返太原城，他们去了翠红楼躲藏，西川被藏在箱子里也带到了翠红楼。
一队日军被国军追赶至一个峡谷，日军狙击手小野开枪狙击目标，国军看到山上的尘土后急忙撤退。太原地下党组织得知日本人被绑架之事，他们判断是江湖土匪所为。赵传奇在翠红楼没引起别人注意，老鸨想打开箱子时被赵传奇看到，他及时地阻止了她。
小野在去太原的路上听说西川被绑架，他重回日军职务。赵传奇来翠红楼是因为它正好在日军宪兵司令部隔壁，小野判断西川肯定还在太原城中，日军在城中四处搜查，还把目标锁定到翠红楼。赵传奇动用了师娘的私房钱让人出去买药，狗剩听到外面日军的声音后十分害怕，赵传奇假装镇定在房内唱戏。
小野在翠红楼里没能找到西川，西川被赵传奇扮成戏子糊弄过去，当小野回去后仔细想了一下才知道上当，当小野再次返回翠红楼时发现赵传奇等人不见了，他派人去卧虎山搜查。狗剩为了引开日军扮作赵传奇，小野追上后开枪把他打伤后带走，狗剩在日本宪兵司令部趁机自杀。赵传奇从日军告示上看出狗剩已死，他要让小鬼子走着瞧。
赵传奇想把太原城闹个天翻地覆，他扮作搬运工混入日军军火库，军火库被炸也打乱了八路军的作战计划，这也引来了一场让他意想不到的灾祸。八路军得知绑架西川的人在山洞中，他们引开日军后见到赵传奇。
赵传奇向八路军承认是他炸毁了日军军火库，他们为了军火库行动也准备了一个多月，日军在山洞中发现一口空箱子，八路军要求赵传奇放了西川，赵传奇认为只要能杀日本鬼子不分手段。日本迫于压力放了小王庄的老百姓，赵传奇知道后放西川回去，他也想杀他，可信义二字在赵传奇心中的分量很重，西川只好跪下向死难的亡灵道歉。
赵传奇回去后向师娘认错，师娘没有责怪他，赵传奇要多杀鬼子给狗剩报仇，师娘劝他去投八路军，赵传奇感觉八路有名无实，师娘向他说起被救的八路军叫冯四宝，赵传奇这才得知冯四宝战斗的事迹，他答应去参加八路军的队伍，只是没想到那里会有那么多的条条框框，更没想到等待他的是仇人的出现。
赵传奇在队伍上见到冯四宝，他的故事还被编成快板流传开来。赵传奇初入八路军不太适应，他见到刘教导员的到来，刘教导员希望他能改掉自由散漫的习惯，刘教导员了解了赵传奇和魏二寡妇之间的关系。
赵传奇晚上骑人被队长处罚，他向冯四宝问起教导员的官职，刘教导员解释的政治让赵传奇并不明白，冯四宝还想让赵传奇当二中队的队长，刘寒石也是因为暴露才离开太原城，他对赵传奇炸毁日军军火仓库表示愤慨，刘寒石不同意将二中队交给赵传奇，但冯四宝坚持看好赵传奇，最后由赵传奇担任二中队副队长之职。刘寒石将马玉生被调到大队部当文书，马玉生让赵传奇向吴大力赔理道歉。
赵传奇向吴大力道歉让他很为难，他听完马玉生的话后十分生气，赵传奇冲上去和他打起来，随后队伍发生争斗，冯四宝赶过去劝阻赵传奇，还和他立下规矩。冯四宝轻而易举地将赵传奇摔倒在地上，赵传奇没想到他身手那么好，但赵传奇还是趁机将冯四宝扛了起来。刘教导员对赵传奇进行政审，赵传奇讲起在翠红楼的事情，还说刘教导员是那里的常客，这让他十分生气。
赵传奇生气之下想离开，收到日军前来的消息后找冯四宝分配任务。他们在袭击日军时提前暴露，日军发现后冲向八路军阵地，情急之下双方只好交火，赵传奇巧不听指挥带人盲目冲下去，冯四宝只好带人往来下冲锋，但他们完全暴露在日军的炮火之下。
冯四宝眼看同志们冲上前去白白牺牲，赵传奇回头时看到冯四宝被日军开枪打死，冯四宝是他心目中的英雄，留下赵传奇心里的只有报仇，他毅然带人冲上去和日军展开肉搏。
赵传奇挥动着柴刀和日军搏斗，见大队日军赶来后他让人赶快撤退，这一仗让他们损失惨重。赵传奇看着牺牲的冯四宝十分难受，他让人先把大队长的遗体抬回去。日军向一中队发起不断冲锋，刘教导员派人去营救他们，赵传奇也接到命令，他认为方法不对。
刘教导员没有听从赵传奇的建议，他只好回去等着，赵传奇想起了冯四宝生前的话，他准备全力进攻日军的汽车，那叫围魏救赵。赵传奇带人冲向日军汽车，那里的防守相对薄弱一些，日本慌忙调动兵力。
