抗日战争时期，河北白洋淀的少年张嘎亲眼目睹奶奶为掩护八路军被日寇杀害，决心为奶奶报仇。他只身来到县城，寻找游击队排长罗金宝，却误将罗金宝当作汉奸，闹出笑话。误会解除后，张嘎渴望成为一名小八路，并想拥有一把枪。因过于急切，他在与胖墩打赌时耍赖，还违反纪律将战斗中收缴的真枪偷偷藏在树上的鸟窝里，再次闹出笑话。张嘎不甘心，约上胖墩再次来到县城，决定自己为奶奶报仇。在县城，他遇到鬼子龟田和胖翻译，经过一番斗智斗勇，两人未能从张嘎身上捞到好处。经历一系列事件后，张嘎从一个鲁莽捣蛋的少年成长为真正的八路军小侦察员。