1946年八年抗戰剛剛結束。內戰在東北一觸即發。在復雜的國內外環境中，東北境內政治土匪活動猖獗，到1946年冬天，已經對民主改革形成致命威脅……《林海雪原》講述的就是在這樣一個復雜的歷史背景下，一隻驍勇善戰的小分隊與在東北山林盤踞多年的數股土匪鬥志鬥勇的故事。女縣長鞠萍率領的工作隊正在夾皮溝開展土改，深夜遭到奶頭山匪首許大馬棒的突襲。危難中通訊員白茹突出重圍向牡丹江民主聯軍二團部求救，途中被進城買糧食的團部炊事員楊子榮所救……鞠縣長的親弟弟二團參謀長少劍波帶兵火速援救夾皮溝，可土匪已逃之夭夭。由於土匪作戰的遊擊特性，軍分區領導決定由少劍波組建一支精幹的小分隊深入林海雪原追剿土匪，並要求他們尋找出一張標有牡丹江地區潛伏特務分布情況的地下聯絡圖。少劍波意識到局勢的嚴峻和自己身上責任的重大，精心挑選了一批身懷絕技的戰士，如身高力大的"坦克"劉勛蒼，夜行千里的"長腿"孫達得，攀緣能手欒超家等等。軍分區田司令則將身邊懂得土匪黑話，了解東北風情的炊事員楊子榮安排進了小分隊。少劍波聽說老楊身上有很多江湖氣息，成分復雜，不太想接受，礙於田司令員的命令，決定先讓他當夥夫，看看再說……白茹也央求田司令替她說情，積極要加入小分隊為鞠縣長報仇……駐紮在牡丹江的蘇聯紅軍突然包圍了二團團部並繳了械，楊子榮從跟隨蘇聯紅軍的翻譯身上看出了破綻，夜裡和坦克溜出團部，在大煙館活捉了正和土匪串謀陷害民主聯軍的翻譯，解除了危機。楊子榮也因此贏得了少劍波和小分隊其他成員的初步信任。小分隊第一站決定駐紮夾皮溝摸清匪情，沒想到他們剛到，原土改工作隊的房子就不明不白地著了火，楊子榮在火場發現了一隻可疑的破舊膠皮鞋，決定以此為突破深入偵察。楊子榮和劉勛蒼密林偵察數天終於發現了重要情報，膠皮鞋的主人是個小爐匠，真名欒平，是奶頭山的聯絡副官，楊子榮在沒有打草驚蛇的情況下活捉了欒平……在審問欒平的過程中發現在夾皮溝寄居多年的外鄉女人槐花失散多年的老公就是奶頭山的土匪"老北風"，而槐花也無意中發現楊子榮居然就是在山東老家和她訂過親的楊宗貴。楊子榮因此開始琢磨如何裡應外合剿滅奶頭山的辦法……首先，他們通過頂替欒平接捻子，捉到了土匪刁占一，從刁占一打開了欒平的缺口。頑固不化的欒平終於供出地下聯絡圖由他老婆保管，並交代出聯絡圖全是日文，他根本看不懂。藏匿大煙土的地點也只有奶頭山的老北風和軍需副官胡彪最清楚。為了進一步掌握敵情，少劍波派楊子榮等去尋找欒平老婆，自己則去趕集。集市的不太平讓少劍波分析到各路土匪為了加緊找尋聯絡圖，都坐不住了。他決定盡快剿滅奶頭山。楊子榮和孫達得在尋找欒平老婆期間，發現了對奶頭山了如指掌的蘑菇老人。白茹治好了蘑菇老人的病，贏得了老人的信任。經過蘑菇老人的詳細介紹，少劍波了解到形勢的嚴峻和作戰的困難。欒超家則對蘑菇老人提到的鷹嘴崖產生了興趣……楊子榮設計活捉了下山接捻子的老北風，並借助槐花的力量讓老北風裡應外合，打了個措手不及，將奶頭山一舉殲滅。奶頭山取得的巨大勝利使小分隊士氣高昂，少劍波鼓勵群眾生產自救，啟動了日偽時期留下的小火車頭，夾皮溝的第一列火車開到了牡丹江。小火車的開動使土匪們氣急敗壞，他們要給立足未穩的小分隊點顏色……小火車運行遭到土匪的伏擊，負責押車的高波等戰士英勇犧牲，而隨車送到牡丹江受審的小爐匠欒平卻中途溜走了。欒平在火車上同樣被抓獲的土匪處得知他老婆被威虎山的土匪挾持的消息，溜到土匪聯絡點神河廟了解情況。被守在外面偵察的楊子榮等人發現，突然襲擊搜廟，摧毀了據點繳獲了電臺，從欒平手中救出了李月娥，欒平滾下山崖……李月娥流產大出血，白茹英勇獻血。小分隊安排李月娥住在槐花家中，槐花竟然在李月娥棉襖的夾層中發現了一張聯絡圖。可是，軍分區卻無法破譯這張聯絡圖……少劍波總結了小火車被炸的教訓，按照軍分區的指示準備攻打大鍋盔。但是大鍋盔是平原，小分隊的馬追不上土匪的爬犁。少劍波從蘇聯紅軍的記錄片中想到了滑雪，軍分區派來了蘇軍少校薩沙前來教小分隊滑雪，很快就在茫茫林海裡出現了一支行動飛快的滑雪小分隊……隨後，小分隊充分利用集體智慧和滑雪的優勢，"將計就計"、"調虎離山計"、"毀巢切屁股"、"槽頭炸馬"、"林海雪原大周旋"等一系列的智勇之戰，將林海雪原中的大鍋盔山和四方臺上4個旅的匪徒逐一剿滅。此時的楊子榮也已經不是當初滿身江湖氣的炊事員老楊頭，已經成長為一個智勇雙全的偵察英雄。他將各路匪徒的情況摸得清清楚楚，並與孫達得、老北風一起活捉了日本女特務野田清子，巧妙地利用馬的特性設計擊斃了胡彪，找到了大煙土。老北風也因此得到了田司令的親自接見，正式加入了民主聯軍。這些性格、外表、年齡、出身迥然不同的革命軍人，在共同的剿匪戰鬥生涯裡逐漸結下了比同志更親密的兄弟情誼。為了徹底消滅最後也是最頑固的威虎山上的頑匪，少劍波和楊子榮數夜未眠，共同上演了一出機智壯烈的"智取威虎山"……
