故事發(fā)生在偽滿洲（20世紀(jì)三四十年代日本在中國東北地區(qū)扶植的傀儡偽政權(quán)）時期的哈爾濱。夏天的一個夜晚大雨滂沱，當(dāng)?shù)鼐焓鸬木抉T江楚正在監(jiān)視一棟俄式紅頂洋樓。

幾天前，馮江楚收到情報，得知當(dāng)?shù)赜幸幻麘T偷金大膽盯上了洋樓打算行竊。馮江楚單槍匹馬蹲守在附近，準(zhǔn)備抓捕金大膽。

忽然，馮江楚聽到洋樓里傳來一聲慘叫，他立刻飛奔來到洋樓外敲門，片刻之后，照料洋樓的老仆人給他開了門。當(dāng)他進入后，發(fā)現(xiàn)深夜的洋樓內(nèi)漆黑一片，突然，天空中一道驚雷閃過，走廊盡頭的房門自動打開，房間內(nèi)站著一個人，正是大盜金大膽。只見金大膽神情驚恐，右手指著門口的方向，一動不動。老仆人被眼前這一幕嚇得倒在地上暈了過去。

第二天，金大膽離奇死在洋樓的新聞不脛而走，當(dāng)?shù)貓蠹埓笏列麄鲌蟮溃暦Q洋樓鬧鬼，一時間大街小巷議論紛紛，人心惶惶。

這天晚上，馮江楚獨自來到了中央大街的一家飯店吃飯，城內(nèi)日本特務(wù)科的情報員劉亞漢攔住了他。劉亞漢對馮江楚一番威逼利誘，想要讓他放棄調(diào)查洋樓的事情。見馮江楚不肯答應(yīng)，劉亞漢又搬出日本憲兵隊長關(guān)根大佐的名號，馮江楚卻軟硬不吃，雙方不歡而散。

馮江楚下定決心再次夜探洋樓。夜色中的洋樓透著莫名的陰森，馮江楚進入洋樓內(nèi)，再次來到金大膽死亡的房間，經(jīng)過調(diào)查，發(fā)現(xiàn)屋內(nèi)擺著一架造型古樸的梳妝臺。他用力推開梳妝臺，點燃火柴摸索了一番后，竟然找到了一個機關(guān)，打開后赫然是一條密道。

正當(dāng)馮江楚想要進入密道查看的時候，突然聽到外面的樓梯口傳來一陣詭異的腳步聲，馮江楚警惕地握緊手槍。隨著擰動門把手的聲音，門打開了，一個白色女子的身影飄了進來。對方像是籠罩在一團迷霧當(dāng)中，讓人看不清面容。馮江楚又驚又怕，以為自己見到了鬼樓的幽靈。卻沒想到，身后的窗戶內(nèi)忽然跳進幾個黑影，此時洋樓內(nèi)的燈光也亮了起來。原來女子和黑影都是埋伏在洋樓內(nèi)的抗聯(lián)戰(zhàn)士。馮江楚決定幫助抗聯(lián)戰(zhàn)士們。

特務(wù)劉亞漢也悄悄尾隨進入樓內(nèi)，偷聽到了馮江楚跟抗聯(lián)戰(zhàn)士的談話。第二天，劉亞漢將情報匯報給了日本憲兵隊長關(guān)根大佐。

關(guān)根大佐聽了匯報后，立刻計上心頭，打算在樓內(nèi)上演一出好戲。第二天，關(guān)根大佐聲稱鬼樓事件已經(jīng)驚動了關(guān)東軍司令部，因此決定親自調(diào)查鬼樓背后的真相，并委派馮江楚帶隊對鬼樓展開搜查。關(guān)根大佐還找來了4名自稱是“鬼魂專家”的手下，打算在當(dāng)天午夜進入鬼樓“抓鬼”。

馮江楚不愿出賣抗聯(lián)戰(zhàn)士，磨磨蹭蹭地帶人進入大樓。但讓他沒想到的是，日本特務(wù)似乎早就知道內(nèi)情，直接打開了密道入口，并威逼馮江楚進入密室。密室內(nèi)存放的是密密麻麻的軍火。危急時刻，抗聯(lián)戰(zhàn)士及時趕到，制服了日本特務(wù)。

馮江楚決定利用關(guān)根大佐的自負自大，設(shè)下巧妙計策。他殺死了兩名“鬼魂專家”，并假裝中毒昏迷不醒。關(guān)根大佐得知后怒不可遏，他本想抓“鬼”，沒想到偷雞不成蝕把米，反而死了兩名得力手下。

這時，劉亞漢又來匯報說，他在洋樓的房間內(nèi)找到了新的線索，發(fā)現(xiàn)了一封沒燒完的密信。從信中的內(nèi)容來看，藏匿在樓里的抗聯(lián)戰(zhàn)士已經(jīng)撤出了哈爾濱。關(guān)根大佐本打算順藤摸瓜抓捕抗聯(lián)組織，見此密信，只好決定連夜將樓內(nèi)的軍火搬走。

當(dāng)晚，關(guān)根大佐帶著馮江楚、劉亞漢等人一起進入洋樓，并吩咐憲兵小隊將樓的外圍封鎖。馮江楚帶領(lǐng)關(guān)根大佐等人進入密室，找到了存放的軍火。幾人一番交談，徹底揭開了洋樓背后的秘密。

原來，洋樓內(nèi)藏有一批地下黨籌集的軍火，但九一八事變發(fā)生以后，日本人占領(lǐng)哈爾濱，導(dǎo)致洋樓內(nèi)的軍火無法轉(zhuǎn)移。關(guān)根大佐早有所知，他本想以這批軍火為誘餌，抓捕前來取軍火的抗聯(lián)組織成員，卻沒想到那天晚上，金大膽潛入洋樓，發(fā)現(xiàn)了密道的入口。他被身后的人偷襲并打倒在地，而偷襲他的人正是樓內(nèi)的老仆人——潛伏在此的日本高級特務(wù)小野。馮江楚因為追蹤金大膽，也來到了洋樓外，特務(wù)小野來不及毀尸滅跡，只好將尸體用特殊手法固定，放在房屋內(nèi)，制造金大膽是驚嚇而死的假象。事后，關(guān)根大佐故意散播樓內(nèi)鬧鬼的消息。如此一來，這棟無人敢靠近的鬼樓，除了想要拿回軍火的抗聯(lián)組織和想要抓捕地下黨的日本人之外，就不會有其他人靠近。

關(guān)根大佐命令劉亞漢和小野制服馮江楚，并除下了他的武器，打算將軍火全部搬走后，將馮江楚關(guān)在密室內(nèi)活活困死。只是他萬萬沒有想到，身旁的劉亞漢突然反水，用槍指著關(guān)根大佐。原來，劉亞漢竟然是潛伏在日本特務(wù)機關(guān)內(nèi)的中共地下黨員。

關(guān)根大佐自以為運籌帷幄，卻沒想到魔高一尺道高一丈，抗聯(lián)組織早就掌握了情報，為了能夠順利轉(zhuǎn)移這批重要的軍火，他們利用劉亞漢這根插入敵人心臟的釘子，制定了這場誘敵深入的計劃。劉亞漢其實一直在故意引導(dǎo)關(guān)根大佐掉進他設(shè)好的陷阱中。與此同時，抗聯(lián)戰(zhàn)士早就換上日本憲兵的軍裝，坐上了裝滿軍火的卡車。

此時的關(guān)根大佐悔之晚矣，他搬起石頭砸了自己的腳，被劉亞漢和馮江楚蒙面押送上車。

至此，一場危機終于解除，馮江楚跟隨穿著憲兵隊軍服的抗聯(lián)戰(zhàn)士堂而皇之地離開了這幢“鬼”樓，將這批軍火安全送出。