1949年5月，中國人民解放軍某部八連在參加解放上海的戰(zhàn)斗之后，隨即接受了警衛(wèi)上海南京路的光榮任務(wù)。

三排長陳喜在進(jìn)駐南京路后，放松了警惕，受到資產(chǎn)階級“香風(fēng)”的熏染，忘記了我軍艱苦樸素的革命傳統(tǒng)，還說班長趙大大黑不溜秋靠邊站。妻子春妮從鄉(xiāng)下來部隊探望他，他卻嫌棄妻子太土氣。新戰(zhàn)士童阿男不請假就與同學(xué)到國際飯店吃飯，連長批評了他，他一賭氣，留下一張字條，揚長而去。

班長趙大大怎么也看不慣這大上海，鬧著要到有仗打的地方去。

另一方面，特務(wù)正在醞釀破壞行動。就在童阿男離開連隊，準(zhǔn)備和他的同學(xué)林媛媛去南京投考軍政大學(xué)時，她姐姐童阿香卻遭到特務(wù)分子的謀害。幸虧路華、魯大成及時搭救，逮捕了特務(wù)阿七，阿香才危為安。通過這件事，戰(zhàn)士們認(rèn)識到南京路上絕非“太平無事”。指導(dǎo)員路華因勢利導(dǎo)，請來老工人周德貴和童阿男的母親，講述了他們解放前的苦難遭遇及斗爭經(jīng)歷，激發(fā)了戰(zhàn)士們的革命斗志。童阿男又決心聽黨的話，做毛主席的好戰(zhàn)士。陳喜也在指導(dǎo)員的耐心幫助下，認(rèn)識到資產(chǎn)階級的毒害，看到了妻子春妮寫給指導(dǎo)員的信，更是悔恨不已。他要求組織上給他處分，決心痛改前非。

半年以后，特務(wù)老K和曲曼麗不甘心失敗，繼續(xù)策劃破壞活動。在上海人民舉行春節(jié)聯(lián)歡的時候，他們利用林媛媛的表哥、羅克文，將裝有炸彈的鮮花帶入慶祝會場。關(guān)鍵時刻，童阿男搶過將羅克文手中的鮮花，避免了爆炸事件。特務(wù)老K、曲曼麗也落入解放軍布下的天羅地網(wǎng)。

影片《霓虹燈下的哨兵》根據(jù)沈西蒙的話劇改編，原型是大家熟悉的“南京路上好八連”。影片將話劇中兩條并置的情節(jié)線作了調(diào)整，把對敵特斗爭的線索處理為背景，將鏡頭主要對準(zhǔn)部隊內(nèi)部的思想斗爭。將陳喜、童阿男、趙大大事件等多組矛盾沖突交織在一起，充分展示了主題。

《霓虹燈下的哨兵》是由現(xiàn)代話劇改編成的影片中比較成功的一部。這一方面得益于劇中多層面的矛盾設(shè)置。影片中的幾個有情趣、有特色的人物，如連長魯大成、三排長陳喜、班長趙大大、新戰(zhàn)士童阿男，尤其是春妮純樸真摯，她用畫外音讀出的寫給丈夫陳喜的信更是催人淚下，給觀眾留下深刻印象。