1950年春，中國人民解放軍19兵團(tuán)65軍194師582團(tuán)駐守黃渠橋。一天，解放軍指戰(zhàn)員進(jìn)賀蘭山打柴，在返回途中，遭當(dāng)?shù)赝练斯ㄗ硬筷犕狄u。激戰(zhàn)后，郭匪逃竄，582團(tuán)16名指戰(zhàn)員英勇犧牲，被分別安葬在原惠農(nóng)縣三區(qū)的三鄉(xiāng)和五鄉(xiāng)。

1953年4月，原惠農(nóng)縣縣政府在西永固鄉(xiāng)修建了惠農(nóng)縣革命烈士陵園，將分散安葬的解放軍582團(tuán)16名指戰(zhàn)員集中安葬于此。同時，將1947年8月被國民黨逮捕殺害于黃渠橋的中共地下黨員任天才（財）烈士也安葬在烈士陵園中。

1980年5月，石嘴山市委決定將烈士陵園由西永固鄉(xiāng)搬遷到大武口區(qū)園林場附近，投資4萬元，修建了石嘴山市烈士陵園，并將西永固鄉(xiāng)的17名烈士和在外分散埋葬的4名烈士墓地遷移至新陵園。 1984年8月，在烈士陵園內(nèi)修建了一座高11.78米的紀(jì)念碑。2003年，將石炭井八號泉原蘭州軍區(qū)守備第一師烈士陵園內(nèi)的16名烈士和幾位因公犧牲的軍人墓地搬遷到石嘴山市烈士陵園內(nèi)，同時新建了一座高2.3米、寬2.15米的漢白玉碑，將中央軍委原總政治部主任蕭華將軍的題詞“賀蘭雄鷹”碑文拓刻在紀(jì)念碑上。2005年9月，將烈士李雙雙的衣冠冢由原陶樂縣月牙湖鄉(xiāng)磨盤山遷移到烈士陵園內(nèi)，同時遷移入園的還有其他2名烈士。至此，在陵園安葬的烈士共計57名。

1985年該陵園被列入重點文物保護(hù)單位，2004年被命名為自治區(qū)愛國主義教育基地，2006年被確定為自治區(qū)國防教育基地。