彪炳史册的临汾战役，牺牲了数千名党和人民的好儿女，是他们的鲜血染红了临汾大地，解放了受苦受难的临汾人民。临汾市人民政府为了让临汾人民世世代代不忘先烈的丰功伟绩，于1958年在城南尧庙宫北面建起了烈士陵园，集中安放了烈士遗骨。
此后，经过多年的修葺补建，植树栽花，现今已成了一座亭台厅堂错落有致、松柏花卉随风飘香、风景优美、肃穆雅静的园林。 陵园座北向南，高耸巍峨的人民英雄纪念碑雄踞中心。
朱德元帅的亲笔题词“革命烈士永垂不朽”镌刻于纪念碑正面；左侧“为人民利益而死无上光荣”的题词是当年临汾攻坚战总指挥徐向前元帅的手迹；右侧为建国初期的山西省省长王世英同志的题词“勇冠三军，气盖一世，抗日寇，歼顽敌，热血铸成胜利；汾流聚秀，姑射垂青，为和平，争自由，英雄造福社会”；后侧为省委书记陶鲁笳同志的题词“烈士壮志换来新天”。除此，园内还建有仿古式门楼、憩亭、“临汾攻坚”展览馆、《革命英雄纪念馆》、《临汾建设成就》展览厅、骨灰堂，以及回廊、假山、曲径、喷泉等。这些建筑设计精美，布局得体。在建筑四周，冬青为篱，松柏点景，群芳竞荣争奇斗艳，五彩纷呈，相映成辉。人民英雄纪念碑左右的两行雪松，系1987年山西省顾委全体委员所植；烈士公墓前的40株雪松则为中国人民解放军“临汾旅”纪念临汾解放40周年所栽。这些为缅怀革命先烈而栽植的松柏，在陵园职工们的辛勤培育下，生长茁壮，四季碧绿，充实了陵园的景观，也为陵园增添了生气。
纪念碑背后的小广场上，一字排列着5座存放烈士遗骨的砖砌圆顶公墓。墓前立有石碑，镌刻着烈士英名；墓门两侧雕镂着省城书法名家撰写的楹联，由西向东分别为： 烈士披金甲历经满川风雨；陵园郁青松锁住远岭云霞。 发时代精神红星照天地；颂英雄业绩歌曲动陵园。 英烈首创攻坚战；光华永垂卧牛城。 松柏森森迎风霜而挺立；香花阵阵荐烈士之英灵。 梁霍山高烈士功丰山溢秀；唐虞史久兴邦业大史开新。 这些楹联，庄重古雅，笔力雄劲，激人感奋，充分表达了临汾人民对革命先烈的无比敬仰与怀念之情。陵园长年开放，天天都有前来凭吊烈士的游人。
每年清明节和临汾解放纪念日——5月17日，临汾各机关、厂矿、学校和驻军都结队来这里向革命烈士敬献花圈，参观“临汾攻坚”展览，接受革命传统教育。亦有部分本地或外地烈士家属，专程来此扫墓，悼念亲人。这里已成为对青少年进行革命传统教育和革命英雄主义教育的好课堂。
