南山寺南背靠丹霞山，北面向九龍江，原名「報劬崇福禪寺」，是唐開元年間（公元713～741年）太子太傅陳邕所建，至明朝才改稱南山寺。寺內現存建築群為清末重修，具有唐代的風格。寺內的歷史古跡以「南山寺五寶」最為著名，它們分別是重達650多公斤的大銅鐘、用天然石筍雕刻的佛像、血書滑緣經、光緒帝御賜藏經及緬甸玉佛。
在這五樣寶貝中，以緬甸玉佛最為珍貴，它是由純漢白玉石雕琢而成的，是清末年間從緬甸運回的，目前中國僅存三尊，南山寺的這尊是最大的。
大雄寶殿的左角懸掛一口直徑三尺八寸，高五尺六寸，重650多公斤的大銅鐘。它本是唐朝鑄造，元朝延佑六年(1319年)擴建寺院時重新鑄造，鍾上有元朝住持僧右愚的題銘。鐘聲洪亮，幾里路外還可聽見。
大雄寶殿的左側有一個石佛閣，閣中有一巨大的石筍，聘請石匠名師把它雕成彌陀佛像。佛像連蓮花座高達一丈六尺，造型優美，俗稱大石佛。是一干多年前唐代藝術珍品。高6米，全石筍高15米多，大半埋入地下，露出地面僅有7米左右。