白馬寺始建於東漢永平十一年（公元68年），是佛教傳入中國後第一座由官府建造的寺院，歷來被尊為中國佛教的「祖庭」和「釋源」。據傳寺名因「白馬負經」的典故而得。白馬寺屢經戰亂，數度重建，如今的白馬寺面積不大，步行遊覽景區完全沒有問題。
遊客由山門進去寺內，山門是明代所建，山門外兩旁的石雕馬是宋代的遺物。寺內現有五重大殿，坐落在一條中軸線上，其中主殿是第二重殿大佛殿，也是做法事的主要場所。在第三重殿大雄殿內，擺放著白馬寺的「鎮寺之寶」——中國僅存的元代「夾貯干漆造像」。殿內的23尊元代「夾苧干漆」造像，形態各異，全都是由絲、麻製成，每尊重量僅有3到5公斤，從元代至今700多年來未經修繕，仍然色彩如新。
白馬寺中還保存著自唐代以來的歷代碑碣40餘座，以元代書法家趙孟頫手書的《洛京白馬寺祖庭記》最為珍貴（在山門的東側）。景區內還有三座墓地值得一看：攝摩騰和竺法蘭兩位印度高僧的墓地（在山門內東西兩側），以及宰相狄仁傑的墓地。但也有一個說法：「狄仁傑之墓」中埋葬的不是狄大人，而是武則天的「面首」薛懷義，薛懷義曾經做過白馬寺的主持。
在山門外東南約200米處，有一座齊雲塔，創建於東漢，金代重修，是中國第一座佛塔，也是中原地區為數不多的金代古建築之一，這裡還是中國第一座比丘道場（尼姑庵）。
如今在白馬寺旁又新建了一個「世界佛殿博覽區」，以展示印度、泰國、斯里蘭卡、尼泊爾、緬甸、日本、韓國等國家風格的佛教殿堂。