因其形狀很象農家麥垛而得名麥積山。據史書記載，麥積山石窟開建於十六國後秦時期（公元384～417年），西魏文帝修崖閣，重興寺院。北周年間，秦州大都督李允信為亡父造七佛閣。隋文帝建「神尼舍利塔」，現山頂舍利塔為清代重建。石窟現保存北魏、西魏、北周、隋、唐、五代、宋、元、明、清等各窟194個，泥塑像、石刻像7000餘身。
因為地處多雨地區，所以壁畫保存較少，現存1300多平方米。石窟建築完全按照中國國傳統風格，沒有莫高窟的中心塔柱似洞窟。而大批精美塑像多為隋代以前製作，這比莫高窟經歷代重修重建的塑像更加有歷史價值。麥石山石窟的地理位置接近中原，所以集合了中原文化的精華，和雲岡石窟、四川大足石刻、黃澤寺石窟的風格相互影響作用。
麥積山石窟的造像最高大者達16公尺，最小者僅為10餘公分。其中第44窟造像被稱為「東方的維納斯」。西秦的78窟、128窟的造像的僧衣細致地繪出了圖案。建於70餘米高的的七佛閣上塑像俊秀，過道頂上殘存的壁畫精美絕倫，其中西端頂部的車馬行人圖，無論從哪個角度看車馬所走方向均不相同，堪稱中國壁畫構圖之經典之作。
從景區大門到石窟山底的停車場約有3公里，此處可以步行或乘景區區間車，車票單程5元，往返為10元。如果對佛教內涵比較感興趣的話可以在售票處僱請一位導遊，導遊費每5人以內團隊為50元，超過5人後每超一人收費10元。
到達麥積山底後便可看到眼前的孤山一整面巖壁全部裸露在外，除此之外周圍隨處都是綠意盎然，景色秀麗。而裸露的這一面巖壁上則修築了一層層的懸空棧道，懸空棧道非常險要，最高處有六百多公尺，在棧道之間開鑿了多座大大小小的洞窟和佛像，在山下拍照非常壯觀。
遠觀之後便是近距離參觀佛窟，麥積山石窟的遊覽路線十分簡單，只要沿著山體間修築的木製棧道層層而上，沿途一座座石窟參觀即可。腳下的木製棧道現在好多已用水泥加固，所以向下觀看雖會有些刺激嚇人，但還是非常安全的。麥積山石窟保存完好，現在除了少部分特窟不對外開放，大部分都在供遊客參觀。步行在棧道上時，可以看到在一開始佛窟的規模並不壯觀，佛像較小，而且好多使用了鐵絲網保護起來。不過越往後走，佛像的規模就越大，也不再進行隔絕，而且很多窟內佛像都有多尊，十分壯觀。
在參觀石窟時，可以著重觀賞一下135窟（天堂洞）、142窟、37窟、127窟、44窟等，其中既有反映佛教故事「八王爭舍利」中的激烈戰爭場面的特殊刻畫，也有造型精美的飛天造像，都是石窟中的精品，又各具特色。