黑油山位於克拉瑪依東北部，距市中心兩公里多。其外觀是一個不高的山丘，相對高度只有13米，面積約0.2平方千米。整個山丘成黑色，地表凹凸不平，由被石油浸染的砂岩或被石油凝結的沙礫岩構成，由於石油中揮發份的溢散，地表大面積呈乾燥狀。
克拉瑪依在維吾爾語為「黑油」，故這個天然石油瀝青丘且得名黑油山，這座黑色的瀝青山以及它地下埋藏的石油在這裡已沉睡上億年。山丘上還有多處油泉，形成眾多小油沼，中間是不斷湧出的油泡，油呈粘稠狀，色澤黝黑，油質為珍貴的低凝原油。在山丘的頂部，有一座1982年立的花崗岩石碑，呈菱錐狀，高2.5米，正面書刻「黑油山」三個大字。
黑油山四周景致不凡，東臨魔鬼城，西接瑪納斯河小拐綠洲，背倚成吉思汗山。附近現已建成一座黑油山公園，園內孤島上有一小亭，亭旁立了3棵2億多年前的松樹化石，為罕見珍品。為發揚艱苦創業精神，新疆石油管理局和克拉瑪依市1982年10月1日在黑油山樹立了近3米高的石雕紀念碑和一尊維吾爾老人騎著毛驢彈奏熱瓦普的塑像。