玉門關建於東漢年間，又稱小方盤城，隨絲綢之路的興盛而繁盛起來，曾經是西域商賈和中原人士絡繹往來的必經之地。因為和田美玉自古從這裡輸入中原，所以被人稱為玉門關。曾隨絲綢之路的三通三絕而屢次興廢，最後終於淪為廢墟。
真正使玉門關聲名大噪則是來源於古人的文學作品，其中以王之渙的《涼州詞》最為膾炙人口：「黃河遠上白雲間，一片孤城萬仞山。羌笛何須怨楊柳，春風不度玉門關。」詩句悲壯蒼涼，引發人們對古老邊塞的嚮往。
如今玉門關與漢長城、河倉城出售聯票。說是聯票，其實更像是過路費。從敦煌走西線前往雅丹魔鬼城時，車輛都會經過這段公路，過路即需要付玉門關的聯票（也是這段公路的過路費）。既然門票必須要付，走敦煌西線的遊客都會到此一遊，合影留念。
來到玉門關若想見識古代城關的雄偉繁榮大多會失望，因為隨著千百年來歲月的侵蝕，玉門關早已損失了當年的樣貌。現在的玉門關看似一個夯土堆的遺跡，呈方形，高約10公尺，長寬20多公尺，由四面土牆壁組成，在土牆的西北兩面各開一門。
雖已沒有了當年的壯觀，但進入茫茫戈壁之上挺立的小城，可以在廢墟中想像當年的盛景，感歎歷史和時光的滄桑變化，懷古之情油然而生，莫不是一種特別的體驗。城牆前是一塊大石碑，上書「小方盤城遺址」，在城牆另一邊較遠處有另外一塊石碑，上寫「玉門關遺址」，可以前往拍照留念。
另外，在城北邊100公尺處，有戈壁上奇跡般出現的一片濕地，名叫哈拉湖，生有大片蘆葦，可以觀賞。