唐代著名的「茶聖」陸羽，曾品天下泉水20種，認為廬山康王谷洞簾水為第一，無錫惠山新泉為第二。繼他之後，劉伯芻曾言：「水之宜茶者七：揚子江中泠泉第一，惠泉第二，虎丘第三……」。由陸、劉兩位品茗專家品的惠山泉均列第二，可見其不同凡響。
從此以後，歷代均有名人來此游賞，唐代詩人李紳稱其為「人間靈液」。宋徽宗御題「源頭活水」，且譽為貢品，「月進百壇」。蘇東坡慕名多次品泉，題詩「獨攜天上小團月，來試人間第二泉」。明代著名畫家文征明，與友人茶會於惠山, 興會所致揮毫作了《明文征明惠山茶會圖卷》這一珍貴畫卷，現珍藏故宮博物院。
但惠山泉的出名，顯然不僅僅是泉水本身，每年秋季陰曆七月半的晚上，一輪皓月就會倒映在池中，稱之為「二泉映月」。近代盲人音樂家瞎子阿炳據此創作的《二泉映月》名播天下，抒發了人們對美好生活的無限憧憬。1985年，此曲在美國被灌成唱片，並在流行全美的十一首中國樂曲中名列榜首，成為美國唯一接受的一首中國音樂。日本著名指揮家小澤征爾曾說過，「這首歌是要跪著聽的」，可見它的魅力之大。