此碑为了纪念“大禹治水”而立，根据历史传说，大禹治水途中，获得仙人帮助，找到治理河道的方法，于是率领百姓开山凿石，在岳麓山扎营，耗费数年，终于成功消除水患，赢得民众爱戴，与之刻立石碑，之后大禹将治理河道的金简玉书，用磐石压在石碑之下。
湖南省长沙市的河西岳麓山北峰，发现一块“神秘碑文”，与黄帝陵、炎帝陵共称“中华民族三大瑰宝”，它就是《禹王碑》，原刻发现于衡山岣嵝峰，又称岣嵝碑，南宋何致将其刻于长沙岳麓山，宽140厘米，高184厘米，碑文9行，共计77字。
经考证，《禹王碑》距今已有4000多年，乃中国最古老的名刻，韩愈曾为其题诗，内容曰：“岣嵝山前神禹碑，字青石赤形朴奇。蝌蚪拳身薤叶披，鸾飘凤泊拿蛟螭”，刘禹锡也写道：“常闻祝融峰，上有神禹碑。古石琅玩姿，秘文璃虎形”。
