黄山山体主要由燕山期花岗岩构成,垂直节理发育,侵蚀切割强烈,断裂和裂隙交错,长期受水溶蚀,形成花岗岩洞穴与孔道。全山有岭30处、岩22处、洞7处、关2处。黄山的第四纪冰川遗迹主要分布在前山的东南部。
黄山集八亿年地质史于一身,融峰林地貌、冰川遗迹于一体,兼有花岗岩造型石、花岗岩洞室、泉潭溪瀑等丰富而典型的地质景观。前山岩体节理稀疏,多球状风化。后山岩体节理稠密,多柱状风化,山体峻峭,形成了前山雄伟、后山秀丽的地貌特征。
黄山群峰林立,素有三十六大峰,三十六小峰之称,雄伟的莲花峰、平旷的光明顶、险峻的天都峰并称黄山三大主峰,雄居在景区中心,周围还有77座千米以上的山峰,群峰叠翠,有机地组合成一幅有节奏旋律的、波澜壮阔、气势磅礴、令人叹为观止的立体画面。因而黄山有天下第一奇山之美称。也是全国唯一拥有世界文化遗产、自然遗产和世界地质公园三顶世界桂冠的景区。