黄山市图书馆始建于2011年9月，前后历经2年3个月，于2013年12月20日正式开馆运行。作为我市公益文化设施，黄山市图书馆自开馆之日起，始终以读者为本，以读者需求为导向，把服务品质和窗口形象放在首位，于2014年12月被安徽省公共图书馆阅读推广联盟评为2014年度安徽省“十佳图书馆”，2018年5月14日获评“国家一级公共图书馆”。

黄山市图书馆位于屯溪区迎宾大道40号，毗邻黄山市城市展示馆及安徽中国徽州文化博物馆。总面积13800平方米，总投资6000万元。馆内设1850个阅读座位，2台读报机，6台馆员工作站，5部自助借还机，采用RFID技术实现借还、阅读、查询全自助；两条百兆光纤，100台阅读电脑，4000多种电子期刊，馆内wifi全覆盖，满足读者上网阅读的需要；数字图书馆、公共文化信息资源共享工程、微信平台，让读者实现远程阅读。馆藏纸质图书36.6万册，数字图书99万册。开馆以来，文献借阅量达137万册次，流通人次达140万。

黄山市图书馆现有“百大”“金太阳”“黎阳”“党建主题分馆”“徽文化主题分馆”等5个分馆和21个图书借阅点。

黄山市图书馆各项阅读推广活动、资料展览及培训讲座年参与读者达1.2万人，进一步提高了公共图书馆的社会影响力，提升了市民满意度。书法家写春联、元宵猜灯谜、“世界读书日—徽州读书节”系列活动、黄山市朗读者比赛、图书爱心捐赠、高考志愿填报讲座、青少年心理辅导、暑期大学生实践等已成为读者期待的招牌活动。少儿剧场、讲故事班、小小志愿者等满足了青少年读者的多元化需求。

黄山市图书馆在坚持发挥传统图书馆“保存人类文化遗产、开展社会教育、传递科学信息、开发智力资源”四项社会职能的基础上，扩大馆藏、深化培训、增强互动、实现技术创新，力争将黄山市图书馆打造成我市文化活动中心、地区公共信息咨询中心、引导本地区大众阅读方向和品位的先进文化传播中心，真正成为黄山市的文化名片、文化地标。