徐州市图书馆始建于 1930 年，曾为“江苏省立徐州图书馆”。现有藏书 130万余册；其中古籍近 10 万册， 包含国家珍贵古籍25部，江苏省珍贵古籍163部，其中的孤本和清雍正年间铜活字版《钦定古今图书集成》尤为珍贵。

徐州市图书馆现坐落于徐州市南郊风景秀丽的云龙山东麓，面对泰山路，东邻著名的淮海战役烈士纪念陵园。总占地面积2.67万平方米，建筑面积2.15万平方米，为主体两层，局部四层的大型建筑物。其设计藏书容量为 160万册（件），可摆放阅览座位1000多个，预装信息节点700多个；设计日均接待读者 2000人次，年借阅文献100余万册（件）次。

本馆奠基于 1999年11月18日，是年12月中旬正式开工；2003年末建成，是年12月8日正式宣布对外开放。 作为城市标志性建筑和地方文化象征的徐州市图书馆，地处美丽的云龙风景区内，与背倚的云龙山势相掩映，正面为宽阔的广场绿地，大环境优雅宁静；楼体中央设计的两个天井不仅解决了室内采光问题，使楼内也平添无限绿色小景，真正体现出人与自然的和谐统一。

本馆的外观庄严厚重、典雅气派。其建筑设计风格既突出了徐州历史的渊远凝重和文化内涵的深厚博大，与徐州历史文化名城的汉文化底蕴相契合，具体标志为屋顶的五个大小各异、高低错落的汉代风格四角亭和楼体立面的樱花红色花岗岩外墙；又体现出徐州基本现代化、并不断开拓进取的精神风貌和改革开放所取得的巨大成就，具体体现为大体量的楼宇和错落有致的楼层。具有与之相应风格特点的室内装饰，主要集中展现在馆内大厅中。大厅中央黑色大理石基座的米黄色大理石方柱直贯屋顶，象征徐州人气冲霄汉的时代精神；硕大的玻璃采光屋面使室内明亮舒畅，象征着徐州人胸襟坦荡宽广；特别是二层回廊四周的汉画像石拓片，在现代化风格的装饰氛围中突现了徐州汉文化的深厚历史内涵。

本馆建筑采用模数式设计，框架结构，同柱网、同层高（4.8米）、同荷载（500公斤／平方米）、大空间，具有很好的开放性、扩展性、互换性和灵活性。基于此，图书馆真正实现了文献的藏、借、阅一体化，充分体现出以人为本的服务思想。在功能布局上，将公共服务区与内部办公区、读者借阅区与活动区、传统型服务和管理区与现代化服务和管理区、读者流与非读者流、普通读者流与特殊读者流、人流与物流等合理有机地分离流转。从读者服务而言，一层主要为普通图书外借和读者自修区，二层主要为期刊阅览室和电子阅览室，三层主要为古籍书库、参考阅览室及读者自修区。为适应现代多元化发展需求，还配备了展览区、多功能厅以及休闲区；特别是采用计算机与通讯技术网络化管理后，读者不仅可以在馆内局域网通过电脑快捷地实现借阅、查询、检索、上网，还可以在办公室或家中远程登录图书馆网站，便捷地完成书目查询、图书到期续借、预约预借、新书查询、馆藏电子文献浏览或下载以及其他网络图书馆服务业务。