徐州图书馆实行党支部领导下的馆长负责制，下设八部一室，即图书外借部、期刊部、图书典阅部、少年儿童图书馆、技术信息部、采编部、社会工作部、后勤保障部和办公室。

图书馆外借部：开展图书借阅服务，是图书馆读者服务工作的重要窗口。主要负责办理馆藏图书文献的借阅服务，管理外借书库、阅览区和出纳台，宣传推荐图书，指导读者阅读等。

期刊部：负责本馆连续出版物的收藏、管理和开发利用。对到馆期刊进行验收登记、上架陈列、整理装订、标引编目、目录组织及典藏管理；组织期刊的流通工作，编制有关专题、主题、期刊目录索引和文摘、汇编、通报等二三次文献，最大限度地开发各种信息资源。

图书馆典阅部：负责总书库、古籍库、参考咨询室和读者自修区的管理工作。主要负责全馆图书的入库、分配、调剂、剔除，指导读者使用书目索引和工具书，解答读者的咨询，开展课题查询、定题服务等业务工作。

少年儿童图书馆：开展面向少年儿童的借阅服务，组织少儿读书活动，辅导少儿阅读等。

技术信息部：负责图书馆自动化系统、网站、电子阅览室的管理与维护。重点开发本馆的特色数据库，普及读者的计算机基础知识。

采编部：根据图书馆的性质、任务以及读者的需求，通过各种途径不断计划采购和补充新书，充实馆藏，建立科学、完整的藏书体系，开展文献资料的采购协调，对馆图书进行验收、登记、分类、标引、编目、加工，为文献的流通借阅作必要的准备。

社会工作部：负责徐州市图书馆学会的日常工作。主要负责基层图书馆的业务辅导，开展读者活动和图书馆对外宣传等工作。

后勤保障部：负责图书馆固定资产管理与维护、馆容管理、总务后勤、安全保卫、设备运行、保洁绿化等工作。对图书馆地下室、消防监控室、收发室以及保安保洁人员进行管理。

办公室：是图书馆决策的执行部门，是全馆业务、行政工作综合协调指挥部门，协助馆长检查各部门岗位职责的执行情况、工作计划的完成情况。主要对图书馆的党务、行政、业务、财务等方面进行日常管理。