中山大学图书馆创办于1924年，初名广东大学图书馆，由广东高等师范学校、广东政法专门学校、广东农业专门学校和广东公医学校的藏书合并而成，其历史可追溯到1906年建立的两广优级师范学校藏书楼。1926年改名为国立中山大学图书馆。1952年全国高等学校院系调整，部分藏书调配至其它高校，新成立的中山大学图书馆以原中山大学图书馆的文理学科藏书为基础，并入历史悠久的岭南大学图书馆藏书和中南地区其它高等学校图书馆的部分藏书，初步形成多学科的综合藏书体系。其间，中山大学图书馆的馆址和馆舍随中山大学校址的变迁曾多次变化，建国后曾长期沿用原岭南大学图书馆的馆舍。

　　目前，中山大学图书馆由总馆、医学图书馆、珠海校区图书馆、东校区图书馆、经济与管理学科分馆、生命科学学科分馆、化学学科分馆组成，馆舍总建筑面积约119，960平方米。南校区总馆旧馆舍于1982年落成，建筑面积仅14,500平方米，2004年10月，总馆改扩建工程完成，馆舍建筑面积扩至30,000平方米；1999年，中山大学建立珠海校区，新落成的珠海校区图书馆建筑面积36,000平方米，为中山大学图书馆的基础图书馆和贮存图书馆；2001年, 原中山大学和中山医科大学组建新的中山大学，原中山医科大学图书馆成为新的中山大学医学图书馆，医学图书馆现有馆舍面积9660平方米；2004年10月，座落在广州大学城的中山大学东校区图书馆正式启用，东校区图书馆建筑面积35,953平方米。2005年，中山大学改变原有的校图书馆和院（系、所）图书分馆、资料室两级藏书制，统一收编院系分馆、资料室文献资源和人员归校图书馆，设置经济与管理学科分馆、生命科学学科分馆、化学学科分馆三个学科分馆，馆舍面积共计约8347平方米。

　　中山大学图书馆馆藏富甲南国，居中国高校图书馆前列。至2007年底，图书馆馆藏纸质文献资源总量达519.77万册(件)，其中中外文纸质图书资源达413.4万册，中外文纸质报刊资源达81.4万册；电子图书资源约122.1万册，电子期刊近4.7万份；多媒体光盘资料35783片等，建立了完善的文、理、医学科门类齐全、内容丰富、结构合理、层次分明的文献信息资源保障体系。收藏古籍图书近40万册，其中珍藏古籍善本达4千种4.6万册，拥有元、明、清各朝珍贵版本，以明刻本见长，有不少海内孤本、珍稀稿本和名家批校题跋本，另有朝鲜刊本约200种1千余册，日本刊本约100种1000余册，中国历代石刻拓片38161件，西文古籍1万余册，民国时期中文图书7.7万册，期刊近18万余册，报纸约7000册。尤其以清末与民国时期华南地区出版的中外文报刊数量多且系统，部分为国内罕有。另建有陈寅恪纪念室，商衍鎏、商承祚纪念室，梁方仲纪念室，李新魁纪念室、戴镏龄纪念室、金应熙纪念室、安志敏纪念室等多个专家学者专藏室。此外，广东地方文献、医学文献、孙中山研究文献、港澳研究文献丰富且具有鲜明的特色。图书馆自建了颇具规模和特色的中山大学学位论文数据库、教育文献数据库、港澳文献数据库、珠江三角洲文献数据库、孙中山数字图书馆等特色数据库。医学馆生物医学文献丰富、检索工具齐全，已经形成以生物医学为特色的馆藏体系，是华南地区重要的医学文献信息中心。中山大学图书馆已成为馆藏门类齐全，载体形式多样、收藏系统完整、地方特色鲜明，藏书和数字资源总量均位居国内前列的图书馆。2006年11月，为纪念日本岩波书店向中山大学图书馆捐赠图书六十周年，正式设立了“岩波书店赠呈本”专藏。

　　中山大学图书馆现已建成主干为千兆，百兆到桌面的高速局域网；在四个校区分馆及三个学科分馆之间建立了无缝连结，各分馆使用统一的ILAS系统，校区之间实现通借通还，资源共享。

　　中山大学图书馆素来重视图书馆学术研究，建国前曾编辑出版过在国内具有广泛影响的学术刊物《国立中山大学图书馆周刊》，曾负责编辑出版《高校文献信息研究》（广东高等学校图书情报工作委员会主办，1994年-2003年）。历任馆长中有享有“北刘（国钧）南杜（定友）”和“中西两杜（中国杜定友和美国杜威）”盛誉的图书馆学大师杜定友先生、著名图书馆学家袁同礼先生、著名教育家陈一百先生等。长期在中山大学图书馆工作的知名人士有中国近现代档案学奠基人、著名图书馆学家周连宽教授、著名的目录学家、版本学家何多源先生等。

　　图书馆现设有图书馆与资讯科学研究所、医学情报研究所和中国古文献研究所。自1996年以来，医学情报研究所内部编辑出版内部刊物《医学信息荟萃》旬刊。中山大学图书馆始终注重馆员专业素质的培养和科研水平的提升，承担了多个科研项目的研究工作，在图书馆学、文献学、古籍整理与数字化等领域取得了丰硕的成果。目前图书馆承担的大型科研项目包括由美国岭南基金会资助的“中山大学图书馆馆藏碑帖数字化”项目、教育部CALIS特色数据库项目“大珠江三角洲研究数据库”等。

　　中山大学图书馆一贯注重与海内外图书馆和学术教育机构的交流与合作，在海外具有广泛的影响。中山大学图书馆是我国参加美国“环太平洋数字图书馆联盟”(The Pacific Rim Digital Library Alliance, 简称PRDLA)的两个成员馆之一。此外还与美国岭南基金会建立了长期的友好合作关系，自1992年“ 美国岭南基金会中山大学图书馆项目”启动以来，美国岭南基金会已先后为中山大学图书馆主办国际图书馆学术研讨会（共2次）、订购外文原版期刊（每年约100 种）、派人赴美访问进修（每年1人/每人6-12个月）、派人赴港澳访问进修（每年2人/每人3个月）、派人参加国际学术会会议、和邀请美国图书馆学专家访问讲学（每年1人/ 每人1个月） 提供了大量的资助。长期以来，中山大学图书馆与港澳台地区的大学图书馆一直保持着密切、友好的交流与合作关系。2006年，在中山大学召开了粤港高校图书馆高层论坛，初步确立了两地高校图书馆长期合作机制。目前，中山大学图书馆与国内外近200个单位建立了文献交换关系。
爱国华侨、港澳台同胞、国内知名人士和外国友好团体一直十分重视和关心中山大学图书馆的发展，并给予了大力的捐赠和支持。香港岭南大学校友伍舜德先生于1994年捐资500 万元建立了建筑面积5,000平方米的中山大学图书馆岭南学院分馆---伍舜德图书馆。2004年10月24日，哈佛大学的喜乐斯图书馆约12万种、15万册藏书完整捐赠给中山大学图书馆，品种和数量创中国高等院校图书馆受赠历史之最。