25.000 obras, adquiridas en lo esencial entre 1789 y 1914, componen hoy el fondo antiguo de la Biblioteca Municipal.
La primera biblioteca de Gray nació durante el período revolucionario, tras el rescate de numerosas obras y manuscritos realizado por los Graylois en las bibliotecas de las congregaciones docentes de la ciudad, de las abadías vecinas y de las residencias de los emigrados. Abierta al público, se situaba en el antiguo convento de los Cordeliers.
En 1859 se construyó la actual biblioteca adyacente al Ayuntamiento. Concebida como un lugar de gala, se comunicaba con la oficina del alcalde. Abrió sus puertas el 1 de enero de 1860.