25.000 opere, acquisite essenzialmente tra il 1789 e il 1914, compongono oggi il fondo antico della Biblioteca municipale.
La prima biblioteca di Gray nacque durante il periodo rivoluzionario, in seguito al salvataggio di numerose opere e manoscritti effettuato dai Graylois nelle biblioteche delle congregazioni insegnanti della città, delle abbazie vicine e delle dimore degli emigrati. Aperta al pubblico, si trovava nell'ex convento dei Cordeliers.
Nel 1859 fu edificata l'attuale biblioteca adiacente al Municipio. Concepita come luogo di rappresentanza, comunicava con l'ufficio del sindaco. Aprì le sue porte il 1º gennaio 1860.