Громадську бібліотеку в Херсоні було зведено в 1897 році, за клопотанням дирекції цієї організації, яка в той час розміщувала свої книжкові фонди в приміщенні Дворянського зібрання. Пам’ятна будівля спроектована в стилі неокласики одеськими архітекторами Миколою Толвінським і Феліксом Гонсіоровським. Ця організація стала першою в місті, яку створили на кошти та з ініціативи громадськості. У бібліотеці Херсона ще будучи гімназистом часто бував письменник Лавреньов. Також свого часу тут розташовувалася перша експозиція Херсонського музею старожитностей. З 1987 року за розпорядженням радянської влади в будівлі бібліотеки розмістився міський РАЦС.