Общественную библиотеку в Херсоне было возведено в 1897 году, по ходатайству дирекции данной организации, которая в то время размещала свои книжные фонды в помещении Дворянского собрания. Памятное здание спроектировано в стиле неоклассики одесскими архитекторами Николем Толвинским и Феликсом Гонсиоровским. Эта организация стала первой в городе, которую создали на средства и по инициативе общественности. В библиотеке Херсона еще будучи гимназистом часто бывал писатель Лавренев. Также в свое время здесь располагалась первая экспозиция Херсонского музея древностей. С 1987 года по распоряжению советских властей в здании библиотеки разместился городской ЗАГС.