Голова міського товариства купців Григорій Гольберг разом з дружиною виступив ініціатором зведення нової церкви і виділив для цього свою земельну ділянку. Будівництво почалося в 1906 році і тривало вісім років. Над проектом будівлі працював відомий архітектор М. Ловцов. Внутрішній розпис створив петербурзький художник А. Сокіл, а іконостас виготовили в Італії. Незабаром церква стала найбільш відвідуваною в місті, а кількість прихожан налічувала близько 2 тисяч осіб. Навпроти церкви знаходиться особняк Гольберга, побудований в 1915 році. Зараз у ньому розташовується міська санстанція.