Председатель городского общества купцов Григорий Гольберг вместе с супругой выступил инициатором возведения новой церкви и выделил для этого свой земельный участок. Строительство началось в 1906 году и продолжалось восемь лет. Над проектом здания работал известный архитектор М. Ловцов. Внутреннюю роспись создал петербургский художник А. Сокол, а иконостас изготовили в Италии. Вскоре церковь стала самой посещаемой в городе, а количество прихожан насчитывало около 2 тысяч человек. Напротив церкви находится особняк Гольбергов, построенный в 1915 году. Сейчас в нем располагается городская санстанция.