В 1803 году заложен первый камень в основание будущей церкви, а в 1817 году строительство было завершено. Крестовоздвиженский храм, ныне плотно окруженный соседними многоэтажками, кажется особенным островком духовности в большом современном городе. Святыня прошла через многие испытания: революции и войны, социальные бури. В 1919 году на территории храма были расстреляны его настоятель с семьей. Является памятником церковного зодчества. Купол с небольшой маковкой, двухъярусная колокольня, фасады с треугольными фронтонами – в архитектуре храма уникальным образом сочетаются епархиальный стиль и украинское необарокко.