Датой основания Свято-Духовского собора считается 1864 год. Именно в это время его освятили. Однако строительство началось еще в 1844 году, а после того, как храм был освящен, внутренние отделочные работы продолжали проводить вплоть до 1896 года. Впрочем, такое длительное строительство и работа над убранством храма полностью оправдались. Ведь и теперь сооружение выглядит "с иголочки", продолжая восхищать прохожих и прихожан как конструкцией в целом, так и богатым интерьером. Строение создано в стиле классицизма с элементами итальянского ренессанса. Главным элементом конструкции считается огромный центральный купол, имеющий высоту 46 метров. Над убранством, в частности росписью стен, на славу потрудились венские художники. Их работа сохранилась и по сей день. В 1970-х годах собор был переоборудован в художественную школу, но уже в 1989 году его вернули в лоно православной церкви.