Виконане у стилі неокласицизму спорудження прикрашене елементами ренесансу, що надає йому величний вигляд. Палац графа Ксідо розташований на Замковій горі – там, де була зведена фортеця XVI століття. Грек за походженням, російський офіцер Костянтин Ксідо в 1911-1915 роках побудував споруду за гроші, що дісталися йому у спадок від немолодої і глухонімої дружини, графині Катерини Левашової. Будівля приваблює своєю незвичайною конструкцією: фасад палацу виконаний у стилі ренесансу, а ось з боку річки Південний Буг розташувалася кріпосна фортифікаційна вежа, що має восьмигранну форму. Вона збереглася з 1594 року, коли тут правили турки, а вежа була мінаретом. Пізніше, за часів СРСР, тут працювала агрономічна, а потім – електротехнічна школа. З 1964 року функціонував готель, а в 1976 році був відкритий краєзнавчий музей. Однак зараз споруда практично зруйнована і вимагає реконструкції.