В Красноселке сохранилась усадьба-дворец Генриха Липковского, построенная в 1822 году. За время своего существования дворец неоднократно перестраивался. Уже в 1860 году он имел несколько иные черты, отличающие его от первоначального проекта в итальянском стиле. Это было двухэтажное здание с двухскатной крышей и закрытой террасой, откуда открывался прекрасный вид на Южный Буг. В 1873 году дворец снова изменил свой вид. По словам очевидцев, здесь был красивый бальный зал с орнаментами, арками и люстрой из хрусталя. Во втором зале располагалась коллекция из позолоченных кубков, чашек, тарелок и различных китайских фигурок. Семья Липковских владела усадьбой до революционных событий, после чего здание дворца было передано под различные учебные заведения и официальные учреждения.