Каменный дом с колокольней был построен на месте старого деревянного. Вместе с собором его окружает стена с входными воротами. Все эти строения расположились на холме рядом с городскими валами и являются своеобразным архитектурным комплексом так называемого "замочка" – укрепленной резиденции волынских епископов. Епископская резиденция была отреставрирована в 1969–1971 годах: ее обложили кирпичами и отштукатурили. Двухэтажное здание сделано в форме буквы "Г", украшено ризалитом на южном фасаде и контрфорсами на восточном и южном фасадах. Примыкающая к нему колокольня квадратная в плане с коридорной внутренней планировкой, имеет четыре яруса. Сооружение является настоящим архитектурным украшением города.