Здание дворца построено по интересному проекту. Одна сторона напоминает крепость, а другая словно замечательный особняк, украшенный величественными колоннами. Дворец является ярким примером архитектуры неоклассицизма в Украине. При строительстве применены мотивы эпохи Возрождения. Двухэтажное здание имеет прямоугольную форму, с башнями на торцах и основном фасаде. Фасад со стороны парка был облицован камнем. На крыше, по задумке автора проекта, устроили купольную ротонду, которую во Вторую мировую войну уничтожила советская авиация. Граф довольно редко пребывал в замке, поскольку основное его место жительства находилось в России, а дворец был загородной резиденцией для отдыха и умиротворения.
С 1920 по 1964 года во дворце были электротехническая и агрономическая школы, затем управление НКВД, а также склады и мельница. С 1964 года в здании замка действовал городской отель, но в связи с аварийным состоянием отель стал не безопасным. Здание требует капитального ремонта, переживая не легкие времена. Чтобы сохранить образец архитектуры прошлых веков понадобиться не один год упорной работы и соответственно немалого финансирования.
К комплексу старинного дворца относят и сохранившуюся башню литовских времен, которая возвышается со средины 16 столетия. Восьмигранное строение во времена турецкой власти служило минаретом мечети.
Река, каменный мост через реку Южный Буг дополняют средневековую композицию, придают историческую и таинственную атмосферу.
Доехать в Хмельник можно на маршрутном автобусе из Винницы, а также на поезде из Хмельницкого или Киева. На личном транспорте необходимо двигаться по дороге Киев-Житомир-Бердичев-Хмельник. Из Киева это займет около 250 километров.