В 1880-х годах барон, потомок старинного немецкого рода Визе, действительный тайный советник и камергер Сергей фон Дервиз решил перестроить обычный доходный дом, превратив его в сказочный дворец.
Существует легенда о находящемся здесь зеркале. Этот предмет интерьера с середины XVI века висел в одном из венецианских палаццо, где хранился прах графа Дракулы.
Дворец князей Белосельских-Белозерских построен в 1847–1848 годах по проекту А.И. Штакеншнейдера. Фигуры атлантов и кариатид созданы по моделям скульптора Д. И. Иенсена.