Здание музея — памятник архитектуры, построенный в 1856–1858 г. для бессарабского помещика, графа Александра Аггеевича Абазы. Автор архитектурного проекта — зодчий петербургской школы Людвиг Оттон. Здание музея представляет собой образец эклектического стиля, характерного для архитектуры Одессы середины XIX века. Наиболее интересен в архитектурном отношении вестибюль дворца с «распашной» парадной лестницей уникальной конструкции, высеченной из каррарского мрамора. Она имеет два марша и возведена без несущих балок-косоур, образуя тем самым эффект «парящего» сооружения. Еще один интересный архитектурный элемент здания — навесной балкон-эркер. Их начали строить в период господства стиля модерн — на 50 лет позднее постройки здания. Архитектор „забежал вперёд“, опередив своё время, тем самым обратив архитектурный элемент в своеобразную «визитную карточку» музея. Интерьеры дворца отличаются богатым лепным декором, наборным паркетом из ценных пород дерева, резьбой, украшающей двери, фурнитурой из бронзы. Музей во дворце Абазы был основан в 1924 г. на базе коллекций Государственного художественного музея, Одесского музея красных искусств, кабинета истории искусств Новороссийского университета и частных собраний. Коллекция пополнялась ценными экспонатами за счёт поступлений из Государственного Эрмитажа, ГМИИ им. Пушкина и других собраний.