Идея создания музея принадлежит коллекционеру и искусствоведу Иосифу Буханчуку. Свои двери музей открыл в 1974 году. Изначально экспозиция размещалась в стенах школы. В 1985 году выставка переехала в отдельное здание, спроектированное знаменитым архитектором Фоминым. Первые экспонаты передал сам основатель музея из личной коллекции – это были 600 картин. По личным просьбам Буханчука, скульпторы и художники со всего Советского Союза начали передавать свои шедевры в фонд музея. Некоторые экспонаты попали в музей из зарубежных стран. Таким образом, экспозиция быстро доросла до трех тысяч экземпляров.