Ідея створення музею належить колекціонерові та мистецтвознавцю Йосипу Буханчуку. Свої двері музей відкрив у 1974 році. Спочатку експозиція розміщувалася в стінах школи. У 1985 році виставка переїхала до окремої будівлі, спроектованої знаменитим архітектором Фоміним. Перші експонати передав сам засновник музею з особистої колекції – це були 600 картин. На особисте прохання Буханчука, скульптори і художники з усього Радянського Союзу почали передавати свої шедеври до фонду музею. Деякі експонати потрапили в музей із зарубіжних країн. Таким чином, експозиція швидко зросла до трьох тисяч примірників.