Помимо работ Н. Ярошенко, коллекция включала в себя значительное количество работ друзей и коллег именитого художника, таких как И. Шишкин, В. Поленов, В. Маковский, И. Репин, В. Максимов. В 1934 году советская власть предпринимала жесточайшие меры для ликвидации галереи. К счастью, коллекцию удалось сохранить. Галерея разместилась в стенах краеведческого музея, превратившись в художественный отдел. В 1939 году галерея вернула себе самостоятельный статус музея. В военные годы большая часть коллекции уничтожена. Сохранилась лишь малая часть вывезенных экспонатов. В это время музей прекратил свою работу и возобновил свою деятельность в 1945 году. В 1951 году музей вернулся в родные стены поместья В. Балюбаша. Однако наспех отремонтированное здание понемногу разрушается и приходит в негодность. С 2000 года Полтавский художественный музей размещается в помещении галереи искусств.