Здание художественного музея было построено в конце XIX — начале XX веков. Автор строения — сумской инженер-архитектор Густав Карлович Шольц. Изначально в двухэтажном особняке располагался Государственный банк. И только 1 марта 1920 года все помещения банка занял художественный музей. Основоположником музея был художник и педагог Никанор Харитонович Онацкий. В свое время Никанор был учеником самого Ильи Репина, чьи работы можно увидеть в музее. Основой коллекции стали работы из частных собраний города и уезда, в частности произведения из коллекции О. Гансена. На сегодняшний день в восьми различных залах музея хранятся более 15 тысяч экспонатов, среди которых произведения живописи украинских и зарубежных авторов, коллекция нумизматики, а также работы декоративно-прикладного искусства и скульптуры.