В годы Второй мировой войны Лебедин был оккупирован фашистами. Спасти от разграбления основные музейные фонды удалось только благодаря самоотверженности и мужеству Бориса Руднева, который был директором учреждения со дня его открытия. В мае 2008 года музею было присвоено его имя. В наше время музей хранит более двух тысяч произведений живописи, скульптуры, графики, декоративно-прикладного искусства, датируемых от XVIII столетия и до современности. Среди них картины Дмитрия Левицкого, Василия Поленова, Виктора Серова и многих других. Значительную часть музейной коллекции составляют произведения художников советского периода. Также в собрании хранятся изделия Волокитинской фарфоровой мануфактуры Андрея Миклашевского, экземпляры художественной мебели в стилях барокко, рококо, ампир, классицизм, модерн. Один из экспозиционных залов музея посвящен творчеству самой большой в Украине династии художников Кричевских, корни которой находятся на Лебединщине. Время от времени экспозиция музея изменяется, чтобы посетители могли ознакомиться с наибольшим количеством собранных сокровищ. По субботам с той же целью в музее проходят дни свободного посещения.