Музей діє з 1987 року. Офіційну реєстрацію він отримав в 2004 році. Тут зібрані експонати, що стосуються життя та побуту ув’язнених, зібрані протягом кількох століть. У музеї представлені фотографії, кайдани, знайдені під час будівництва спортивного залу, одяг, який носили співробітники та ув’язнені, особисті записи політичних в’язнів, газета "Голос в’язниці", яка випускалася в установі в 1905 році. Також зберігаються матеріали, присвячені митрополиту Харківському і Богодухівському Никодиму (Руснак) та взаєминам з Харківською єпархією. У музей часто приїжджають відомі діячі сфери політики, науки, кіно і театру, спорту, а також ветерани війни та праці. До сьогодні в установі зберігається гітара, яку залишив Юрій Нікулін в 1978 році.