Разместился археологический музей в одном из зданий, входящих в заповедник "Глухов", – отреставрированной усадьбе казацкого рода Кочубеев. Этот дом в стиле неоклассицизма был построен в 1904 году. Ныне здание – лучший образец этого стиля из сохранившихся в Глухове строений. Идея создания глуховского хранилища древностей возникла в 2002 году, когда в фонды заповедника поступили найденные во время археологических раскопок на территории города и его окрестностей фрагменты керамической посуды времен древней Руси, изготовленной на гончарном круге. Сохранить древние артефакты Глуховщины было важно в первую очередь для исторической науки, ведь междуречье Сейма и Десны – наименее исследованная территория на карте Сумщины. Сейчас в музее представлено археологическое наследие региона от времен палеолита до I тысячелетия нашей эры, затем большая экспозиция артефактов периода древней Руси – X-XIII века и Великого княжества Литовского – XIV-XV столетия. Завершающее собрание древностей – период XVII-XVIII веков – взлет развития Глухова представлен бытовыми вещами и орудиями труда глуховчан, есть также солидная коллекция строительных материалов разных периодов истории города. Сотрудники проводят экскурсии не только в музее, но и по городу.