Історія музею бере початок із "пошуків старовини", коли в 1792 році була відправлена ​​перша експедиція матросів в Ольвію. До XIX століття цінних знахідок накопичилося так багато, що було вирішено створити для них окреме сховище. Так у місті з’явився кабінет рідкостей, на базі якого в 1803 році був заснований музей. Протягом трьох років усі археологічні знахідки Новоросії доставлялися тільки сюди. У 1838 році був побудований спеціальний павільйон для експозицій. Багато експонатів було загублено під час воєн. Музей став у 1950 році обласним краєзнавчим. Із 2012 року він остаточно розташувався в "Старофлотських казармах". У музеї налічується понад 300 тисяч експонатів, половина з яких – предмети старовини. Тут можна побачити предмети античності з Ольвії, інструменти Київської Русі, зброя козацтва та багато інших цінних речей. Основна експозиція музею розміщена у 18 залах.