История музея берет начало с "поисков старины", когда в 1792 году была отправлена первая экспедиция матросов в Ольвию. К XIX веку ценных находок накопилось так много, что было решено создать для них отдельное хранилище. Так в городе появился кабинет редкостей, на базе которого в 1803 году был основан музей. В течении трех лет все археологические находки Новороссии доставлялись только сюда. В 1838 году был построен специальный павильон для экспозиций. Многие экспонаты были утеряны во время войн. Музей стал в 1950 году областным краеведческим. С 2012 года он окончательно расположился в "Старофлотских казармах". В музее числится более 300 тысяч экспонатов, половина из которых – предметы древности. Здесь можно увидеть предметы античности из Ольвии, инструменты Киевской Руси, оружие казачества и много других ценных вещей. Основная экспозиция музея размещена в 18 залах.