Перші дерева парку посаджені у 1804 році засновником Харківського національного університету. В. Каразіним. Тоді сад мав назву Університетського. Верхня частина скверу була ландшафтним парком, а нижня – ботанічним садом. У 1896 році на території саду побудували перший в Україні зоопарк, що і досі там. У 1935 році на центральній алеї відкрили пам’ятник Т. Г. Шевченку і парк назвали на його честь. Ця скульптурна композиція і понині прикрашає сквер. Під час Другої світової війни парк сильно постраждав. Було знищено багато рослин, а одну з алей німці перетворили на кладовище для своїх воєначальників. Після звільнення Харкова кладовище знищили, а парк відновили. У 1963 році тут звели Кіноконцертний зал "Україна", а через чотири роки відкрили великий фонтан, який згодом став світломузикальним. Окрім цих цікавинок, пам’ятника Шевченку й зоопарка в саду встановлені пам’ятники Архангелу Михаїлу і В. Каразіну, великий футбольний м’яч, пам’ятник 50-ї паралелі, каскадні сходи з фонтаном, звідки відкривається живописна панорама. З парком межує головний корпус Харківського національного університету. Звідси можна вийти до найбільшої площі в Європі – площі Свободи і до головної вулиці міста – Сумської.