Цей парк був заснований ще в 70-80-х роках XIX століття тодішнім начальником міста і порту Петром Шмідтом. Тоді парк займав набагато більшу площу, ніж нинішні 3,5 гектара. Але названий він на честь не свого засновника, а його сина, лейтенанта Шмідта. У парку представлено більше 70 видів чагарників і дерев. Окрім розкішних клумб і красивого ландшафтного дизайну, парк рясніє пам’ятниками. Зокрема, центральний вхід зустрічає відвідувачів бюстом лейтенанта Шмідта, є в парку й пам’ятник дітям лейтенанта Шмідта. Експресивна скульптурна група "Матросам Великої Вітчизняної війни" біля братської могили присвячена 20 морякам-десантникам Азовської флотилії, які в 1943 році загинули під час визволення міста. На території парку знаходиться й великий особняк купця Езрубільського, що служив у 30-ті роки XX століття приміщенням санаторію для радянських військових льотчиків, а нині є будівлею музичної школи.