О том, откуда появилось название горы, существует две версии. Одна гласит, что от камня кремень, из которого состоит гора. Вторая – что в ХІХ веке здесь было укрепление, по-татарски "кермен". Как геологический памятник, Кремянец интересен своими обнажениями пород верхнемелового и юрского периода. На них можно обнаружить органические останки, а значит гора стоит здесь с незапамятных времен. А вот найденные самые древние человеческие следы приписывают середине XII века. Это каменные изваяния, которые установлены на склоне Кременца. Согласно легенде, племенные кочевники разгневали бога Солнца, и тот превратил их в камень. Сохранились на горе и остатки Изюмской крепости 1861 года, а также вал и ров. Оборонительные сооружения охраняли южную границу России от набегов татар. Это была самая мощная крепость того времени, которая стала основой города. К 40-летию победы в Великой Отечественной войне в 1985 году здесь построили большой мемориальный комплекс. На вершине горы находится памятник с вечным огнем. Также здесь установлена военная техника – знаменитая "Катюша", танки Т-34 и КВ, самоходные артустановки. Ежегодно 9 мая в Изюме проходит большое факельное шествие: из центра города тысячи людей с зажженными факелами поднимаются на вершину мемориала.