Ландшафт состоит из сплошных яров и каменных круч, благодаря которым место и получило свое название. В урочище сохранились остатки сторожевой крепости, возведённой казаками, а также валы и ров, созданные для защиты форта. Сеть подземных ходов, связывающих ключевые точки обороны, частично уцелела и доступна для туристов.Существует легенда, что во время длительной осады крепости несколько оставшихся в живых защитников спрятали на дне колодца сундук с полковой казной. Эта история привлекает в урочище Каменица множество искателей приключений.