У часи Київської Русі дерев’яні укріплення розташовувалися на лівому березі Есмані. Але в результаті епідемії чуми 1352 р. загинула значна частина населення Глухова, і підтримувати фортецю в необхідному стані стало нікому. Так тривало до 1635 р., коли стараннями місцевого старости Олександра Пісочинського розпочалися роботи з відновлення оборонних споруд. Тоді Глухів перетворився на добре укріплену фортецю з трьома лініями фортифікацій. Ці споруди були настільки добре сплановані, що 1663 р. 90-тисячна армія польського короля Яна Каземіра кілька місяців не могла взяти Глухів. Новий період історії фортеці настав на початку XVIII ст., під час перенесення до Глухова столиці Гетьманщини. Так, 1724 і 1749 років реконструювали вали і фортечні стіни, що надало їм довершеного вигляду. Однак цей період тривав недовго. Після того, як 1764 року Гетьманщина припинила існування, межі Російської імперії відсунулися далеко на захід. Існування такої потужної фортеці посеред країни вважалося недоцільним. І 1802 року споруду знищили, а вали і рови зрили. Сьогодні про колишню велич фортеці нагадують тільки Київські ворота.