С развитием промышленности и сельского хозяйства стране требовались умные, знающие люди с техническим образованием, обладающие навыками в работе на заводах и других предприятиях. Так, в Глухове стал остро вопрос об открытии в городе ремесленного училища. На средства известного сахарозаводчика Н.А. Терещенко (именем которого было названо училище) в 1898 году были куплены старые военные казармы, которые впоследствии были переоборудованы под корпуса учебного заведения. Так, с 1899 года в училище пришли первые студенты. Через много лет на базе колледжа был открыт Агротехнический институт имени С.А. Ковпака.