Сама идея открытия этого учебного заведения зародилась еще в 1880 году. Через три года было получено "высочайшее" разрешение на открытие учебного заведения. Сначала пытались приспособить для этих целей уже существующие здания, но они не соответствовали поставленной задаче. Наконец, в 1889 году было заложено строительство нового здания гимназии. Из-за дефицита финансирования строительство растянулось до 1896 года. И все же в 1897 году строительство завершилось. И поныне сохранилось здание, возведенное по проекту архитектора В. Городецкого – Т-образный в плане, двухэтажный кирпичный корпус, декорированный фигурным кирпичом, с арочными окнами на втором этаже. Примечательно, что в Уманской мужской гимназии преподавал историю и географию знаменитый историк, этнограф и искусствовед Д. Щербаковский. В исследовательской деятельности ему помогал гимназист, будущий основатель Уманского краеведческого музея – П. Куренной. В свое время здесь обучались знаменитый художник Л. Крамаренко, а также выдающийся украинский поэт и переводчик Н. Бажан. В 1920-е годы на базе гимназии была создана трехлетняя Еврейская профтехшкола. Позднее – техникум механизации, электрификации и сельскохозяйственного строительства. С 1995 года в здании функционирует агротехнический колледж.