Будівництво чоловічої гімназії було розпочато в 1907 році, завершено в 1909-му. Його здійснювала компанія М. Е. Дольберга. У вересні 1909 року гімназія прийняла перших учнів. У будівлі були передбачені приміщення для розміщення семи класів та одного підготовчого. Окремо обладнано кабінети фізики, хімії, зал для богослужіння. Гімназія функціонувала до жовтневого перевороту 1917 року. У період радянської влади в будівлі в різні часи розміщувалися педшколи, педагогічні курси, індустріально-технологічна школа. Під час Другої світової війни німці влаштували в будівлі гімназії госпіталь, а під час відступу в 1944 році підірвали її разом із пораненими. Відновлення будівлі міська рада розпочала в 1953 році. 17 жовтня 1961 року тут було відкрито школу-інтернат. У 2004 році до 95-річчя відкриття чоловічої гімназії створено навчально-виховний комплекс "Гайсинська середня загальноосвітня школа-інтернат I-III ступенів гімназія". На фасаді будівлі в жовтні 2014 року встановлено меморіальну дошку в пам’ять про колишнього учня, студента Вінницького національного технічного університету, бійця батальйону "Айдар", загиблого за Україну під Луганськом, Володимира Муху.