Строительство мужской гимназии было начато в 1907 году, завершено в 1909-м. Его осуществляла компания М. Е. Дольберга. В сентябре 1909 года гимназия приняла первых учеников. В здании были предусмотрены помещения для размещения семи классов и одного подготовительного. Отдельно оборудованы кабинеты физики, химии, зал для богослужения. Гимназия функционировала до октябрьского переворота 1917 года. В период советской власти в здании в разное время размещались педшкола, педагогические курсы, индустриально-технологическая школа. Во время Второй мировой войны немцы устроили в здании гимназии госпиталь, а при отступлении в 1944 году взорвали его вместе с ранеными. Восстановление здания городской совет начал в 1953 году. 17 октября 1961 года здесь была открыта школа-интернат. В 2004 году к 95-летию открытия мужской гимназии создан учебно-воспитательный комплекс "Гайсинская средняя общеобразовательная школа-интернат I-III ступеней гимназия". На фасаде здания в октябре 2014 года установлена мемориальная доска в память о бывшем ученике, студенте Винницкого национального технического университета, бойце батальона "Айдар", погибшем за Украину под Луганском, Владимире Мухе.