История памятника не уступает по увлекательности истории самого рода Харитоненко. Первое изваяние в честь Ивана Харитоненко было создано за добровольные взносы жителей города. Постамент был размещен на том же месте, где расположен нынешний памятник, и его открытие состоялось 1 октября 1899 года. Лицевая сторона постамента была украшена бронзовой табличкой с памятной надписью. Однако с приходом советской власти в 1922 году большевики демонтировали памятник и устанавили на его место скульптуру "вождя пролетариата", который "указывал путь в светлое будущее" сумчан вплоть до 1991 года. Именно тогда по решению Комиссии по вопросам культурного развития Сумского городского совета памятник Ленину на этом месте сменил прежний его "владелец" – скульптура Ивана Харитоненко работы местного мастера А.А. Ивченко. Памятник Ивану Харитоненко служит ярким напоминанием о великом человеке своей эпохи, который своими благородными деяниями пережил времена незаслуженного забвения для возрождения в памяти благодарных земляков.