Історія пам’ятника не поступається за захопливістю історії самого роду Харитоненків. Першу статую на честь Івана Харитоненка було створено на добровільні пожертви мешканців міста. Постамент розмістили на тому ж місці, де знаходиться нинішній пам’ятник, і його відкриття відбулося 1 жовтня 1899 року. Лицьова сторона постамента була прикрашена бронзовою табличкою з пам’ятним написом. Однак з приходом радянської влади 1922 року більшовики демонтували пам’ятник і встановили на його місці скульптуру "вождя пролетаріату", який "вказував шлях у світле майбутнє" сумчан аж до 1991 року. Саме тоді за рішенням Комісії з питань культурного розвитку Сумської міської ради пам’ятник Леніну на цьому місці змінила скульптура Івана Харитоненка роботи місцевого майстра А.А. Івченка. Пам’ятник Івану Харитоненку служить яскравим нагадуванням про видатну людину своєї епохи, котра завдяки своїм благородним справам пережила часи незаслуженого забуття для відродження в пам’яті вдячних нащадків.