Спочатку пам’ятник мав лише підземну частину. На певній глибині лежав саркофаг зі скла, де зберігалося забальзамоване тіло червоного командира. Біля саркофагу розміщувалися атласні подушечки, на яких лежали нагороди Котовського. Через дев’ять років після створення меморіалу, в 1934 році, до підземного саркофагу додався наземний пам’ятник, обладнаний трибуною. На пам’ятнику були зображені барельєфні композиції про Громадянську війну. У 1941 році окупаційні війська зруйнували саркофаг і викинули тіло в яму, де воно лежало з трупами розстріляних радянських громадян. Через три роки силами робочих залізничного депо останки Котовського були знайдені. У 1965 році, коли мавзолей відновили в зменшеному масштабі, останки, що збереглися, помістили в закриту цинкову труну з віконцем. Після того, як пам’ятник зазнав пошкодження з боку вандалів в 2016 році, було прийняте рішення поховати останки командира на міському кладовищі. Цікавим фактом є те, що місто Подільск до нинішнього часу називався Котовському.