Согласно некоторым историческим источникам, впервые католический храм в Ромнах был построен князем Еремией Вишневецким в первой половине XVII века. Однако последующие годы смуты не сберегли святыню. Появление костела Непорочного Зачатия Пресвятой Девы Марии датируется 1910 годом. Костел в то время имел высокую башню, его территория было огорожена. Советская власть передала здание храма в распоряжение министерства образования, которое разместило в нем мастерские местного политехнического техникума. Только с 1999 года католическая святыня вновь открылась для прихожан.