Історія храму почалася в 1850 році з маленької церкви, побудованої при лікарні, званої тоді богадельней, і освяченої на честь ікони Божої Матері "Всіх скорботних Радість". У стіні однієї з лікарняних палат навіть був зроблений великий віконний проріз, що давав можливість лежачим там важко хворим брати участь у богослужіннях. Закритий у 1960 році храм був знову відкритий лише в 1998 році, і відтоді триває його нова історія. За кілька років при ньому були відкриті сирітський притулок, благодійна їдальня, обитель сестер милосердя, недільна школа та бібліотека. У 2000–2001 роках храм розписали іконописці Почаївської Лаври. Благодатний дзвін храму щодня кличе православну Одесу на богослужіння. За словами протоієрея Іоанна (Горіа), настоятеля храму Ікони Пресвятої Богородиці "Усіх скорботних Радість", під його склепінням усе стражденні знайдуть розраду і милосердя.