Кар’єр, який називали Весело-Івановським, є одним із найстаріших у Жовтих Водах. Відомо, що раніше ця місцевість, що омивається річкою Жовтою, називалася урочище Жовта Вода, тому що вода в річці була жовтого кольору внаслідок окислення залізняку, поклади якого були виявлені тут геологами в XIX столітті. За часів українсько-польської війни під проводом Богдана Хмельницького тут були козацькі укріплення. І саме тут у 1648 році відбулася відома битва під Жовтими Водами, яка стала переломною у війні козаків зі шляхтою. Поштовх розвитку селища, активному його заселенню дало початок промислове вироблення залізної руди. З 1895 року тут було відкрито кілька рудників. Зокрема, з Весело-Іванівського добували по 3,5 мільйона тонн залізної руди на рік. А в 1950 році у двох невеликих рудниках у покладах магнітного залізняку були знайдені ще й промислові запаси уранових руд. У 1951 році для добування уранової сировини в Жовтій Воді організований Східний гірничо-збагачувальний комбінат, який є найбільшим виробником природного урану в Європі. Саме селище в 1957 році отримало статус міста і перейменоване в Жовті Води.