Одной из достопримечательностей села Высокие Байраки Кировоградской области является расположенная здесь церковь великомучеников Адриана и Наталии. Точная дата постройки неизвестна, так как все архивы сгорели во время революции, известно лишь, что она была сооружена в начале XX столетия. Храм кирпичный, построенный по типовому проекту в форме креста. Ранее над центральной частью возвышался купол с крестом, а над притвором была высокая колокольня. Церковь серьезно пострадала в советский период: в 1950-х годах снесли колокольню и главный купол, а здание храма передали на баланс колхозу, вскоре его помещение занял клуб. Лишь в 1996 году церковь вернули прихожанам.