Церковь была построена в армянских традициях – до 1,5 м толщиной стены, узкие и небольшие окна-бойницы, отсутствие внешнего декора, мощные контрфорсы, в один из которых вмурован хачкар – традиционный каменный крест. Средства на возведение храма выделил армянин Синан сын Котлубея. В конце XV века, когда был построен новый Николаевский армянский храм, церковь, о которой идет речь, называлась Благовещенской часовней. В 1811 году ей было возвращено имя Николаевской церкви. В разное время храм относился к разным конфессиям – армянской апостольской церкви, армяно-католической, греко-католической и русской православной. Ремонтировали храм в XVI, XVIII, XIX веках. Колокольню пристроили в конце XVIII столетия. Церковь была действующей до 1962 года, позже использовалась как склад. С 1990 года храм принадлежит Украинской православной церкви. Его реставрировали в 1991-1997 годах.