С XVI столетия история нынешней Николаевщины связана с запорожским казачеством. Во многих местах по берегам рек и балок были разбросаны казачьи зимовники, из которых возникли и выросли нынешние села. Датой основания Щербани считается 1734 год. Селение возникло из зимовника старшины Щербаня. Через десять лет село было превращено в воинское поселение Бузовского уланского полка. В 1886 году Щербани считалось центром волости. В селе работали земская и церковно-приходская школы, метеорологическая и почтовая станции, торговые лавки, две корчмы. Также действовала православная церковь. Вопреки бедности сельской общины, живущей в землянках, строилось множество каменных строений, которые теперь являются памятками архитектуры.