З XVI століття історія нинішньої Миколаївщини пов’язана із запорізьким козацтвом. Балками і узбережжями річок були розкидані козачі зимівники, з яких виникли нинішні села. Датою заснування Щербані вважається 1734 рік. Населений пункт утворився із зимівника старшини Щербаня. Через десять років село було перетворено на військове поселення Бузівського уланського полку. У 1886 році Щербані вважалося центром волості. У селі працювали земська і церковно-парафіяльна школи, метеорологічна та поштова станції, торгові лавки, дві корчми. Також діяла православна церква. Всупереч бідності сільської громади, що мешкала в землянках, будувалося безліч кам’яних будівель, які тепер є пам’ятками архітектури.