Населённый пункт основан в 1644 году как город Ольшанск, военная крепость против набегов крымских и ногайских татар, входивший вместе с крепостями Коротояк и Урыв, а также с Острогожском в состав двадцати одной крепости так называемой Белгородской защитной черты (Белгородской засечной черты).
До основания Ольшанска на этом месте существовало Ольшанское городище. В 1630 и 1636 годах проходили обследования долины реки Тихая Сосна, по результатам которых была отмечена целесообразность построения здесь военной крепости. По строительство началось только в 1644 году после крупного татарского набега на окраины московского государства. Первая крепость имела 7 башен, из которых 2 проезжие. Первые поселенцы прибыли в Ольшанск из разных городов — Калуги, Белёва, Мценска, Карачева. Также здесь поселились переселенцы из Тулы, Венева, Черни, Старицы, Суздаля, Крапивны и украинцы (черкасы) с территорий, находившихся под властью Польши[2].
Во время Разинского восстания Ольшанск перешёл на сторону восставших. 9 сентября 1670 года в город прибыли 400 повстанцев из Острогожска. Воеводу Ольшанска Беклемишева сбросили с башни и ещё двух особо ненавистных народу «начальных людей» утопили. 10 сентября был созван казачий круг, который постановил не идти дальше, а вернуться в Острогожск[2].
К 1779 году Ольшанск потерял значение военной крепости, поскольку граница Московского государства передвинулась далеко на юг. В этом году Ольшанск переименовали в слободу, в состав которой входили Верхний и Нижний Ольшан, а также Коловатовка. В 1858 году слободу поделили на самостоятельные сёла.
В селе имеются один переулок — Весенний и четыре улицы — Гагарина, Ольшанская, Песковатовская, Стрижанская.