Первые славянские поселения на реке Ахтырке существовали ещё в древнерусскую эпоху, но были они были сметены монгольским нашествием на Русь. В 1641 году на русско-польском рубеже польскими властями был возведён деревянный острог, в противовес новой русской крепости Вольный. Первым урядником был назначен пан Якубовский. В 1646 году острог занял Иеремия Вишневецкий, но уже в следующем году в ходе размежевания территории по условиям Поляновского мира Ахтырка была передана Русскому царству[1]. Крепость была передана пустой, так как население было угнано в Польшу. На тот момент это был дубовый острог с 11 башнями и стенами общей протяжённостью 700 м. Ахтырка была включена в состав Белгородской линии и стала её самым западным пунктом. В 1650 году в связи с ожидаемым крымскотатарским набегом было принято решение покинуть и разрушить острог. В 1654 году на заброшенном городище был основан Свято-Троицкий мужской монастырь.
Новую крепость построили в 4 верстах к югу за Ворсклой в излучине реки Ахтырки[1]. В 1653—1654 годах здесь поселилось несколько сот казаков-переселенцев под началом атамана Д. Иванова. Крепость строилась в 1654—1655 годах под руководством воеводы Вольного Лариона Камынина. В плане она представляла собой неправильный многоугольник, который с севера и запада омывался рекой Ахтыркой. Крепость окружал дубовый острог общей протяжённостью 1874 м и высотой 4,26 м. Крепостные стены венчали 14 башен, из них четыре проездные — Вольновская, Куземинская, Грунская и Мостовая. С трёх сторон крепость окружал ров шириной 6,39 м и глубиной 4,16 м, перед которым возвели надолбы. В крепости были две церкви — Никольская и Преображенская. Население крепости и окружающих её посадов быстро росло и уже к 1658 году сформировался Ахтырский слободской полк.
В 1661 году к Ахтырке подступали мятежные запорожские казаки и крымские татары под началом полтавского полковника Фёдора Жученко, однако им не удалось склонить на свою сторону ахтырских казаков. Полковник Иван Донец и воевода Андрей Арсеньев разбили мятежников[1]. Ахтырские казаки вновь проявили стойкость и преданность во время мятежа Брюховецкого в 1668 году, когда выдержали осаду, за что были награждены привилегиями и хорошим содержанием. До 1689 года окрестности Ахтырки регулярно подвергались крымскотатарским нападениям, но крепость не была взята.