Поселение возникло в последней четверти XVIII века[2]. В 1869 году здесь была построена железнодорожная станция Знаменка на железной дороге Одесса — Харьков.
Название города происходит от находящегося в трёх километрах села Знаменка (теперь Знаменка Вторая), основанного в 1730 году переселенцами из центральной России и названого в честь особо почитаемой переселенцами-старообрядцами иконы Божией Матери «Знамение».
В августе 1873 года было открыто железнодорожное движение на участке от Знаменки до Николаева, а спустя три года — до Фастова. Из маленькой железнодорожной станции Знаменка превратилась в важный железнодорожный узел, с расширением которого росло и население близлежащих селений.
В апреле 1892 года в Знаменке начал работать лечебно-продовольственный пункт, работники которого регистрировали рабочих, осуществляли санитарный осмотр за ними, предоставляли амбулаторную помощь больным, ведали выдачей дешевых обедов. Первым заведующим Знаменского лечебно-продовольственного пункта стал врач железнодорожной больницы Андрей Лысенко, брат выдающегося украинского композитора Николая Лысенко.
Летом 1892 года в Знаменке проживали семьи композитора Николая Лысенко и драматурга Михаила Старицкого. Здесь Николай Лысенко работал над оркестровкой оперы «Тарас Бульба». Также с помощью Михаила Старицкого Андрей Лысенко в 1898 году организовал среди работников станции музыкально-драматический кружок.
В ходе первой русской революции жители Знаменки участвовали в Октябрьской всероссийской политической стачке[3].