Основанный в 1919 году как «Желдор», дважды изменял название (с 1936 — «Локомотив», 1940 — «Локомотив Юга»), подчинялся Юго-Западной железной дороге. Команда выступала на собственном стадионе, который находился на территории нынешнего стадиона «Локомотив». В весеннем чемпионате Украины 1936 года «железнодорожники» уступили в полуфинале будущим чемпионам — «Динамо» Киев. Также «Локомотив» был неоднократным победителем первенства Киева. В 1947 команда была расформирована, путем перевода игроков команды в клуб «Локомотив» Москва. В дальнейшем коллектив выступал среди КФК.
На 2021 год «Локомотив» играл в высшей лиге чемпионата Киева. В 2022 году клуб впервые стал участником в Любительском чемпионате Украины. С сезона 2023/24 команда начала выступать во Второй лиге Украины, а также впервые приняла участие в Кубке Украины, где во втором предварительном раунде победила вышгородский «Диназ» со счётом 1:0.
В 1936 году на логотипе клуба железнодорожников разместили прописную букву «Л» с выезжающим через неё паровозом.
Впоследствии технический прогресс вытеснил паровую машину — на эмблеме появилось упрощенное изображение тепловоза ТЕ3 зелёного цвета; вместе с красной буквой «Л» они стали цветами клуба