Был сформирован в 70 году. Всю свою историю легион дислоцировался на дунайской границе и принимал участие в различных походах в этом регионе (войны с даками, маркоманами и прочими). Отдельные подразделения отправлялись в различные провинции империи. В начале V века легион все ещё продолжал своё существование.
Летом 70 года расформированный IV Македонский легион, который опозорил себя своим поведением во время Батавского восстания, был восстановлен императором Веспасианом под названием IV Счастливый Флавиев легион[2]. Хотя многие солдаты нового подразделения служили в IV Македонском, в его состав вошли также и новобранцы из Северной Италии и, возможно, Южной Галлии[2]. Гней Юлий Агрикола отвечал за формирование легиона[1]. Зачисление подразделения в списки римской армии произошло в конце июля или в начале августа 70 года[1]. Первым лагерем IV Счастливого Флавиева легиона стал далматийский город Бурн, где он заменил XI Клавдиев, переброшенный на рейнскую границу[3]. Присутствие легиона в Бурне отмечено несколькими надписями и обломками черепицы и кирпичей с клеймами, содержащими название подразделения[4]. В это время одним из легатов легиона был известный впоследствии юрист Луций Яволен Приск. В первые годы своего существования подразделение получило почётное прозвище «Счастливый». Вполне возможно, что оно носило его от основания, но более вероятно, что его присвоили в честь какой-то победы[1].
Император Домициан поселил ветеранов IV Счастливого Флавиева легиона в колонии в Скупи[5]. В 85 году легион участвовал в походе против даков[3]. Когда провинция Мёзия была разделена на две части, подразделение было передислоцировано в Верхнюю Мёзию. Вполне вероятно, что оно было размещено в Сингидуне, хотя также не исключается краткое пребывание в Виминации вместо VII Клавдиева легиона[6]. В 88 году IV Счастливый Флавиев легион принимал участие в новой кампании против даков и сражался в битве при Тапах[1].
В 98 году по приказу императора Траяна легион строил дороги в районе к северу от Дуная, где был основан Тибиск и открыты медные рудники[1]. В 101 году подразделение под руководством Мания Лаберия Максима приняло участие в первом дакийском походе[7] и было на короткое время размещено в столице присоединенных территорий Сармизегетузе. Отряд легиона построил форт вблизи Арада в западной части Румынии, откуда он осуществлял контроль над сарматами и охранял дорогу вдоль реки Муреш, которая соединяла Дакию и Паннонию[1]. По всей видимости, IV Счастливый Флавиев легион участвовал и во втором дакийском походе, который окончился окончательным покорением Дакии[8].