Группа была сформирована в 1982 году под первоначальным названием Zoo Crew[2]. Отличительной чертой группы, особенно на раннем периоде, всегда являлась постоянная смена состава, иногда сменялись по нескольку музыкантов в год. Единственным неизменным участником является нью-йоркский гитарист и основатель коллектива Винни Стигма (англ. Vinnie Stigma), экс-участник группы Eliminators.
В 1983 году был записан дебютный EP United Blood. Вокалистом группы к этому времени стал Роджер Мирет (англ. Roger Miret), ударником — Рей Барбери, гитаристом — Адам Муши.
В 1984 году выпущен альбом Victim In Pain. К тому времени на ударных был Дейв Джонс (чуть позднее его сменил Джим Колетти), бас-гитара — Роб Кабула. Альбом стал заметным явлением на местной хардкор-сцене. Agnostic Front стали часто давать концерты в знаменитом нью-йоркском клубе CBGB (помимо них в клубе выступали, например, The Cro-Mags, Murphy’s Law), где вокруг группы формируется своя команда фанов (саппортеров).
Альбом Cause For Alarm, вышедший в 1986 году, стал ближе к набирающему популярность трэш-металу, чем к традиционному хардкор-звучанию. Это не могло не вызвать недовольства среди фанатов хардкора, часть которых отвернулась от группы. Традицию ухода в трэш-метал продолжил и следующий альбом — Liberty And Justice For…. В том же году вокалист группы Роджер Мирет был арестован и обвинён в хранении наркотиков. Тем не менее, это не помешало группе отправиться в свой первый европейский тур (Мирета временно заменил Майкл Шост).
После выхода Мирета из заключения, при помощи членов Madball и Sick of It All был записан альбом One Voice. Но, в том же году группа распалась, напоследок выпустив сборник To Be Continued и концертник Last Warning. Последний концерт был дан в том же CBGB в декабре 1992 года.
В 1997 году Стигма и Мирет предприняли попытку реанимировать группу. За барабаны был приглашён Джимми Колетти, басистом вновь стал Роб Кабула. Группа заключила контракт с «Epitaph Records», и в 1998 году выпустила альбом Something’s Gotta Give (хотя, по замечанию Мирета, первоначальное название было Today, Tomorrow, Forever), где вернулась к классическому хардкор-звучанию. В следующем альбоме группы, Riot, Riot, Upstart, приняли участие Билли Милано из M.O.D. и Ларс Фредриксен из Rancid. В 2002 году Мирет занялся сторонним проектом Roger Miret and the Disasters, звук которого был ближе к Oi! звучанию, в том же году группа снялась в фильме Мэттью Барни (Matthew Barney) Cremaster 3 (совместно с Murphy’s Law). В 2004 году произошла смена лейбла на Nuclear Blast Records. В 2008 году сингл «Victim in Pain» зазвучал в игре Grand Theft Auto 4 на внутренне-игровом радио «Liberty City Hardcore», на котором также можно было услышать родственные Agnostic Front группы — Cro-Mags, Bad Brains и Murphy’s Law.