Основателем «Annihilator» является гитарист Джефф Уотерс. Сначала он играл в «Trojan hammer», но эта команда просуществовала недолго, и он основал свой проект «Jeff Waters project», постепенно трансформировавшийся в «Annihilator». В первый состав группы также вошли Майк Лейн (ударные), Джон Перинбам (вокал) и Кевин Янгом (бас). Последнего вскоре заменил Эндрю Штейнке. И Лейн, и Штейнке, в итоге, тоже были уволены.
Вместо них в коллективе появились вокалист Джон Бэйтс, басист Дейв Скотт и ударник Роб Лэнг. Последний вскоре был заменён Полом Малеком. Эта конфигурация записала демо «Welcome То Your Death» в 1985 году. Этот состав распался в апреле следующего года, когда Бэйтс и Скотт ушли из-за творческих разногласий.
Остался только Малек, и вместе с Уотерсом он записал ещё одну демо-запись, «Phantasmagoria», благодаря которой им удалось заполучить контракт с «Roadrunner records».
Тем временем состав ещё несколько раз перетасовался, и к 1987 году новыми членами коллектива стали Энтони Гринэм (гитара), Уэйн Дарли (бас) и Рэй Хартманн (ударные, экс-«Assault»).
На роль вокалиста сначала был принят Деннис Дюбо. Однако тот вскоре был заменён бывшим басистом довольно известной панк-рок команды D.O.A. Рэндалл Десмонд Арчибальд, наиболее известный как Рэнди Рэмпейдж. Но Дюбо по-прежнему можно услышать в бридже к песне «Alison Hell».
Когда в 1989 году появился дебютник «Alice In Hell», он как раз попал в полосу трэшевого бума, и, соответственно, получил хорошие обзоры в прессе. Немалая заслуга в этом была и самого Уотерса, виртуозно владевшего гитарой, а также записавшего практически в одиночку все остальные партии. В том же году «Annihilator» первый раз посетили Европу. Перед началом тура Джефф уволил Рэмпейджа, взяв на его место бывшего участника Коберна Фарра.