С 1874 года Фридрих Клуге изучал сравнительное языкознание, а также классическую и современную филологию в университетах Лейпцига, Страсбурга и Фрайбурга-им-Брайсгау. Он получил докторскую степень в Страсбурге в 1878 году и завершил там свою абилитацию в 1880 году на немецком и английском языках.
С 1884 г. он был адъюнкт-профессором Йенского университета, а с 1886 г. — профессором. В 1893 году он принял приглашение в Университет Фрайбурга-им-Брайсгау, где он сменил своего учителя Германа Пауля, получив статус профессора немецкого языка и литературы.
Его имя наиболее известно благодаря созданному им «Этимологическому словарю немецкого языка» (часто называемому просто «Kluge»), опубликованному в 1883 году, который на сегодняшний день выдержал множество переизданий (последний раз — 25-е издание в 2011 году) и стал классической работой по немецкой этимологии.
Одним из первых немецких ученых он занимался интенсивным изучением профессиональных и специальных жаргонов, таких, как жаргон моряков, жаргон преступников и студенческий жаргон, что нашло отражение в его словаре и в отдельных публикациях.
В 1894/95 году Клюге вместе с Фридрихом Пфаффом и Элардом Хьюго Мейером провел письменное исследование фольклора Бадена. Оно легло в основу «Баденского словаря» (Badische Wörterbuch), одного из крупнейших словарей немецкого языка, содержащего лексику алеманнского, рейнско-франконского и восточно-франконского диалектов, который ученик Клюге Эрнст Охс начал создавать в 1914 году.
В 1900 году Клюге основал журнал Zeitschrift für deutsche Wortforschung, который издавался до 1914 года. С 1892 года он стал действительным членом Саксонской академии наук в Лейпциге. В 1910 году стал экстраординарным членом Гейдельбергской академии наук.