Город находится в гористой местности с небольшими перепадами высот (500—800 м). Климат горный. Средние температуры января — +2+3 °C, июля — около +25 °C. Среднегодовое количество осадков — около 800 мм. Имеются источники минеральных вод.[2]
Происхождение названия города спорно. В переводе с сербского слово гњила означает «глина», а гњилина — «гниль», «гнилое место». Албанские источники утверждают, что город был основан семьёй Гнинай (Gjinaj), прибывшей сюда из Ново-Брдо.
В средние века, территория, на которой находится город Гнилане входила в состав сербского государства Стефана Душана. После битвы на Косовом поле (1389) — вошла в состав Османской империи. В 1912 году город и прилегающая территория вошли в состав Королевства Сербия.
В 1999 году власти Сербии потеряли фактический контроль над Гнилане. Памятники, напоминающие о бывшем сербском присутствии, были уничтожены. Разрушен памятник князю Лазарю, который располагался перед городским театром (сейчас на этом месте находится памятник боевикам Армии освобождения Косова). В 2000 году в результате взрыва ручной гранаты повреждена православная церковь Святого Николая[серб.].
В марте 2004 город был одним из крупных центров сербских погромов на территории Косова и Метохии — все сербы были выгнаны из города, а их дома сожжены.[3]
Согласно последней официальной переписи 1991 года население насчитывает 103 675 жителей. Более поздние исследования и оценки отмечают рост численности населения.