Метод итеративно перевзвешенных наименьших квадратов ( IRLS ) используется для решения некоторых оптимизационных задач с целевыми функциями вида p - нормы :
итерационным методом , в котором каждый шаг включает решение взвешенной задачи наименьших квадратов вида: [1]
IRLS используется для нахождения оценок максимального правдоподобия обобщенной линейной модели , а в робастной регрессии — для нахождения M-оценки как способ смягчения влияния выбросов в обычно распределенном наборе данных, например, путем минимизации наименьшие абсолютные ошибки , а не наименьшие квадратичные ошибки .
Одним из преимуществ IRLS перед линейным программированием и выпуклым программированием является то, что его можно использовать с численными алгоритмамиГаусса – Ньютона и Левенберга – Марквардта .
Чтобы найти параметры β = ( β 1 , …, β k ) T , которые минимизируют норму L p для задачи линейной регрессии ,
В случае p = 1 это соответствует регрессии с наименьшим абсолютным отклонением (в этом случае к проблеме лучше подойти с помощью методов линейного программирования , [5] , чтобы результат был точным) и формула: