Множитель Лагранжа

В математической оптимизации метод множителей Лагранжа представляет собой стратегию поиска локальных максимумов и минимумов функции , подчиняющейся ограничениям уравнения (т. е. при условии, что одно или несколько уравнений должны точно удовлетворяться выбранными значениями переменных) . ). ^[1] Он назван в честь математика Жозефа-Луи Лагранжа .

Основная идея состоит в том, чтобы преобразовать задачу с ограничениями в такую форму, в которой по-прежнему можно будет применять тест производной задачи без ограничений. Связь между градиентом функции и градиентами ограничений довольно естественно приводит к переформулировке исходной задачи, известной как функция Лагранжа . ^[2] В общем случае лагранжиан определяется как

для функций ; называется множителем Лагранжа. ${\ Displaystyle е (х), г (х)}$ $\lambda$

Метод можно резюмировать следующим образом: чтобы найти максимум или минимум функции, на которую распространяется ограничение равенства , найдите стационарные точки рассматриваемой как функции и множителя Лагранжа . Это означает, что все частные производные должны быть равны нулю, включая частную производную по . ^[3] ${\ displaystyle f (x)}$ ${\ displaystyle g (x) = 0}$ ${\mathcal {L}}$ $х$ $\lambda ~$ $\lambda ~$

Решение, соответствующее исходной оптимизации с ограничениями, всегда является седловой точкой функции Лагранжа, ^[4]^[5] которую можно идентифицировать среди стационарных точек по определенности ограниченной матрицы Гессе . ^[6]

Большим преимуществом этого метода является то, что он позволяет решать оптимизацию без явной параметризации ограничений. В результате метод множителей Лагранжа широко используется для решения сложных задач оптимизации с ограничениями. Далее метод множителей Лагранжа обобщается условиями Каруша–Куна–Таккера , которые также могут учитывать ограничения-неравенства вида для заданной константы . $час(\mathbf {x})\leq c$ $с~$