Перейти к навигации Перейти к поиску
В машинном обучении и вычислительной теории обучения , LogitBoost является повышение алгоритм сформулирован Джером Фридман , Тревор Гесте и Роберт Tibshirani . В исходной статье алгоритм AdaBoost превращается в статистическую структуру. [1] В частности, если рассматривать AdaBoost как обобщенную аддитивную модель, а затем применять функцию стоимости логистической регрессии , можно вывести алгоритм LogitBoost.
Минимизация функции затрат LogitBoost [ править ]
LogitBoost можно рассматривать как выпуклую оптимизацию . В частности, учитывая, что мы ищем аддитивную модель вида
алгоритм LogitBoost минимизирует логистические потери :
См. Также [ править ]
Ссылки [ править ]
- ^ Фридман, Джером; Хасти, Тревор; Тибширани, Роберт (2000). «Аддитивная логистическая регрессия: статистический взгляд на повышение». Анналы статистики . 28 (2): 337–407. CiteSeerX 10.1.1.51.9525 . DOI : 10.1214 / AOS / 1016218223 .