В статистике , обобщенный итерационное масштабирование ( ГИС ) и улучшена итерационный масштабирования ( IIS ) являются два ранними алгоритмы используются для подгонки Логлинейного моделей , [1] в частности мультиномиальной логистической регрессия (MaxEnt) классификаторы и расширение него , такие как модель MaxEnt Маркова [2 ] и условные случайные поля . Эти алгоритмы в значительной степени превзошли градиентные методы, такие как L-BFGS [3] и алгоритмы координатного спуска . [4]
Смотрите также
Рекомендации
- ^ Darroch, JN; Ратклифф, Д. (1972). «Обобщенное итерационное масштабирование для лог-линейных моделей» . Летопись математической статистики . 43 (5): 1470–1480. DOI : 10,1214 / aoms / 1177692379 .
- ^ Маккаллум, Эндрю; Фрайтаг, Дэйн; Перейра, Фернандо (2000). «Марковские модели с максимальной энтропией для извлечения и сегментации информации» (PDF) . Proc. ICML 2000 . С. 591–598.
- ^ Малуф, Роберт (2002). Сравнение алгоритмов оценки максимального энтропийного параметра (PDF) . Шестая конф. по изучению естественного языка (CoNLL). С. 49–55. Архивировано из оригинального (PDF) 01.11.2013.
- ^ Юй Сян-Фу; Хуанг, Фан-Лань; Лин, Чи-Джен (2011). «Методы двойного координатного спуска для моделей логистической регрессии и максимальной энтропии» (PDF) . Машинное обучение . 85 (1–2): 41–75. DOI : 10.1007 / s10994-010-5221-8 .