В информатике , логистическая модель дерева ( LMT ) является классификация модель с соответствующим поднадзорной учебного алгоритма , который сочетает в себе логистическая регрессия (LR) и дерево решений обучения . [1] [2]
Деревья логистических моделей основаны на более ранней идее дерева моделей: дерево решений, которое имеет модели линейной регрессии на своих концах, чтобы обеспечить модель кусочно-линейной регрессии (где обычные деревья решений с константами на их листьях будут давать кусочно-постоянную модель). [1] В логистическом варианте алгоритм LogitBoost используется для создания модели LR в каждом узле дерева; затем узел разделяется с использованием критерия C4.5 . Каждый вызов LogitBoost запускается в теплом состоянии [ неопределенно ] на основании результатов в родительском узле. Наконец, дерево обрезается. [3]
Базовый алгоритм индукции LMT использует перекрестную проверку, чтобы найти количество итераций LogitBoost, которые не соответствуют обучающим данным. Была предложена более быстрая версия, которая использует информационный критерий Акаике для управления остановкой LogitBoost. [3]
Рекомендации
- ^ a b Нильс Ландвер, Марк Холл и Эйбе Франк (2003). Деревья логистических моделей (PDF) . ECML PKDD .CS1 maint: использует параметр авторов ( ссылка )
- ^ Landwehr, N .; Холл, М .; Франк, Э. (2005). «Деревья логистических моделей» (PDF) . Машинное обучение . 59 : 161. DOI : 10.1007 / s10994-005-0466-3 .
- ^ а б Самнер, Марк, Эйбе Франк и Марк Холл (2005). Ускорение создания дерева логистической модели (PDF) . ДОКД. Springer. С. 675–683.CS1 maint: использует параметр авторов ( ссылка )