Logit

График логита ( p ) в диапазоне от 0 до 1, где основание логарифма равно e .

В статистике, логит ( / л oʊ dʒ ɪ т / LOH -jit ) Функция или лог-фора является логарифмом из шансов , где $р$ представляет собой вероятность того . ^[1] Это тип функции, которая создает карту значений вероятности от до . ^[2] Это обратная часть сигмовидной «логистическая» функции или материально - техническое преобразование используется в математике , особенно в статистике . ${\ displaystyle {\ frac {p} {1-p}}}$ ${\ displaystyle (0,1)}$ ${\ Displaystyle (- \ infty, + \ infty)}$

Определение [ править ]

Если $p$ - вероятность , то $p$ $/ (1 -$ $p$ $)$ - соответствующие шансы ; $логит$ вероятности представляет собой логарифм шансов, т.е.

{\ Displaystyle \ OperatorName {logit} (p) = \ log \ left ({\ frac {p} {1-p}} \ right) = \ log (p) - \ log (1-p) = - \ log \ left ({\ frac {1} {p}} - 1 \ right) \ ,.}

Основание используемой функции логарифма не имеет большого значения в данной статье, если оно больше 1, но чаще всего используется натуральный логарифм с основанием $e$ . Выбор основания соответствует выбору логарифмической единицы для значения: основание 2 соответствует шеннону , основание $e$ - « нат », а основание 10 - хартли ; эти единицы особенно используются в теоретико-информационных интерпретациях. Для каждого выбора базы функция логита принимает значения от отрицательной до положительной бесконечности.

Функция «логистическая» любое число даются обратносмещенном $логитом$ : ${\ displaystyle \ alpha}$

\operatorname {logit} ^{-1}(\alpha )=\operatorname {logistic} (\alpha )={\frac {1}{1+\operatorname {exp} (-\alpha )}}={\frac {\operatorname {exp} (\alpha )}{\operatorname {exp} (\alpha )+1}}

Разница между $логитами$ двух вероятностей - это логарифм отношения шансов ( $R$ ), что обеспечивает сокращение для записи правильной комбинации отношений шансов только путем сложения и вычитания :

\operatorname {log} (R)=\log \left({\frac {{p_{1}}/(1-p_{1})}{{p_{2}}/(1-p_{2})}}\right)=\log \left({\frac {p_{1}}{1-p_{1}}}\right)-\log \left({\frac {p_{2}}{1-p_{2}}}\right)=\operatorname {logit} (p_{1})-\operatorname {logit} (p_{2})\,.

История [ править ]

Было предпринято несколько попыток адаптировать методы линейной регрессии к области, в которой выходными данными является значение вероятности , а не любое действительное число . Во многих случаях такие усилия были сосредоточены на моделировании этой проблемы путем сопоставления диапазона с этими преобразованными значениями и последующего выполнения линейной регрессии. В 1934 году Честер Итнер Блисс использовал кумулятивную нормальную функцию распределения для выполнения этого отображения и назвал его модель пробита аббревиатурой для « проб способности ипа так ли »;. ^[3] Однако это более затратно в вычислительном отношении. В 1944 году Джозеф Берксон использовал логарифм шансов и назвал эту функцию логитом, $(0,1)$ $(-\infty ,+\infty )$ $(0,1)$ $(-\infty ,+\infty )$ сокращение от « log istic un it » по аналогии с пробит. Коэффициенты бревна широко использовались Чарльзом Сандерсом Пирсом (конец 19 века). ^[4] Г. А. Барнард в 1949 г. ввел широко используемый термин логарифм-шансы ; ^[5] логарифм вероятности события - это логит вероятности события. ^[6]

Использование и свойства [ править ]

Логит в логистической регрессии является частным случаем функции связи в обобщенной линейной модели : это каноническая функция ссылки для распределения Бернулли .
Логит функция является отрицательной величиной производной от бинарной энтропии функции .
Логит также играет центральную роль в вероятностной модели Раша для измерения , которая имеет применение в психологической и педагогической оценки, среди других областей.
Функция обратного логита (то есть логистическая функция ) также иногда называется функцией экспита . ^[7]
В эпидемиологии болезней растений логит используется для согласования данных с логистической моделью. В моделях Гомперца и мономолекулярных все три известны как модели семейства Ричардсов.
Логарифмическая функция вероятностей часто используется в алгоритмах оценки состояния ^[8] из-за ее численных преимуществ в случае малых вероятностей. Вместо умножения очень маленьких чисел с плавающей запятой, вероятности логарифмических шансов можно просто суммировать для вычисления совместной вероятности (логарифмических шансов). ^[9]^[10]

Сравнение с пробит [ править ]

Сравнение функции логита с масштабированными пробита (то есть обратной CDF от нормального распределения ), по сравнению против , что делает склоны и то же на

у

-origin.

\operatorname {logit} (x)

{\tfrac {\Phi ^{-1}(x)}{\,{\sqrt {\pi /8\,}}\,}}

С функцией $logit$ (и моделью logit ) тесно связаны пробит-функция и пробит-модель . $Логит$ и $пробит$ оба сигмоида с доменом между 0 и 1, что делает их обоих квантилей функции - то есть, обратны кумулятивной функции распределения (CDF) в виде распределения вероятностей . В самом деле, $логит$ является функцией квантиля из логистического распределения , в то время как $пробита$ функция квантиля нормального распределения. $Пробит$ функция обозначается , где есть CDF нормального распределения, как только что упоминалось: $\Phi ^{-1}(x)$ $\Phi (x)$

\Phi (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-{\frac {y^{2}}{2}}}dy.

Как показано на графике справа, функции $logit$ и $probit$ очень похожи, когда функция $probit$ масштабируется, так что ее наклон при $y = 0$ совпадает с наклоном $logit$ . В результате вместо логит-моделей иногда используются пробит-модели , поскольку для определенных приложений (например, в байесовской статистике ) реализация проще.

См. Также [ править ]

Сигмоидальная функция , обратная логит-функции
Дискретный выбор двоичного логита, полиномиального логита, условного логита, вложенного логита, смешанного логита, разнесенного логита и упорядоченного логита
Ограниченная зависимая переменная
Дэниел Макфадден , лауреат Нобелевской премии по экономике за разработку конкретной логит-модели, используемой в экономике ^[3]
Логит-анализ в маркетинге
Полиномиальный логит
Ogee , изгиб с похожей формой
Перцептрон
Пробит , еще одна функция с тем же доменом и диапазоном, что и логит
Ридит скоринг
Преобразование данных (статистика)
Арксин (трансформация)

Ссылки [ править ]

Эта статья включает в себя список общих ссылок , но он остается в значительной степени непроверенным, поскольку в нем отсутствует достаточное количество соответствующих встроенных ссылок . Пожалуйста, помогите улучшить эту статью, добавив более точные цитаты. ( Ноябрь 2010 г. ) ( Узнайте, как и когда удалить этот шаблон сообщения )

^ "LOG ОШ" . nist.gov .
^ "Logit / Probit" (PDF) .
^ а б Дж. С. Крамер (2003). «Истоки и развитие логит-модели» (PDF) . Кембридж UP.
^ Стиглер, Стивен М. (1986). История статистики: измерение неопределенности до 1900 года . Кембридж, Массачусетс: Belknap Press of Harvard University Press. ISBN 978-0-674-40340-6.
^ Хильбе, Джозеф М. (2009), Модели логистической регрессии , CRC Press, стр. 3, ISBN 9781420075779.
Перейти ↑ Cramer, JS (2003), Logit Models from Economics and Other Fields , Cambridge University Press, p. 13, ISBN 9781139438193.
^ "Архивная копия" . Архивировано из оригинала на 2011-07-06 . Проверено 18 февраля 2011 .CS1 maint: archived copy as title (link)
^ Thrun, Себастьян (2003). «Изучение карт сетки присутствия с моделями переднего датчика». Автономные роботы . 15 (2): 111–127. DOI : 10,1023 / A: 1025584807625 . ISSN 0929-5593 .
^ Styler, Алекс (2012). «Статистические методы в робототехнике» (PDF) . п. 2 . Проверено 26 января 2017 .
^ Dickmann, J .; Appenrodt, N .; Klappstein, J .; Bloecher, HL; Muntzinger, M .; Sailer, A .; Hahn, M .; Бренк, К. (01.01.2015). «Заставить Берту увидеть еще больше: вклад радара» . Доступ IEEE . 3 : 1233–1247. DOI : 10,1109 / ACCESS.2015.2454533 . ISSN 2169-3536 .

Дальнейшее чтение [ править ]

Эштон, Уинифред Д. (1972). Преобразование логита: с особым упором на его использование в биотесте . Статистические монографии и курсы Гриффина. 32 . Чарльз Гриффин. ISBN 978-0-85264-212-2.

[1] "LOG ОШ" . nist.gov .

[2] "Logit / Probit" (PDF) .

[Cramer2003-3] а б Дж. С. Крамер (2003). «Истоки и развитие логит-модели» (PDF) . Кембридж UP.

[4] Стиглер, Стивен М. (1986). История статистики: измерение неопределенности до 1900 года . Кембридж, Массачусетс: Belknap Press of Harvard University Press. ISBN 978-0-674-40340-6.

[5] Хильбе, Джозеф М. (2009), Модели логистической регрессии , CRC Press, стр. 3, ISBN 9781420075779.

[6] Перейти ↑ Cramer, JS (2003), Logit Models from Economics and Other Fields , Cambridge University Press, p. 13, ISBN 9781139438193.

[7] "Архивная копия" . Архивировано из оригинала на 2011-07-06 . Проверено 18 февраля 2011 .CS1 maint: archived copy as title (link)

[8] Thrun, Себастьян (2003). «Изучение карт сетки присутствия с моделями переднего датчика». Автономные роботы . 15 (2): 111–127. DOI : 10,1023 / A: 1025584807625 . ISSN 0929-5593 .

[9] Styler, Алекс (2012). «Статистические методы в робототехнике» (PDF) . п. 2 . Проверено 26 января 2017 .

[10] Dickmann, J .; Appenrodt, N .; Klappstein, J .; Bloecher, HL; Muntzinger, M .; Sailer, A .; Hahn, M .; Бренк, К. (01.01.2015). «Заставить Берту увидеть еще больше: вклад радара» . Доступ IEEE . 3 : 1233–1247. DOI : 10,1109 / ACCESS.2015.2454533 . ISSN 2169-3536 .

[1]