Показатели ошибки при проверке гипотез

При статистической проверке гипотез показатель ошибки процедуры проверки гипотез - это скорость, с которой вероятности типов I и II экспоненциально убывают с размером выборки, используемой в тесте. Например, если вероятность ошибки теста уменьшается как , где - размер выборки, показатель ошибки равен .${\ displaystyle P _ {\ mathrm {error}}}$${\ Displaystyle е ^ {- п \ бета}}$${\ displaystyle n}$${\ displaystyle \ beta}$

Формально показатель ошибки теста определяется как предельное значение отношения отрицательного логарифма вероятности ошибки в образце размера для больших размеров выборки: . Показатели ошибки для различных проверок гипотез вычисляются с использованием теоремы Санова и других результатов теории больших уклонений .${\displaystyle \lim _{n\to \infty }{\frac {-\ln P_{\text{error}}}{n}}}$

Показатели ошибок при проверке бинарных гипотез [ править ]

Рассмотрим задачу проверки бинарной гипотезы, в которой наблюдения моделируются как независимые и одинаково распределенные случайные величины при каждой гипотезе. Обозначим через наблюдения. Позвольте обозначить функцию плотности вероятности каждого наблюдения при нулевой гипотезе и позвольте обозначить функцию плотности вероятности каждого наблюдения при альтернативной гипотезе .${\displaystyle Y_{1},Y_{2},\ldots ,Y_{n}}$${\displaystyle f_{0}}$${\displaystyle Y_{i}}$${\displaystyle H_{0}}$${\displaystyle f_{1}}$${\displaystyle Y_{i}}$${\displaystyle H_{1}}$

В этом случае возможны два события ошибки . Ошибка типа 1, также называемая ложным срабатыванием , возникает, когда нулевая гипотеза верна и ошибочно отклоняется. Ошибка типа 2, также называемая ложноотрицательной, возникает, когда альтернативная гипотеза верна, а нулевая гипотеза не отклоняется. Обозначается вероятность ошибки 1-го типа и обозначается вероятность ошибки 2-го типа .${\displaystyle P(\mathrm {error} \mid H_{0})}$${\displaystyle P(\mathrm {error} \mid H_{1})}$

Оптимальная экспонента ошибки для тестирования Неймана – Пирсона [ править ]

В версии проверки бинарных гипотез по версии Неймана – Пирсона ^[1] каждый заинтересован в минимизации вероятности ошибки 2-го типа при условии, что вероятность ошибки 1-го типа меньше или равна заранее заданному уровню . В этом случае оптимальной процедурой тестирования является тест отношения правдоподобия . ^[2] Кроме того, оптимальный тест гарантирует, что вероятность ошибки 2-го типа экспоненциально убывает в размере выборки в соответствии с . ^[3] Показатель ошибки - это расхождение Кульбака – Лейблера.${\displaystyle P({\text{error}}\mid H_{1})}$${\displaystyle P({\text{error}}\mid H_{0})}$${\displaystyle \alpha }$${\displaystyle n}$${\displaystyle \lim _{n\to \infty }{\frac {-\ln P(\mathrm {error} \mid H_{1})}{n}}=D(f_{0}\parallel f_{1})}$${\displaystyle D(f_{0}\parallel f_{1})}$между распределениями вероятностей наблюдений при двух гипотезах. Этот показатель также называют показателем леммы Чернова – Стейна.

Оптимальный показатель ошибки для средней вероятности ошибки при проверке байесовской гипотезы [ править ]

В байесовской версии проверки бинарных гипотез каждый заинтересован в минимизации средней вероятности ошибки при обеих гипотезах, предполагая априорную вероятность появления каждой гипотезы. Пусть обозначает априорную вероятность гипотезы . В этом случае средняя вероятность ошибки равна . В этой настройке снова оптимальным является тест отношения правдоподобия, и оптимальная ошибка уменьшается, поскольку где представляет информацию Чернова между двумя распределениями, определенными как . ^[3]${\displaystyle \pi _{0}}$${\displaystyle H_{0}}$${\displaystyle P_{\text{ave}}=\pi _{0}P({\text{error}}\mid H_{0})+(1-\pi _{0})P({\text{error}}\mid H_{1})}$${\displaystyle \lim _{n\to \infty }{\frac {-\ln P_{\text{ave}}}{n}}=C(f_{0},f_{1})}$${\displaystyle C(f_{0},f_{1})}$${\displaystyle C(f_{0},f_{1})=\max _{\lambda \in [0,1]}\left[-\ln \int (f_{0}(x))^{\lambda }(f_{1}(x))^{(1-\lambda )}\,dx\right]}$

Ссылки [ править ]