Относительная вероятность

В статистике предположим, что нам предоставили некоторые данные, и мы строим статистическую модель этих данных. Относительная вероятность сравнения относительных plausibilities различных моделей - кандидатов или различных значений параметра в одной модели.

Относительная вероятность значений параметров [ править ]

Предположим, что нам даны некоторые данные x, для которых у нас есть статистическая модель с параметром θ . Предположим, что оценка максимального правдоподобия для θ равна . Относительные вероятности других значений θ можно найти путем сравнения вероятностей этих других значений с вероятностью . Относительная вероятность того, из & thetas определяется как ^{[1] [2] [3] [4] [5]}${\ displaystyle {\ hat {\ theta}}}$${\ displaystyle {\ hat {\ theta}}}$

${\ displaystyle {\ frac {~ {\ mathcal {L}} (\ theta \ mid x) ~} {~ {\ mathcal {L}} ({\ hat {\ theta}} \ mid x) ~}}}$

где обозначает функцию правдоподобия. Таким образом, относительное правдоподобие - это отношение правдоподобия с фиксированным знаменателем .${\ Displaystyle {\ mathcal {L}} (\ theta \ mid x)}$${\ displaystyle {\ mathcal {L}} ({\ hat {\ theta}} \ mid x)}$

Функция

${\displaystyle \theta \mapsto {\frac {~{\mathcal {L}}(\theta \mid x)~}{~{\mathcal {L}}({\hat {\theta }}\mid x)~}}}$

- функция относительного правдоподобия .

Область вероятности [ править ]

Область правдоподобия является множество всех значений & thetas , относительная вероятность того, больше или равно заданному порогу. В процентах определяется, что область правдоподобия p % для θ равна. ^{[1] [3] [6]}

${\displaystyle \left\{\theta :{\frac {{\mathcal {L}}(\theta \mid x)}{{\mathcal {L}}({\hat {\theta \,}}\mid x)}}\geq {\frac {p}{100}}\right\}.}$

Если θ - единственный действительный параметр, область правдоподобия p % обычно будет включать интервал реальных значений. Если регион действительно содержит интервал, то он называется интервалом правдоподобия . ^{[1] [3] [7]}

Интервалы правдоподобия и, в более общем смысле, области правдоподобия используются для оценки интервалов в статистике, основанной на правдоподобии (статистика «правдоподобия»): они аналогичны доверительным интервалам в частотной статистике и достоверным интервалам в байесовской статистике. Интервалы правдоподобия интерпретируются непосредственно с точки зрения относительной вероятности, а не с точки зрения вероятности охвата (частотность) или апостериорной вероятности (байесовство).

Для данной модели интервалы правдоподобия можно сравнить с доверительными интервалами. Если θ - единственный действительный параметр, то при определенных условиях интервал правдоподобия 14,65% (приблизительно 1: 7 правдоподобия) для θ будет таким же, как доверительный интервал 95% (вероятность охвата 19/20). ^{[1] [6]} В несколько иной формулировке, подходящей для использования логарифма правдоподобия (см. Теорему Уилкса ), тестовая статистика вдвое превышает разницу логарифмических правдоподобий, а распределение вероятностей тестовой статистики приблизительно равно хи. квадрат распределения со степенями свободы (df), равный разнице в df-s между двумя моделями (следовательно, e ⁻²интервал правдоподобия такой же, как и доверительный интервал 0,954; предполагая, что разница в df-s равна 1). ^{[6] [7]}

Относительная вероятность моделей [ править ]

Определение относительного правдоподобия можно обобщить для сравнения различных статистических моделей . Это обобщение основано на AIC (информационный критерий Акаике) или иногда на AICc (информационный критерий Акаике с исправлением).

Предположим, что для некоторых данных у нас есть две статистические модели, M ₁ и M ₂ . Также предположим, что AIC ( M ₁ ) ≤ AIC ( M ₂ ) . Тогда относительная вероятность того, из М ₂ по отношению к М ₁ определяется следующим образом . ^[8]

${\displaystyle \exp \left({\frac {\operatorname {AIC} (M_{1})-\operatorname {AIC} (M_{2})}{2}}\right)}$

Чтобы увидеть, что это обобщение предыдущего определения, предположим, что у нас есть некоторая модель M с параметром θ (возможно, многомерным) . Тогда для любого θ положим M ₂ = M ( θ ) , а также положим M ₁ = M ( ) . Общее определение теперь дает тот же результат, что и предыдущее определение.${\displaystyle {\hat {\theta }}}$

См. Также [ править ]

• Функция правдоподобия
• Выбор статистической модели
• Спецификация статистической модели
• Проверка статистической модели

Примечания [ править ]