Масштабированное обратное распределение хи-квадрат

Масштабированный обратный хи-квадрат

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${\ displaystyle \ nu> 0 \,}$ ${\ Displaystyle \ тау ^ {2}> 0 \,}$
Поддерживать	${\ Displaystyle х \ в (0, \ infty)}$
PDF	${\displaystyle {\frac {(\tau ^{2}\nu /2)^{\nu /2}}{\Gamma (\nu /2)}}~{\frac {\exp \left[{\frac {-\nu \tau ^{2}}{2x}}\right]}{x^{1+\nu /2}}}}$
CDF	${\displaystyle \Gamma \left({\frac {\nu }{2}},{\frac {\tau ^{2}\nu }{2x}}\right)\left/\Gamma \left({\frac {\nu }{2}}\right)\right.}$
Иметь в виду	${\displaystyle {\frac {\nu \tau ^{2}}{\nu -2}}}$ за ${\displaystyle \nu >2\,}$
Режим	${\displaystyle {\frac {\nu \tau ^{2}}{\nu +2}}}$
Дисперсия	${\displaystyle {\frac {2\nu ^{2}\tau ^{4}}{(\nu -2)^{2}(\nu -4)}}}$за ${\displaystyle \nu >4\,}$
Асимметрия	${\displaystyle {\frac {4}{\nu -6}}{\sqrt {2(\nu -4)}}}$за ${\displaystyle \nu >6\,}$
Бывший. эксцесс	${\displaystyle {\frac {12(5\nu -22)}{(\nu -6)(\nu -8)}}}$за ${\displaystyle \nu >8\,}$
Энтропия	${\displaystyle {\frac {\nu }{2}}\!+\!\ln \left({\frac {\tau ^{2}\nu }{2}}\Gamma \left({\frac {\nu }{2}}\right)\right)}$ ${\displaystyle \!-\!\left(1\!+\!{\frac {\nu }{2}}\right)\psi \left({\frac {\nu }{2}}\right)}$
MGF	${\displaystyle {\frac {2}{\Gamma ({\frac {\nu }{2}})}}\left({\frac {-\tau ^{2}\nu t}{2}}\right)^{\!\!{\frac {\nu }{4}}}\!\!K_{\frac {\nu }{2}}\left({\sqrt {-2\tau ^{2}\nu t}}\right)}$
CF	${\displaystyle {\frac {2}{\Gamma ({\frac {\nu }{2}})}}\left({\frac {-i\tau ^{2}\nu t}{2}}\right)^{\!\!{\frac {\nu }{4}}}\!\!K_{\frac {\nu }{2}}\left({\sqrt {-2i\tau ^{2}\nu t}}\right)}$

Масштабируется обратного распределения хи-квадрат является распределение по х = 1 / ев ² , где ˙s ² представляет собой выборочное среднее квадратов v , независимых нормальных случайных величин, имеющих среднее 0 и обратная дисперсии 1 / сг ² = T ² . Таким образом, распределение параметризуется двумя величинами ν и τ ² , называемыми числом степеней свободы хи-квадрат и параметром масштабирования , соответственно.

Это семейство масштабированных обратных распределений хи-квадрат тесно связано с двумя другими семействами распределений: обратным распределением хи-квадрат и обратным гамма-распределением . По сравнению с обратной распределения хи-квадрат, масштабированного распределение имеет дополнительный параметр Т ² , который масштабирует распределение по горизонтали и вертикали, представляя обратную-дисперсию исходного основного процесса. Кроме того, масштабированное обратное распределение хи-квадрат представлено как распределение, обратное среднему значению квадратов отклонений ν, а не как обратное значение их суммы . Таким образом, два распределения имеют соотношение, что если

${\displaystyle X\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,\tau ^{2})}$   тогда   ${\displaystyle {\frac {X}{\tau ^{2}\nu }}\sim {\mbox{inv-}}\chi ^{2}(\nu )}$

По сравнению с обратным гамма-распределением масштабированное обратное распределение хи-квадрат описывает то же распределение данных, но с использованием другой параметризации , которая может быть более удобной в некоторых обстоятельствах. В частности, если

${\displaystyle X\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,\tau ^{2})}$   тогда   ${\displaystyle X\sim {\textrm {Inv-Gamma}}\left({\frac {\nu }{2}},{\frac {\nu \tau ^{2}}{2}}\right)}$

Любая форма может использоваться для представления максимального распределения энтропии для фиксированного первого обратного момента и первого логарифмического момента .${\displaystyle (E(1/X))}$${\displaystyle (E(\ln(X))}$

Масштабированное обратное распределение хи-квадрат также имеет особое применение в байесовской статистике , в некоторой степени не связанное с его использованием в качестве прогнозного распределения для x = 1 / s ² . В частности, масштабированное обратное распределение хи-квадрат может использоваться в качестве предшествующего сопряженного для параметра дисперсии нормального распределения . В этом контексте параметр масштабирования обозначается σ ₀ ^2, а не τ ² , и имеет другую интерпретацию. Приложение чаще представлялось с использованием формулировки обратного гамма-распределения ; однако некоторые авторы, в частности, вслед за Гельманоми другие. (1995/2004) утверждают, что параметризация обратного хи-квадрат более интуитивна.

Характеристика [ править ]

Функция плотности вероятности масштабированного обратного распределения хи-квадрат распространяется по области и имеет вид${\displaystyle x>0}$

${\displaystyle f(x;\nu ,\tau ^{2})={\frac {(\tau ^{2}\nu /2)^{\nu /2}}{\Gamma (\nu /2)}}~{\frac {\exp \left[{\frac {-\nu \tau ^{2}}{2x}}\right]}{x^{1+\nu /2}}}}$

где это степени свободы параметра и является параметром масштаба . Кумулятивная функция распределения:${\displaystyle \nu }$${\displaystyle \tau ^{2}}$

${\displaystyle F(x;\nu ,\tau ^{2})=\Gamma \left({\frac {\nu }{2}},{\frac {\tau ^{2}\nu }{2x}}\right)\left/\Gamma \left({\frac {\nu }{2}}\right)\right.}$

${\displaystyle =Q\left({\frac {\nu }{2}},{\frac {\tau ^{2}\nu }{2x}}\right)}$

где - неполная гамма-функция , - гамма-функция и - регуляризованная гамма-функция . Характеристическая функция является${\displaystyle \Gamma (a,x)}$${\displaystyle \Gamma (x)}$${\displaystyle Q(a,x)}$

${\displaystyle \varphi (t;\nu ,\tau ^{2})=}$

${\displaystyle {\frac {2}{\Gamma ({\frac {\nu }{2}})}}\left({\frac {-i\tau ^{2}\nu t}{2}}\right)^{\!\!{\frac {\nu }{4}}}\!\!K_{\frac {\nu }{2}}\left({\sqrt {-2i\tau ^{2}\nu t}}\right),}$

где - модифицированная функция Бесселя второго рода .${\displaystyle K_{\frac {\nu }{2}}(z)}$

Оценка параметров [ править ]

Оценка максимального правдоподобия из IS${\displaystyle \tau ^{2}}$

${\displaystyle \tau ^{2}=n/\sum _{i=1}^{n}{\frac {1}{x_{i}}}.}$

Оценка максимального правдоподобия может быть найдена с помощью метода Ньютона на:${\displaystyle {\frac {\nu }{2}}}$

${\displaystyle \ln \left({\frac {\nu }{2}}\right)-\psi \left({\frac {\nu }{2}}\right)=\sum _{i=1}^{n}\ln \left(x_{i}\right)-n\ln \left(\tau ^{2}\right),}$

где - дигамма-функция . Первоначальную оценку можно найти, взяв формулу для среднего и решив ее для Пусть будет выборочным средним. Тогда начальная оценка для определяется как:${\displaystyle \psi (x)}$${\displaystyle \nu .}$${\displaystyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$${\displaystyle \nu }$

${\displaystyle {\frac {\nu }{2}}={\frac {\bar {x}}{{\bar {x}}-\tau ^{2}}}.}$

Байесовская оценка дисперсии нормального распределения [ править ]

Масштабированное обратное распределение хи-квадрат имеет второе важное применение в байесовской оценке дисперсии нормального распределения.

Согласно теореме Байеса , апостериорное распределение вероятностей для представляющих интерес величин пропорционально произведению априорного распределения величин и функции правдоподобия :

${\displaystyle p(\sigma ^{2}|D,I)\propto p(\sigma ^{2}|I)\;p(D|\sigma ^{2})}$

где D представляет данные, а I представляет любую исходную информацию о σ ^2, которая у нас уже может быть.

Самый простой сценарий возникает, если среднее значение μ уже известно; или, в качестве альтернативы, если ищется условное распределение σ ² , для конкретного предполагаемого значения μ.

Тогда член правдоподобия L (σ ² | D ) = p ( D | σ ² ) имеет знакомый вид

${\displaystyle {\mathcal {L}}(\sigma ^{2}|D,\mu )={\frac {1}{\left({\sqrt {2\pi }}\sigma \right)^{n}}}\;\exp \left[-{\frac {\sum _{i}^{n}(x_{i}-\mu )^{2}}{2\sigma ^{2}}}\right]}$

Объединение этого с инвариантным к изменению масштабом априорным значением p (σ ² | I ) = 1 / σ ² , которое можно утверждать (например, следуя Джеффрису ) как наименее информативное из возможных априорных значений для σ ² в этой задаче, дает комбинированную апостериорную вероятность

${\displaystyle p(\sigma ^{2}|D,I,\mu )\propto {\frac {1}{\sigma ^{n+2}}}\;\exp \left[-{\frac {\sum _{i}^{n}(x_{i}-\mu )^{2}}{2\sigma ^{2}}}\right]}$

Эта форма может быть распознана как форма масштабированного обратного распределения хи-квадрат с параметрами ν = n и τ ² = s ² = (1 / n ) Σ (x _i -μ) ²

Гельман и др. Отмечают, что повторное появление этого распределения, ранее замеченное в контексте выборки, может показаться примечательным; но с учетом выбора приора «результат неудивителен». ^[1]

В частности, выбор априорного значения, инвариантного к изменению масштаба для σ ^2, приводит к тому, что вероятность для отношения σ ² / s ² имеет ту же форму (независимо от обусловливающей переменной) при условии s ^2, что и при условии σ ² :

${\displaystyle p({\tfrac {\sigma ^{2}}{s^{2}}}|s^{2})=p({\tfrac {\sigma ^{2}}{s^{2}}}|\sigma ^{2})}$

В случае теории выборки, обусловленной σ ² , распределение вероятностей для (1 / с ² ) представляет собой масштабированное обратное распределение хи-квадрат; и поэтому распределение вероятностей для σ ^2, обусловленное s ² , с учетом априорного значения, не зависящего от масштаба, также является масштабированным обратным распределением хи-квадрат.

Использовать как предварительную информативную [ править ]

Если о возможных значениях σ ^{2 известно больше} , распределение из масштабированного семейства обратных хи-квадрат, такое как Scale-inv-χ ² ( n ₀ , s ₀ ² ), может быть удобной формой для представления менее информативной априорной для сг ² , как если бы из результата п ₀ предыдущих наблюдений (хотя п ₀ не обязательно должно быть целым числом):

${\displaystyle p(\sigma ^{2}|I^{\prime },\mu )\propto {\frac {1}{\sigma ^{n_{0}+2}}}\;\exp \left[-{\frac {n_{0}s_{0}^{2}}{2\sigma ^{2}}}\right]}$

Такой априор привел бы к апостериорному распределению

${\displaystyle p(\sigma ^{2}|D,I^{\prime },\mu )\propto {\frac {1}{\sigma ^{n+n_{0}+2}}}\;\exp \left[-{\frac {\sum {ns^{2}+n_{0}s_{0}^{2}}}{2\sigma ^{2}}}\right]}$

что само по себе является масштабированным обратным распределением хи-квадрат. Таким образом, масштабированные обратные распределения хи-квадрат представляют собой удобное сопряженное априорное семейство для оценки σ ² .

Оценка дисперсии, когда среднее значение неизвестно [ править ]

Если среднее значение неизвестно, наиболее неинформативным априорным значением, которое может быть принято за него, является, возможно, инвариантный относительно трансляции априор p (μ | I ) ∝ const., Который дает следующее совместное апостериорное распределение для μ и σ ² ,

${\displaystyle {\begin{aligned}p(\mu ,\sigma ^{2}\mid D,I)&\propto {\frac {1}{\sigma ^{n+2}}}\exp \left[-{\frac {\sum _{i}^{n}(x_{i}-\mu )^{2}}{2\sigma ^{2}}}\right]\\&={\frac {1}{\sigma ^{n+2}}}\exp \left[-{\frac {\sum _{i}^{n}(x_{i}-{\bar {x}})^{2}}{2\sigma ^{2}}}\right]\exp \left[-{\frac {\sum _{i}^{n}(\mu -{\bar {x}})^{2}}{2\sigma ^{2}}}\right]\end{aligned}}}$

Маргинальное апостериорное распределение для σ ² получается из совместного апостериорного распределения путем интегрирования по μ,

${\displaystyle {\begin{aligned}p(\sigma ^{2}|D,I)\;\propto \;&{\frac {1}{\sigma ^{n+2}}}\;\exp \left[-{\frac {\sum _{i}^{n}(x_{i}-{\bar {x}})^{2}}{2\sigma ^{2}}}\right]\;\int _{-\infty }^{\infty }\exp \left[-{\frac {\sum _{i}^{n}(\mu -{\bar {x}})^{2}}{2\sigma ^{2}}}\right]d\mu \\=\;&{\frac {1}{\sigma ^{n+2}}}\;\exp \left[-{\frac {\sum _{i}^{n}(x_{i}-{\bar {x}})^{2}}{2\sigma ^{2}}}\right]\;{\sqrt {2\pi \sigma ^{2}/n}}\\\propto \;&(\sigma ^{2})^{-(n+1)/2}\;\exp \left[-{\frac {(n-1)s^{2}}{2\sigma ^{2}}}\right]\end{aligned}}}$

Это снова масштабированное обратное распределение хи-квадрат с параметрами и .${\displaystyle \scriptstyle {n-1}\;}$${\displaystyle \scriptstyle {s^{2}=\sum (x_{i}-{\bar {x}})^{2}/(n-1)}}$

Связанные дистрибутивы [ править ]

• Если тогда${\displaystyle X\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,\tau ^{2})}$${\displaystyle kX\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,k\tau ^{2})\,}$
• Если ( распределение обратного хи-квадрат ), то${\displaystyle X\sim {\mbox{inv-}}\chi ^{2}(\nu )\,}$${\displaystyle X\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,1/\nu )\,}$
• Если тогда ( обратное распределение хи-квадрат )${\displaystyle X\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,\tau ^{2})}$${\displaystyle {\frac {X}{\tau ^{2}\nu }}\sim {\mbox{inv-}}\chi ^{2}(\nu )\,}$
• Если то ( Обратное гамма-распределение )${\displaystyle X\sim {\mbox{Scale-inv-}}\chi ^{2}(\nu ,\tau ^{2})}$${\displaystyle X\sim {\textrm {Inv-Gamma}}\left({\frac {\nu }{2}},{\frac {\nu \tau ^{2}}{2}}\right)}$
• Масштабированное обратное распределение хи-квадрат является частным случаем распределения Пирсона 5-го типа.

Ссылки [ править ]

• Гельман А. и др. (1995), Байесовский анализ данных , стр. 474–475; также стр 47, 480