Гамма-распределение

Гамма

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	k > 0 форма θ > 0 масштаб	α > 0 форма β > 0 скорость
Поддерживать	${\ Displaystyle х \ в (0, \ infty)}$	${\ Displaystyle х \ в (0, \ infty)}$
PDF	${\displaystyle f(x)={\frac {1}{\Gamma (k)\theta ^{k}}}x^{k-1}e^{-{\frac {x}{\theta }}}}$	${\displaystyle f(x)={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}x^{\alpha -1}e^{-\beta x}}$
CDF	${\displaystyle F(x)={\frac {1}{\Gamma (k)}}\gamma \left(k,{\frac {x}{\theta }}\right)}$	${\displaystyle F(x)={\frac {1}{\Gamma (\alpha )}}\gamma (\alpha ,\beta x)}$
Иметь в виду	${\displaystyle k\theta }$	${\displaystyle {\frac {\alpha }{\beta }}}$
Медиана	Нет простой закрытой формы	Нет простой закрытой формы
Режим	${\displaystyle (k-1)\theta {\text{ for }}k\geq 1}$	${\displaystyle {\frac {\alpha -1}{\beta }}{\text{ for }}\alpha \geq 1}$
Дисперсия	${\displaystyle k\theta ^{2}}$	${\displaystyle {\frac {\alpha }{\beta ^{2}}}}$
Асимметрия	${\displaystyle {\frac {2}{\sqrt {k}}}}$	${\displaystyle {\frac {2}{\sqrt {\alpha }}}}$
Бывший. эксцесс	${\displaystyle {\frac {6}{k}}}$	${\displaystyle {\frac {6}{\alpha }}}$
Энтропия	${\displaystyle {\begin{aligned}k&+\ln \theta +\ln \Gamma (k)\\&+(1-k)\psi (k)\end{aligned}}}$	${\displaystyle {\begin{aligned}\alpha &-\ln \beta +\ln \Gamma (\alpha )\\&+(1-\alpha )\psi (\alpha )\end{aligned}}}$
MGF	${\displaystyle (1-\theta t)^{-k}{\text{ for }}t<{\frac {1}{\theta }}}$	${\displaystyle \left(1-{\frac {t}{\beta }}\right)^{-\alpha }{\text{ for }}t<\beta }$
CF	${\displaystyle (1-\theta it)^{-k}}$	${\displaystyle \left(1-{\frac {it}{\beta }}\right)^{-\alpha }}$
Метод моментов	${\displaystyle k={\frac {E[X]^{2}}{V[X]}}\quad \quad }$ ${\displaystyle \theta ={\frac {V[X]}{E[X]}}\quad \quad }$	${\displaystyle \alpha ={\frac {E[X]^{2}}{V[X]}}}$ ${\displaystyle \beta ={\frac {E[X]}{V[X]}}}$

В теории вероятностей и статистике , то гамма - распределение является двух- параметра семейства непрерывных вероятностных распределений . Экспоненциальное распределение , распределение Эрланга и распределение хи-квадрат представляют собой частные случаи гамма - распределения. Обычно используются три различных параметризации :

1. С параметром формы k и параметром масштаба θ .
2. С параметром формы α = k и параметром обратного масштаба β = 1 / θ , называемым параметром скорости .
3. С параметром формы k и средним параметром μ = kθ = α / β .

В каждой из этих трех форм оба параметра являются положительными действительными числами.

Гамма-распределение - это максимальное распределение вероятностей энтропии (как относительно однородной базовой меры, так и относительно базовой меры 1 / x ) для случайной величины X, для которой E [ X ] = kθ = α / β фиксировано и больше отлична от нуля, и фиксировано E [ln ( X )] = ψ ( k ) + ln ( θ ) = ψ ( α ) - ln ( β ) ( ψ - дигамма-функция ). ^[1]

Определения [ править ]

Параметризация с помощью k и θ , по-видимому, более распространена в эконометрике и некоторых других прикладных областях, где, например, гамма-распределение часто используется для моделирования времени ожидания. Например, в жизненном тестировании время ожидания смерти является случайной величиной, которая часто моделируется с помощью гамма-распределения. См. Подробное объяснение мотивации у Хогга и Крейга ^[2] .

Параметризация с альфа и β является более распространенным в статистике байесовской , где распределение гаммы используются в качестве конъюгата предварительного распределения для различных типов обратной шкалы (скорость) параметры, такие , как Х в качестве экспоненциального распределения или распределение Пуассона ^[3] - или, если на то пошло, β самого гамма-распределения. Тесно связаны между собой обратное распределение гамма используется в качестве конъюгата для предварительного масштабных параметров, таких как дисперсии в виде нормального распределения .

Если k - положительное целое число , то распределение представляет собой распределение Эрланга ; т.е. сумма k независимых экспоненциально распределенных случайных величин , каждая из которых имеет среднее значение θ .

Характеристика с использованием формы α и коэффициента β [ править ]

Гамма-распределение может быть параметризовано с помощью параметра формы α  =  k и параметра обратного масштаба β  = 1 / θ , называемого параметром скорости . Случайная величина X , имеющая гамма-распределение с формой α и коэффициентом β , обозначается

${\displaystyle X\sim \Gamma (\alpha ,\beta )\equiv \operatorname {Gamma} (\alpha ,\beta )}$

Соответствующая функция плотности вероятности в параметризации скорости формы равна

${\displaystyle {\begin{aligned}f(x;\alpha ,\beta )&={\frac {\beta ^{\alpha }x^{\alpha -1}e^{-\beta x}}{\Gamma (\alpha )}}\quad {\text{ for }}x>0\quad \alpha ,\beta >0,\\[6pt]\end{aligned}}}$

где - гамма-функция . Для всех положительных целых чисел .${\displaystyle \Gamma (\alpha )}$${\displaystyle \Gamma (\alpha )=(\alpha -1)!}$

Кумулятивная функция распределения является регуляризованными гамма - функция:

${\displaystyle F(x;\alpha ,\beta )=\int _{0}^{x}f(u;\alpha ,\beta )\,du={\frac {\gamma (\alpha ,\beta x)}{\Gamma (\alpha )}},}$

где - нижняя неполная гамма-функция .${\displaystyle \gamma (\alpha ,\beta x)}$

Если α является положительным целым числом (т. Е. Распределение является распределением Эрланга ), кумулятивная функция распределения имеет следующее разложение в ряд: ^[4]

${\displaystyle F(x;\alpha ,\beta )=1-\sum _{i=0}^{\alpha -1}{\frac {(\beta x)^{i}}{i!}}e^{-\beta x}=e^{-\beta x}\sum _{i=\alpha }^{\infty }{\frac {(\beta x)^{i}}{i!}}.}$

Характеристика с использованием формы k и шкалы θ [ править ]

Случайная величина X , имеющая гамма-распределение формы k и масштабом θ , обозначается как

${\displaystyle X\sim \Gamma (k,\theta )\equiv \operatorname {Gamma} (k,\theta )}$

Функция плотности вероятности с использованием параметризации в масштабе формы имеет вид

${\displaystyle f(x;k,\theta )={\frac {x^{k-1}e^{-{\frac {x}{\theta }}}}{\theta ^{k}\Gamma (k)}}\quad {\text{ for }}x>0{\text{ and }}k,\theta >0.}$

Здесь Γ ( k ) - гамма-функция, вычисленная при k .

Кумулятивная функция распределения является регуляризованными гамма - функция:

${\displaystyle F(x;k,\theta )=\int _{0}^{x}f(u;k,\theta )\,du={\frac {\gamma \left(k,{\frac {x}{\theta }}\right)}{\Gamma (k)}},}$

где - нижняя неполная гамма-функция .${\displaystyle \gamma \left(k,{\frac {x}{\theta }}\right)}$

Это также может быть выражено следующим образом, если k - положительное целое число (т. Е. Распределение является распределением Эрланга ): ^[4]

${\displaystyle F(x;k,\theta )=1-\sum _{i=0}^{k-1}{\frac {1}{i!}}\left({\frac {x}{\theta }}\right)^{i}e^{-x/\theta }=e^{-x/\theta }\sum _{i=k}^{\infty }{\frac {1}{i!}}\left({\frac {x}{\theta }}\right)^{i}.}$

Обе параметризации являются общими, поскольку любая из них может быть более удобной в зависимости от ситуации.

Свойства [ править ]

Асимметрия [ править ]

Асимметрия гамма-распределения зависит только от его параметра формы, k , и равна${\displaystyle 2/{\sqrt {k}}.}$

Расчет медианы [ править ]

В отличие от режима и среднего, которые имеют легко вычисляемые формулы на основе параметров, медиана не имеет уравнения в замкнутой форме. Медиана для этого распределения определяется как такое значение , что${\displaystyle \nu }$

${\displaystyle {\frac {1}{\Gamma (k)\theta ^{k}}}\int _{0}^{\nu }x^{k-1}e^{-x/\theta }dx={\frac {1}{2}}.}$

Строгое рассмотрение проблемы определения асимптотического разложения и оценок для медианы гамма-распределения впервые было выполнено Ченом и Рубином, которые доказали, что (для )${\displaystyle \theta =1}$

${\displaystyle \mu -{\frac {1}{3}}<\nu <\mu ,}$

где - среднее значение, а - медиана распределения. ^[5]${\displaystyle \mu =k}$${\displaystyle \nu }$${\displaystyle {\text{Gamma}}(k,1)}$

К. П. Чой нашел первые пять членов асимптотического разложения медианы, сравнив медиану с функцией Рамануджана . ^[6] Берг и Педерсен нашли больше терминов: ^[7]${\displaystyle \theta }$

${\displaystyle \nu =k-{\frac {1}{3}}+{\frac {8}{405k}}+{\frac {184}{25515k^{2}}}+{\frac {2248}{3444525k^{3}}}-{\frac {19006408}{15345358875k^{4}}}-O\left({\frac {1}{k^{5}}}\right)+\cdots }$

Они также доказали многие свойства медианы, показали, что она является выпуклой функцией от , ^[8] и показали, что асимптотика около равна . ^[7]${\displaystyle \nu }$${\displaystyle k}$${\displaystyle \mu =0}$${\displaystyle \nu =e^{-\gamma }2^{-1/k}}$

Суммирование [ править ]

Если X _i имеет гамма- распределение ( k _i , θ ) для i  = 1, 2, ...,  N (т. Е. Все распределения имеют одинаковый масштабный параметр θ ), то

${\displaystyle \sum _{i=1}^{N}X_{i}\sim \mathrm {Gamma} \left(\sum _{i=1}^{N}k_{i},\theta \right)}$

условие , что все X _я являюсь независимыми .

Для случаев , когда Х _я являются независимыми , но имеют разные параметры шкалы см Mathai ^[9] или Moschopoulos. ^[10]

Гамма-распределение демонстрирует бесконечную делимость .

Масштабирование [ править ]

Если

${\displaystyle X\sim \mathrm {Gamma} (k,\theta ),}$

тогда для любого c > 0

${\displaystyle cX\sim \mathrm {Gamma} (k,c\,\theta ),}$ по моментным производящим функциям,

или эквивалентно, если

${\displaystyle X\sim \mathrm {Gamma} \left(\alpha ,\beta \right)}$ (параметризация скорости формы)

${\displaystyle cX\sim \mathrm {Gamma} \left(\alpha ,{\frac {\beta }{c}}\right),}$

В самом деле, мы знаем, что если X - экспоненциальная с.в. со скоростью λ, то cX - экспоненциальная с.в. со скоростью λ / c ; то же самое верно и с вариациями гаммы (и это можно проверить с помощью функции генерирования моментов , см., например, эти примечания , 10.4- (ii)): умножение на положительную константу c делит коэффициент (или, что то же самое, умножает масштаб).

Экспоненциальная семья [ править ]

Гамма-распределение представляет собой двухпараметрическое экспоненциальное семейство с естественными параметрами k  - 1 и −1 / θ (эквивалентно α  - 1 и - β ) и естественной статистикой X и ln ( X ).

Если параметр формы k сохраняется фиксированным, результирующее однопараметрическое семейство распределений является естественным экспоненциальным семейством .

Логарифмическое ожидание и дисперсия [ править ]

Можно показать, что

${\displaystyle \operatorname {E} [\ln(X)]=\psi (\alpha )-\ln(\beta )}$

или эквивалентно,

${\displaystyle \operatorname {E} [\ln(X)]=\psi (k)+\ln(\theta )}$

где - дигамма-функция . Так же,${\displaystyle \psi }$

${\displaystyle \operatorname {var} [\ln(X)]=\psi ^{(1)}(\alpha )=\psi ^{(1)}(k)}$

где - тригамма-функция .${\displaystyle \psi ^{(1)}}$

Это может быть получено с использованием формулы экспоненциального семейства для производящей функции момента достаточной статистики , потому что одна из достаточных статистик гамма-распределения - это ln ( x ).

Информационная энтропия [ править ]

Информационная энтропия является

${\displaystyle {\begin{aligned}\operatorname {H} (X)&=\operatorname {E} [-\ln(p(X))]\\&=\operatorname {E} [-\alpha \ln(\beta )+\ln(\Gamma (\alpha ))-(\alpha -1)\ln(X)+\beta X]\\&=\alpha -\ln(\beta )+\ln(\Gamma (\alpha ))+(1-\alpha )\psi (\alpha ).\end{aligned}}}$

В к , θ параметризация, то информационная энтропия задается

${\displaystyle \operatorname {H} (X)=k+\ln(\theta )+\ln(\Gamma (k))+(1-k)\psi (k).}$

Расхождение Кульбака – Лейблера [ править ]

Кульбак-Либлер дивергенция (KL-дивергенция), гамма ( & alpha ; _р , β _р ) ( "истина" распределение) от гаммы ( α _д , β _д ) ( "аппроксимирующее" распределение) дается формулой ^[11]

${\displaystyle {\begin{aligned}D_{\mathrm {KL} }(\alpha _{p},\beta _{p};\alpha _{q},\beta _{q})={}&(\alpha _{p}-\alpha _{q})\psi (\alpha _{p})-\log \Gamma (\alpha _{p})+\log \Gamma (\alpha _{q})\\&{}+\alpha _{q}(\log \beta _{p}-\log \beta _{q})+\alpha _{p}{\frac {\beta _{q}-\beta _{p}}{\beta _{p}}}.\end{aligned}}}$

Записанное с использованием параметризации k , θ , KL-дивергенция гаммы ( k _p , θ _p ) от Gamma ( k _q , θ _q ) задается выражением

${\displaystyle {\begin{aligned}D_{\mathrm {KL} }(k_{p},\theta _{p};k_{q},\theta _{q})={}&(k_{p}-k_{q})\psi (k_{p})-\log \Gamma (k_{p})+\log \Gamma (k_{q})\\&{}+k_{q}(\log \theta _{q}-\log \theta _{p})+k_{p}{\frac {\theta _{p}-\theta _{q}}{\theta _{q}}}.\end{aligned}}}$

Преобразование Лапласа [ править ]

Преобразование Лапласа гамма-PDF имеет вид

${\displaystyle F(s)=(1+\theta s)^{-k}={\frac {\beta ^{\alpha }}{(s+\beta )^{\alpha }}}.}$

Связанные дистрибутивы [ править ]

Общие [ править ]

• Пусть будут независимыми и одинаково распределенными случайными величинами с экспоненциальным распределением с параметром скорости λ, тогда ~ Gamma (n, 1 / λ), где n - параметр формы, а 1 / λ - масштаб.${\displaystyle X_{1},X_{2}\ldots X_{n}}$${\displaystyle n}$${\displaystyle \sum _{i}X_{i}}$
• Если X ~ Gamma (1, 1 / λ) (параметризация формы и масштаба), то X имеет экспоненциальное распределение с параметром скорости λ.
• Если X ~ Gamma (ν / 2, 2) (параметризация формы и масштаба), то X идентично χ ² ( ν ), распределению хи-квадрат с ν степенями свободы. Наоборот, если Q ~ χ ² ( ν ) и c - положительная постоянная, то cQ ~ Gamma ( ν / 2, 2 c ).
• Если k является целым числом , гамма-распределение является распределением Эрланга и представляет собой распределение вероятностей времени ожидания до k- го «прибытия» в одномерном пуассоновском процессе с интенсивностью 1 / θ . Если

${\displaystyle X\sim \Gamma (k\in \mathbf {Z} ,\theta ),\qquad Y\sim \mathrm {Pois} \left({\frac {x}{\theta }}\right),}$

тогда

${\displaystyle P(X>x)=P(Y<k).}$

• Если X имеет распределение Максвелла – Больцмана с параметром a , то

${\displaystyle X^{2}\sim \Gamma \left({\frac {3}{2}},2a^{2}\right)}$.

• Если X ~ Gamma ( k , θ ), то следует экспоненциально-гамма-распределение (сокращенно exp-gamma). ^[12] Иногда его называют логарифмически-гамма-распределением. ^[13] Формулы для его среднего и дисперсии находятся в разделе # Логарифмическое ожидание и дисперсия .${\displaystyle \log {X}}$
• Если X ~ Gamma ( k , θ ), то следует обобщенное гамма-распределение с параметрами p = 2, d = 2 k , и ^{[ необходима цитата ]} .${\displaystyle {\sqrt {X}}}$${\displaystyle a={\sqrt {\theta }}}$
• В более общем смысле, если X ~ Gamma ( k , θ ), то для следует обобщенное гамма-распределение с параметрами p = 1 / q , d = k / q и .${\displaystyle X^{q}}$${\displaystyle q>0}$${\displaystyle a=\theta ^{q}}$
• Если X ~ Gamma ( k , θ ), то 1 / X ~ Inv-Gamma ( k , θ ⁻¹ ) (см. Обратное гамма-распределение для вывода).
• Параметризация 1: Если независимы, то , что эквивалентно,${\displaystyle X_{k}\sim \Gamma (\alpha _{k},\theta _{k})\,}$${\displaystyle {\frac {\alpha _{2}\theta _{2}X_{1}}{\alpha _{1}\theta _{1}X_{2}}}\sim \mathrm {F} (2\alpha _{1},2\alpha _{2})}$${\displaystyle {\frac {X_{1}}{X_{2}}}\sim \beta '\left(\alpha _{1},\alpha _{2},1,{\frac {\theta _{1}}{\theta _{2}}}\right)}$
• Параметризация 2: Если независимы, то , что эквивалентно,${\displaystyle X_{k}\sim \Gamma (\alpha _{k},\beta _{k})\,}$${\displaystyle {\frac {\alpha _{2}\beta _{1}X_{1}}{\alpha _{1}\beta _{2}X_{2}}}\sim \mathrm {F} (2\alpha _{1},2\alpha _{2})}$${\displaystyle {\frac {X_{1}}{X_{2}}}\sim \beta '\left(\alpha _{1},\alpha _{2},1,{\frac {\beta _{2}}{\beta _{1}}}\right)}$
• Если X ~ Gamma ( α , θ ) и Y ~ Gamma ( β , θ ) распределены независимо, то X / ( X  +  Y ) имеет бета-распределение с параметрами α и β , а X / ( X  +  Y ) не зависит из X + Y , который является гамма ( α + β , θ ) -distributed.
• Если X _i ~ Gamma ( α _i , 1) распределены независимо, то вектор ( X ₁ / S , ...,  X _n / S ), где S  =  X ₁  + ... +  X _n , следует дирихле распределение с параметрами α ₁ , ...,  α _n .
• Для больших k гамма-распределение сходится к нормальному распределению со средним μ = kθ и дисперсией σ ² = kθ ² .
• Гамма-распределение - это априорное сопряжение для точности нормального распределения с известным средним .
• Распределение Уишарта является многомерным обобщением гамма-распределения (выборки представляют собой положительно определенные матрицы, а не положительные действительные числа).
• Гамма-распределение - это частный случай обобщенного гамма-распределения , обобщенного целочисленного гамма-распределения и обобщенного обратного гауссова распределения .
• Среди дискретных распределений отрицательное биномиальное распределение иногда считается дискретным аналогом гамма-распределения.
• Распределения Твиди - гамма-распределение является членом семейства моделей экспоненциальной дисперсии Твиди .

Составная гамма [ править ]

Если параметр формы гамма-распределения известен, но параметр обратного масштаба неизвестен, то гамма-распределение для обратного масштаба образует сопряженный априор. Распределение соединения , которое является результатом интегрирования по обратной шкале, имеет в замкнутой форме решение, известное как распределение гамма - соединение . ^[14]

Если вместо этого параметр формы известен, но среднее значение неизвестно, а априор среднего значения задается другим гамма-распределением, тогда получается K-распределение .

Статистический вывод [ править ]

Оценка параметров [ править ]

Оценка максимального правдоподобия [ править ]

Функция правдоподобия для N iid наблюдений ( x ₁ , ...,  x _N ) равна

${\displaystyle L(k,\theta )=\prod _{i=1}^{N}f(x_{i};k,\theta )}$

из которого мы вычисляем функцию логарифма правдоподобия

${\displaystyle \ell (k,\theta )=(k-1)\sum _{i=1}^{N}\ln(x_{i})-\sum _{i=1}^{N}{\frac {x_{i}}{\theta }}-Nk\ln(\theta )-N\ln(\Gamma (k))}$

Нахождение максимума относительно θ путем взятия производной и установки ее равной нулю дает оценку максимального правдоподобия параметра θ :

${\displaystyle {\hat {\theta }}={\frac {1}{kN}}\sum _{i=1}^{N}x_{i}}$

Подставляя это в функцию логарифма правдоподобия, получаем

${\displaystyle \ell =(k-1)\sum _{i=1}^{N}\ln(x_{i})-Nk-Nk\ln \left({\frac {\sum x_{i}}{kN}}\right)-N\ln(\Gamma (k))}$

Нахождение максимума по k , взяв производную и установив ее равной нулю, дает

${\displaystyle \ln(k)-\psi (k)=\ln \left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)-{\frac {1}{N}}\sum _{i=1}^{N}\ln(x_{i})}$

где ψ - дигамма-функция . Для k не существует решения в закрытой форме . Функция имеет очень хорошее числовое поведение, поэтому, если требуется численное решение, его можно найти, используя, например, метод Ньютона . Начальное значение k можно найти либо методом моментов , либо с помощью приближения

${\displaystyle \ln(k)-\psi (k)\approx {\frac {1}{2k}}\left(1+{\frac {1}{6k+1}}\right)}$

Если мы позволим

${\displaystyle s=\ln \left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)-{\frac {1}{N}}\sum _{i=1}^{N}\ln(x_{i})}$

тогда k приблизительно

${\displaystyle k\approx {\frac {3-s+{\sqrt {(s-3)^{2}+24s}}}{12s}}}$

что находится в пределах 1,5% от правильного значения. ^[15] Явная форма обновления Ньютона – Рафсона этого начального предположения: ^[16]

${\displaystyle k\leftarrow k-{\frac {\ln(k)-\psi (k)-s}{{\frac {1}{k}}-\psi ^{\prime }(k)}}.}$

Оценщики в закрытой форме [ править ]

Существуют согласованные оценки k и θ в замкнутой форме , которые выводятся из вероятности обобщенного гамма-распределения . ^[17]

Оценка формы k :

${\displaystyle {\hat {k}}={\frac {N\sum _{i=1}^{N}x_{i}}{N\sum _{i=1}^{N}x_{i}\ln(x_{i})-\sum _{i=1}^{N}\ln(x_{i})\sum _{i=1}^{N}x_{i}}}}$

а оценка масштаба θ равна

${\displaystyle {\hat {\theta }}={\frac {1}{N^{2}}}\left(N\sum _{i=1}^{N}x_{i}\ln(x_{i})-\sum _{i=1}^{N}\ln(x_{i})\sum _{i=1}^{N}x_{i}\right)}$

Если используется параметризация скорости, оценка .${\displaystyle {\hat {\beta }}={\frac {1}{\hat {\theta }}}}$

Эти оценщики не являются строго оценщиками максимального правдоподобия, а вместо этого называются оценщиками логарифмического момента смешанного типа. Однако они имеют такую ​​же эффективность, что и оценки максимального правдоподобия.

Хотя эти оценки согласованы, они имеют небольшую погрешность. Вариант оценки для шкалы θ с поправкой на смещение :

${\displaystyle {\tilde {\theta }}={\frac {N}{N-1}}{\hat {\theta }}}$

Поправка смещения для параметра формы k задается как ^[18]

${\displaystyle {\tilde {k}}={\hat {k}}-{\frac {1}{N}}\left(3{\hat {k}}-{\frac {2}{3}}\left({\frac {\hat {k}}{1+{\hat {k}}}}\right)-{\frac {4}{5}}{\frac {\hat {k}}{(1+{\hat {k}})^{2}}}\right)}$

Минимальная байесовская среднеквадратическая ошибка [ править ]

При известном k и неизвестном θ функция апостериорной плотности для theta (с использованием стандартного масштабно-инвариантного априорного значения для θ ) равна

${\displaystyle P(\theta \mid k,x_{1},\dots ,x_{N})\propto {\frac {1}{\theta }}\prod _{i=1}^{N}f(x_{i};k,\theta )}$

Обозначение

${\displaystyle y\equiv \sum _{i=1}^{N}x_{i},\qquad P(\theta \mid k,x_{1},\dots ,x_{N})=C(x_{i})\theta ^{-Nk-1}e^{-y/\theta }}$

Интегрирование по θ может быть выполнено с использованием замены переменных, обнаруживающей, что 1 / θ является гамма-распределенным с параметрами α = Nk , β = y .

${\displaystyle \int _{0}^{\infty }\theta ^{-Nk-1+m}e^{-y/\theta }\,d\theta =\int _{0}^{\infty }x^{Nk-1-m}e^{-xy}\,dx=y^{-(Nk-m)}\Gamma (Nk-m)\!}$

Моменты можно вычислить, взяв отношение ( m на m = 0)

${\displaystyle \operatorname {E} [x^{m}]={\frac {\Gamma (Nk-m)}{\Gamma (Nk)}}y^{m}}$

который показывает, что оценка среднего ± стандартное отклонение апостериорного распределения для θ равна

${\displaystyle {\frac {y}{Nk-1}}\pm {\sqrt {\frac {y^{2}}{(Nk-1)^{2}(Nk-2)}}}.}$

Байесовский вывод [ править ]

Сопрягать до [ править ]

В умозаключениях байесовских , то гамма - распределение является сопряженным до многих распределений правдоподобия: Пуассон , экспоненциальный , нормальный (с известным средним), Парето , гамма с известной формой сгом , обратной гаммой с известным параметром формы и Гомпертцем с известным параметром масштаба.

Сопряженный априор гамма-распределения : ^[19]

${\displaystyle p(k,\theta \mid p,q,r,s)={\frac {1}{Z}}{\frac {p^{k-1}e^{-\theta ^{-1}q}}{\Gamma (k)^{r}\theta ^{ks}}},}$

где Z - нормирующая постоянная, не имеющая решения в замкнутой форме. Апостериорное распределение можно найти, обновив параметры следующим образом:

${\displaystyle {\begin{aligned}p'&=p\prod \nolimits _{i}x_{i},\\q'&=q+\sum \nolimits _{i}x_{i},\\r'&=r+n,\\s'&=s+n,\end{aligned}}}$

где n - количество наблюдений, а x _i - i- е наблюдение.

Возникновение и применение [ править ]

Гамма-распределение использовалось для моделирования размера страховых случаев ^[20] и осадков. ^[21] Это означает, что совокупные страховые выплаты и количество осадков, накопленных в водохранилище, моделируются с помощью гамма-процесса - так же, как экспоненциальное распределение генерирует процесс Пуассона .

Гамма - распределение также используются для модели ошибок в многоуровневых регрессии Пуассона моделей, так как смесь из распределений Пуассона с гамма - распределенных ставками известного распределения закрытой формы, называется отрицательными биномиальной .

В беспроводной связи гамма-распределение используется для моделирования многолучевого замирания мощности сигнала; ^{[ Править ]} Смотрите также распределение Рэлея и райсовское распределение .

В онкологии возрастное распределение заболеваемости раком часто следует гамма-распределению, тогда как параметры формы и масштаба предсказывают, соответственно, количество событий, вызывающих рак, и временной интервал между ними. ^[22]

В неврологии гамма-распределение часто используется для описания распределения интервалов между спайками . ^{[23] [24]}

В бактериальной экспрессии гена , то число копий из конститутивно выраженного белка часто следует гамма - распределение, где масштаб и параметр формы представляют собой, соответственно, среднее число очередей на клеточный цикл и среднее число белковых молекул , полученных с помощью одной мРНК в ходе его время жизни. ^[25]

В геномике гамма-распределение применялось на этапе вызова пика (то есть при распознавании сигнала) при анализе данных ChIP-chip ^[26] и ChIP-seq ^[27] .

Гамма-распределение широко используется в качестве априорного конъюгата в байесовской статистике. Это сопряженная априорная величина для точности (т.е. обратная дисперсии) нормального распределения . Это также сопряженный априор для экспоненциального распределения .

Генерация случайных величин с гамма-распределением [ править ]

Учитывая указанное выше свойство масштабирования, достаточно сгенерировать гамма-переменные с θ = 1, поскольку позже мы можем преобразовать в любое значение β простым делением.

Предположим, мы хотим сгенерировать случайные величины из Gamma ( n  +  δ , 1), где n - неотрицательное целое число и 0 < δ <1. Используя тот факт, что распределение Gamma (1, 1) совпадает с Exp (1) распределений, и отмечая метод генерации экспоненциальных переменных , приходит к выводу , что , если U будет равномерно распределен на (0, 1], то -ln ( U ) распределяются Gamma (1, 1) (т.е. обратного преобразования выборки ). Теперь, используя свойство « α -сложение» гамма-распределения, мы расширяем этот результат:

${\displaystyle -\sum _{k=1}^{n}\ln U_{k}\sim \Gamma (n,1)}$

где все U _k равномерно распределены на (0, 1] и независимы . Теперь осталось только сгенерировать переменную, распределенную как Gamma ( δ , 1) для 0 < δ <1, и применить свойство « α -сложение» один раз подробнее Это самая сложная часть.

Случайная генерация гамма-переменных подробно обсуждается Devroye, ^{[28] : 401–428,} отмечая, что ни одна из них не является равномерно быстрой для всех параметров формы. При малых значениях параметра формы алгоритмы часто не работают. ^{[28] : 406} Для произвольных значений параметра формы можно применить модифицированный метод приемки-отклонения Аренса и Дитера ^[29] Алгоритм GD (форма k ≥ 1) или метод преобразования ^[30], когда 0 < k <1. Также см. Cheng and Feast Algorithm GKM 3 ^[31] или метод сжатия Марсальи. ^[32]

Ниже приводится версия метода приемо-отклонения Аренса-Дитера : ^[29]

1. Сгенерируйте U , V и W при изменении iid uniform (0, 1).
2. Если тогда и . В противном случае и .${\displaystyle U\leq {\frac {e}{e+\delta }}}$${\displaystyle \xi =V^{1/\delta }}$${\displaystyle \eta =W\xi ^{\delta -1}}$${\displaystyle \xi =1-\ln V}$${\displaystyle \eta =We^{-\xi }}$
3. Если тогда переходите к шагу 1.${\displaystyle \eta >\xi ^{\delta -1}e^{-\xi }}$
4. ξ распределяется как Γ ( δ , 1).

Краткое изложение этого

${\displaystyle \theta \left(\xi -\sum _{i=1}^{\lfloor k\rfloor }\ln(U_{i})\right)\sim \Gamma (k,\theta )}$

где - целая часть k , ξ генерируется с помощью описанного выше алгоритма с δ = { k } (дробная часть k ) и все U _k независимы.${\displaystyle \scriptstyle \lfloor k\rfloor }$

Хотя описанный выше подход технически верен, Деврой отмечает, что он линейен по значению k и в целом не является хорошим выбором. Вместо этого он рекомендует использовать методы на основе отклонения или таблицы, в зависимости от контекста. ^{[28] : 401–428}

Например, простой метод отклонения преобразования Марсальи, основанный на одной нормальной переменной X и одной однородной переменной U : ^[33]

1. Установите и .${\displaystyle d=a-{\frac {1}{3}}}$${\displaystyle c={\frac {1}{\sqrt {9d}}}}$
2. Установить .${\displaystyle v=(1+cX)^{3}}$
3. Если и вернитесь , иначе вернитесь к шагу 2.${\displaystyle v>0}$${\displaystyle \ln U<{\frac {X^{2}}{2}}+d-dv+d\ln v}$${\displaystyle dv}$

With генерирует случайное число с гамма-распределением во времени, которое примерно постоянно с k . Скорость приема зависит от k , с коэффициентом приема 0,95, 0,98 и 0,99 для k = 1, 2 и 4. Для k  <1 можно использовать для увеличения k, чтобы его можно было использовать с этим методом.${\displaystyle 1\leq a=\alpha =k}$${\displaystyle \gamma _{\alpha }=\gamma _{1+\alpha }U^{1/\alpha }}$

Примечания [ править ]

Внешние ссылки [ править ]

В статистике Викибука есть страница по теме: Гамма-распределение

• "Гамма-распределение" , Математическая энциклопедия , EMS Press , 2001 [1994]
• Вайсштейн, Эрик В. «Гамма-распределение» . MathWorld .
• ModelAssist (2017) Использование гамма-распределения в моделировании рисков, включая прикладные примеры в Excel .
• Справочник по инженерной статистике