Обобщенное нормальное распределение

Обобщенное нормальное распределение или обобщенное распределение Гаусса (GGD) является одним из двух семейств параметрических непрерывных вероятностных распределений на вещественной прямой. Оба семейства добавляют параметр формы к нормальному распределению . Чтобы различать эти два семейства, они упоминаются ниже как «версия 1» и «версия 2». Однако это не стандартная номенклатура.

Версия 1 [ править ]

Обобщенный нормальный (версия 1)

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${\ displaystyle \ mu \,}$ местоположение ( реальный ) масштаб (положительный, реальный ) форма (положительный, реальный ) ${\ Displaystyle \ альфа \,}$ ${\ displaystyle \ beta \,}$
Поддерживать	${\ Displaystyle х \ в (- \ infty; + \ infty) \!}$
PDF	${\displaystyle {\frac {\beta }{2\alpha \Gamma (1/\beta )}}\;e^{-(|x-\mu |/\alpha )^{\beta }}}$ ${\displaystyle \Gamma }$обозначает гамма-функцию
CDF	${\displaystyle {\frac {1}{2}}+{\frac {{\text{sign}}(x-\mu )}{2}}{\frac {1}{\Gamma \left({\frac {1}{\beta }}\right)}}\gamma \left({\frac {1}{\beta }},x\alpha ^{\beta }\right)}$[1] .
Квантиль	${\displaystyle {\text{sign}}(p-0.5)F^{-1}\left(2|p-0.5|;{\frac {1}{\beta }},{\frac {1}{\alpha ^{\beta }}}\right)^{1/\beta }+\mu }$ где - функция квантиля гамма-распределения [1]${\displaystyle F^{-1}\left(p;a,b\right)}$
Иметь в виду	${\displaystyle \mu \,}$
Медиана	${\displaystyle \mu \,}$
Режим	${\displaystyle \mu \,}$
Дисперсия	${\displaystyle {\frac {\alpha ^{2}\Gamma (3/\beta )}{\Gamma (1/\beta )}}}$
Асимметрия	0
Бывший. эксцесс	${\displaystyle {\frac {\Gamma (5/\beta )\Gamma (1/\beta )}{\Gamma (3/\beta )^{2}}}-3}$
Энтропия	${\displaystyle {\frac {1}{\beta }}-\log \left[{\frac {\beta }{2\alpha \Gamma (1/\beta )}}\right]}$[2]

Это параметрическое семейство симметричных распределений, известное также как экспоненциальное распределение мощности или обобщенное распределение ошибок . Он включает в себя все нормальные распределения и распределения Лапласа , а в качестве предельных случаев он включает все непрерывные равномерные распределения на ограниченных интервалах вещественной прямой.

Это семейство включает в себя нормальное распределение при (со средним значением и дисперсией ) и распределение Лапласа при . As , плотность сходится поточечно к однородной плотности на .${\displaystyle \textstyle \beta =2}$${\displaystyle \textstyle \mu }$${\displaystyle \textstyle {\frac {\alpha ^{2}}{2}}}$${\displaystyle \textstyle \beta =1}$${\displaystyle \textstyle \beta \rightarrow \infty }$${\displaystyle \textstyle (\mu -\alpha ,\mu +\alpha )}$

Это семейство допускает хвосты, которые тяжелее обычного (когда ) или легче обычного (когда ). Это полезный способ параметризации континуума симметричных пластинокуртических плотностей от нормальной ( ) до однородной ( ) и континуума симметричных лептокуртических плотностей от плотности Лапласа ( ) до нормальной плотности ( ).${\displaystyle \beta <2}$${\displaystyle \beta >2}$${\displaystyle \textstyle \beta =2}$${\displaystyle \textstyle \beta =\infty }$${\displaystyle \textstyle \beta =1}$${\displaystyle \textstyle \beta =2}$

Оценка параметров [ править ]

Изучено оценивание параметров методом максимального правдоподобия и методом моментов . ^[3] Оценки не имеют замкнутой формы и должны быть получены численно. Также были предложены оценки, не требующие численного расчета. ^[4]

Обобщенная нормальная логарифмическая функция правдоподобия имеет бесконечно много непрерывных дериватов (т.е. он принадлежит классу C ^∞ из гладких функций ) только в том случае является положительной, даже целым. В противном случае функция имеет непрерывные производные. В результате стандартные результаты по согласованности и асимптотической нормальности оценок максимального правдоподобия применимы только тогда, когда .${\displaystyle \textstyle \beta }$${\displaystyle \textstyle \lfloor \beta \rfloor }$${\displaystyle \beta }$${\displaystyle \textstyle \beta \geq 2}$

Оценщик максимального правдоподобия [ править ]

Можно аппроксимировать обобщенное нормальное распределение, используя приближенный метод максимального правдоподобия . ^{[5] [6]} С первоначально установлен в первый момент выборки , оценивается с помощью Ньютона-Рафсона итерационной процедуры, начиная с начального приближения из ,${\displaystyle \mu }$${\displaystyle m_{1}}$${\displaystyle \textstyle \beta }$${\displaystyle \textstyle \beta =\textstyle \beta _{0}}$

${\displaystyle \beta _{0}={\frac {m_{1}}{\sqrt {m_{2}}}},}$

куда

${\displaystyle m_{1}={1 \over N}\sum _{i=1}^{N}|x_{i}|,}$

- первый статистический момент абсолютных значений и второй статистический момент . Итерация${\displaystyle m_{2}}$

${\displaystyle \beta _{i+1}=\beta _{i}-{\frac {g(\beta _{i})}{g'(\beta _{i})}},}$

куда

${\displaystyle g(\beta )=1+{\frac {\psi (1/\beta )}{\beta }}-{\frac {\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\log |x_{i}-\mu |}{\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}}+{\frac {\log({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta })}{\beta }},}$

и

${\displaystyle {\begin{aligned}g'(\beta )={}&-{\frac {\psi (1/\beta )}{\beta ^{2}}}-{\frac {\psi '(1/\beta )}{\beta ^{3}}}+{\frac {1}{\beta ^{2}}}-{\frac {\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }(\log |x_{i}-\mu |)^{2}}{\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}}\\[6pt]&{}+{\frac {\left(\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\log |x_{i}-\mu |\right)^{2}}{\left(\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)^{2}}}+{\frac {\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\log |x_{i}-\mu |}{\beta \sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}}\\[6pt]&{}-{\frac {\log \left({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)}{\beta ^{2}}},\end{aligned}}}$

и где и являются функция дигаммы и trigamma функции .${\displaystyle \psi }$${\displaystyle \psi '}$

При заданном значении можно оценить , найдя минимум:${\displaystyle \textstyle \beta }$${\displaystyle \mu }$

${\displaystyle \min _{\mu }=\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}$

Окончательно оценивается как${\displaystyle \textstyle \alpha }$

${\displaystyle \alpha =\left({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)^{1/\beta }.}$

Для более подходящей оценки является медиана . Один раз оценивается, и его можно оценить, как описано выше. ^[7]${\displaystyle \beta \leq 1}$${\displaystyle \mu }$${\displaystyle \mu }$${\displaystyle \beta }$${\displaystyle \alpha }$

Приложения [ править ]

Эта версия обобщенного нормального распределения использовалась при моделировании, когда концентрация значений вокруг среднего и поведения хвоста представляет особый интерес. ^{[8] [9]} Можно использовать другие семейства распределений, если основное внимание уделяется другим отклонениям от нормальности. Если симметрия распределения является основным интересом, можно использовать семейство косых нормалей или версию 2 обобщенного нормального семейства, обсуждаемую ниже. Если поведение хвоста является основным интересом, можно использовать t- семейство Стьюдента, которое аппроксимирует нормальное распределение при возрастании степеней свободы до бесконечности. Распределение t, в отличие от этого обобщенного нормального распределения, получает более тяжелые, чем нормальные, хвосты без получениякуспид в начале координат.

Свойства [ править ]

Моменты [ править ]

Пусть будет нулевое среднее обобщенное гауссовское распределение формы и параметра масштабирования . Моменты существуют и конечны для любого k больше -1. Для любого неотрицательного целого k простые центральные моменты равны ^[10]${\displaystyle X_{\beta }}$${\displaystyle \beta }$${\displaystyle \alpha }$${\displaystyle X_{\beta }}$

${\displaystyle \operatorname {E} \left[X_{\beta }^{k}\right]={\begin{cases}0&{\text{if }}k{\text{ is odd,}}\\\alpha ^{k}\Gamma \left({\frac {k+1}{\beta }}\right){\Big /}\,\Gamma \left({\frac {1}{\beta }}\right)&{\text{if }}k{\text{ is even.}}\end{cases}}}$

Связь с положительно-определенными функциями [ править ]

Функция плотности вероятности этой версии обобщенного нормального распределения является положительно определенной функцией для . ^{[11] [12]}${\displaystyle \beta \in (0,2]}$

Бесконечная делимость [ править ]

Эта версия обобщенного гауссовского распределения является безгранично делимым распределением тогда и только тогда, когда . ^[13]${\displaystyle \beta \in (0,1]\cup \{2\}}$

Обобщения [ править ]

Многомерное обобщенная нормальное распределение, то есть произведение экспоненциального распределения мощности с тем же и параметрами, является единственной плотностью вероятности , которая может быть записана в виде и имеет независимые маргинальные. ^[14] Результаты для частного случая многомерного нормального распределения первоначально приписываются Максвеллу . ^[15]${\displaystyle n}$${\displaystyle \beta }$${\displaystyle \alpha }$${\displaystyle p(\mathbf {x} )=g(\|\mathbf {x} \|_{\beta })}$

Версия 2 [ править ]

Обобщенный нормальный (версия 2)

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${\displaystyle \xi \,}$ местоположение ( реальный ) масштаб (положительный, реальный ) форма ( реальный ) ${\displaystyle \alpha \,}$ ${\displaystyle \kappa \,}$
Поддерживать	${\displaystyle x\in (-\infty ,\xi +\alpha /\kappa ){\text{ if }}\kappa >0}$ ${\displaystyle x\in (-\infty ,\infty ){\text{ if }}\kappa =0}$ ${\displaystyle x\in (\xi +\alpha /\kappa ;+\infty ){\text{ if }}\kappa <0}$
PDF	${\displaystyle {\frac {\phi (y)}{\alpha -\kappa (x-\xi )}}}$, где - стандартный нормальный pdf ${\displaystyle y={\begin{cases}-{\frac {1}{\kappa }}\log \left[1-{\frac {\kappa (x-\xi )}{\alpha }}\right]&{\text{if }}\kappa \neq 0\\{\frac {x-\xi }{\alpha }}&{\text{if }}\kappa =0\end{cases}}}$ ${\displaystyle \phi }$
CDF	${\displaystyle \Phi (y)}$, где - стандартный нормальный CDF ${\displaystyle y={\begin{cases}-{\frac {1}{\kappa }}\log \left[1-{\frac {\kappa (x-\xi )}{\alpha }}\right]&{\text{if }}\kappa \neq 0\\{\frac {x-\xi }{\alpha }}&{\text{if }}\kappa =0\end{cases}}}$ ${\displaystyle \Phi }$
Иметь в виду	${\displaystyle \xi -{\frac {\alpha }{\kappa }}\left(e^{\kappa ^{2}/2}-1\right)}$
Медиана	${\displaystyle \xi \,}$
Дисперсия	${\displaystyle {\frac {\alpha ^{2}}{\kappa ^{2}}}e^{\kappa ^{2}}\left(e^{\kappa ^{2}}-1\right)}$
Асимметрия	${\displaystyle {\frac {3e^{\kappa ^{2}}-e^{3\kappa ^{2}}-2}{(e^{\kappa ^{2}}-1)^{3/2}}}{\text{ sign}}(\kappa )}$
Бывший. эксцесс	${\displaystyle e^{4\kappa ^{2}}+2e^{3\kappa ^{2}}+3e^{2\kappa ^{2}}-6}$

Это семейство непрерывных распределений вероятностей, в которых параметр формы может использоваться для внесения перекоса. ^{[16] [17]} Когда параметр формы равен нулю, получается нормальное распределение. Положительные значения параметра формы дают скошенные влево распределения, ограниченные вправо, а отрицательные значения параметра формы дают распределения, скошенные вправо, ограниченные влево. Только когда параметр формы равен нулю, функция плотности для этого распределения является положительной по всей действительной линии: в этом случае распределение является нормальным распределением , в противном случае распределения сдвигаются и, возможно, изменяются логнормальные распределения .

Оценка параметров [ править ]

Параметры можно оценить с помощью оценки максимального правдоподобия или метода моментов. Оценки параметров не имеют закрытой формы, поэтому для вычисления оценок необходимо использовать численные расчеты. Поскольку пространство выборки (набор действительных чисел, где плотность не равна нулю) зависит от истинного значения параметра, некоторые стандартные результаты о производительности оценок параметров не будут автоматически применяться при работе с этим семейством.

Приложения [ править ]

Это семейство распределений может использоваться для моделирования значений, которые могут быть нормально распределенными или которые могут быть либо скошены вправо, либо влево относительно нормального распределения. Перекос нормальное распределение является еще одним распределением , которое является полезным для моделирования отклонений от нормальности из - за перекоса. Другие распределения, используемые для моделирования искаженных данных, включают гамма- распределение , логнормальное распределение и распределение Вейбулла , но они не включают нормальные распределения как особые случаи.

Другие дистрибутивы, относящиеся к обычному [ править ]

Два описанных здесь обобщенных семейства нормальных, как и семейство косых нормалей , представляют собой параметрические семейства, расширяющие нормальное распределение путем добавления параметра формы. Из-за центральной роли нормального распределения в вероятности и статистике многие распределения могут быть охарактеризованы с точки зрения их отношения к нормальному распределению. Например, логнормальное , свернутое нормальное и обратное нормальное распределения определены как преобразования нормально распределенного значения, но в отличие от семейств обобщенных нормальных и косонормальных, они не включают нормальные распределения как особые случаи.
На самом деле все распределения с конечной дисперсией в пределе сильно связаны с нормальным распределением. Распределение Стьюдента-т, то распределение Ирвина-Холл и распределение Бейтса также продлить нормальное распределение, и включают в пределе нормального распределения. Таким образом, нет веских причин предпочесть «обобщенное» нормальное распределение типа 1, например, перед комбинацией Стьюдента-t и нормализованного расширенного Ирвина-Холла - это могло бы включать, например, треугольное распределение (которое не может быть смоделировано с помощью обобщенного гауссовского Тип 1).
Симметричное распределение, которое может моделировать как хвост (длинный и короткий), так иПоведение центра (например, плоский, треугольный или гауссовский) полностью независимо можно получить, например, используя  X  = IH / chi.

См. Также [ править ]

• Комплексное нормальное распределение
• Скошенное нормальное распределение

Ссылки [ править ]