Распределение Лапласа

Лаплас

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${\ displaystyle \ mu}$ местоположение ( реальный ) масштаб (реальный) ${\ displaystyle b> 0}$
Поддерживать	${\ Displaystyle \ mathbb {R}}$
PDF	${\ displaystyle {\ frac {1} {2b}} \ exp \ left (- {\ frac {| x- \ mu |} {b}} \ right)}$
CDF	${\displaystyle {\begin{cases}{\frac {1}{2}}\exp \left({\frac {x-\mu }{b}}\right)&{\text{if }}x\leq \mu \\[8pt]1-{\frac {1}{2}}\exp \left(-{\frac {x-\mu }{b}}\right)&{\text{if }}x\geq \mu \end{cases}}}$
Квантиль	${\displaystyle {\begin{cases}\mu +b\ln \left(2F\right)&{\text{if }}F\leq {\frac {1}{2}}\\[8pt]\mu -b\ln \left(2-2F\right)&{\text{if }}F\geq {\frac {1}{2}}\end{cases}}}$
Иметь в виду	${\displaystyle \mu }$
Медиана	${\displaystyle \mu }$
Режим	${\displaystyle \mu }$
Дисперсия	${\displaystyle 2b^{2}}$
СУМАСШЕДШИЙ	${\displaystyle b}$
Асимметрия	${\displaystyle 0}$
Бывший. эксцесс	${\displaystyle 3}$
Энтропия	${\displaystyle \log(2be)}$
MGF	${\displaystyle {\frac {\exp(\mu t)}{1-b^{2}t^{2}}}{\text{ for }}|t|<1/b}$
CF	${\displaystyle {\frac {\exp(\mu it)}{1+b^{2}t^{2}}}}$

В теории вероятностей и статистике , то распределение Лапласа является непрерывное распределение вероятностей имени Пьер-Симон Лаплас . Его также иногда называют двойным экспоненциальным распределением , потому что его можно рассматривать как два экспоненциальных распределения (с дополнительным параметром местоположения), соединенных вместе, хотя этот термин также иногда используется для обозначения распределения Гамбеля . Разница между двумя независимыми одинаково распределенными экспоненциальными случайными величинами регулируется распределением Лапласа, как и броуновское движениеоценивается в экспоненциально распределенное случайное время. Приращения движения Лапласа или дисперсионного гамма-процесса, оцениваемые по шкале времени, также имеют распределение Лапласа.

Определения [ править ]

Функция плотности вероятности [ править ]

Случайная величина имеет распределение , если ее функция плотности вероятности является${\displaystyle {\textrm {Laplace}}(\mu ,b)}$

${\displaystyle f(x\mid \mu ,b)={\frac {1}{2b}}\exp \left(-{\frac {|x-\mu |}{b}}\right)\,\!}$

${\displaystyle ={\frac {1}{2b}}\left\{{\begin{matrix}\exp \left(-{\frac {\mu -x}{b}}\right)&{\text{if }}x<\mu \\[8pt]\exp \left(-{\frac {x-\mu }{b}}\right)&{\text{if }}x\geq \mu \end{matrix}}\right.}$

Здесь - параметр местоположения и , иногда называемый разнесением, - параметр масштаба . Если и , положительная полупрямая - это в точности экспоненциальное распределение, масштабированное на 1/2.${\displaystyle \mu }$${\displaystyle b>0}$${\displaystyle \mu =0}$${\displaystyle b=1}$

Функция плотности вероятности распределения Лапласа также напоминает нормальное распределение ; однако, в то время как нормальное распределение выражается в виде квадрата разницы от среднего , плотность Лапласа выражается в терминах абсолютного отличия от среднего. Следовательно, распределение Лапласа имеет более толстые хвосты, чем нормальное распределение.${\displaystyle \mu }$

Кумулятивная функция распределения [ править ]

Распределение Лапласа легко интегрировать (если выделить два симметричных случая) благодаря использованию функции абсолютного значения . Его кумулятивная функция распределения выглядит следующим образом:

${\displaystyle {\begin{aligned}F(x)&=\int _{-\infty }^{x}\!\!f(u)\,\mathrm {d} u={\begin{cases}{\frac {1}{2}}\exp \left({\frac {x-\mu }{b}}\right)&{\mbox{if }}x<\mu \\1-{\frac {1}{2}}\exp \left(-{\frac {x-\mu }{b}}\right)&{\mbox{if }}x\geq \mu \end{cases}}\\&={\tfrac {1}{2}}+{\tfrac {1}{2}}\operatorname {sgn}(x-\mu )\left(1-\exp \left(-{\frac {|x-\mu |}{b}}\right)\right).\end{aligned}}}$

Обратная кумулятивная функция распределения определяется выражением

${\displaystyle F^{-1}(p)=\mu -b\,\operatorname {sgn}(p-0.5)\,\ln(1-2|p-0.5|).}$

Свойства [ править ]

Моменты [ править ]

${\displaystyle \mu _{r}'={\bigg (}{\frac {1}{2}}{\bigg )}\sum _{k=0}^{r}{\bigg [}{\frac {r!}{(r-k)!}}b^{k}\mu ^{(r-k)}\{1+(-1)^{k}\}{\bigg ]}={\frac {m^{n+1}}{2b}}\left(e^{m/b}E_{-n}(m/b)-e^{-m/b}E_{-n}(-m/b)\right)}$

где - обобщенная экспоненциальная интегральная функция .${\displaystyle E_{n}()}$${\displaystyle E_{n}(x)=x^{n-1}\Gamma (1-n,x)}$

Связанные дистрибутивы [ править ]

• Если тогда .${\displaystyle X\sim {\textrm {Laplace}}(\mu ,b)}$${\displaystyle kX+c\sim {\textrm {Laplace}}(k\mu +c,kb)}$
• Если тогда . ( Экспоненциальное распределение )${\displaystyle X\sim {\textrm {Laplace}}(0,b)}$${\displaystyle \left|X\right|\sim {\textrm {Exponential}}\left(b^{-1}\right)}$
• Если тогда ．${\displaystyle X,Y\sim {\textrm {Exponential}}(\lambda )}$${\displaystyle X-Y\sim {\textrm {Laplace}}\left(0,\lambda ^{-1}\right)}$
• Если тогда .${\displaystyle X\sim {\textrm {Laplace}}(\mu ,b)}$${\displaystyle \left|X-\mu \right|\sim {\textrm {Exponential}}(b^{-1})}$
• Если тогда . ( Экспоненциальное распределение мощности )${\displaystyle X\sim {\textrm {Laplace}}(\mu ,b)}$${\displaystyle X\sim {\textrm {EPD}}(\mu ,b,1)}$
• Если ( Нормальное распределение ), то .${\displaystyle X_{1},...,X_{4}\sim {\textrm {N}}(0,1)}$${\displaystyle X_{1}X_{2}-X_{3}X_{4}\sim {\textrm {Laplace}}(0,1)}$
• Если тогда . ( Распределение хи-квадрат )${\displaystyle X_{i}\sim {\textrm {Laplace}}(\mu ,b)}$${\displaystyle {\frac {\displaystyle 2}{b}}\sum _{i=1}^{n}|X_{i}-\mu |\sim \chi ^{2}(2n)}$
• Если тогда . ( F-распределение )${\displaystyle X,Y\sim {\textrm {Laplace}}(\mu ,b)}$${\displaystyle {\tfrac {|X-\mu |}{|Y-\mu |}}\sim \operatorname {F} (2,2)}$
• Если ( Равномерное распределение ), то .${\displaystyle X,Y\sim {\textrm {U}}(0,1)}$${\displaystyle \log(X/Y)\sim {\textrm {Laplace}}(0,1)}$
• Если и ( распределение Бернулли ) не зависит от , то .${\displaystyle X\sim {\textrm {Exponential}}(\lambda )}$${\displaystyle Y\sim {\textrm {Bernoulli}}(0.5)}$${\displaystyle X}$${\displaystyle X(2Y-1)\sim {\textrm {Laplace}}\left(0,\lambda ^{-1}\right)}$
• Если и не зависит от , то ．${\displaystyle X\sim {\textrm {Exponential}}(\lambda )}$${\displaystyle Y\sim {\textrm {Exponential}}(\nu )}$${\displaystyle X}$${\displaystyle \lambda X-\nu Y\sim {\textrm {Laplace}}(0,1)}$
• Если есть распределение Радемахера, а затем .${\displaystyle X}$${\displaystyle Y\sim {\textrm {Exponential}}(\lambda )}$${\displaystyle XY\sim {\textrm {Laplace}}(0,1/\lambda )}$
• Если и независимо от , то .${\displaystyle V\sim {\textrm {Exponential}}(1)}$${\displaystyle Z\sim N(0,1)}$${\displaystyle V}$${\displaystyle X=\mu +b{\sqrt {2V}}Z\sim \mathrm {Laplace} (\mu ,b)}$
• Если ( геометрическое устойчивое распределение ), то .${\displaystyle X\sim {\textrm {GeometricStable}}(2,0,\lambda ,0)}$${\displaystyle X\sim {\textrm {Laplace}}(0,\lambda )}$
• Распределение Лапласа является предельным случаем гиперболического распределения .
• Если с ( распределением Рэлея ), то .${\displaystyle X|Y\sim {\textrm {N}}(\mu ,Y^{2})}$${\displaystyle Y\sim {\textrm {Rayleigh}}(b)}$${\displaystyle X\sim {\textrm {Laplace}}(\mu ,b)}$
• Дано целое число , если ( гамма-распределение , с использованием характеризации), то ( бесконечная делимость ) ^[1]${\displaystyle n\geq 1}$${\displaystyle X_{i},Y_{i}\sim \Gamma \left({\frac {1}{n}},b\right)}$${\displaystyle k,\theta }$${\displaystyle \sum _{i=1}^{n}\left({\frac {\mu }{n}}+X_{i}-Y_{i}\right)\sim {\textrm {Laplace}}(\mu ,b)}$

Связь с экспоненциальным распределением [ править ]

Случайная величина Лапласа может быть представлена ​​как разность двух экспоненциальных случайных величин iid . ^[1] Один из способов показать это - использовать подход характеристической функции . Для любого набора независимых непрерывных случайных величин, для любой линейной комбинации этих переменных его характеристическая функция (которая однозначно определяет распределение) может быть получена путем умножения соответствующих характеристических функций.

Рассмотрим две случайные величины iid . Характеристические функции для :${\displaystyle X,Y\sim {\textrm {Exponential}}(\lambda )}$${\displaystyle X,-Y}$

${\displaystyle {\frac {\lambda }{-it+\lambda }},\quad {\frac {\lambda }{it+\lambda }}}$

соответственно. При умножении этих характеристических функций (эквивалентных характеристической функции суммы случайных величин ) результат:${\displaystyle X+(-Y)}$

${\displaystyle {\frac {\lambda ^{2}}{(-it+\lambda )(it+\lambda )}}={\frac {\lambda ^{2}}{t^{2}+\lambda ^{2}}}.}$

Это то же самое, что и характеристическая функция для , которая равна${\displaystyle Z\sim {\textrm {Laplace}}(0,1/\lambda )}$

${\displaystyle {\frac {1}{1+{\frac {t^{2}}{\lambda ^{2}}}}}.}$

Распределения Саргана [ править ]

Распределения Саргана - это система распределений, ядром которой является распределение Лапласа. Го порядка распределения Сарган имеет плотность ^{[2] [3]}${\displaystyle p}$

${\displaystyle f_{p}(x)={\tfrac {1}{2}}\exp(-\alpha |x|){\frac {\displaystyle 1+\sum _{j=1}^{p}\beta _{j}\alpha ^{j}|x|^{j}}{\displaystyle 1+\sum _{j=1}^{p}j!\beta _{j}}},}$

для параметров . Результаты распределения Лапласа для .${\displaystyle \alpha \geq 0,\beta _{j}\geq 0}$${\displaystyle p=0}$

Статистический вывод [ править ]

Оценка параметров [ править ]

Учитывая , независимые и одинаково распределенные пробы , то максимальное правдоподобие оценки из является образец медиана , ^[4] и максимальное правдоподобие оценки от этого средних абсолютного отклонения от медианы${\displaystyle N}$${\displaystyle x_{1},x_{2},...,x_{N}}$${\displaystyle {\hat {\mu }}}$${\displaystyle \mu }$${\displaystyle {\hat {b}}}$${\displaystyle b}$

${\displaystyle {\hat {b}}={\frac {1}{N}}\sum _{i=1}^{N}|x_{i}-{\hat {\mu }}|}$

(выявляя связь между распределением Лапласа и наименьшими абсолютными отклонениями ).

Возникновение и применение [ править ]

Распределение Лапласа использовалось при распознавании речи для моделирования априорных значений коэффициентов DFT ^[5] и при сжатии изображений JPEG для моделирования коэффициентов переменного тока ^[6], генерируемых DCT .

• Добавление шума, полученного из распределения Лапласа с параметром масштабирования, соответствующим чувствительности функции, к выходным данным запроса статистической базы данных является наиболее распространенным средством обеспечения дифференциальной конфиденциальности в статистических базах данных.

• В регрессионном анализе , то хотя бы абсолютное отклонение оценка возникает как оценка максимального правдоподобия , если ошибки есть распределение Лапласа.
• Lasso можно рассматривать как байесовскую регрессию с лапласианом ранее. ^[8]
• В гидрологии распределение Лапласа применяется к экстремальным явлениям, таким как годовые максимальные однодневные осадки и сток рек. На синем рисунке, сделанном с помощью CumFreq , показан пример подгонки распределения Лапласа к ранжированным годовым максимальным однодневным осадкам, а также пояс 90% уверенности на основе биномиального распределения . Данные об осадках представлены в виде точек на графике как часть кумулятивного частотного анализа .

Распределение Лапласа, являющееся составным или двойным распределением, применимо в ситуациях, когда более низкие значения возникают при других внешних условиях, чем более высокие, так что они следуют другому образцу. ^[9]

Вычислительные методы [ править ]

Генерация значений из распределения Лапласа [ править ]

Для случайной величины, взятой из равномерного распределения в интервале , случайная величина${\displaystyle U}$${\displaystyle \left(-1/2,1/2\right)}$

${\displaystyle X=\mu -b\,\operatorname {sgn}(U)\,\ln(1-2|U|)}$

имеет распределение Лапласа с параметрами и . Это следует из приведенной выше обратной кумулятивной функции распределения.${\displaystyle \mu }$${\displaystyle b}$

Варьировать также могут быть получены в виде разности двух независимых одинаково распределенных случайных величин. Эквивалентно, также может быть сгенерирован как логарифм отношения двух однородных случайных величин iid .${\displaystyle {\textrm {Laplace}}(0,b)}$ ${\displaystyle {\textrm {Exponential}}(1/b)}$${\displaystyle {\textrm {Laplace}}(0,1)}$

История [ править ]

Это распределение часто называют первым законом ошибок Лапласа. Он опубликовал ее в 1774 году, когда заметил, что частота ошибки может быть выражена как экспоненциальная функция от ее величины, если ее знак не принимается во внимание. ^{[10] [11]}

Кейнс опубликовал статью в 1911 году, основанную на его более раннем тезисе, в котором он показал, что распределение Лапласа минимизирует абсолютное отклонение от медианы. ^[12]

См. Также [ править ]

• Многомерное распределение Лапласа
• Мера Бесова , обобщение распределения Лапласа на функциональные пространства
• Распределение Коши , также называемое «распределением Лоренца» (преобразование Фурье Лапласа)
• Характеристическая функция (теория вероятностей)
• Распределение лог-Лапласа

Ссылки [ править ]

Внешние ссылки [ править ]

• "Распределение Лапласа" , Математическая энциклопедия , EMS Press , 2001 [1994]