Распределение Бернулли

Распределение Бернулли

Параметры	${\ displaystyle 0 \ leq p \ leq 1}$ ${\ Displaystyle д = 1-р}$
Поддерживать	${\ Displaystyle к \ в \ {0,1 \}}$
PMF	${\ displaystyle {\ begin {cases} q = 1-p & {\ text {if}} k = 0 \\ p & {\ text {if}} k = 1 \ end {cases}}}$ ${\ displaystyle p ^ {k} (1-p) ^ {1-k}}$
CDF	${\ displaystyle {\ begin {cases} 0 & {\ text {if}} k <0 \\ 1-p & {\ text {if}} 0 \ leq k <1 \\ 1 & {\ text {if}} k \ geq 1 \ end {case}}}$
Иметь в виду	${\ displaystyle p}$
Медиана	${\ displaystyle {\ begin {cases} 0 & {\ text {if}} p <1/2 \\\ left [0,1 \ right] & {\ text {if}} p = 1/2 \\ 1 & { \ text {if}} p> 1/2 \ end {case}}}$
Режим	${\ displaystyle {\ begin {cases} 0 & {\ text {if}} p <1/2 \\ 0,1 & {\ text {if}} p = 1/2 \\ 1 & {\ text {if}} p > 1/2 \ end {case}}}$
Дисперсия	${\ Displaystyle p (1-p) = pq}$
Асимметрия	${\ displaystyle {\ frac {qp} {\ sqrt {pq}}}}$
Бывший. эксцесс	${\ displaystyle {\ frac {1-6pq} {pq}}}$
Энтропия	${\displaystyle -q\ln q-p\ln p}$
MGF	${\displaystyle q+pe^{t}}$
CF	${\displaystyle q+pe^{it}}$
PGF	${\displaystyle q+pz}$
Информация Fisher	${\displaystyle {\frac {1}{pq}}}$

В теории вероятностей и статистике , то распределение Бернулли , названный в честь швейцарского математика Якоба Бернулли , ^[1] является дискретным распределением вероятностей из случайной величины , которая принимает значение 1 с вероятностью и значение 0 с вероятностью . Менее формально, его можно рассматривать как модель для набора возможных результатов любого отдельного эксперимента, в котором задается вопрос « да-нет» . Такие вопросы приводят к результатам, которые имеют логическое значение : единственный бит , значение которого - успех / да${\displaystyle p}$${\displaystyle q=1-p}$/ истина / единица с вероятностью p и отказ / нет / ложь / ноль с вероятностью q . Его можно использовать для представления (возможно, предвзятого) подбрасывания монеты, где 1 и 0 будут представлять «орел» и «решка» (или наоборот), соответственно, а p будет вероятностью выпадения монеты орлом или решкой соответственно. . В частности, несправедливые монеты${\displaystyle p\neq 1/2.}$

Распределение Бернулли - это частный случай биномиального распределения, когда проводится одно испытание (так что n будет равно 1 для такого биномиального распределения). Это также частный случай двухточечного распределения , для которого возможные результаты не обязательно должны быть 0 и 1.

Свойства [ править ]

Если - случайная величина с таким распределением, то:${\displaystyle X}$

${\displaystyle \Pr(X=1)=p=1-\Pr(X=0)=1-q.}$

Функция массы вероятности этого распределения по возможным исходам k равна${\displaystyle f}$

${\displaystyle f(k;p)={\begin{cases}p&{\text{if }}k=1,\\q=1-p&{\text{if }}k=0.\end{cases}}}$^[2]

Это также можно выразить как

${\displaystyle f(k;p)=p^{k}(1-p)^{1-k}\quad {\text{for }}k\in \{0,1\}}$

или как

${\displaystyle f(k;p)=pk+(1-p)(1-k)\quad {\text{for }}k\in \{0,1\}.}$

Распределение Бернулли является частным случаем биномиального распределения с ^[3]${\displaystyle n=1.}$

Эксцесса стремится к бесконечности при высоких и низких значениях , но и для распределений двухточечный включая распределение Бернулли имеет более низкий избыток эксцесс , чем любое другое распределение вероятностей, а именно -2.${\displaystyle p,}$${\displaystyle p=1/2}$

Распределения Бернулли для образуют экспоненциальную семью .${\displaystyle 0\leq p\leq 1}$

Оценка максимального правдоподобия на основе случайной выборки является выборочным средним .${\displaystyle p}$

Среднее [ править ]

Ожидаемое значение случайной переменной Бернулли является${\displaystyle X}$

${\displaystyle \operatorname {E} \left(X\right)=p}$

Это связано с тем, что для распределенной по Бернулли случайной величины с и находим${\displaystyle X}$${\displaystyle \Pr(X=1)=p}$${\displaystyle \Pr(X=0)=q}$

${\displaystyle \operatorname {E} [X]=\Pr(X=1)\cdot 1+\Pr(X=0)\cdot 0=p\cdot 1+q\cdot 0=p.}$^[2]

Дисперсия [ править ]

Дисперсия из Бернулли распределенной является${\displaystyle X}$

${\displaystyle \operatorname {Var} [X]=pq=p(1-p)}$

Мы сначала находим

${\displaystyle \operatorname {E} [X^{2}]=\Pr(X=1)\cdot 1^{2}+\Pr(X=0)\cdot 0^{2}=p\cdot 1^{2}+q\cdot 0^{2}=p=\operatorname {E} [X]}$

Из этого следует

${\displaystyle \operatorname {Var} [X]=\operatorname {E} [X^{2}]-\operatorname {E} [X]^{2}=\operatorname {E} [X]-\operatorname {E} [X]^{2}=p-p^{2}=p(1-p)=pq}$^[2]

С этим результатом легко доказать, что для любого распределения Бернулли его дисперсия будет иметь значение внутри .${\displaystyle [0,1/4]}$

Асимметрия [ править ]

Перекос есть . Когда мы берем стандартизированную распределенную случайную величину Бернулли, мы обнаруживаем, что эта случайная величина достигается с вероятностью и достигает с вероятностью . Таким образом мы получаем${\displaystyle {\frac {q-p}{\sqrt {pq}}}={\frac {1-2p}{\sqrt {pq}}}}$${\displaystyle {\frac {X-\operatorname {E} [X]}{\sqrt {\operatorname {Var} [X]}}}}$${\displaystyle {\frac {q}{\sqrt {pq}}}}$${\displaystyle p}$${\displaystyle -{\frac {p}{\sqrt {pq}}}}$${\displaystyle q}$

${\displaystyle {\begin{aligned}\gamma _{1}&=\operatorname {E} \left[\left({\frac {X-\operatorname {E} [X]}{\sqrt {\operatorname {Var} [X]}}}\right)^{3}\right]\\&=p\cdot \left({\frac {q}{\sqrt {pq}}}\right)^{3}+q\cdot \left(-{\frac {p}{\sqrt {pq}}}\right)^{3}\\&={\frac {1}{{\sqrt {pq}}^{3}}}\left(pq^{3}-qp^{3}\right)\\&={\frac {pq}{{\sqrt {pq}}^{3}}}(q-p)\\&={\frac {q-p}{\sqrt {pq}}}\end{aligned}}}$

Высшие моменты и кумулянты [ править ]

Необработанные моменты все равны из-за того, что и . ${\displaystyle 1^{k}=1}$${\displaystyle 0^{k}=0}$

${\displaystyle \operatorname {E} [X^{k}]=\Pr(X=1)\cdot 1^{k}+\Pr(X=0)\cdot 0^{k}=p\cdot 1+q\cdot 0=p=\operatorname {E} [X].}$

Центральный момент заказа задается${\displaystyle k}$

${\displaystyle \mu _{k}=(1-p)(-p)^{k}+p(1-p)^{k}.}$

Первые шесть центральных моментов

${\displaystyle {\begin{aligned}\mu _{1}&=0,\\\mu _{2}&=p(1-p),\\\mu _{3}&=p(1-p)(1-2p),\\\mu _{4}&=p(1-p)(1-3p(1-p)),\\\mu _{5}&=p(1-p)(1-2p)(1-2p(1-p)),\\\mu _{6}&=p(1-p)(1-5p(1-p)(1-p(1-p))).\end{aligned}}}$

Высшие центральные моменты можно выразить более компактно в терминах и${\displaystyle \mu _{2}}$${\displaystyle \mu _{3}}$

${\displaystyle {\begin{aligned}\mu _{4}&=\mu _{2}(1-3\mu _{2}),\\\mu _{5}&=\mu _{3}(1-2\mu _{2}),\\\mu _{6}&=\mu _{2}(1-5\mu _{2}(1-\mu _{2})).\end{aligned}}}$

Первые шесть кумулянтов

${\displaystyle {\begin{aligned}\kappa _{1}&=p,\\\kappa _{2}&=\mu _{2},\\\kappa _{3}&=\mu _{3},\\\kappa _{4}&=\mu _{2}(1-6\mu _{2}),\\\kappa _{5}&=\mu _{3}(1-12\mu _{2}),\\\kappa _{6}&=\mu _{2}(1-30\mu _{2}(1-4\mu _{2})).\end{aligned}}}$

Связанные дистрибутивы [ править ]

• Если все испытания Бернулли являются независимыми, одинаково распределенными ( iid ) случайными величинами с вероятностью успеха  p , то их сумма распределяется согласно биномиальному распределению с параметрами n и p :${\displaystyle X_{1},\dots ,X_{n}}$

  ${\displaystyle \sum _{k=1}^{n}X_{k}\sim \operatorname {B} (n,p)}$( биномиальное распределение ). ^[2]

Распределение Бернулли просто , также записывается как${\displaystyle \operatorname {B} (1,p)}$${\textstyle \mathrm {Bernoulli} (p).}$

• Категорично распределением является обобщением распределения Бернулли для переменных с любым постоянным числом дискретных значений.
• Бета распределение является конъюгат до распределения Бернулли.
• В геометрическом распределении моделей числа независимых и идентичных испытания Бернулли необходимо , чтобы получить один успех.
• Если , то имеет распределение Радемахера .${\textstyle Y\sim \mathrm {Bernoulli} \left({\frac {1}{2}}\right)}$${\textstyle 2Y-1}$

См. Также [ править ]

• Процесс Бернулли , случайный процесс, состоящий из последовательности независимых испытаний Бернулли.
• Отбор проб Бернулли
• Двоичная функция энтропии
• Диаграмма двоичного решения

Ссылки [ править ]

Дальнейшее чтение [ править ]

• Джонсон, Нидерланды; Kotz, S .; Кемп, А. (1993). Одномерные дискретные распределения (2-е изд.). Вайли. ISBN 0-471-54897-9.
• Питман, Джон Г. (1963). Введение в прикладную статистику . Нью-Йорк: Харпер и Роу. С. 162–171.

Внешние ссылки [ править ]

Викискладе есть медиафайлы, связанные с распространением Бернулли .

• "Биномиальное распределение" , Энциклопедия математики , EMS Press , 2001 [1994]
• Вайсштейн, Эрик В. "Распределение Бернулли" . MathWorld .
• Интерактивная графика: одномерные отношения распределения