Вероятностно-производящая функция

В теории вероятностей , то производящая функция из дискретной случайной величины представляет собой степенной ряд представление ( производящую функция ) от функции вероятности массовой от случайной величины . Функции, производящие вероятности, часто используются для их краткого описания последовательности вероятностей Pr ( X = i ) в функции массы вероятностей для случайной величины X и для того, чтобы сделать доступной хорошо разработанную теорию степенных рядов с неотрицательными коэффициентами.

Определение [ править ]

Одномерный случай [ править ]

Если Х представляет собой дискретную случайную переменную со значениями в неотрицательных целых чисел {0,1, ...}, то производящая функция из X определяется как ^[1]

${\ Displaystyle G (z) = \ OperatorName {E} (z ^ {X}) = \ sum _ {x = 0} ^ {\ infty} p (x) z ^ {x},}$

где р есть функция вероятности массы из X . Обратите внимание, что нижние индексы G _X и p _X часто используются, чтобы подчеркнуть, что они относятся к конкретной случайной величине X и ее распределению . Степенный ряд сходится абсолютно по крайней мере для всех комплексных чисел z с | z | ≤ 1; во многих примерах радиус сходимости больше.

Многовариантный случай [ править ]

Если Х = ( Х ₁ , ..., X _d  ) представляет собой дискретную случайную величину со значениями в D - мерное неотрицательное целое решетку {0,1, ...} ^д , то производящая функция из X является определяется как

${\displaystyle G(z)=G(z_{1},\ldots ,z_{d})=\operatorname {E} {\bigl (}z_{1}^{X_{1}}\cdots z_{d}^{X_{d}}{\bigr )}=\sum _{x_{1},\ldots ,x_{d}=0}^{\infty }p(x_{1},\ldots ,x_{d})z_{1}^{x_{1}}\cdots z_{d}^{x_{d}},}$

где р является функцией вероятности массы X .  Степенный ряд сходится абсолютно по крайней мере для всех комплексных векторов z = ( z ₁ , ..., z _d ) ∈ ℂ ^d с max {| z ₁ |, ..., | z _d  |} ≤ 1 .

Свойства [ править ]

Силовой ряд [ править ]

Вероятностные производящие функции подчиняются всем правилам степенных рядов с неотрицательными коэффициентами. В частности, G (1 ^- ) = 1, где G (1 ^- ) = lim _{z → 1} G ( z ) снизу , поскольку суммы вероятностей должны составлять единицу. Таким образом, радиус сходимости любой функции, производящей вероятность, должен быть не менее 1 по теореме Абеля для степенных рядов с неотрицательными коэффициентами.

Вероятности и ожидания [ править ]

Следующие свойства позволяют выводить различные базовые величины, относящиеся к X :

1. Функция массы вероятности X восстанавливается путем взятия производных от G,

   ${\displaystyle p(k)=\operatorname {Pr} (X=k)={\frac {G^{(k)}(0)}{k!}}.}$

2. Из свойства 1 следует, что если случайные величины X и Y имеют равные функции, порождающие вероятность,, то . То есть, если X и Y имеют идентичные функции генерации вероятностей, то они имеют идентичные распределения.${\displaystyle G_{X}=G_{Y}}$${\displaystyle p_{X}=p_{Y}}$
3. Нормализация функции плотности вероятности может быть выражена через производящую функцию как

   ${\displaystyle \operatorname {E} [1]=G(1^{-})=\sum _{i=0}^{\infty }p(i)=1.}$

   Ожидания от дается${\displaystyle X}$

   ${\displaystyle \operatorname {E} [X]=G'(1^{-}).}$

   В целом, к - ^й факторного момент , из X задается${\displaystyle \operatorname {E} (X(X-1)\cdots (X-k+1))}$

   ${\displaystyle \operatorname {E} \left[{\frac {X!}{(X-k)!}}\right]=G^{(k)}(1^{-}),\quad k\geq 0.}$

   Таким образом, отклонение от X задается

   ${\displaystyle \operatorname {Var} (X)=G''(1^{-})+G'(1^{-})-\left[G'(1^{-})\right]^{2}.}$

   Наконец, k- ^й необработанный момент X определяется выражением

   ${\displaystyle \operatorname {E} [X^{k}]=\left(z{\frac {\partial }{\partial z}}\right)^{k}G(z){\Big |}_{z=1^{-}}}$

4. ${\displaystyle G_{X}(e^{t})=M_{X}(t)}$где Х является случайной величиной, является производящей функцией вероятности (из X ) и является моментом генерирования функции (из X ).${\displaystyle G_{X}(t)}$${\displaystyle M_{X}(t)}$

Функции независимых случайных величин [ править ]

Функции, производящие вероятность, особенно полезны при работе с функциями независимых случайных величин. Например:

• Если X ₁ , X ₂ , ..., X _N - последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

${\displaystyle S_{N}=\sum _{i=1}^{N}a_{i}X_{i},}$

где a _i - константы, тогда производящая функция вероятности определяется выражением

${\displaystyle G_{S_{N}}(z)=\operatorname {E} (z^{S_{N}})=\operatorname {E} \left(z^{\sum _{i=1}^{N}a_{i}X_{i},}\right)=G_{X_{1}}(z^{a_{1}})G_{X_{2}}(z^{a_{2}})\cdots G_{X_{N}}(z^{a_{N}}).}$

Например, если

${\displaystyle S_{N}=\sum _{i=1}^{N}X_{i},}$

тогда производящая функция вероятности G _{S N} ( z ) задается формулой

${\displaystyle G_{S_{N}}(z)=G_{X_{1}}(z)G_{X_{2}}(z)\cdots G_{X_{N}}(z).}$

Отсюда также следует, что производящая вероятность разности двух независимых случайных величин S = X ₁ - X ₂ равна

${\displaystyle G_{S}(z)=G_{X_{1}}(z)G_{X_{2}}(1/z).}$

• Предположим , что N также является независимым, дискретной случайной величины , принимающие значения на неотрицательных целых чисел, с вероятностной функции G _N . Если X ₁ , X ₂ , ..., X _N независимы и одинаково распределены с общей вероятностью производящей функции G _X , то

${\displaystyle G_{S_{N}}(z)=G_{N}(G_{X}(z)).}$

Это можно увидеть, используя закон полного ожидания , следующим образом:

${\displaystyle {\begin{aligned}G_{S_{N}}(z)&=\operatorname {E} (z^{S_{N}})=\operatorname {E} (z^{\sum _{i=1}^{N}X_{i}})\\[4pt]&=\operatorname {E} {\big (}\operatorname {E} (z^{\sum _{i=1}^{N}X_{i}}\mid N){\big )}=\operatorname {E} {\big (}(G_{X}(z))^{N}{\big )}=G_{N}(G_{X}(z)).\end{aligned}}}$

Последний факт полезен при изучении процессов Гальтона – Ватсона и сложных пуассоновских процессов .

• Снова предположим, что N также является независимой дискретной случайной величиной, принимающей значения неотрицательных целых чисел, с функцией генерации вероятности G _N и плотностью вероятности . Если X ₁ , X ₂ , ..., X _N являются независимыми, но не одинаково распределенными случайными величинами, где обозначает функцию, генерирующую вероятность , то${\displaystyle f_{i}=\Pr\{N=i\}}$${\displaystyle G_{X_{i}}}$${\displaystyle X_{i}}$

${\displaystyle G_{S_{N}}(z)=\sum _{i\geq 1}f_{i}\prod _{k=1}^{i}G_{X_{i}}(z).}$

Для одинаково распределенного X _i это упрощается до идентичности, указанной ранее. Общий случай иногда бывает полезен для получения разложения S _N с помощью производящих функций.

Примеры [ править ]

• Функция генерирования вероятности постоянной случайной величины , т. Е. Такой , у которой Pr ( X = c ) = 1, равна

${\displaystyle G(z)=z^{c}.}$

• Функция генерирования вероятности биномиальной случайной величины , количество успехов в n испытаниях с вероятностью p успеха в каждом испытании, равна

${\displaystyle G(z)=\left[(1-p)+pz\right]^{n}.}$

Обратите внимание, что это n- кратное произведение производящей вероятности функции случайной величины Бернулли с параметром p .

Таким образом, функция, производящая вероятность честной монеты , равна

${\displaystyle G(z)=1/2+z/2.}$

• Функция генерации вероятности отрицательной биномиальной случайной величины на {0,1,2 ...}, количестве неудач до r- го успеха с вероятностью успеха в каждом испытании p , равна

${\displaystyle G(z)=\left({\frac {p}{1-(1-p)z}}\right)^{r}.}$

(Сведения для ).${\displaystyle |z|<{\frac {1}{1-p}}}$

Обратите внимание, что это r- кратное произведение производящей вероятности функции геометрической случайной величины с параметром 1 -  p на {0,1,2, ...}.

• Производящая функция вероятности пуассоновской случайной величины с параметром скорости λ равна

${\displaystyle G(z)=e^{\lambda (z-1)}.}$

Понятия, связанные с данным [ править ]

Производящая функция вероятности является примером производящей функции последовательности: см. Также формальный степенной ряд . Это эквивалентно, а иногда и называется z-преобразованием функции массы вероятности.

Другие производящие функции случайных величин включают функцию создания момента , характеристическую функцию и кумулянтную производящую функцию . Функция создания вероятности также эквивалентна функции создания факториального момента , которая также может рассматриваться для непрерывных и других случайных величин.${\displaystyle \operatorname {E} \left[z^{X}\right]}$

Заметки [ править ]

Ссылки [ править ]

• Джонсон, Нидерланды; Kotz, S .; Кемп, А.В. (1993) Одномерные дискретные распределения (2-е издание). Вайли. ISBN  0-471-54897-9 (Раздел 1.B9)