Сходимость случайных величин

В теории вероятностей существует несколько различных понятий сходимости случайных величин . Конвергенция из последовательностей от случайных величин к некоторому пределу случайной величины является важным понятием в теории вероятностей и ее приложения к статистике и случайным процессам . Те же концепции известны в более общей математике как стохастическая сходимость.и они формализуют идею о том, что иногда можно ожидать, что последовательность по существу случайных или непредсказуемых событий установится в поведение, которое по существу не меняется при изучении элементов, находящихся достаточно далеко в последовательности. Различные возможные понятия сходимости относятся к тому, как можно охарактеризовать такое поведение: два легко понимаемых поведения заключаются в том, что последовательность в конечном итоге принимает постоянное значение и что значения в последовательности продолжают изменяться, но могут быть описаны неизменным распределением вероятностей.

Фон [ править ]

«Стохастическая конвергенция» формализует идею о том, что иногда можно ожидать, что последовательность существенно случайных или непредсказуемых событий превратится в шаблон. Например, шаблон может быть

• Сходимость в классическом смысле к фиксированному значению, возможно, сама являющаяся результатом случайного события
• Растущее сходство результатов с тем, что произвела бы чисто детерминированная функция.
• Растущее предпочтение определенному результату
• Растущее "отвращение" к тому, чтобы далеко отклониться от определенного результата.
• Распределение вероятностей, описывающее следующий исход, может становиться все более похожим на определенное распределение

Некоторые менее очевидные, более теоретические закономерности могут быть

• Что ряд, сформированный путем вычисления ожидаемого значения расстояния результата от определенного значения, может сходиться к 0
• Что дисперсия случайной величины, описывающей следующее событие, становится все меньше и меньше.

Эти другие типы паттернов, которые могут возникнуть, отражены в различных типах стохастической сходимости, которые были изучены.

Хотя приведенное выше обсуждение относилось к сходимости одного ряда к предельному значению, понятие сходимости двух рядов по отношению друг к другу также важно, но с этим легко справиться, изучив последовательность, определяемую либо как разность, либо как отношение из двух серий.

Например, если среднее значение n независимых случайных величин Y _i , i = 1, ..., n , имеющих одинаковое конечное среднее значение и дисперсию , задается выражением

${\ displaystyle X_ {n} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} Y_ {i} \ ,,}$

тогда, когда n стремится к бесконечности, X _n сходится по вероятности (см. ниже) к общему среднему μ случайных величин Y _i . Этот результат известен как слабый закон больших чисел . Другие формы сходимости важны в других полезных теоремах, включая центральную предельную теорему .

Далее мы предполагаем, что ( X _n ) - это последовательность случайных величин, а X - случайная величина, и все они определены в одном вероятностном пространстве .${\ displaystyle (\ Omega, {\ mathcal {F}}, \ operatorname {Pr})}$

Конвергенция в распределении[ редактировать ]

Примеры сходимости в распределении

Фабрика игральных костей
Предположим, только что построили новую фабрику игральных костей. Первые несколько игральных костей получаются довольно предвзятыми из-за несовершенства производственного процесса. Результат выбрасывания любого из них будет иметь распределение, заметно отличающееся от желаемого равномерного распределения . По мере совершенствования фабрики игральные кости становятся все менее и менее загруженными, а результаты подбрасывания только что произведенной кости будут все более и более точно соответствовать равномерному распределению.
Подбрасывание монет
Пусть X n будет долей орлов после подбрасывания несмещенной монеты n раз. Тогда X 1 имеет распределение Бернулли с математическим ожиданием μ = 0,5 и дисперсией σ 2 = 0,25 . Все последующие случайные величины X 2 , X 3 , ... будут распределены биномиально . По мере увеличения n это распределение будет постепенно приобретать форму, все более похожую на колоколообразную кривую нормального распределения. Если мы сдвинем и изменим масштаб X nсоответственно, тогда будет сходиться по распределению к стандартной нормали, результат, который следует из знаменитой центральной предельной теоремы .${\ displaystyle \ scriptstyle Z_ {n} = {\ frac {\ sqrt {n}} {\ sigma}} (X_ {n} - \ mu)}$
Графический пример
Предположим, что { X i } - последовательность идентификаторов однородных U (−1, 1) случайных величин. Позвольте быть их (нормализованными) суммами. Тогда согласно центральной предельной теореме распределение Z n приближается к нормальному N (0,${\ displaystyle \ scriptstyle Z_ {n} = {\ scriptscriptstyle {\ frac {1} {\ sqrt {n}}}} \ sum _ {i = 1} ^ {n} X_ {i}}$1/3) распространение. Эта сходимость показана на рисунке: с увеличением n форма функции плотности вероятности приближается к гауссовой кривой.

При таком способе сходимости мы все больше ожидаем увидеть следующий результат в последовательности случайных экспериментов, которые все лучше и лучше моделируются заданным распределением вероятностей .

Сходимость в распределении - это самая слабая форма сходимости, которую обычно обсуждают, поскольку она подразумевается всеми другими типами сходимости, упомянутыми в этой статье. Однако на практике очень часто используется конвергенция распределения; чаще всего возникает из-за применения центральной предельной теоремы .

Определение [ править ]

Говорят, что последовательность X ₁ , X ₂ , ... вещественных случайных величин сходится по распределению , или сходится слабо , или сходится по закону к случайной величине X, если

${\ Displaystyle \ lim _ {п \ к \ infty} F_ {п} (х) = F (х),}$

для каждого числа , на которых F является непрерывным . Здесь F _n и F - кумулятивные функции распределения случайных величин X _n и X соответственно.${\ Displaystyle х \ в \ mathbb {R}}$

Требование, чтобы учитывались только точки непрерывности F , является существенным. Например, если X _n распределены равномерно на интервалах (0,1/п) , то эта последовательность сходится по распределению к вырожденной случайной величине X = 0 . В самом деле, F _n ( x ) = 0 для всех n, когда x ≤ 0 , и F _n ( x ) = 1 для всех x ≥1/пкогда n > 0 . Однако для этой предельной случайной величины F (0) = 1 , даже если F _n (0) = 0 для всех n . Таким образом, сходимость cdfs не выполняется в точке x = 0, где F разрывной.

Сходимость распределения можно обозначить как

${\ displaystyle {\ begin {align} {} \\ & X_ {n} \ {\ xrightarrow {d}} \ X, \ \ X_ {n} \ {\ xrightarrow {\ mathcal {D}}} \ X, \ \ X_ {n} \ {\ xrightarrow {\ mathcal {L}}} \ X, \ \ X_ {n} \ {\ xrightarrow {d}} \ {\ mathcal {L}} _ {X}, \\ & X_ {n} \ rightsquigarrow X, \ \ X_ {n} \ Rightarrow X, \ \ {\ mathcal {L}} (X_ {n}) \ to {\ mathcal {L}} (X), \\\\\ конец {выровнен}}}$

( 1 )

где закон (распределение вероятностей) из X . Например, если X является стандартным нормальным, мы можем писать .${\displaystyle \scriptstyle {\mathcal {L}}_{X}}$${\displaystyle X_{n}\,{\xrightarrow {d}}\,{\mathcal {N}}(0,\,1)}$

Для случайных векторов { X ₁ , X ₂ , ...} ⊂ R ^k сходимость по распределению определяется аналогично. Мы говорим, что эта последовательность сходится по распределению к случайному k -вектору X, если

${\displaystyle \lim _{n\to \infty }\operatorname {Pr} (X_{n}\in A)=\operatorname {Pr} (X\in A)}$

для каждого A ⊂ R ^к , который является множеством непрерывности из X .

Определение сходимости в распределении может быть расширено от случайных векторов до более общих случайных элементов в произвольных метрических пространствах и даже до «случайных величин», которые не поддаются измерению - ситуация, которая возникает, например, при изучении эмпирических процессов . Это «слабая сходимость законов без определения законов» - кроме асимптотической. ^[1]

В этом случае предпочтительнее термин слабая сходимость (см. Слабую сходимость мер ), и мы говорим, что последовательность случайных элементов { X _n } слабо сходится к X (обозначается X _n ⇒ X ), если

${\displaystyle \operatorname {E} ^{*}h(X_{n})\to \operatorname {E} \,h(X)}$

для всех непрерывных ограниченных функций h . ^[2] Здесь E * обозначает внешнее математическое ожидание , то есть математическое ожидание «наименьшей измеримой функции g, которая доминирует над h ( X _n ) ».

Свойства [ править ]

• Так как Р ( ) = Pr ( Х ≤ ) , сходимость по распределению средств , что вероятность X _п быть в заданном диапазоне приблизительно равна вероятности того, что значение X находится в этом диапазоне, при условии п является достаточно большой .
• В общем, сходимость в распределении не означает, что последовательность соответствующих функций плотности вероятности также будет сходиться. В качестве примера можно рассмотреть случайные величины с плотностями f _n ( x ) = (1 - cos (2 πnx )) 1 _(0,1) . Эти случайные величины сходятся по распределению к однородному U (0, 1), тогда как их плотности вообще не сходятся. ^[3]
  • Однако, согласно теореме Шеффе , сходимость функций плотности вероятности означает сходимость по распределению. ^[4]
• Контаминация лемма дает несколько эквивалентных определений сходимости по распределению. Хотя эти определения менее интуитивны, они используются для доказательства ряда статистических теорем. Лемма утверждает, что { X _n } сходится по распределению к X тогда и только тогда, когда выполняется любое из следующих утверждений: ^[5]
  • ${\displaystyle \Pr(X_{n}\leq x)\to \Pr(X\leq x)}$для всех точек непрерывности ;${\displaystyle x\mapsto \Pr(X\leq x)}$
  • ${\displaystyle \operatorname {E} f(X_{n})\to \operatorname {E} f(X)}$для всех ограниченных , непрерывных функций (где означает оператор математического ожидания);${\displaystyle f}$${\displaystyle \operatorname {E} }$
  • ${\displaystyle \operatorname {E} f(X_{n})\to \operatorname {E} f(X)}$для всех ограниченных липшицевых функций ;${\displaystyle f}$
  • ${\displaystyle \lim \inf \operatorname {E} f(X_{n})\geq \operatorname {E} f(X)}$для всех неотрицательных, непрерывных функций ;${\displaystyle f}$
  • ${\displaystyle \lim \inf \Pr(X_{n}\in G)\geq \Pr(X\in G)}$за каждый открытый комплект ;${\displaystyle G}$
  • ${\displaystyle \lim \sup \Pr(X_{n}\in F)\leq \Pr(X\in F)}$за каждый закрытый комплект ;${\displaystyle F}$
  • ${\displaystyle \Pr(X_{n}\in B)\to \Pr(X\in B)}$для всех непрерывных множеств случайной величины ;${\displaystyle B}$${\displaystyle X}$
  • ${\displaystyle \limsup \operatorname {E} f(X_{n})\leq \operatorname {E} f(X)}$для любой ограниченной сверху полунепрерывной сверху функции ; ^{[ необходима цитата ]}${\displaystyle f}$
  • ${\displaystyle \liminf \operatorname {E} f(X_{n})\geq \operatorname {E} f(X)}$для любой ограниченной снизу полунепрерывной снизу функции . ^{[ необходима цитата ]}${\displaystyle f}$
• Теорема о непрерывном отображении утверждает, что для непрерывной функции g , если последовательность { X _n } сходится по распределению к X , то { g ( X _n )} сходится по распределению к g ( X ) .
  • Однако обратите внимание, что сходимость в распределении { X _n } к X и { Y _n } к Y, как правило, не означает сходимости в распределении { X _n + Y _n } к X + Y или { X _n Y _n } к XY .
• Теорема непрерывности Леви : порядковые { Х _п } сходится по распределению к X тогда и только тогдакогда последовательность соответствующих характеристических функций { φ _п } сходится точечно к характеристической функции ф из X .
• Конвергенция распределения метризуемый по метрике Леви-Прохорова .
• Естественным связующим звеном с сходимостью по распределению является теорема Скорохода о представлении .

Сходимость в вероятности [ править ]

Основная идея такого типа сходимости заключается в том, что вероятность «необычного» исхода становится все меньше и меньше по мере развития последовательности.

Концепция сходимости по вероятности очень часто используется в статистике. Например, оценка называется согласованной, если она сходится по вероятности к оцениваемому количеству. Сходимость по вероятности - это также тип сходимости, установленный слабым законом больших чисел .

Определение [ править ]

Последовательность { X _n } случайных величин сходится по вероятности к случайной величине X, если для всех ε > 0

${\displaystyle \lim _{n\to \infty }\Pr {\big (}|X_{n}-X|>\varepsilon {\big )}=0.}$

Более точно, пусть Р _п (ε) вероятность того, что Х _п находится вне шара радиуса ε с центром в точке X . Тогда говорят, что X _n сходится по вероятности к X, если для любого ε > 0 и любого δ > 0 существует число N (которое может зависеть от ε и δ ) такое, что для всех n ≥ N , P _n (ε) < δ (определение предела).

Обратите внимание, что для выполнения условия невозможно, чтобы для каждого n случайные величины X и X _n были независимыми (и, таким образом, сходимость по вероятности является условием для совместных cdfs, в отличие от сходимости по распределению, которая является условие на отдельные cdf), если X не является детерминированным, как для слабого закона больших чисел. В то же время случай детерминированного X не может, когда детерминированное значение является точкой разрыва (не изолированной), обрабатываться сходимостью в распределении, где точки разрыва должны быть явно исключены.

Сходимость по вероятности обозначается добавлением буквы p над стрелкой, указывающей на сходимость, или использованием оператора предела вероятности "plim":

${\displaystyle X_{n}\ {\xrightarrow {p}}\ X,\ \ X_{n}\ {\xrightarrow {P}}\ X,\ \ {\underset {n\to \infty }{\operatorname {plim} }}\,X_{n}=X.}$

( 2 )

Для случайных элементов { X _n } на сепарабельном метрическом пространстве ( S , d ) сходимость по вероятности определяется аналогично ^[6]

${\displaystyle \forall \varepsilon >0,\Pr {\big (}d(X_{n},X)\geq \varepsilon {\big )}\to 0.}$

Свойства [ править ]

• Сходимость по вероятности подразумевает сходимость по распределению. ^{[доказательство]}
• В противоположном направлении, сходимость в распределении подразумевает сходимость по вероятности, когда предельная случайная величина X является константой. ^{[доказательство]}
• Сходимость по вероятности не означает почти надежной сходимости. ^{[доказательство]}
• Теорема о непрерывном отображении утверждает, что для любой непрерывной функции g (·), если , то также  .${\displaystyle \scriptstyle X_{n}{\xrightarrow {p}}X}$${\displaystyle \scriptstyle g(X_{n}){\xrightarrow {p}}g(X)}$
• Сходимость по вероятности определяет топологию пространства случайных величин над фиксированным вероятностным пространством. Эта топология метризуемая по Ky вентилятор метрики : ^[7]

${\displaystyle d(X,Y)=\inf \!{\big \{}\varepsilon >0:\ \Pr {\big (}|X-Y|>\varepsilon {\big )}\leq \varepsilon {\big \}}}$

или поочередно по этой метрике

${\displaystyle d(X,Y)=\mathbb {E} \left[\min(|X-Y|,1)\right]}$.

Почти верное схождение [ править ]

Этот тип стохастической сходимости больше всего похож на поточечную сходимость, известную из элементарного реального анализа .

Определение [ править ]

Сказать , что последовательность X _п сходится почти наверное или почти везде или с вероятностью 1 или сильно в направлении X означает , что

${\displaystyle \operatorname {Pr} \!\left(\lim _{n\to \infty }\!X_{n}=X\right)=1.}$

Это означает, что значения X _n приближаются к значению X в том смысле (см. Почти наверняка ), что события, для которых X _n не сходится к X, имеют вероятность 0. Использование вероятностного пространства и концепции случайной величины как функция от Ω к R , это эквивалентно утверждению${\displaystyle (\Omega ,{\mathcal {F}},\operatorname {Pr} )}$

${\displaystyle \operatorname {Pr} {\Big (}\omega \in \Omega :\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\Big )}=1.}$

Используя понятие верхнего предела последовательности множеств , почти наверное сходимость также может быть определена следующим образом:

${\displaystyle \operatorname {Pr} {\Big (}\limsup _{n\to \infty }{\big \{}\omega \in \Omega :|X_{n}(\omega )-X(\omega )|>\varepsilon {\big \}}{\Big )}=0\quad {\text{for all}}\quad \varepsilon >0.}$

Почти верная сходимость часто обозначается добавлением букв как над стрелкой, обозначающей сходимость:

${\displaystyle {\overset {}{X_{n}\,{\xrightarrow {\mathrm {a.s.} }}\,X.}}}$

( 3 )

Для типичных случайных элементов { X _n } на метрическом пространстве сходимость почти наверняка определяется аналогично:${\displaystyle (S,d)}$

${\displaystyle \operatorname {Pr} {\Big (}\omega \in \Omega :\,d{\big (}X_{n}(\omega ),X(\omega ){\big )}\,{\underset {n\to \infty }{\longrightarrow }}\,0{\Big )}=1}$

Свойства [ править ]

• Почти наверное сходимость подразумевает сходимость по вероятности (по лемме Фату ) и, следовательно, сходимость по распределению. Это понятие сходимости используется в усиленном законе больших чисел .
• Концепция почти надежной сходимости не исходит из топологии пространства случайных величин. Это означает, что в пространстве случайных величин нет такой топологии, что почти наверное сходящиеся последовательности являются в точности сходящимися последовательностями относительно этой топологии. В частности, нет метрики почти наверное сходимости.

Несомненная сходимость или поточечная сходимость [ править ]

Для того, чтобы сказать , что последовательность случайных величин ( Х _п ) , определенных над одной и той же вероятностном пространстве (т.е. случайный процесс ) сходится , конечно , или везде , или точечно в направлении X средств

${\displaystyle \lim _{n\to \infty }X_{n}(\omega )=X(\omega ),\,\,\forall \omega \in \Omega .}$

где Ω - пространство выборки основного вероятностного пространства, в котором определены случайные величины.

Это понятие поточечной сходимости последовательности функций, расширенной до последовательности случайных величин . (Обратите внимание, что случайные величины сами по себе являются функциями).

${\displaystyle {\big \{}\omega \in \Omega \,|\,\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\big \}}=\Omega .}$

Уверенная сходимость случайной величины подразумевает все другие виды сходимости, указанные выше, но в теории вероятностей нет выгоды от использования надежной сходимости по сравнению с использованием почти надежной сходимости. Разница между ними существует только на множествах с нулевой вероятностью. Поэтому очень редко используется понятие верной сходимости случайных величин.

Сходимость в среднем [ править ]

Для действительного числа r ≥ 1 мы говорим, что последовательность X _n сходится в r -м среднем (или в L r -норме ) к случайной величине X , если r -ые абсолютные моменты E (| X _n | ^r ) и E (| X | ^r ) X _n и X существуют, и

${\displaystyle \lim _{n\to \infty }\operatorname {E} \left(|X_{n}-X|^{r}\right)=0,}$

где оператор E обозначает математическое ожидание . Сходимость по r -ому среднему говорит нам, что математическое ожидание r -ой степени разности между и сходится к нулю.${\displaystyle X_{n}}$${\displaystyle X}$

Этот тип сходимости часто обозначается добавлением буквы L ^r над стрелкой, обозначающей сходимость:

${\displaystyle {\overset {}{X_{n}\,{\xrightarrow {L^{r}}}\,X.}}}$

( 4 )

Наиболее важными случаями сходимости r -го среднего являются:

• Когда Х _п сходится в г -го среднее по X для г = 1, мы говорим , что Х _п сходится в среднем к X .
• Когда Х _п сходится в г -го среднее по X для г = 2, мы говорим , что Х _п сходится в среднем квадратичном (или в среднем квадратичном ) в X .

Сходимость по r -ому среднему при r ≥ 1 влечет сходимость по вероятности (по неравенству Маркова ). Кроме того, если r > s ≥ 1, сходимость по r -ому среднему означает сходимость по s -ому среднему. Следовательно, сходимость в среднем квадрате означает сходимость в среднем.

Также стоит отметить, что если

${\displaystyle {\overset {}{X_{n}{\xrightarrow {L^{r}}}X}}}$,

( 4 )

тогда

${\displaystyle \lim _{n\to \infty }E[|X_{n}|^{r}]=E[|X|^{r}]}$

Свойства [ править ]

При условии, что вероятностное пространство заполнено :

• Если и , то почти наверняка .${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ Y}$${\displaystyle X=Y}$
• Если и , то почти наверняка.${\displaystyle X_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ X}$${\displaystyle X_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ Y}$${\displaystyle X=Y}$
• Если и , то почти наверняка.${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ Y}$${\displaystyle X=Y}$
• Если и , то (для любых действительных чисел a и b ) и .${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{p}}}\ Y}$${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{p}}}\ aX+bY}$${\displaystyle X_{n}Y_{n}{\xrightarrow {\overset {}{p}}}\ XY}$
• Если и , то (для любых действительных чисел a и b ) и .${\displaystyle X_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ X}$${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ Y}$${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{\text{a.s.}}}}\ aX+bY}$${\displaystyle X_{n}Y_{n}{\xrightarrow {\overset {}{\text{a.s.}}}}\ XY}$
• Если и , то (для любых действительных чисел a и b ).${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ Y}$${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ aX+bY}$
• Ни одно из приведенных выше утверждений не относится к сходимости в распределении.

Цепочка следствий между различными понятиями конвергенции отмечена в соответствующих разделах. Они, если использовать обозначения стрелок:

${\displaystyle {\begin{matrix}{\xrightarrow {\overset {}{L^{s}}}}&{\underset {s>r\geq 1}{\Rightarrow }}&{\xrightarrow {\overset {}{L^{r}}}}&&\\&&\Downarrow &&\\{\xrightarrow {\text{a.s.}}}&\Rightarrow &{\xrightarrow {p}}&\Rightarrow &{\xrightarrow {d}}\end{matrix}}}$

Эти свойства вместе с рядом других особых случаев сведены в следующий список:

• Почти наверное сходимость подразумевает сходимость по вероятности: ^{[8] [доказательство]}

  ${\displaystyle X_{n}\ {\xrightarrow {\text{a.s.}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$

• Сходимость по вероятности подразумевает, что существует подпоследовательность, которая почти наверняка сходится: ^[9]${\displaystyle (k_{n})}$

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X\quad \Rightarrow \quad X_{k_{n}}\ {\xrightarrow {\text{a.s.}}}\ X}$

• Сходимость по вероятности подразумевает сходимость по распределению: ^{[8] [доказательство]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{d}}}\ X}$

• Сходимость по среднему значению r -го порядка подразумевает сходимость по вероятности:

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$

• Сходимость по среднему значению r -го порядка подразумевает сходимость по среднему значению более низкого порядка, предполагая, что оба порядка больше или равны единице:

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{L^{s}}}}\ X,}$ при условии, что r ≥ s ≥ 1.

• Если X _n сходится по распределению к константе c , то X _n сходится по вероятности к c : ^{[8] [доказательство]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ c\quad \Rightarrow \quad X_{n}\ {\xrightarrow {\overset {}{p}}}\ c,}$ при условии, что c - константа.

• Если X _n сходится по распределению к X, а разница между X _n и Y _n сходится по вероятности к нулю, то Y _n также сходится по распределению к X : ^{[8] [доказательство]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ X,\ \ |X_{n}-Y_{n}|\ {\xrightarrow {\overset {}{p}}}\ 0\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {\overset {}{d}}}\ X}$

• Если X _n сходится по распределению к X, а Y _n сходится по распределению к константе c , то объединенный вектор ( X _n ,  Y _n ) сходится по распределению к : ^{[8] [доказательство]}${\displaystyle (X,c)}$

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ X,\ \ Y_{n}\ {\xrightarrow {\overset {}{d}}}\ c\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {\overset {}{d}}}\ (X,c)}$ при условии, что c - константа.

  Обратите внимание, что условие, что Y _n сходится к константе, важно, если бы оно сходилось к случайной величине Y, тогда мы не смогли бы заключить, что ( X _n ,  Y _n ) сходится к .${\displaystyle (X,Y)}$

• Если X _n сходится по вероятности к X, а Y _n сходится по вероятности к Y , то объединенный вектор ( X _n ,  Y _n ) сходится по вероятности к ( X ,  Y ) : ^{[8] [доказательство]}

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X,\ \ Y_{n}\ {\xrightarrow {\overset {}{p}}}\ Y\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {\overset {}{p}}}\ (X,Y)}$

• Если X _n сходится по вероятности к X , и если P (| X _n | ≤ b ) = 1 для всех n и некоторого b , то X _n сходится по r- му среднему к X для всех r ≥ 1 . Другими словами, если X _n сходится по вероятности к X и все случайные величины X _n почти наверняка ограничены сверху и снизу, то X _n сходится к X также в любом r- м среднем.^{[ необходима цитата ]}
• Почти верное представление . Обычно сходимость в распределении почти наверняка не означает сходимости. Однако для данной последовательности { X _n }, которая сходится по распределению к X _0, всегда можно найти новое вероятностное пространство (Ω, F , P) и случайные величины { Y _n , n = 0, 1, ... } определенное на нем таким образом, что Y _n по распределению равно X _n для каждого n ≥ 0 , а Y _n сходится к Y ₀ почти наверняка. ^{[10] [11]}
• Если для всех ε > 0,

  ${\displaystyle \sum _{n}\mathbb {P} \left(|X_{n}-X|>\varepsilon \right)<\infty ,}$

  то мы говорим , что X _п сходится почти полностью , или почти по вероятности к X . Когда X _п сходится почти полностью в направлении X , то он сходится почти наверное к X . Другими словами, если X _п сходится по вероятности к X достаточно быстро (т.е. выше последовательность хвостовых вероятностей суммируется для всех е > 0 ), то Х _п также сходится почти наверное к X . Это прямое следствие леммы Бореля – Кантелли .

• Если S _n является суммой n реальных независимых случайных величин:

  ${\displaystyle S_{n}=X_{1}+\cdots +X_{n}\,}$

  то S _n сходится почти наверняка тогда и только тогда, когда S _n сходится по вероятности.

• Теорема о мажорируемой сходимости дает достаточные условия для того, чтобы из почти наверное сходимости следовала L ¹ -сходимость:

${\displaystyle \left.{\begin{matrix}X_{n}{\xrightarrow {\overset {}{\text{a.s.}}}}X\\|X_{n}|<Y\\\mathrm {E} (Y)<\infty \end{matrix}}\right\}\quad \Rightarrow \quad X_{n}{\xrightarrow {L^{1}}}X}$

( 5 )

• Необходимым и достаточным условием сходимости L ¹ является равномерная интегрируемость последовательности ( X _n ) .${\displaystyle X_{n}{\xrightarrow {\overset {}{P}}}X}$

См. Также [ править ]

В Wikibook Econometric Theory есть страница по теме: Сходимость случайных величин.

• Доказательства сходимости случайных величин.
• Конвергенция мер
• Сходимость по мере
• Непрерывный случайный процесс : вопрос непрерывности случайного процесса, по сути, является вопросом конвергенции, и многие из тех же понятий и соотношений, которые использовались выше, применимы к вопросу непрерывности.
• Асимптотическое распределение
• Большой O в вероятностной нотации
• Теорема Скорохода о представлении
• Теорема Твиди о сходимости
• Теорема Слуцкого
• Теорема о непрерывном отображении

Заметки [ править ]

Ссылки [ править ]

• https://www.ma.utexas.edu/users/gordanz/notes/weak.pdf

Эта статья включает материал из статьи Citizendium « Стохастическая конвергенция », которая находится под лицензией Creative Commons Attribution-ShareAlike 3.0 Unported License, но не GFDL .