Стохастический процесс

Смоделированная на компьютере реализация процесса винеровского или броуновского движения на поверхности сферы. Винеровский процесс широко считается наиболее изученным и центральным случайным процессом в теории вероятностей. ^{[1] [2] [3]}

В теории вероятностей и смежных областях, в стохастических ( / с т oʊ к æ ы т ɪ к / ) или случайный процесс является математическим объектом , как правило , определяется как семьи из случайных величин . Многие случайные процессы могут быть представлены временными рядами. Однако случайный процесс по своей природе является непрерывным, а временной ряд - это набор наблюдений, индексированных целыми числами. Случайный процесс может включать несколько связанных случайных величин.

Общие примеры включают рост популяции бактерий , колебания электрического тока из-за теплового шума или движение молекулы газа . ^{[1] [4] [5] [6]} Случайные процессы широко используются в качестве математических моделей систем и явлений, которые, кажется, изменяются случайным образом. Они находят применение во многих дисциплинах, таких как биология , ^[7] химия , ^[8] экология , ^[9] нейробиология , ^[10] физика , ^[11] обработка изображений. , обработка сигналов , ^[12] теория управления , ^[13] теория информации , ^[14] информатика , ^[15] криптография ^[16] и телекоммуникации . ^[17] Кроме того, кажущиеся случайными изменения на финансовых рынках мотивировали широкое использование стохастических процессов в финансах . ^{[18] [19] [20]}

Приложения и изучение явлений, в свою очередь, вдохновили на предложение новых случайных процессов. Примеры таких случайных процессов включают процесс Wiener или процесс броуновского движения, ^[а] , используемый Башелье к изменениям конъюнктуры цен на Парижской фондовой бирже , ^[23] и пуассоновский процесс , используемый АК Erlang для изучения количества телефонных звонков происходит в определенный период времени. ^[24] Эти два случайных процесса считаются наиболее важными и центральными в теории случайных процессов, ^{[1] [4] [25]}и были обнаружены неоднократно и независимо, как до, так и после Bachelier и Erlang, в разных местах и ​​странах. ^{[23] [26]}

Термин случайная функция также используется для обозначения случайного или случайного процесса ^{[27] [28],} потому что случайный процесс также может быть интерпретирован как случайный элемент в функциональном пространстве . ^{[29] [30]} Термины « случайный процесс» и « случайный процесс» используются взаимозаменяемо, часто без специального математического пространства для набора, который индексирует случайные величины. ^{[29] [31]} Но часто эти два термина используется , когда случайные величины индексируются целыми числами или с интервалом в прямом . ^{[5] [31]}Если случайные величины индексируются декартовой плоскостью или некоторым евклидовым пространством более высокой размерности , то набор случайных величин обычно называется случайным полем . ^{[5] [32]} Значения случайного процесса не всегда являются числами и могут быть векторами или другими математическими объектами. ^{[5] [30]}

На основе их математических свойств случайные процессы могут быть сгруппированы в различные категории, которые включают случайные блуждания , ^[33] мартингалы , ^[34] марковские процессы , ^[35] процессы Леви , ^[36] гауссовские процессы , ^[37] случайные поля, ^{[ 38]} процессы обновления и ветвящиеся процессы . ^[39] Изучение случайных процессов использует математические знания и методы из вероятностей , исчисления , линейной алгебры , теории множеств и топологии.^{[40] [41] [42],} а также разделы математического анализа, такие как реальный анализ , теория меры , анализ Фурье и функциональный анализ . ^{[43] [44] [45]} Теория случайных процессов считается важным вкладом в математику ^[46] и продолжает оставаться активной темой исследований как по теоретическим причинам, так и по приложениям. ^{[47] [48] [49]}

Введение [ править ]

Стохастический или случайный процесс можно определить как набор случайных величин, индексированных некоторым математическим набором, что означает, что каждая случайная величина случайного процесса однозначно связана с элементом в наборе. ^{[4] [5]} Набор, используемый для индексации случайных величин, называется набором индексов . Исторически сложилось, что множество индексов было некоторое подмножество из реальной линии , такие , как натуральные числа , давая множество индексов интерпретацию времени. ^[1] Каждая случайная переменная в коллекции принимает значения из одного и того же математического пространства, известного как пространство состояний.. Это пространство состояний может быть, например, целыми числами, действительной линией или -мерным евклидовым пространством. ^{[1] [5]} приращение представляет собой количество , что случайный процесс изменения между двумя значениями индекса, часто интерпретируется как два момента времени. ^{[50] [51]} Стохастический процесс может иметь много результатов из-за его случайности, и единственный результат стохастического процесса называется, среди прочего, выборочной функцией или реализацией . ^{[30] [52]}${\ displaystyle n}$

Классификации [ править ]

Случайный процесс можно классифицировать по-разному, например, по его пространству состояний, его набору индексов или зависимости между случайными величинами. Один из распространенных способов классификации - по мощности набора индексов и пространства состояний. ^{[53] [54] [55]}

При интерпретации как время, если набор индексов случайного процесса имеет конечное или счетное число элементов, таких как конечный набор чисел, набор целых или натуральных чисел, то говорят, что случайный процесс находится в дискретном время . ^{[56] [57]} Если набор индексов представляет собой некоторый интервал реальной прямой, то время называется непрерывным . Два типа случайных процессов соответственно называются случайными процессами с дискретным и непрерывным временем . ^{[50] [58] [59]}Считается, что стохастические процессы с дискретным временем легче изучать, потому что процессы с непрерывным временем требуют более совершенных математических методов и знаний, особенно из-за того, что набор индексов неисчислим. ^{[60] [61]} Если набор индексов представляет собой целые числа или некоторое их подмножество, то случайный процесс также можно назвать случайной последовательностью . ^[57]

Если пространство состояний представляет собой целые или натуральные числа, то случайный процесс называется дискретным или целочисленным случайным процессом . Если пространство состояний является действительной линией, то случайный процесс упоминается как стохастический процесс с действительным знаком или процесс с непрерывным пространством состояний . Если пространство состояний мерного евклидова пространства, то случайный процесс называется - мерный вектор процесс или - векторный процесс . ^{[53] [54]}${\ displaystyle n}$${\ displaystyle n}$${\ displaystyle n}$

Этимология [ править ]

Слово стохастический в английском языке изначально использовалось как прилагательное с определением «относящийся к предположениям» и происходящее от греческого слова, означающего «стремиться к отметке, угадывать», а Оксфордский словарь английского языка указывает 1662 год как самое раннее его появление . ^[62] В своей работе о вероятности Ars Conjectandi , первоначально опубликованной на латыни в 1713 году, Якоб Бернулли использовал фразу «Ars Conjectandi sive Stochastice», которая была переведена как «искусство гадания или стохастика». ^[63] Эта фраза была использована Ладиславом Борткевичем в отношении Бернулли ^[64]который в 1917 году написал на немецком языке слово сточастик со смыслом, означающим случайный. Термин стохастический процесс впервые появился на английском языке в статье Джозефа Дуба 1934 года . ^[62] Для термина и конкретного математического определения Дуб процитировал другую статью 1934 года, где термин stochastischer Prozeß был использован на немецком языке Александром Хинчиным , ^{[65] [66],} хотя немецкий термин использовался ранее, например, Андрей Колмогоров в 1931 году. ^[67]

Согласно Оксфордскому словарю английского языка, первые упоминания слова random в английском языке с его текущим значением, которое относится к случайности или удаче, относятся к 16 веку, в то время как более ранние зарегистрированные употребления начались в 14 веке как существительное, означающее «импульсивность, стремительность» большая скорость, сила или насилие (при езде, беге, ударах и т. д.) ». Само слово происходит от среднефранцузского слова, означающего «скорость, спешка», и, вероятно, происходит от французского глагола, означающего «бежать» или «галопом». Первое письменное появление термина случайный процесс предшествует стохастическому процессу , который Оксфордский словарь английского языка также дает в качестве синонима, и был использован в статье Фрэнсиса Эджворта, опубликованной в 1888 году.^[68]

Терминология [ править ]

Определение случайного процесса варьируется ^[69], но стохастический процесс традиционно определяется как набор случайных величин, индексированных некоторым набором. ^{[70] [71]} Термины « случайный процесс» и « случайный процесс» считаются синонимами и используются как синонимы, без точного указания набора индексов. ^{[29] [31] [32] [72] [73] [74]} Используются как «коллекция», ^{[30] [72], так} и «семейство» ^{[4] [75],} а вместо «набора индексов» иногда используются термины «набор параметров» ^[30] или «пространство параметров» ^[32] .

Термин случайная функция также используется для обозначения случайного или случайного процесса ^{[5] [76] [77],} хотя иногда он используется только тогда, когда случайный процесс принимает реальные значения. ^{[30] [75]} Этот термин также используется, когда наборы индексов представляют собой математические пространства, отличные от вещественной линии, ^{[5] [78], в} то время как термины стохастический процесс и случайный процесс обычно используются, когда набор индексов интерпретируется как время, ^{[5] [78] [79]} и другие термины используются, например, случайное поле, когда набор индексов является -мерным евклидовым пространством или многообразием${\ displaystyle n}$${\ Displaystyle \ mathbb {R} ^ {п}}$. ^{[5] [30] [32]}

Обозначение [ править ]

Случайный процесс можно обозначить, среди других способов, с помощью , ^[58] , ^{[71] [80]} или просто как или , хотя рассматривается как злоупотребление функции записи . ^[81] Например, или используются для обозначения случайной величины с индексом , а не всего случайного процесса. ^[80] Если набор индексов равен , то можно написать, например, для обозначения случайного процесса. ^[31]${\ Displaystyle \ {Х (т) \} _ {т \ в Т}}$ ${\ displaystyle \ {X_ {t} \} _ {t \ in T}}$ ${\ displaystyle \ {X_ {t} \}}$ ${\ Displaystyle \ {Х (т) \}}$${\ displaystyle X}$${\ Displaystyle X (т)}$${\ Displaystyle X (т)}$${\ Displaystyle X (т)}$${\ displaystyle X_ {t}}$${\ displaystyle t}$${\ Displaystyle Т = [0, \ infty)}$${\ Displaystyle (Х_ {т}, т \ geq 0)}$

Примеры [ править ]

Процесс Бернулли [ править ]

Одним из простейших стохастических процессов является процесс Бернулли , ^[82] , которая представляет собой последовательность независимых одинаково распределенных (IID) случайных величин, где каждая случайная величина принимает значения либо один или ноль, скажем , один с вероятностью и нуль с вероятностью . Этот процесс можно связать с многократным подбрасыванием монеты, где вероятность получения головы равна единице, а значение хвоста равно нулю. ^[83] Другими словами, процесс Бернулли - это последовательность случайных величин iid Бернулли, ^[84] где каждый подбрасывание монеты является примером испытания Бернулли . ^[85]${\ displaystyle p}$${\ displaystyle 1-p}$${\ displaystyle p}$

Случайное блуждание [ править ]

Случайные блуждания - это случайные процессы, которые обычно определяются как суммы iid случайных величин или случайных векторов в евклидовом пространстве, поэтому они изменяются в дискретном времени. ^{[86] [87] [88] [89] [90]} Но некоторые также используют этот термин для обозначения процессов, которые изменяются в непрерывном времени, ^{[91] в} частности, винеровский процесс, используемый в финансах, что привело к некоторой путанице, в результате в его критике. ^[92] Существуют и другие различные типы случайных блужданий, определенные таким образом, что их пространства состояний могут быть другими математическими объектами, такими как решетки и группы, и в целом они хорошо изучены и имеют множество приложений в различных дисциплинах. ^{[91] [93]}

Классический пример случайного блуждания известен как простое случайное блуждание , которое представляет собой случайный процесс в дискретном времени с целыми числами в качестве пространства состояний и основан на процессе Бернулли, где каждая переменная Бернулли принимает либо положительное значение, либо отрицательный. Другими словами, простое случайное блуждание происходит с целыми числами, и его значение увеличивается на единицу с вероятностью, скажем , или уменьшается на единицу с вероятностью , поэтому набором индексов этого случайного блуждания являются натуральные числа, а его пространство состояний это целые числа. Если , это случайное блуждание называется симметричным случайным блужданием. ^{[94] [95]}${\ displaystyle p}$${\ displaystyle 1-p}$${\ displaystyle p = 0,5}$

Винеровский процесс [ править ]

Винеровский процесс - это случайный процесс со стационарными и независимыми приращениями , которые обычно распределяются в зависимости от размера приращений. ^{[2] [96]} Винеровский процесс назван в честь Норберта Винера , который доказал его математическое существование, но этот процесс также называют процессом броуновского движения или просто броуновским движением из-за его исторической связи как модели броуновского движения в жидкостях. ^{[97] [98] [99]}

Играя центральную роль в теории вероятностей, винеровский процесс часто считается наиболее важным и изученным случайным процессом, связанным с другими случайными процессами. ^{[1] [2] [3] [100] [101] [102] [103]} Его набор индексов и пространство состояний являются неотрицательными и действительными числами, соответственно, поэтому он имеет как непрерывный набор индексов, так и пространство состояний. ^[104] Но процесс можно определить более широко, так что его пространство состояний может быть -мерным евклидовым пространством. ^{[93] [101] [105]} Если среднее значение${\ displaystyle n}$любого приращения равняется нулю, то считается, что результирующий процесс винеровского или броуновского движения имеет нулевой дрейф. Если среднее значение приращения для любых двух моментов времени равно разнице во времени, умноженной на некоторую константу , которая является действительным числом, то считается, что результирующий стохастический процесс имеет дрейф . ^{[106] [107] [108]}${\ displaystyle \ mu}$${\ displaystyle \ mu}$

Почти наверняка примерная траектория винеровского процесса везде непрерывна, но нигде не дифференцируема . Его можно рассматривать как непрерывную версию простого случайного блуждания. ^{[51] [107]} Этот процесс возникает как математический предел других случайных процессов, таких как изменение масштаба определенных случайных блужданий, ^{[109] [110],} который является предметом теоремы Донскера или принципа инвариантности, также известного как функциональная центральная предельная теорема. ^{[111] [112] [113]}

Винеровский процесс является членом некоторых важных семейств случайных процессов, включая марковские процессы, процессы Леви и гауссовские процессы. ^{[2] [51]} Этот процесс также имеет множество приложений и является основным случайным процессом, используемым в стохастическом исчислении. ^{[114] [115]} Он играет центральную роль в количественных финансах, ^{[116] [117]} где он используется, например, в модели Блэка – Шоулза – Мертона. ^[118] Этот процесс также используется в различных областях, включая большинство естественных наук, а также некоторые отрасли социальных наук, в качестве математической модели для различных случайных явлений. ^{[3] [119] [120]}

Пуассоновский процесс [ править ]

Пуассоновский процесс - это случайный процесс, который имеет разные формы и определения. ^{[121] [122]} Его можно определить как процесс подсчета, который представляет собой случайный процесс, представляющий случайное количество точек или событий за определенный период времени. Количество точек процесса, находящихся в интервале от нуля до некоторого заданного времени, является случайной величиной Пуассона, которая зависит от этого времени и некоторого параметра. Этот процесс имеет натуральные числа в качестве пространства состояний и неотрицательные числа в качестве набора индексов. Этот процесс также называется процессом счета Пуассона, поскольку его можно интерпретировать как пример процесса счета. ^[121]

Если пуассоновский процесс определяется одной положительной константой, то этот процесс называется однородным пуассоновским процессом. ^{[121] [123]} Однородный пуассоновский процесс является членом важных классов случайных процессов, таких как марковские процессы и процессы Леви. ^[51]

Однородный пуассоновский процесс можно определить и обобщить по-разному. Его можно определить так, чтобы его набором индексов была действительная линия, и этот случайный процесс также называется стационарным пуассоновским процессом. ^{[124] [125]} Если параметр константы процесса Пуассона заменяется некоторой неотрицательной интегрируемой функцией от , результирующий процесс называется неоднородным или неоднородным процессом Пуассона, где средняя плотность точек процесса больше не является постоянной . ^[126] Пуассоновский процесс, являющийся фундаментальным процессом в теории массового обслуживания, является важным процессом для математических моделей, где он находит применения для моделей событий, случайным образом происходящих в определенных временных окнах. ^{[127] [128]}${\ displaystyle t}$

Определенный на реальной прямой, процесс Пуассона можно интерпретировать как случайный процесс ^{[51] [129]} среди других случайных объектов. ^{[130] [131]} Но тогда он может быть определен в -мерном евклидовом пространстве или других математических пространствах, ^[132] где он часто интерпретируется как случайный набор или случайная счетная мера, а не как случайный процесс. ^{[130] [131]} В этом контексте процесс Пуассона, также называемый точечным процессом Пуассона, является одним из наиболее важных объектов теории вероятностей, как для приложений, так и для теоретических целей. ^{[24] [133]}${\ displaystyle n}$Но было замечено, что процессу Пуассона не уделяется столько внимания, сколько следовало бы, отчасти из-за того, что он часто рассматривается только на реальной линии, а не в других математических пространствах. ^{[133] [134]}

Определения [ править ]

Стохастический процесс [ править ]

Стохастический процесс определен как совокупность случайных величин , определенных на общем вероятностном пространстве , где представляет собой выборочное пространство , является - алгебра , и является вероятностной мерой ; а случайные величины, проиндексированные некоторым набором , все принимают значения в одном и том же математическом пространстве , которые должны быть измеримы относительно некоторой -алгебры . ^[30]${\ displaystyle (\ Omega, {\ mathcal {F}}, P)}$${\ displaystyle \ Omega}$${\ Displaystyle {\ mathcal {F}}}$${\ displaystyle \ sigma}$${\ displaystyle P}$${\ displaystyle T}$${\ displaystyle S}$${\ displaystyle \ sigma}$${\ displaystyle \ Sigma}$

Другими словами, для данного вероятностного пространства и измеримого пространства случайный процесс представляет собой набор -значных случайных величин, которые можно записать как: ^[82]${\ displaystyle (\ Omega, {\ mathcal {F}}, P)}$${\ Displaystyle (S, \ Sigma)}$${\ displaystyle S}$

${\ displaystyle \ {X (t): t \ in T \}.}$

Исторически сложилось так, что во многих задачах из естествознания точка имела значение времени, так же как и случайная величина, представляющая значение, наблюдаемое во времени . ^[135] Стохастический процесс также может быть записан так, чтобы отразить, что он на самом деле является функцией двух переменных, и . ^{[30] [136]}${\ displaystyle t \ in T}$${\ Displaystyle X (т)}$${\ displaystyle t}$${\ Displaystyle \ {Икс (т, \ омега): т \ в Т \}}$${\ displaystyle t \ in T}$${\ displaystyle \ omega \ in \ Omega}$

Существуют и другие способы рассмотрения случайного процесса, при этом приведенное выше определение считается традиционным. ^{[70] [71]} Например, случайный процесс может быть интерпретирован или определяется как значной случайной переменной, где есть пространство всех возможных значных функций на этой карте из набора в пространство . ^{[29] [70]}${\ Displaystyle S ^ {T}}$${\ Displaystyle S ^ {T}}$${\ displaystyle S}$${\ displaystyle t \ in T}$${\ displaystyle T}$${\ displaystyle S}$

Набор индексов [ править ]

Набор называется набором индексов ^{[4] [53]} или набором параметров ^{[30] [137]} случайного процесса. Часто этот набор представляет собой некоторое подмножество реальной линии , например, натуральные числа или интервал, что дает набору интерпретацию времени. ^[1] В дополнение к этим наборам, индексным набором могут быть другие линейно упорядоченные множества или более общие математические множества, ^{[1] [56],} такие как декартово плоскость или -мерное евклидово пространство, где элемент может представлять точку в пространстве. . ^{[50] [138]}${\ displaystyle T}$${\ displaystyle T}$${\ displaystyle T}$${\ Displaystyle R ^ {2}}$${\ displaystyle n}$${\ displaystyle t \ in T}$Но в целом для случайных процессов возможно больше результатов и теорем, когда набор индексов упорядочен. ^[139]

Пространство состояний [ править ]

Математическое пространство стохастического процесса называется его пространство состояний . Это математическое пространство может быть определено с помощью целых чисел , вещественных линий , -мерных евклидовых пространств , сложных плоскостей или более абстрактных математических пространств. Пространство состояний определяется с помощью элементов, которые отражают различные значения, которые может принимать случайный процесс. ^{[1] [5] [30] [53] [58]}${\ displaystyle S}$${\ displaystyle n}$

Пример функции [ править ]

Образца функция является единственным результатом стохастического процесса, так что формируется путем принятия единого возможное значение каждой случайной переменной стохастического процесса. ^{[30] [140]} Более точно, если это случайный процесс, то для любой точки , то отображение${\ Displaystyle \ {Икс (т, \ омега): т \ в Т \}}$${\ displaystyle \ omega \ in \ Omega}$

${\ Displaystyle X (\ cdot, \ omega): T \ rightarrow S,}$

называется выборочной функцией, реализацией или, в частности, когда интерпретируется как время, выборочным путем случайного процесса . ^[52] Это означает, что для фиксированного существует функция-образец, которая отображает набор индексов в пространство состояний . ^[30] Другие названия примерной функции случайного процесса включают траекторию , функцию пути ^[141] или путь . ^[142]${\ displaystyle T}$${\ Displaystyle \ {Икс (т, \ омега): т \ в Т \}}$${\ displaystyle \ omega \ in \ Omega}$${\ displaystyle T}$${\ displaystyle S}$

Увеличение [ править ]

Приращение стохастического процесса является разность между двумя случайными величинами одного и того же случайного процесса. Для случайного процесса с набором индексов, который можно интерпретировать как время, приращение - это то, насколько стохастический процесс изменяется за определенный период времени. Например, если это случайный процесс с пространством состояний и набором индексов , то для любых двух неотрицательных чисел и таких , что разница является случайной величиной со значениями, известной как приращение. ^{[50] [51]} Если вас интересуют приращения, часто пространство состояний представляет собой вещественную строку или натуральные числа, но это может быть${\ Displaystyle \ {Х (т): т \ в Т \}}$${\ displaystyle S}$${\ Displaystyle Т = [0, \ infty)}$${\ displaystyle t_ {1} \ in [0, \ infty)}$${\ displaystyle t_ {2} \ in [0, \ infty)}$${\ displaystyle t_ {1} \ leq t_ {2}}$${\ displaystyle X_ {t_ {2}} - X_ {t_ {1}}}$${\ displaystyle S}$${\ displaystyle S}$${\ displaystyle n}$-мерное евклидово пространство или более абстрактные пространства, такие как банаховы пространства . ^[51]

Дополнительные определения [ править ]

Закон [ править ]

Для случайного процесса, определенного в вероятностном пространстве , закон случайного процесса определяется как мера изображения :${\ Displaystyle X \ двоеточие \ Omega \ rightarrow S ^ {T}}$${\ displaystyle (\ Omega, {\ mathcal {F}}, P)}$${\ displaystyle X}$

${\ displaystyle \ mu = P \ circ X ^ {- 1},}$

где - вероятностная мера, символ обозначает композицию функции и является прообразом измеряемой функции или, что то же самое, -значной случайной величиной , где - пространство всех возможных -значных функций от , так что закон стохастического процесс - это вероятностная мера. ^{[29] [70] [143] [144]}${\ displaystyle P}$${\ displaystyle \ circ}$${\ displaystyle X ^ {- 1}}$${\ Displaystyle S ^ {T}}$${\ displaystyle X}$${\ Displaystyle S ^ {T}}$${\ displaystyle S}$${\ displaystyle t \ in T}$

Для измеримого подмножества из , то прообраз дает${\displaystyle B}$${\displaystyle S^{T}}$${\displaystyle X}$

${\displaystyle X^{-1}(B)=\{\omega \in \Omega :X(\omega )\in B\},}$

так что закон a может быть записан как: ^[30]${\displaystyle X}$

${\displaystyle \mu (B)=P(\{\omega \in \Omega :X(\omega )\in B\}).}$

Закон случайного процесса или случайной величины называется также закон вероятности , вероятностное распределение , или распределение . ^{[135] [143] [145] [146] [147]}

Конечномерные распределения вероятностей [ править ]

Для случайного процесса с законом его конечномерное распределение для определяется как:${\displaystyle X}$${\displaystyle \mu }$${\displaystyle t_{1},\dots ,t_{n}\in T}$

${\displaystyle \mu _{t_{1},\dots ,t_{n}}=P\circ (X({t_{1}}),\dots ,X({t_{n}}))^{-1},}$

Эта мера представляет собой совместное распределение случайного вектора ; его можно рассматривать как «проекцию» закона на конечное подмножество . ^{[29] [148]}${\displaystyle \mu _{t_{1},..,t_{n}}}$${\displaystyle (X({t_{1}}),\dots ,X({t_{n}}))}$${\displaystyle \mu }$${\displaystyle T}$

Для любого измеримого подмножества из -кратной декартовой степени , конечномерные распределения случайного процесса можно записать в виде: ^[30]${\displaystyle C}$${\displaystyle n}$ ${\displaystyle S^{n}=S\times \dots \times S}$${\displaystyle X}$

${\displaystyle \mu _{t_{1},\dots ,t_{n}}(C)=P{\Big (}{\big \{}\omega \in \Omega :{\big (}X_{t_{1}}(\omega ),\dots ,X_{t_{n}}(\omega ){\big )}\in C{\big \}}{\Big )}.}$

Конечномерные распределения случайного процесса удовлетворяют двум математическим условиям, известным как условия согласованности. ^[59]

Стационарность [ править ]

Стационарность - это математическое свойство, которым обладает случайный процесс, когда все случайные величины этого случайного процесса одинаково распределены. Другими словами, если это стационарный случайный процесс, то для любой случайной величины будет одинаковое распределение, что означает, что для любого набора значений набора индексов соответствующие случайные величины${\displaystyle X}$${\displaystyle t\in T}$${\displaystyle X_{t}}$${\displaystyle n}$${\displaystyle t_{1},\dots ,t_{n}}$${\displaystyle n}$

${\displaystyle X_{t_{1}},\dots X_{t_{n}},}$

все имеют одинаковое распределение вероятностей . Набор индексов стационарного случайного процесса обычно интерпретируется как время, поэтому это могут быть целые числа или действительная линия. ^{[149] [150]} Но концепция стационарности также существует для точечных процессов и случайных полей, где набор индексов не интерпретируется как время. ^{[149] [151] [152]}

Когда набор индексов можно интерпретировать как время, случайный процесс называется стационарным, если его конечномерные распределения инвариантны относительно перемещений времени. Этот тип случайного процесса можно использовать для описания физической системы, которая находится в устойчивом состоянии, но все еще испытывает случайные флуктуации. ^[149] Интуиция за стационарностью заключается в том, что с течением времени распределение стационарного случайного процесса остается неизменным. ^[153] Последовательность случайных величин образует стационарный случайный процесс, только если случайные величины одинаково распределены. ^[149]${\displaystyle T}$

Случайный процесс с приведенным выше определением стационарности иногда называют строго стационарным, но существуют и другие формы стационарности. Одним из примеров является случай, когда случайный процесс с дискретным или непрерывным временем называется стационарным в широком смысле, тогда этот процесс имеет конечный второй момент для всех и ковариацию двух случайных величин и зависит только от числа для всех. . ^{[153] [154]} Хинчин ввел родственную концепцию стационарности в широком смысле , которая имеет другие названия, включая ковариационную стационарность или стационарность в широком смысле . ^{[154] [155]}${\displaystyle X}$${\displaystyle X}$${\displaystyle t\in T}$${\displaystyle X_{t}}$${\displaystyle X_{t+h}}$${\displaystyle h}$${\displaystyle t\in T}$

Фильтрация [ править ]

Фильтрации является возрастающая последовательность сигма-алгебр , определенных по отношению к некоторой вероятностью пространства и множества индексов , который имеет некоторый общий порядок отношение, например, в случае множества индексов будучи некоторое подмножество действительных чисел. Более формально, если случайный процесс имеет набор индексов с полным порядком, то фильтрация на вероятностном пространстве - это семейство сигма-алгебр, такое что для всех , где и обозначает общий порядок набора индексов . ^[53] Используя концепцию фильтрации, можно изучить количество информации, содержащейся в случайном процессе в момент , который можно интерпретировать как время . ^[53]${\displaystyle \{{\mathcal {F}}_{t}\}_{t\in T}}$${\displaystyle (\Omega ,{\mathcal {F}},P)}$${\displaystyle {\mathcal {F}}_{s}\subseteq {\mathcal {F}}_{t}\subseteq {\mathcal {F}}}$${\displaystyle s\leq t}$${\displaystyle t,s\in T}$${\displaystyle \leq }$${\displaystyle T}$${\displaystyle X_{t}}$${\displaystyle t\in T}$${\displaystyle t}$^[156] Интуиция, лежащая в основе фильтрации,заключается в том, что с течением времени становитсявсе больше и больше информации, которая фиксируется, что приводит к более тонким и более тонким разделам. ^{[157] [158]}${\displaystyle {\mathcal {F}}_{t}}$${\displaystyle t}$${\displaystyle X_{t}}$${\displaystyle {\mathcal {F}}_{t}}$${\displaystyle \Omega }$

Модификация [ править ]

Модификация стохастического процесса является еще одним стохастическим процессом, который тесно связан с первоначальным стохастическим процессом. Точнее, случайный процесс, который имеет тот же набор индексов , пространство множеств и пространство вероятностей, что и другой случайный процесс , называется модификацией if для всех следующих${\displaystyle X}$${\displaystyle T}$${\displaystyle S}$${\displaystyle (\Omega ,{\cal {F}},P)}$${\displaystyle Y}$${\displaystyle Y}$${\displaystyle t\in T}$

${\displaystyle P(X_{t}=Y_{t})=1,}$

держит. Два случайных процесса, которые являются модификациями друг друга, имеют один и тот же конечномерный закон ^[159], и они называются стохастически эквивалентными или эквивалентными . ^[160]

Вместо модификации также используется термин версия ^{[151] [161] [162] [163],} однако некоторые авторы используют термин версия, когда два случайных процесса имеют одинаковые конечномерные распределения, но они могут быть определены с разной вероятностью пространства, поэтому два процесса, которые являются модификациями друг друга, также являются версиями друг друга в последнем смысле, но не наоборот. ^{[164] [143]}

Если вещественный случайный процесс с непрерывным временем удовлетворяет определенным моментным условиям на своих приращениях, то теорема Колмогорова о непрерывности говорит, что существует модификация этого процесса, которая имеет непрерывные выборочные траектории с вероятностью единица, поэтому случайный процесс имеет непрерывную модификацию или версия. ^{[162] [163] [165]} Теорема также может быть обобщена на случайные поля, так что набор индексов является -мерным евклидовым пространством ^[166], а также на случайные процессы с метрическими пространствами в качестве их пространств состояний. ^[167]${\displaystyle n}$

Неразличимый [ править ]

Два стохастические процессы и определенные на одном вероятностном пространстве с тем же множеством индексов и множеством пространства называются В неразличим , если следующий${\displaystyle X}$${\displaystyle Y}$${\displaystyle (\Omega ,{\mathcal {F}},P)}$${\displaystyle T}$${\displaystyle S}$

${\displaystyle P(X_{t}=Y_{t}{\text{ for all }}t\in T)=1,}$

держит. ^{[143] [159]} Если два и являются модификациями друг друга и почти наверняка непрерывны, то и неразличимы. ^[168]${\displaystyle X}$${\displaystyle Y}$${\displaystyle X}$${\displaystyle Y}$

Разделимость [ править ]

Разделимость - это свойство случайного процесса, основанное на его индексном множестве по отношению к вероятностной мере. Это свойство предполагается, что функционалы от случайных процессов или случайных полей с бесчисленными наборами индексов могут образовывать случайные величины. Для того чтобы случайный процесс был разделимым, в дополнение к другим условиям, его набор индексов должен быть разделимым пространством , ^[b], что означает, что набор индексов имеет плотное счетное подмножество. ^{[151] [169]}

Точнее, вещественный непрерывное время стохастический процесс с вероятностным пространством отделим , если его множество индексов имеет плотное счетное подмножество и существует множество вероятности нуля, так , что для каждого открытого множества и любое замкнутого множества , тем два события и отличаются друг от друга не более чем на подмножество . ^{[170] [171] [172]} Определение отделимости ^[c] также может быть сформулировано для других наборов индексов и пространств состояний, ^[175] например, в случае случайных полей, где набор индексов, а также пространство состояний может быть -мерным евклидовым пространством. ^[32]${\displaystyle X}$${\displaystyle (\Omega ,{\cal {F}},P)}$${\displaystyle T}$${\displaystyle U\subset T}$${\displaystyle \Omega _{0}\subset \Omega }$${\displaystyle P(\Omega _{0})=0}$${\displaystyle G\subset T}$${\displaystyle F\subset \textstyle R=(-\infty ,\infty )}$${\displaystyle \{X_{t}\in F{\text{ for all }}t\in G\cap U\}}$${\displaystyle \{X_{t}\in F{\text{ for all }}t\in G\}}$${\displaystyle \Omega _{0}}$${\displaystyle n}$^[151]

Понятие отделимости стохастического процесса было введено Джозефом Дубом ,. ^[169] Основная идея отделимости заключается в том, чтобы счетное множество точек индексного набора определяло свойства случайного процесса. ^[173] Любой случайный процесс со счетным набором индексов уже удовлетворяет условиям отделимости, поэтому случайные процессы с дискретным временем всегда отделимы. ^[176] Теорема Дуба, иногда известная как теорема Дуба о сепарабельности, утверждает, что любой вещественнозначный стохастический процесс с непрерывным временем имеет сепарабельную модификацию. ^{[169] [171] [177]}Версии этой теоремы также существуют для более общих случайных процессов с индексными множествами и пространствами состояний, отличными от вещественной прямой. ^[137]

Независимость [ править ]

Два стохастические процессы и определен на одном вероятностном пространстве с тем же множеством индексов называется В независимым , если для всех и для каждого выбора эпох , случайные векторы и независимы. ^{[178] : с. 515}${\displaystyle X}$${\displaystyle Y}$${\displaystyle (\Omega ,{\mathcal {F}},P)}$${\displaystyle T}$${\displaystyle n\in \mathbb {N} }$${\displaystyle t_{1},\ldots ,t_{n}\in T}$${\displaystyle \left(X(t_{1}),\ldots ,X(t_{n})\right)}$${\displaystyle \left(Y(t_{1}),\ldots ,Y(t_{n})\right)}$

Некоррелированность [ править ]

Два случайных процесса и называются некоррелированными, если их кросс-ковариация всегда равна нулю. ^{[179] : с. 142} Формально:${\displaystyle \left\{X_{t}\right\}}$${\displaystyle \left\{Y_{t}\right\}}$${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]}$

${\displaystyle \left\{X_{t}\right\},\left\{Y_{t}\right\}{\text{ uncorrelated}}\quad \iff \quad \operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=0\quad \forall t_{1},t_{2}}$.

Независимость подразумевает некоррелированность [ править ]

Если два случайных процесса и независимы, то они также некоррелированы. ^{[179] : с. 151}${\displaystyle X}$${\displaystyle Y}$

Ортогональность [ править ]

Два случайных процесса и называются ортогональными, если их взаимная корреляция всегда равна нулю. ^{[179] : с. 142} Формально:${\displaystyle \left\{X_{t}\right\}}$${\displaystyle \left\{Y_{t}\right\}}$${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=\operatorname {E} [X(t_{1}){\overline {Y(t_{2})}}]}$

${\displaystyle \left\{X_{t}\right\},\left\{Y_{t}\right\}{\text{ orthogonal}}\quad \iff \quad \operatorname {R} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=0\quad \forall t_{1},t_{2}}$.

Пространство Скорохода [ править ]

Пространство Скорохода , также пишется как Скороход пространство , является математическим пространством всех функций, которые непрерывны справа с левыми пределами, определенное на некотором отрезке вещественных прямой , такие как или , и принимают значения на вещественном прямом или на некоторой метрике Космос. ^{[180] [181] [182]} Такие функции известны как càdlàg или функции cadlag, на основе аббревиатуры французского выражения continue à droite, limit à gauche , из-за того, что функции непрерывны справа с левыми пределами. ^{[180] [183]} Функциональное пространство Скорохода, введенное Анатолием Скороходом , ^[182] часто обозначается буквой ,${\displaystyle [0,1]}$${\displaystyle [0,\infty )}$${\displaystyle D}$^{[180] [181] [182] [183],} поэтому функциональное пространство также называется пространством. ^{[180] [184] [185]} Обозначение этого функционального пространства может также включать интервал, на котором определены все функции càdlàg, так, например,обозначает пространство функций càdlàg, определенных на единичном интервале . ^{[183] [185] [186]}${\displaystyle D}$${\displaystyle D[0,1]}$ ${\displaystyle [0,1]}$

Функциональные пространства Скорохода часто используются в теории случайных процессов, поскольку часто предполагается, что выборочные функции случайных процессов с непрерывным временем принадлежат пространству Скорохода. ^{[182] [184]} Такие пространства содержат непрерывные функции, которые соответствуют выборочным функциям винеровского процесса. Но в пространстве также есть функции с разрывами, что означает, что выборочные функции случайных процессов со скачками, таких как процесс Пуассона (на реальной прямой), также являются членами этого пространства. ^{[185] [187]}

Регулярность [ править ]

В контексте математического построения случайных процессов термин регулярность используется при обсуждении и допущении определенных условий для случайного процесса для решения возможных проблем построения. ^{[188] [189]} Например, для изучения случайных процессов с бесчисленными наборами индексов предполагается, что случайный процесс придерживается некоторого типа условия регулярности, такого как непрерывность выборочных функций. ^{[190] [191]}

Дальнейшие примеры [ править ]

Марковские процессы и цепи [ править ]

Марковские процессы - это случайные процессы, обычно в дискретном или непрерывном времени , которые обладают марковским свойством, что означает, что следующее значение марковского процесса зависит от текущего значения, но оно условно не зависит от предыдущих значений случайного процесса. Другими словами, поведение процесса в будущем стохастически не зависит от его поведения в прошлом, учитывая текущее состояние процесса. ^{[192] [193]}

Процесс броуновского движения и процесс Пуассона (в одном измерении) являются примерами марковских процессов ^[194] в непрерывном времени, в то время как случайные блуждания на целых числах и проблема разорения игрока являются примерами марковских процессов в дискретном времени. ^{[195] [196]}

Цепь Маркова - это тип марковского процесса, который имеет либо дискретное пространство состояний, либо дискретный набор индексов (часто представляющих время), но точное определение цепи Маркова меняется. ^[197] Например, цепь Маркова принято определять как марковский процесс в дискретном или непрерывном времени со счетным пространством состояний (таким образом, независимо от природы времени), ^{[198] [199] [200] [201 ],} но было также принято определять цепь Маркова как имеющую дискретное время либо в счетном, либо в непрерывном пространстве состояний (таким образом, независимо от пространства состояний). ^[197]Утверждалось, что теперь, как правило, используется первое определение цепи Маркова, в котором она имеет дискретное время, несмотря на то, что второе определение использовалось такими исследователями, как Джозеф Дуб и Кай Лай Чунг . ^[202]

Марковские процессы составляют важный класс случайных процессов и имеют приложения во многих областях. ^{[41] [203]} Например, они являются основой для общего метода стохастического моделирования, известного как цепь Маркова Монте-Карло , который используется для моделирования случайных объектов с определенными распределениями вероятностей и нашел применение в байесовской статистике . ^{[204] [205]}

Концепция свойства Маркова была первоначально для случайных процессов в непрерывном и дискретном времени, но свойство было адаптировано для других наборов индексов, таких как -мерное евклидово пространство, что приводит к коллекциям случайных величин, известных как марковские случайные поля. ^{[206] [207] [208]}${\displaystyle n}$

Мартингейл [ править ]

Мартингал - это стохастический процесс с дискретным или непрерывным временем, обладающий тем свойством, что в каждый момент, учитывая текущее значение и все прошлые значения процесса, условное ожидание каждого будущего значения равно текущему значению. В дискретном времени, если это свойство сохраняется для следующего значения, то оно сохраняется для всех будущих значений. Точное математическое определение мартингала требует двух других условий в сочетании с математической концепцией фильтрации, которая связана с интуицией увеличения доступной информации с течением времени. Мартингалы обычно определяются как действительные ^{[209] [210] [156],} но они также могут быть комплексными ^[211] или даже более общими. ^[212]

Симметричное случайное блуждание и винеровский процесс (с нулевым дрейфом) являются примерами мартингалов соответственно в дискретном и непрерывном времени. ^{[209] [210]} Для последовательности из независимых и одинаково распределенных случайных величин с нулевым средним, случайный процесс формируется из последовательных частичных сумм является дискретным время мартингальным. ^[213] В этом аспекте мартингалы с дискретным временем обобщают идею частичных сумм независимых случайных величин. ^[214]${\displaystyle X_{1},X_{2},X_{3},\dots }$${\displaystyle X_{1},X_{1}+X_{2},X_{1}+X_{2}+X_{3},\dots }$

Мартингалы также могут быть созданы из случайных процессов путем применения некоторых подходящих преобразований, что имеет место для однородного пуассоновского процесса (на действительной прямой), приводящего к мартингалу, называемому компенсированным пуассоновским процессом . ^[210] Мартингалы также могут быть построены из других мартингалов. ^[213] Например, существуют мартингалы, основанные на мартингале и винеровском процессе, образующие мартингалы с непрерывным временем. ^{[209] [215]}

Мартингалы математически формализуют идею честной игры ^[216], и изначально они были разработаны, чтобы показать, что в честной игре невозможно выиграть. ^[217] Но теперь они используются во многих областях вероятности, что является одной из основных причин их изучения. ^{[156] [217] [218]} Многие проблемы вероятности были решены путем нахождения мартингала в задаче и его изучения. ^[219] Мартингалы сходятся при определенных условиях на их моменты, поэтому они часто используются для получения результатов сходимости, в основном из-за теорем о сходимости мартингалов . ^{[214] [220] [221]}

Мартингейл находит множество применений в статистике, но было отмечено, что его использование и применение не так широко распространены, как могло бы быть в области статистики, особенно статистических выводов. ^[222] Они нашли применение в таких областях теории вероятностей, как теория массового обслуживания и пальмовое исчисление ^[223], а также в других областях, таких как экономика ^[224] и финансы. ^[19]

Процесс Леви [ править ]

Процессы Леви - это типы случайных процессов, которые можно рассматривать как обобщения случайных блужданий в непрерывном времени. ^{[51] [225]} Эти процессы имеют множество приложений в таких областях, как финансы, механика жидкости, физика и биология. ^{[226] [227]} Основными определяющими характеристиками этих процессов являются их свойства стационарности и независимости, поэтому они были известны как процессы со стационарными и независимыми приращениями . Другими словами, случайный процесс - это процесс Леви, если для неотрицательных чисел соответствующие приращения${\displaystyle X}$${\displaystyle n}$${\displaystyle 0\leq t_{1}\leq \dots \leq t_{n}}$${\displaystyle n-1}$

${\displaystyle X_{t_{2}}-X_{t_{1}},\dots ,X_{t_{n-1}}-X_{t_{n}},}$

все независимы друг от друга, и распределение каждого приращения зависит только от разницы во времени. ^[51]

Процесс Леви может быть определен так, что его пространство состояний представляет собой некоторое абстрактное математическое пространство, такое как банахово пространство , но процессы часто определяются так, что они принимают значения в евклидовом пространстве. Набор индексов - это неотрицательные числа, поэтому , что дает интерпретацию времени. Важные случайные процессы, такие как винеровский процесс, однородный пуассоновский процесс (в одном измерении) и подчиненные процессы, являются процессами Леви. ^{[51] [225]}${\displaystyle I=[0,\infty )}$

Случайное поле [ править ]

Случайное поле - это набор случайных величин, индексированных -мерным евклидовым пространством или некоторым многообразием. В общем, случайное поле можно рассматривать как пример случайного или случайного процесса, где набор индексов не обязательно является подмножеством реальной линии. ^[32] Но существует соглашение, согласно которому индексированный набор случайных величин называется случайным полем, если индекс имеет два или более измерения. ^{[5] [30] [228]} Если конкретное определение случайного процесса требует, чтобы набор индексов был подмножеством реальной линии, то случайное поле можно рассматривать как обобщение случайного процесса. ^[229]${\displaystyle n}$

Точечный процесс [ править ]

Точечный процесс - это совокупность точек, случайно расположенных в некотором математическом пространстве, таком как действительная линия, -мерное евклидово пространство или более абстрактные пространства. Иногда термин точечный процесс не является предпочтительным, поскольку исторически слово процесс обозначало эволюцию некоторой системы во времени, поэтому точечный процесс также называется случайным точечным полем . ^[230] Существуют разные интерпретации точечного процесса, такого как случайный счетчик или случайный набор. ^{[231] [232]} Некоторые авторы рассматривают точечный процесс и случайный процесс как два разных объекта, так что точечный процесс - это случайный объект, возникающий из или связанный со случайным процессом, ^[233]${\displaystyle n}$^[234], хотя было отмечено, что разница между точечными процессами и случайными процессами не ясна. ^[234]

Другие авторы рассматривают точечный процесс как случайный процесс, в котором процесс индексируется наборами лежащего в основе пространства ^[d], в котором он определен, например реальной прямой или -мерным евклидовым пространством. ^{[237] [238]} Другие случайные процессы, такие как процессы обновления и счета, изучаются в теории точечных процессов. ^{[239] [234]}${\displaystyle n}$

История [ править ]

Ранняя теория вероятности [ править ]

Теория вероятностей берет свое начало в азартных играх, которые имеют долгую историю, причем в некоторые игры играли тысячи лет назад, ^{[240] [241],} но с точки зрения вероятности они были проанализированы очень мало. ^{[240] [242]} 1654 год часто считается рождением теории вероятностей, когда французские математики Пьер Ферма и Блез Паскаль вели письменную переписку о вероятности, мотивированную игрой . ^{[240] [243] [244]} Но была ранее математическая работа по вероятности азартных игр , таких как Liber де Людо Aleae по Кардано, написано в 16 веке, но посмертно опубликовано позже, в 1663 году. ^{[240] [245]}

После Кардано Якоб Бернулли ^[e] написал Ars Conjectandi , который считается значительным событием в истории теории вероятностей. ^[240] Книга Бернулли была опубликована, также посмертно, в 1713 году и вдохновила многих математиков на изучение вероятностей. ^{[240] [247] [248]} Но, несмотря на то, что некоторые известные математики внесли свой вклад в теорию вероятностей, такие как Пьер-Симон Лаплас , Абрахам де Муавр , Карл Гаусс , Симеон Пуассон и Пафнут Чебышев , ^{[249] [250]} большая часть математического сообщества ^[f]не считал теорию вероятностей частью математики до 20 века. ^{[249] [251] [252] [253]}

Статистическая механика [ править ]

В области физических наук в XIX веке ученые разработали дисциплину статистической механики , в которой физические системы, такие как контейнеры, заполненные газами, можно рассматривать или рассматривать математически как совокупность множества движущихся частиц. Хотя некоторые ученые, такие как Рудольф Клаузиус , пытались включить случайность в статистическую физику , в большинстве работ случайность была незначительной или отсутствовала вовсе. ^{[254] [255]} Это изменилось в 1859 году, когда Джеймс Клерк Максвелл внес значительный вклад в эту область, в частности, в кинетическую теорию газов, представив работу, в которой он предположил, что частицы газа движутся в случайных направлениях со случайными скоростями. ^{[256] [257]}Кинетическая теория газов и статистическая физика продолжали развиваться во второй половине XIX века, в основном Клаузиусом, Людвигом Больцманом и Джозией Гиббсом , которые позже повлияли на математическую модель Альберта Эйнштейна для броуновского движения. . ^[258]

Теория меры и теория вероятностей [ править ]

На Международном конгрессе математиков в Париже в 1900 году Давид Гильберт представил список математических проблем , где его шестая задача требовала математического рассмотрения физики и вероятности с использованием аксиом . ^[250] Примерно в начале 20-го века математики разработали теорию меры, раздел математики для изучения интегралов математических функций, двумя из основоположников которой были французские математики, Анри Лебег и Эмиль Борель . В 1925 году другой французский математик Поль Леви опубликовал первую книгу о вероятностях, в которой использовались идеи теории меры. ^[250]

В 1920-е годы фундаментальный вклад в теорию вероятностей в Советском Союзе внесли такие математики, как Сергей Бернштейн , Александр Хинчин , ^[g] и Андрей Колмогоров . ^[253] Колмогоров опубликовал в 1929 году свою первую попытку представить математическое обоснование теории вероятностей, основанное на теории меры. ^[259] В начале 1930-х годов Хинчин и Колмогоров организовали вероятностные семинары, на которых присутствовали такие исследователи, как Евгений Слуцкий и Николай Смирнов , ^[260] и Хинчин дал первое математическое определение случайного процесса как набора случайных величин, индексированных настоящая линия.^{[65] [261] [ч]}

Рождение современной теории вероятностей [ править ]

В 1933 году Андрей Колмогоров опубликовал на немецком языке , его книгу по основам теории вероятностей титулованных Grundbegriffe дера Wahrscheinlichkeitsrechnung , ^[я] , где Колмогоров использовал теорию меры для разработки аксиоматических основ для теории вероятностей. Публикация этой книги теперь широко считается рождением современной теории вероятностей, когда теории вероятностей и случайных процессов стали частью математики. ^{[250] [253]}

После публикации книги Колмогорова Хинчин и Колмогоров, а также другие математики, такие как Джозеф Дуб , Уильям Феллер , Морис Фреше , Поль Леви , Вольфганг Доблин и Харальд Крамер , провели дальнейшую фундаментальную работу по теории вероятностей и случайным процессам . ^{[250] [253]} Спустя десятилетия Крамер назвал 1930-е годы «героическим периодом математической теории вероятностей». ^[253] Вторая мировая война сильно прервала развитие теории вероятностей, вызвав, например, миграцию Феллера из Швеции в Соединенные Штаты Америки.^[253] и смерть Доблина, который сейчас считается пионером в области стохастических процессов. ^[263]

Стохастические процессы после Второй мировой войны [ править ]

После Второй мировой войны изучение теории вероятностей и случайных процессов привлекло больше внимания математиков, которые внесли значительный вклад во многие области вероятности и математики, а также в создание новых областей. ^{[253] [266]} Начиная с 1940-х годов, Киёси Ито публиковал статьи, развивающие область стохастического исчисления , которая включает стохастические интегралы и стохастические дифференциальные уравнения, основанные на процессе винеровского или броуновского движения. ^[267]

Также, начиная с 1940-х годов, были установлены связи между случайными процессами, в частности мартингалами, и математической областью теории потенциала с ранними идеями Шизуо Какутани, а затем более поздними работами Джозефа Дуба. ^[266] Дальнейшая работа, считающаяся новаторской, была проделана Гилбертом Хантом в 1950-х годах, связав марковские процессы и теорию потенциала, что оказало значительное влияние на теорию процессов Леви и привело к большему интересу к изучению марковских процессов с помощью методов, разработанных Ито. . ^{[23] [268] [269]}

В 1953 г. Дуб опубликовал свою книгу « Стохастические процессы» , которая оказала сильное влияние на теорию случайных процессов и подчеркнула важность теории меры для вероятности. ^{[266] [265]} Дуб также в основном разработал теорию мартингалов с более поздним существенным вкладом Пола-Андре Мейера . Ранее работа была проведена Сергеем Бернштейном , Полем Леви и Жаном Виллем , последний применил термин мартингал для обозначения случайного процесса. ^{[270] [271]}Методы теории мартингалов стали популярными для решения различных вероятностных задач. Были разработаны методы и теория для изучения марковских процессов, которые затем были применены к мартингалам. Наоборот, методы теории мартингалов были созданы для изучения марковских процессов. ^[266]

Были разработаны и другие области вероятностей, которые использовались для изучения случайных процессов, одним из основных подходов которых является теория больших отклонений. ^[266] Теория имеет множество приложений в статистической физике, среди других областей, и имеет основные идеи, восходящие, по крайней мере, к 1930-м годам. Позже, в 1960-х и 1970-х годах, фундаментальная работа была проделана Александром Венцеллом в Советском Союзе и Монро Д. Донскером и Шринивасой Варадханом в Соединенных Штатах Америки ^[272] , в результате чего Варадхан получил премию Абеля 2007 года. ^[273] В 1990-х и 2000-х годах теории эволюции Шрамма – Лёвнера ^[274] и грубые пути ^[143]были введены и разработаны для изучения случайных процессов и других математических объектов в теории вероятностей, в результате чего Венделин Вернер ^[275] в 2008 г. получил награду Филдсовских медалей , а в 2014 г. - Мартина Хайрера ^[276].

Теория случайных процессов по-прежнему остается в центре внимания исследований, и ежегодно проводятся международные конференции по теме случайных процессов. ^{[47] [226]}

Открытия конкретных случайных процессов [ править ]

Хотя Хинчин дал математические определения случайных процессов в 1930-х годах ^{[65] [261],} конкретные случайные процессы уже были обнаружены в различных условиях, таких как процесс броуновского движения и процесс Пуассона. ^{[23] [26]} Некоторые семейства случайных процессов, такие как точечные процессы или процессы обновления, имеют долгую и сложную историю, уходящую в глубь веков. ^[277]

Процесс Бернулли [ править ]

Процесс Бернулли, который может служить математической моделью для подбрасывания смещенной монеты, возможно, является первым изученным случайным процессом. ^[83] Процесс представляет собой последовательность независимых испытаний Бернулли ^[84] , названных в честь Джекоба Бернулли, который использовал их для изучения азартных игр, включая вероятностные задачи, предложенные и изученные ранее Христианом Гюйгенсом. ^[278] Работы Бернулли, включая процесс Бернулли, были опубликованы в его книге Ars Conjectandi в 1713 году. ^[279]

Случайные прогулки [ править ]

В 1905 году Карл Пирсон ввел термин случайное блуждание , поставив задачу, описывающую случайное блуждание по плоскости, которое было мотивировано его применением в биологии, но такие проблемы, связанные со случайными блужданиями, уже изучались в других областях. Некоторые игровые проблемы, которые изучались столетия назад, можно рассматривать как задачи, связанные со случайными блужданиями. ^{[91] [279]} Например, проблема, известная как разорение игрока, основана на простом случайном блуждании, ^{[196] [280]} и является примером случайного блуждания с поглощающими препятствиями. ^{[243] [281]} Паскаль, Ферма и Гюйенс дали численные решения этой проблемы без подробного описания своих методов.^[282], а затем более подробные решения были представлены Якобом Бернулли и Абрахамом де Муавром . ^[283]

Для случайных блужданий в n - мерных целочисленных решетках , Пойо опубликовано в 1919 и 1921 работе, где он изучал вероятность симметричного случайного блуждания возвращающего к предыдущей позиции в решетке. Полиа показал, что симметричное случайное блуждание, которое с равной вероятностью продвигается в любом направлении в решетке, будет возвращаться в предыдущее положение в решетке бесконечное количество раз с вероятностью один в одном и двух измерениях, но с вероятностью ноль в три или более высоких измерения. ^{[284] [285]}${\displaystyle n}$

Винеровский процесс [ править ]

Процесс Wiener или процесс броуновского движения имеет свои истоки в различных областях , в том числе статистики, финансов и физики. ^[23] В 1880 году Торвальд Тиле написал статью о методе наименьших квадратов, в которой он использовал этот процесс для изучения ошибок модели в анализе временных рядов. ^{[286] [287] [288]} В настоящее время эта работа рассматривается как раннее открытие статистического метода, известного как фильтрация Калмана , но эта работа не получила должного внимания. Считается, что идеи в статье Тиле были слишком продвинутыми, чтобы их могло понять более широкое математическое и статистическое сообщество в то время. ^[288]

Французский математик Башелье использовал процесс Винер в его 1900 диссертации ^{[289] [290]} с целью изменение модели цен на Парижской фондовой бирже , на фондовой бирже , ^[291] , не зная работу Тиля. ^[23] Было высказано предположение, что Башелье черпал идеи из модели случайного блуждания Жюля Реньо , но Башелье не цитировал его, ^[292] и тезис Башелье теперь считается новаторским в области финансовой математики. ^{[291] [292]}

Принято считать, что работа Башелье привлекала мало внимания и была забыта на десятилетия, пока не была вновь открыта в 1950-х годах Леонардом Сэвиджем , а затем стала более популярной после того, как диссертация Башелье была переведена на английский язык в 1964 году. математическое сообщество, так как Башелье опубликовал книгу в 1912 году, подробно описывающую его идеи ^[292], которые цитировались математиками, включая Дуба, Феллера ^[292] и Колмогорова. ^[23] Книгу продолжали цитировать, но затем, начиная с 1960-х годов, оригинальный тезис Башелье стали цитировать чаще, чем его книгу, когда экономисты начали цитировать работы Башелье. ^[292]

В 1905 году Альберт Эйнштейн опубликовал статью, в которой изучал физическое наблюдение броуновского движения или движения, чтобы объяснить кажущиеся случайными движения частиц в жидкостях, используя идеи кинетической теории газов . Эйнштейн вывел дифференциальное уравнение , известное как уравнение диффузии , для описания вероятности нахождения частицы в определенной области пространства. Вскоре после первой статьи Эйнштейна о броуновском движении Мариан Смолуховский опубликовал работу, в которой цитировал Эйнштейна, но написал, что он независимо получил эквивалентные результаты, используя другой метод. ^[293]

Работа Эйнштейна, а также экспериментальные результаты, полученные Жаном Перреном , позже вдохновили Норберта Винера в 1920-х годах ^[294] на использование теории меры, разработанной Перси Даниэлем , и анализа Фурье для доказательства существования винеровского процесса как математического объект. ^[23]

Пуассоновский процесс [ править ]

Процесс Пуассона назван в честь Симеона Пуассона из-за его определения, включающего распределение Пуассона , но Пуассон никогда не изучал этот процесс. ^{[24] [295]} Существует ряд заявлений о раннем использовании или открытиях пуассоновского процесса. ^{[24] [26]} В начале 20 века процесс Пуассона возникал независимо в различных ситуациях. ^{[24] [26]} В 1903 году в Швеции Филип Лундберг опубликовал диссертацию, содержащую работу, которая теперь считается фундаментальной и новаторской, в которой он предложил моделировать страховые требования с помощью однородного процесса Пуассона. ^{[296] [297]}

Другое открытие произошло в Дании в 1909 году, когда А. К. Эрланг вывел распределение Пуассона при разработке математической модели количества входящих телефонных звонков за конечный интервал времени. Эрланг в то время не знал о ранней работе Пуассона и полагал, что телефонные звонки, поступающие в каждый интервал времени, не зависят друг от друга. Затем он нашел предельный случай, который эффективно преобразовывает распределение Пуассона как предел биномиального распределения. ^[24]

В 1910 году Эрнест Резерфорд и Ханс Гейгер опубликовали результаты экспериментов по подсчету альфа-частиц. Вдохновленный их работой, Гарри Бейтман изучил проблему счета и вывел вероятности Пуассона как решение семейства дифференциальных уравнений, что привело к независимому открытию процесса Пуассона. ^[24] После этого времени было много исследований и применений процесса Пуассона, но его ранняя история сложна, что объяснялось различными применениями процесса во многих областях биологами, экологами, инженерами и различными учеными-физиками. ^[24]

Марковские процессы [ править ]

Марковские процессы и цепи Маркова названы в честь Андрея Маркова , изучавшего цепи Маркова в начале 20 века. ^[298] Маркова интересовало изучение расширения независимых случайных последовательностей. ^[298] В своей первой статье о цепях Маркова, опубликованной в 1906 году, Марков показал, что при определенных условиях средние результаты цепи Маркова будут сходиться к фиксированному вектору значений, таким образом доказывая слабый закон больших чисел без предположения независимости, ^{[6] [299] [300] [301],} которые обычно считались требованием для выполнения таких математических законов. ^[301] Марков позже использовал цепи Маркова для изучения распределения гласных вЕвгений Онегин , написанный Александром Пушкиным , и доказал центральную предельную теорему для таких цепочек. ^{[6] [299]}

В 1912 году Пуанкаре изучал цепи Маркова на конечных группах с целью изучить тасование карт. Другие ранние применения цепей Маркова включают модель диффузии, введенную Полом и Татьяной Эренфест в 1907 году, и процесс ветвления, введенный Фрэнсисом Гальтоном и Генри Уильямом Уотсоном в 1873 году, до работы Маркова. ^{[299] [300]} После работы Гальтона и Ватсона позже выяснилось, что их процесс ветвления был независимо открыт и изучен примерно тремя десятилетиями ранее Ирене-Жюль Биенайме . ^[302] Начиная с 1928 года, Морис Фрешезаинтересовался цепями Маркова, в результате чего в 1938 году он опубликовал подробное исследование цепей Маркова. ^{[299] [303]}

Андрей Колмогоров разработал в статье 1931 года большую часть ранней теории марковских процессов с непрерывным временем. ^{[253] [259]} Колмогоров был частично вдохновлен работой Луи Башелье 1900 года о колебаниях фондового рынка, а также работой Норберта Винера по модели броуновского движения Эйнштейна. ^{[259] [304]} Он представил и изучил конкретный набор марковских процессов, известных как процессы диффузии, где он вывел набор дифференциальных уравнений, описывающих процессы. ^{[259] [305]} Независимо от работ Колмогорова, Сидней Чепмен вывел в статье 1928 года уравнение, которое теперь называется уравнением Чепмена – Колмогорова., менее математически строго, чем Колмогоров, при изучении броуновского движения. ^[306] Дифференциальные уравнения теперь называются уравнениями Колмогорова ^[307] или уравнениями Колмогорова – Чепмена. ^[308] Среди других математиков, внесших значительный вклад в основы марковских процессов, - Уильям Феллер, начиная с 1930-х годов, а затем, позднее, Евгений Дынкин, начиная с 1950-х годов. ^[253]

Леви процессы [ править ]

Процессы Леви, такие как процесс Винера и процесс Пуассона (на действительной прямой), названы в честь Поля Леви, который начал их изучать в 1930-х годах ^[226], но они связаны с бесконечно делимыми распределениями, восходящими к 1920-м годам. ^[225] В статье 1932 года Колмогоров вывел характеристическую функцию для случайных величин, связанных с процессами Леви. Этот результат был позже получен Леви в 1934 году в более общих условиях, а затем Хинчин независимо дал альтернативную форму для этой характеристической функции в 1937 году. ^{[253] [309]} Помимо Леви, Хинчина и Коломогрова, ранний фундаментальный вклад в теорию процессов Леви были сделаны Бруно де Финеттии Киёси Ито . ^[225]

Математическая конструкция [ править ]

В математике построения математических объектов необходимы, как и в случае случайных процессов, чтобы доказать, что они существуют математически. ^[59] Существует два основных подхода к построению случайного процесса. Один из подходов включает рассмотрение измеримого пространства функций, определение подходящего измеримого отображения из вероятностного пространства в это измеримое пространство функций, а затем вывод соответствующих конечномерных распределений. ^[310]

Другой подход включает определение набора случайных величин, которые имеют конкретные конечномерные распределения, а затем использование теоремы существования Колмогорова ^[j] для доказательства существования соответствующего случайного процесса. ^{[59] [310]} Эта теорема, которая является теоремой существования мер на бесконечных пространствах произведений, ^[314] утверждает, что если любые конечномерные распределения удовлетворяют двум условиям, известным как условия согласованности , то существует случайный процесс с этими конечными -мерные распределения. ^[59]

Проблемы со строительством [ править ]

При построении случайных процессов с непрерывным временем возникают определенные математические трудности из-за бесчисленных наборов индексов, которые не возникают с процессами с дискретным временем. ^{[60] [61]} Одна проблема заключается в том, что возможно иметь более одного случайного процесса с одинаковыми конечномерными распределениями. Например, как непрерывная слева модификация, так и непрерывная справа модификация процесса Пуассона имеют одинаковые конечномерные распределения. ^[315] Это означает, что распределение случайного процесса не обязательно однозначно определяет свойства выборочных функций случайного процесса. ^{[310] [316]}

Другая проблема заключается в том, что функционалы процесса непрерывного времени, которые полагаются на бесчисленное количество точек набора индексов, могут быть не измеримыми, поэтому вероятности определенных событий могут быть плохо определены. ^[169] Например, верхняя грань случайного процесса или случайного поля не обязательно является четко определенной случайной величиной. ^{[32] [61]} Для случайного процесса с непрерывным временем , другие характеристики, которые зависят от бесчисленного количества точек набора индексов, включают: ^[169]${\displaystyle X}$${\displaystyle T}$

• выборочная функция случайного процесса является непрерывной функцией от ;${\displaystyle X}$${\displaystyle t\in T}$
• выборочная функция случайного процесса является ограниченной функцией от ; и${\displaystyle X}$${\displaystyle t\in T}$
• образец функция случайного процесса является возрастающей функцией от .${\displaystyle X}$${\displaystyle t\in T}$

Чтобы преодолеть эти две трудности, возможны разные допущения и подходы. ^[71]

Решение проблем со строительством [ править ]

Один из подходов, позволяющих избежать проблем математического построения случайных процессов, предложенный Джозефом Дубом , состоит в том, чтобы предположить, что стохастический процесс отделим. ^[317] Разделимость гарантирует, что бесконечномерные распределения определяют свойства выборочных функций, требуя, чтобы выборочные функции по существу определялись их значениями на плотном счетном множестве точек в индексном наборе. ^[318] Кроме того, если случайный процесс отделим, то функционалы от несчетного числа точек набора индексов измеримы, и их вероятности можно изучать. ^{[169] [318]}

Другой подход возможен, первоначально разработанный Анатолий Скороход и Андрей Колмогоров , ^[319] для случайного процесса непрерывного времени с любым метрическим пространством как ее пространство состояний. Для построения такого случайного процесса предполагается, что выборочные функции случайного процесса принадлежат некоторому подходящему функциональному пространству, которым обычно является пространство Скорохода, состоящее из всех непрерывных справа функций с левыми пределами. Этот подход сейчас используется чаще, чем предположение о разделимости ^{[71] [264],} но такой случайный процесс, основанный на этом подходе, будет автоматически разделяться. ^[320]

Предположение об отделимости, хотя и используется реже, считается более общим, поскольку каждый случайный процесс имеет отделимую версию. ^[264] Он также используется, когда невозможно построить случайный процесс в пространстве Скорохода. ^[174] Например, разделимость предполагается при построении и изучении случайных полей, где набор случайных величин теперь индексируется наборами, отличными от вещественной прямой, такими как -мерное евклидово пространство. ^{[32] [321]}${\displaystyle n}$

См. Также [ править ]

Заметки [ править ]

Ссылки [ править ]