По определению ожидаемое значение постоянной случайной величины является . [3] Ожидаемое значение случайной величины.с равновероятными исходами определяется как среднее арифметическое терминов Если некоторые из вероятностей индивидуального исхода неравны, то ожидаемое значение определяется как средневзвешенное значение вероятности s, то есть сумма продукты . [4] Ожидаемое значение общей случайной величины включает интегрирование по Лебегу .
История
Идея математического ожидания возникла в середине 17 века в результате изучения так называемой проблемы очков , которая направлена на справедливое разделение ставок между двумя игроками, которые должны закончить свою игру до того, как это будет должным образом. законченный. [5] Эта проблема обсуждалась веками, и многие противоречивые предложения и решения были предложены на протяжении многих лет, когда она была поставлена Блезу Паскалю французским писателем и математиком-любителем Шевалье де Мере в 1654 году. Мере утверждала, что эта проблема не может быть решена. не решена, и что она показала, насколько ошибочной была математика, когда дело дошло до ее применения в реальном мире. Паскаль, будучи математиком, был спровоцирован и полон решимости решить проблему раз и навсегда.
Он начал обсуждать проблему в уже известной серии писем Пьеру де Ферма . Вскоре они оба независимо друг от друга придумали решение. Они решили проблему разными вычислительными способами, но их результаты были идентичны, потому что их вычисления были основаны на одном и том же фундаментальном принципе. Принцип состоит в том, что стоимость будущей прибыли должна быть прямо пропорциональна шансам на ее получение. Этот принцип казался им обоим естественным. Они были очень довольны тем фактом, что нашли, по сути, такое же решение, и это, в свою очередь, сделало их абсолютно убежденными, что они решили проблему окончательно; однако они не опубликовали свои выводы. Они сообщили об этом лишь небольшому кругу общих научных друзей в Париже. [6]
Три года спустя, в 1657 году, голландский математик Христиан Гюйгенс , только что посетивший Париж, опубликовал трактат (см. Гюйгенс (1657) ) « De ratiociniis in ludo ale » по теории вероятностей. В этой книге он рассмотрел проблему точек и представил решение, основанное на том же принципе, что и решения Паскаля и Ферма. Гюйгенс также расширил концепцию ожидания, добавив правила расчета ожиданий в более сложных ситуациях, чем исходная задача (например, для трех или более игроков). В этом смысле эту книгу можно рассматривать как первую успешную попытку заложить основы теории вероятностей .
В предисловии к своей книге Гюйгенс писал:
Следует также сказать, что в течение некоторого времени некоторые из лучших математиков Франции занимались этим видом исчисления, так что никто не должен приписывать мне честь первого изобретения. Это не принадлежит мне. Но эти ученые, хотя и подвергали друг друга испытанию, предлагая друг другу множество трудных для решения вопросов, скрыли свои методы. Поэтому мне пришлось исследовать и углубиться в этот вопрос, начав с элементов, и по этой причине я не могу утверждать, что я даже начал с того же принципа. Но в конце концов я обнаружил, что мои ответы во многих случаях не отличаются от их.
- Эдвардс (2002)
Так, Гюйгенс узнал о проблеме де Мере в 1655 году во время своего визита во Францию; позже, в 1656 году из его переписки с Каркави, он узнал, что его метод по сути такой же, как и у Паскаля; так что до того, как его книга поступила в печать в 1657 году, он знал о приоритете Паскаля в этом вопросе.
В середине девятнадцатого века Пафнутий Чебышев стал первым человеком, который систематически мыслил в терминах ожиданий случайных величин . [7]
Этимология
Ни Паскаль, ни Гюйгенс не использовали термин «ожидание» в его современном смысле. В частности, Гюйгенс пишет: [8]
Что любой шанс или ожидание выиграть какую-либо вещь стоит именно такой суммы, которую вы бы добыли за тот же шанс и ожидание при честной игре. ... Если я ожидаю a или b и имею равные шансы получить их, мое ожидание стоит (a + b) / 2.
Более чем через сто лет, в 1814 году, Пьер-Симон Лаплас опубликовал свой трактат « Аналитическая теория вероятностей », в котором понятие ожидаемой стоимости было определено явным образом: [9]
… Это преимущество в теории случайностей является произведением суммы, на которую рассчитывают, на вероятность ее получения; это частичная сумма, которая должна быть получена, когда мы не желаем рисковать событием, предполагая, что деление производится пропорционально вероятностям. Это разделение является единственно справедливым, когда устранены все странные обстоятельства; потому что равная степень вероятности дает равное право на получение ожидаемой суммы. Мы будем называть это преимущество математической надеждой .
Обозначения
Использование письма Обозначение ожидаемого значения восходит к У. А. Уитворту в 1901 году. [10] С тех пор этот символ стал популярным среди английских писателей. На немецком,означает «Erwartungswert», на испанском - «Esperanza matemática», а на французском - «Espérance mathématique». [11]
Еще одно популярное обозначение - , тогда как обычно используется в физике, и в русскоязычной литературе.
Определение
Конечный случай
Позволять случайная величина с конечным числом конечных результатов происходит с вероятностями соответственно. Ожидания отопределяется как [4]
С ожидаемое значение является взвешенной суммой из значения, с вероятностями как веса.
Если все исходы являются равновероятными (то есть,), то средневзвешенное значение превращается в простое среднее . С другой стороны, если результаты не равновероятны, тогда простое среднее значение необходимо заменить средневзвешенным, которое учитывает тот факт, что одни исходы более вероятны, чем другие.
Иллюстрация сходимости средних значений последовательности бросков кубика к ожидаемому значению 3,5 по мере роста числа бросков (попыток).
Примеры
Позволять представляют собой результат броска правильного шестигранного кубика . В частности,будет количеством пипсов, отображаемых на верхней грани кубика после подбрасывания. Возможные значения для равны 1, 2, 3, 4, 5 и 6, все из которых одинаково вероятны с вероятностью 1/6. Ожидание является
Игра в рулетку состоит из маленького шарика и колеса с 38 пронумерованными лузами по краю. Когда колесо вращается, мяч случайным образом раскачивается, пока не окажется в одном из карманов. Предположим случайную величинупредставляет собой (денежный) результат ставки в 1 доллар на одно число (прямая ставка). Если ставка выиграет (что с вероятностью 1/38в американской рулетке) выигрыш - 35 долларов; в противном случае игрок теряет ставку. Ожидаемая прибыль от такой ставки составит
То есть ставка в 1 доллар проиграет. , поэтому его математическое ожидание равно
Счетно бесконечный случай
Интуитивно ожидание случайной переменной, принимающей значения в счетном наборе результатов, определяется аналогично как взвешенная сумма значений результатов, где веса соответствуют вероятностям реализации этого значения. Однако проблемы сходимости, связанные с бесконечной суммой, требуют более тщательного определения. Строгое определение сначала определяет математическое ожидание неотрицательной случайной величины, а затем адаптирует его к общим случайным величинам.
Позволять быть неотрицательной случайной величиной со счетным набором результатов происходит с вероятностями соответственно. Как и в дискретном случае, ожидаемое значение тогда определяется как ряд
Обратите внимание, что поскольку , бесконечная сумма определена корректно и не зависит от порядка, в котором она вычисляется. В отличие от конечного случая, здесь математическое ожидание может быть равно бесконечности, если указанная выше бесконечная сумма неограниченно увеличивается.
Для общей (не обязательно неотрицательной) случайной величины со счетным количеством исходов, установите а также . По определению,
Как и в случае неотрицательных случайных величин, опять же, может быть конечным или бесконечным. Третий вариант здесь заключается в том, чтобольше не гарантируется, что он будет четко определен. Последнее случается всякий раз, когда.
Примеры
Предполагать а также для , где (с участием являясь натуральным логарифмом ) является масштабный коэффициент так, чтобы сумма вероятностей 1. Затем, используя прямое определение для неотрицательных случайных величин, мы имеем
Пример бесконечного ожидания возникает в контексте петербургского парадокса . Позволять а также для . Еще раз, поскольку случайная величина неотрицательна, расчет ожидаемого значения дает
В качестве примера, где математическое ожидание не определено четко, предположим, что случайная величина принимает значения с соответствующими вероятностями , ..., где - нормализующая константа, обеспечивающая суммирование вероятностей до единицы.
Тогда следует, что имеет значение с вероятностью для и имеет значение с оставшейся вероятностью. По аналогии, имеет значение с вероятностью для и имеет значение с оставшейся вероятностью. Используя определение неотрицательных случайных величин, можно показать, что обе а также (см. Гармонический ряд ). Следовательно, ожидание не вполне определен.
Абсолютно сплошной корпус
Если является случайной величиной с функцией плотности вероятности из, то математическое ожидание определяется как интеграл Лебега
где значения с обеих сторон четко определены или не определены одновременно.
Пример. Случайная величина, имеющая распределение Коши [12], имеет функцию плотности, но ожидаемое значение не определено, поскольку распределение имеет большие «хвосты» .
Общий случай
В общем, если является случайной величиной , определенная на вероятностном пространстве , то ожидаемое значение , обозначаемый , определяется как интеграл Лебега
Для многомерных случайных величин их ожидаемое значение определяется для каждого компонента. Это,
а для случайной матрицы с элементами ,
Основные свойства
Приведенные ниже основные свойства (и их названия выделены жирным шрифтом) воспроизводят или непосредственно следуют из свойств интеграла Лебега . Обратите внимание, что буквы «as» означают « почти наверняка » - центральное свойство интеграла Лебега. По сути, говорят, что неравенство типа верно почти наверняка, когда мера вероятности приписывает нулевую массу дополнительному событию .
Для общей случайной величины , определим как раньше а также , и обратите внимание, что , с обоими а также неотрицательный, тогда:
Позволять Обозначим функцию индикатора в качестве события , тогда
Формулы в терминах CDF: Если- кумулятивная функция распределения вероятностной меры а также случайная величина, то
где значения на обеих сторонах хорошо определены или не определены одновременно, а интеграл взят в смысле Лебега-Стилтьеса . Здесь, - это расширенная реальная линия.
Кроме того,
с интегралами, взятыми по Лебегу.
Доказательство второй формулы следует.
Доказательство.
Для произвольного
Последнее равенство имеет место в силу того, что где подразумевает, что и поэтому Наоборот, если где тогда а также
Подынтегральное выражение в приведенном выше выражении для неотрицательно, поэтому применима теорема Тонелли , и порядок интегрирования может быть изменен без изменения результата. У нас есть
Рассуждая, как указано выше,
а также
Напоминая, что завершает доказательство.
Неотрицательность: Если (как тогда .
Линейность ожидания: [3] Оператор ожидаемого значения (или оператор ожидания ).является линейным в том смысле , что для любых случайных величин а также , а постоянная ,
всякий раз, когда правая часть определена корректно. Это означает, что ожидаемое значение суммы любого конечного числа случайных величин является суммой ожидаемых значений отдельных случайных величин, а ожидаемое значение линейно масштабируется с мультипликативной константой. Символично, что для случайные переменные и константы , у нас есть .
Монотонность: Если (как) , и оба а также существовать, тогда .
Доказательство следует из линейности и неотрицательности , поскольку (в виде).
Отсутствие мультипликативности: в целом ожидаемое значение не является мультипликативным, т.е. не обязательно равно . Если а также являются независимыми , то можно показать , что. Если случайные величины зависимы , то обычно, хотя в особых случаях зависимости равенство может выполняться.
Закон бессознательного статистика : ожидаемое значение измеримой функции, , учитывая, что имеет функцию плотности вероятности , Задается скалярное произведение из а также :
[3]
Эта формула верна и в многомерном случае, когда является функцией нескольких случайных величин, а их совместная плотность . [3] [13]
Невырожденность: Если, тогда (в виде).
Для случайной величины с четко определенным ожиданием: .
Следующие утверждения относительно случайной величины эквивалентны:
существует и конечно.
Оба а также конечны.
конечно.
По указанным выше причинам выражения " интегрируемо "и" ожидаемое значение конечно "используются в этой статье как синонимы.
Если тогда (как) . Аналогично, если тогда (как) .
Если а также тогда
Если (как) , то. Другими словами, если X и Y - случайные величины, которые принимают разные значения с нулевой вероятностью, то ожидание X будет равно ожиданию Y.
Если (as) для некоторой постоянной, тогда . В частности, для случайной величины с четко определенным ожиданием, . Четко определенное ожидание подразумевает, что существует одно число или, скорее, одна константа, определяющая ожидаемое значение. Отсюда следует, что ожидание этой константы - это всего лишь исходное ожидаемое значение.
Для неотрицательной целочисленной случайной величины
Доказательство.
Если тогда С другой стороны,
так что ряд справа расходится на и имеет место равенство.
Если тогда
Определим бесконечную верхнетреугольную матрицу
Двойная серия это сумма элементов, если суммирование производится построчно. Поскольку каждое слагаемое неотрицательно, ряд либо сходится абсолютно, либо расходится кВ обоих случаях изменение порядка суммирования не влияет на сумму. Изменение порядка суммирования от строки к строке к столбцу за столбцом дает нам
Использование и приложения
Ожидание случайной величины играет важную роль в различных контекстах. Например, в теории принятия решений часто предполагается, что агент, делающий оптимальный выбор в контексте неполной информации, максимизирует ожидаемое значение своей функции полезности . Для другого примера, в статистике , где ищут оценки для неизвестных параметров на основе доступных данных, оценка сама по себе является случайной величиной. В таких условиях желательным критерием «хорошей» оценки является ее непредвзятость ; то есть ожидаемое значение оценки равно истинному значению базового параметра.
Можно построить ожидаемое значение, равное вероятности события, взяв математическое ожидание индикаторной функции , равное единице, если событие произошло, и нулю в противном случае. Это соотношение можно использовать для преобразования свойств ожидаемых значений в свойства вероятностей, например, используя закон больших чисел для обоснования оценки вероятностей по частотам .
Ожидаемые значения степеней X называются моменты из X ; в моменты относительно среднего значения из X , как ожидается , значение степеней X - E [ X ]. Моменты некоторых случайных величин можно использовать для задания их распределений с помощью их функций, производящих моменты .
Чтобы эмпирически оценить ожидаемое значение случайной величины, нужно многократно измерять наблюдения переменной и вычислять среднее арифметическое результатов. Если ожидаемое значение существует, эта процедура оценивает истинное ожидаемое значение беспристрастным образом и имеет свойство минимизировать сумму квадратов остатков (сумму квадратов разностей между наблюдениями и оценкой ). Закон больших чисел показывает (при достаточно мягких условиях) , что, поскольку размер в образце становится больше, то дисперсия этой оценки становится все меньше.
Это свойство часто используется в самых разных приложениях, включая общие задачи статистической оценки и машинного обучения , для оценки (вероятностных) интересующих величин с помощью методов Монте-Карло , поскольку большинство представляющих интерес величин можно записать в терминах математического ожидания, например, где - индикаторная функция множества .
Масса распределения вероятностей сбалансирована на ожидаемом значении, здесь бета-распределение (α, β) с ожидаемым значением α / (α + β).
В классической механике , то центр масс аналогичная концепция ожидания. Например, предположим, что X - дискретная случайная величина со значениями x i и соответствующими вероятностями p i . Теперь рассмотрим невесомый стержень, на который в точках x i вдоль стержня помещены грузы, имеющий массы p i (сумма которых равна единице). Точка балансировки стержня - E [ X ].
Ожидаемые значения также можно использовать для вычисления дисперсии с помощью вычислительной формулы для дисперсии.
Очень важное применение математического ожидания находится в области квантовой механики . Математическое ожидание квантово-механического оператораоперируя вектором квантового состояния записывается как . Неопределенность в можно рассчитать по формуле .
Меняя пределы и ожидания
В общем, дело обстоит не так несмотря на точечно. Таким образом, нельзя поменять местами пределы и ожидания без дополнительных условий на случайные величины. Чтобы увидеть это, позвольте - случайная величина, равномерно распределенная на . Для определить последовательность случайных величин
с участием являясь индикаторной функцией события . Тогда следует, что(в виде). Но, для каждого . Следовательно,
Аналогично для общей последовательности случайных величин , оператор ожидаемого значения не -аддитив, т.е.
Пример легко получить, задав а также для , где как в предыдущем примере.
Ряд результатов сходимости определяют точные условия, которые позволяют менять пределы и ожидания, как указано ниже.
Теорема о монотонной сходимости : Пусть последовательность случайных величин, с (как) для каждого . Кроме того, пустьточечно. Тогда теорема о монотонной сходимости утверждает, что
Используя теорему о монотонной сходимости, можно показать, что математическое ожидание действительно удовлетворяет счетной аддитивности для неотрицательных случайных величин. В частности, пусть быть неотрицательными случайными величинами. Из теоремы о монотонной сходимости следует, что
Лемма Фату : Пустьбыть последовательностью неотрицательных случайных величин. Лемма Фату утверждает, что
Следствие. Позволять с участием для всех . Если (как тогда
Доказательство состоит в том, что (as) и применяя лемму Фату.
Теорема о доминирующей сходимости : Пусть- последовательность случайных величин. Если точечно (как), (как), и . Тогда согласно теореме о мажорируемой сходимости
;
Равномерная интегрируемость : в некоторых случаях выполняется равенство выполняется, когда последовательность является равномерно интегрируема .
Неравенства
Существует ряд неравенств, связанных с ожидаемыми значениями функций случайных величин. Следующий список включает некоторые из наиболее простых.
Неравенство Маркова : для неотрицательной случайной величины а также , Неравенство Маркова утверждает, что
Неравенство Биенайме-Чебышева : Пусть быть произвольной случайной величиной с конечным математическим ожиданием и конечная дисперсия . Неравенство Бьенайме-Чебышева утверждает, что для любого действительного числа,
Неравенство Дженсена : Пусть- выпуклая по Борелю функция и случайная величина такая, что . потом
Правая часть определена корректно, даже если принимает не конечные значения. Действительно, как отмечалось выше, конечность подразумевает, что конечно как; таким образом определяется как.
Неравенство Ляпунова: [14] Пусть. Неравенство Ляпунова утверждает, что
Доказательство. Применение неравенства Дженсена к а также , получать . Принимая корень каждой стороны завершает доказательство.
Неравенство Коши – Буняковского – Шварца : Неравенство Коши – Буняковского – Шварца утверждает, что
Неравенство Гёльдера : Пусть а также удовлетворить , , а также . Неравенство Гёльдера утверждает, что
Неравенство Минковского : Пусть быть положительным действительным числом, удовлетворяющим . Пусть, кроме того, а также . Тогда согласно неравенству Минковского а также
Ожидаемые значения общих распределений
Распределение
Обозначение
Среднее E (X)
Бернулли
Биномиальный
Пуассон
Геометрический
Униформа
Экспоненциальный
Обычный
Стандарт Нормальный
Парето
если
Коши
неопределенный
Связь с характеристической функцией
Функция плотности вероятности скалярной случайной величины связана с его характеристической функцией по формуле обращения:
Для ожидаемой стоимости (где является функцией Бореля ), мы можем использовать эту формулу обращения, чтобы получить
Если конечна, меняя порядок интегрирования, получаем, согласно теореме Фубини – Тонелли ,
где
- преобразование Фурье Выражение для также непосредственно следует из теоремы Планшереля .
Смотрите также
Центр массы
Главная тенденция
Неравенство Чебышева (неравенство по параметрам расположения и масштаба)
Условное ожидание
Ожидание (общий термин)
Ожидание (квантовая механика)
Закон полного ожидания -The ожидаемое значение условного ожидаемого значения X данной Y такой же , как ожидаемое значение X .
^ а б в гВайсштейн, Эрик В. «Ожидание» . mathworld.wolfram.com . Проверено 11 сентября 2020 .
^ а б«Ожидаемая ценность | Блестящая вики-страница по математике и науке» . brilliant.org . Проверено 21 августа 2020 .
^История вероятностей и статистики и их приложений до 1750 года . Серия Уайли по вероятности и статистике. 1990. DOI : 10.1002 / 0471725161 . ISBN 9780471725169.
^Оре, Ойштейн (1960). «Руда, Паскаль и изобретение теории вероятностей». Американский математический ежемесячник . 67 (5): 409–419. DOI : 10.2307 / 2309286 . JSTOR 2309286 .
^Джордж Макки (июль 1980 г.). «ГАРМОНИЧЕСКИЙ АНАЛИЗ КАК ИСПОЛЬЗОВАНИЕ СИММЕТРИИ - ИСТОРИЧЕСКИЙ ОБЗОР». Бюллетень Американского математического общества . Новая серия. 3 (1): 549.
^Гюйгенс, Кристиан. «Значение шансов в играх на удачу. Английский перевод» (PDF) .
^Лаплас, Пьер Симон, маркиз де, 1749-1827 гг. (1952) [1951]. Философский очерк вероятностей . Dover Publications. OCLC 475539 .CS1 maint: несколько имен: список авторов ( ссылка )
^ Whitworth, WA (1901) Выбор и шанс с тысячей упражнений . Издание пятое. Дейтон Белл, Кембридж. [Перепечатано Hafner Publishing Co., Нью-Йорк, 1959.]
^«Раннее использование символов в вероятности и статистике» .
^Ричард У. Хэмминг (1991). «Пример 8.7–1. Распределение Коши». Искусство вероятности для ученых и инженеров . Эддисон-Уэсли. п. 290 сл . ISBN 0-201-40686-1. Выборка из распределения Коши и усреднение ни к чему не приведут - одна выборка имеет то же распределение, что и среднее из 1000 выборок!
^Папулис А. (1984), Вероятность, случайные величины и случайные процессы , Нью-Йорк: МакГроу – Хилл, стр. 139–152.
^Агахи, Хамзе; Мохаммадпур, Адель; Месияр, Радько (ноябрь 2015 г.). «Обобщения некоторых вероятностных неравенств и $ L ^ {p} $ сходимость случайных величин для любой монотонной меры» . Бразильский журнал вероятностей и статистики . 29 (4): 878–896. DOI : 10.1214 / 14-BJPS251 . ISSN 0103-0752 .
Литература
Эдвардс, AWF (2002). Арифметический треугольник Паскаля: история математической идеи (2-е изд.). JHU Press. ISBN 0-8018-6946-3.
Гюйгенс, Христиан (1657 г.). De ratiociniis in ludo aleæ (английский перевод, опубликовано в 1714 г.) .