Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску

Распределение продуктов является распределение вероятностей строятся как распределение продукта из случайных величин , имеющих два других известных распределений. Учитывая две статистически независимые случайные величины X и Y , распределение случайной величины Z , которое формируется как произведение

это распространение продукта .

Алгебра случайных величин [ править ]

Продукт представляет собой один из типов алгебры для случайных величин: с распределением продукта связаны распределение соотношений, распределение сумм (см. Список сверток распределений вероятностей ) и распределение разностей. В более общем плане можно говорить о комбинациях сумм, разностей, произведений и соотношений.

Многие из этих распределений описаны в книге Мелвина Д. Спрингера 1979 года «Алгебра случайных величин» . [1]

Вывод независимых случайных величин [ править ]

Если и - две независимые непрерывные случайные величины, описываемые функциями плотности вероятности, а функция плотности вероятности равна [2]

Доказательство [3] [ править ]

Сначала написать интегральную функцию распределения в начиная с его определением

Мы находим желаемую функцию плотности вероятности, взяв производную от обеих частей по . Поскольку в правой части появляется только в пределах интегрирования, производная легко вычисляется с помощью основной теоремы исчисления и цепного правила . (Обратите внимание на отрицательный знак, который необходим, когда переменная находится в нижнем пределе интегрирования.)

где абсолютное значение используется для удобного объединения двух терминов.

Альтернативное доказательство [ править ]

Более быстрое и компактное доказательство начинается с того же шага написания кумулятивного распределения, начиная с его определения:

где - ступенчатая функция Хевисайда и служит для ограничения области интегрирования значениями и удовлетворяющими .

Мы находим желаемую функцию плотности вероятности, взяв производную от обеих частей по .

где мы используем свойства сдвига и масштабирования дельта-функции Дирака .

Более интуитивно понятное описание процедуры показано на рисунке ниже. Объединенный PDF-файл существует в плоскости -, и дуга постоянного значения показана заштрихованной линией. Чтобы найти предельную вероятность на этой дуге, проинтегрируйте по приращениям площади на этом контуре.

Диаграмма, иллюстрирующая распределение продукта двух переменных.

Начнем с того , что у нас есть . Таким образом, приращение вероятности равно . Поскольку подразумевает , мы можем связать приращение вероятности с -инкрементом, а именно . Затем интегрирование завершается .

Байесовская интерпретация [ править ]

Позвольте быть случайной выборкой, взятой из распределения вероятностей . Масштабирование по генерирует выборку из масштабированного распределения, которую можно записать как условное распределение .

Позволить быть случайной величиной с PDF , распределение нормированного образца становится и интегрируя из мы получаем так рисуется из этого распределения . Однако, заменяя определение, мы также получаем, которое имеет ту же форму, что и распределение продукта выше. Таким образом, байесовское апостериорное распределение - это распределение произведения двух независимых случайных выборок и .

Для случая, когда одна переменная является дискретной, пусть имеет вероятность на уровнях с . Условная плотность есть . Следовательно .

Ожидание произведения случайных величин [ править ]

Когда две случайные величины статистически независимы, ожидание их продукта является продуктом их ожиданий . Это можно доказать из Закона полного ожидания :

Во внутреннем выражении Y - константа. Следовательно:

Это верно, даже если X и Y статистически зависимы. Однако, в общем случае является функцией Y . В частном случае , в котором Х и Y статистически независимы, то константа , не зависящая от Y . Следовательно:

Дисперсия произведения независимых случайных величин [ править ]

Позвольте быть некоррелированными случайными величинами со средними и дисперсиями . Дисперсия произведения XY равна

В случае произведения более двух переменных, если они статистически независимы, то [4] дисперсия их произведения равна

Характеристическая функция произведения случайных величин [ править ]

Предположим, что X , Y - независимые случайные величины. Характеристическая функция X равна , а распределение Y известно. Тогда из закона полного ожидания имеем [5]

Если характеристические функции и распределения как X, так и Y известны, то, в качестве альтернативы, также верно.

Преобразование Меллина [ править ]

Преобразование Меллина из распределения с поддержкой только на и имеющие случайную выборку является

Обратное преобразование:

если это две независимые случайные выборки из разных распределений, то преобразование Меллина их продукта равно произведению их преобразований Меллина:

Если s ограничен целыми значениями, более простой результат будет

Таким образом, моменты случайного произведения являются произведением соответствующих моментов, и это распространяется на нецелые моменты, например

.

PDF функции может быть восстановлен по ее моментам, используя метод приближения точки перевала .

Еще один результат состоит в том, что для независимых X , Y

Пример гамма-распределения Чтобы проиллюстрировать, как произведение моментов дает гораздо более простой результат, чем нахождение моментов распределения произведения, позвольте взять выборку из двух гамма-распределений с параметрами , моменты которых равны

Умножение соответствующих моментов дает результат преобразования Меллина

Независимо, известно, что произведение двух независимых выборок гаммы имеет распределение

.

Чтобы найти моменты этого, произведите замену переменной , упростив аналогичные интегралы до:

таким образом

Определенный интеграл

хорошо задокументирован, и мы наконец

который, после некоторых трудностей, согласился с приведенным выше результатом продукта.

Если X , Y нарисованы независимо от гамма-распределения с параметрами формы, тогда

Этот тип результата универсально верен, поскольку для двумерных независимых переменных, таким образом,

или, что то же самое, ясно, что это независимые переменные.

Особые случаи [ править ]

Логнормальные распределения [ править ]

Распределение произведения двух случайных величин, которые имеют логнормальное распределение , снова логнормально. Это сам по себе частный случай более общего набора результатов, в котором логарифм произведения может быть записан как сумма логарифмов. Таким образом, в случаях, когда простой результат может быть найден в списке сверток распределений вероятностей , когда сворачиваемые распределения представляют собой распределения логарифмов компонентов продукта, результат может быть преобразован, чтобы обеспечить распределение продукта . Однако этот подход полезен только тогда, когда логарифмы компонентов продукта входят в некоторые стандартные семейства распределений.

Равномерно распределенные независимые случайные величины [ править ]

Позвольте быть произведением двух независимых переменных, каждая из которых равномерно распределена на интервале [0,1], возможно, результат преобразования копулы . Как отмечено выше в разделе «Логнормальные распределения», операции свертки PDF в домене журнала соответствуют произведению значений выборки в исходном домене. Таким образом, делая преобразование так , что каждая переменная распределяется независимо на u как

.

а свертка двух распределений - автосвертка

Затем повторно преобразуйте переменную, чтобы получить распределение

на интервале [0,1]

Для произведения нескольких (> 2) независимых выборок характерный функциональный маршрут является благоприятным. Если мы определим, то выше будет гамма-распределение формы 1 и масштабного коэффициента 1 , и его известная CF равна . Обратите внимание, что якобиан преобразования равен единице.

Следовательно, свертка независимых выборок из имеет CF, который, как известно, является CF гамма-распределения формы :

.

Сделав обратное преобразование, мы получим PDF продукта n образцов:

Следующий, более традиционный вывод из Stackexchange [6] согласуется с этим результатом. Прежде всего, позволяя его CDF

Плотность

Умножение на третью независимую выборку дает функцию распределения

Взяв производную доходность

Автор заметки предполагает, что в целом

Геометрия произведения распределения двух случайных величин в единичном квадрате.

Рисунок иллюстрирует характер приведенных выше интегралов. Заштрихованная область внутри единичного квадрата и ниже линии z = xy представляет CDF z. Это делится на две части. Первый - для 0 <x <z, где приращение площади в вертикальном слоте просто равно dx . Вторая часть расположена ниже линии xy , имеет высоту y z / x и площадь приращения dx z / x .

Независимые центрально-нормальные распределения [ править ]

Произведение двух независимых нормальных выборок следует модифицированной функции Бесселя. Позвольте быть выборками из нормального (0,1) распределения и . потом


В принципе, дисперсию этого распределения можно определить с помощью определенного интеграла Градшейна и Рыжика [7].

таким образом

Гораздо более простой результат, изложенный в разделе выше, состоит в том, что дисперсия продукта независимых выборок с нулевым средним равна произведению их дисперсий. Поскольку дисперсия каждой нормальной выборки равна единице, дисперсия продукта также равна единице.

Коррелированные центрально-нормальные распределения [ править ]

Случай коррелированных нормальных выборок недавно был рассмотрен Надараджахой и Погани. [8] Пусть будет нулевое среднее, единичная дисперсия, нормально распределенные переменные с коэффициентом корреляции

потом

Среднее значение и дисперсия : Среднее значение, полученное нами из определения коэффициента корреляции. Дисперсию можно найти путем преобразования двух некоррелированных переменных U, V с нулевым средним значением . Позволять

Тогда X, Y - переменные единичной дисперсии с коэффициентом корреляции и

Удаляя члены с нечетной степенью, ожидания которых очевидно равны нулю, получаем

Поскольку у нас есть

Асимптота с высокой корреляцией В случае с высокой корреляцией произведение сходится в квадрате одной выборки. В этом случае асимптота равна и

которое представляет собой распределение хи-квадрат с одной степенью свободы.

Множественные коррелированные выборки . Nadarajaha et. al. далее показывают, что если iid случайных величин, взятых из и является их средним значением,

где W - функция Уиттекера, а .

Используя идентификатор , см., Например, компиляцию DLMF. уравнение (13.13.9), [9] это выражение можно несколько упростить до

PDF дает распределение выборочной ковариации.

Множественные нецентральные коррелированные выборки . Распределение продукта коррелированных нецентральных нормальных выборок было получено Cui et.al. [10] и принимает вид бесконечного ряда модифицированных функций Бесселя первого рода.

Моменты произведения коррелированных центральных нормальных выборок

Для центрального нормального распределения N (0,1) моменты равны

где обозначает двойной факториал .

Если - центральные коррелированные переменные, простейший двумерный случай многомерной нормальной проблемы моментов, описанный Каном [11], то

куда

- коэффициент корреляции, а

[требует проверки]

Коррелированные нецентральные нормальные распределения [ править ]

Распределение продукта нецентральных коррелированных нормальных выборок было получено Cui et al. [10] и принимает вид бесконечного ряда.

Эти распределения продуктов в некоторой степени сопоставимы с распределением Уишарта . Последнее является совместным распределением четырех элементов (фактически только трех независимых элементов) выборочной ковариационной матрицы. Если это выборки из двумерного временного ряда, то это матрица Уишарта с K степенями свободы. Приведенные выше распределения продуктов представляют собой безусловное распределение совокупности K > 1 образцов .

Независимые комплекснозначные центрально-нормальные распределения [ править ]

Позвольте быть независимыми выборками из нормального (0,1) распределения. Установлены независимые комплексные нормальные образцы с нулевым средним и круговой симметрией. Их сложные отклонения

Плотностные функции

являются распределения Рэлея, определенные как:

Переменная явно имеет форму хи-квадрат с двумя степенями свободы и имеет PDF.

Wells et. al. [12] показано , что функция плотности IS

а кумулятивная функция распределения равна

Таким образом, полярное представление продукта двух некоррелированных комплексных гауссовых выборок имеет вид

.

Первый и второй моменты этого распределения можно найти из интеграла в Нормальных распределениях выше

Таким образом, его дисперсия .

Кроме того, плотность соответствует произведению двух независимых выборок хи-квадрат, каждая с двумя степенями свободы. Записывая их в виде масштабированных гамма-распределений , из приведенных ниже гамма-продуктов плотность продукта равна

Независимые комплексные нецентральные нормальные распределения [ править ]

Произведение нецентральных независимых комплексных гауссианов описано О'Доногью и Моурой [13] и образует двойную бесконечную серию модифицированных функций Бесселя первого и второго типов.

Гамма-распределения [ править ]

Произведение двух независимых гамма-выборок , определяющих , следует [14]

Бета-версии [ править ]

Nagar et. al. [15] определяют коррелированное двумерное бета-распределение.

куда

Тогда pdf Z = XY задается формулой

где - гипергеометрическая функция Гаусса, определяемая интегралом Эйлера

Обратите внимание, что многомерные распределения, как правило, не уникальны, за исключением случая Гаусса, и могут быть альтернативы.

Равномерное и гамма-распределения [ править ]

Распределение произведения случайной величины, имеющей равномерное распределение на (0,1), со случайной величиной, имеющей гамма-распределение с параметром формы, равным 2, является экспоненциальным распределением . [16] Более общий случай этого касается распределения произведения случайной величины, имеющей бета-распределение, со случайной величиной, имеющей гамма-распределение : для некоторых случаев, когда параметры двух компонентных распределений связаны определенным образом, в результате снова получается гамма-распределение, но с измененным параметром формы. [16]

К-распределение является примером нестандартного распределения , которые могут быть определены как распределение продукта (где оба компонента имеют гамма - распределение).

Гамма и Парето распределения [ править ]

Произведение независимых выборок n Gamma и m Парето было получено Надараджей. [17]

В теоретической информатике [ править ]

В вычислительной теории обучения , распределение продуктов в течение задаются параметрами . Каждый параметр дает предельную вероятность того, что i- й бит будет выбран как 1; то есть . В этом случае равномерное распределение - это просто распределение продукта с каждым .

Распределение продуктов - это ключевой инструмент, используемый для доказательства результатов обучаемости, когда нельзя предполагать, что примеры являются однородными. [18] Они порождают скалярное произведение в пространстве вещественнозначных функций следующим образом:

Этот внутренний продукт приводит к соответствующей норме следующим образом:

См. Также [ править ]

  • Алгебра случайных величин
  • Сумма независимых случайных величин

Примечания [ править ]

  1. ^ Спрингер, Мелвин Дейл (1979). Алгебра случайных величин . Вайли . ISBN 978-0-471-01406-5. Проверено 24 сентября 2012 года .
  2. ^ Rohatgi В.К. (1976). Введение в теорию вероятностей и математическую статистику . Серия Уайли по вероятности и статистике. Нью-Йорк: Вили. DOI : 10.1002 / 9781118165676 . ISBN 978-0-19-853185-2.
  3. ^ Гримметт, GR; Стирзакер, Д.Р. (2001). Вероятность и случайные процессы . Оксфорд: Издательство Оксфордского университета. ISBN 978-0-19-857222-0. Проверено 4 октября 2015 года .
  4. ^ Sarwate, Дилип (9 марта 2013). «Дисперсия произведения нескольких случайных величин» . Обмен стеками .
  5. ^ «Как найти характеристическую функцию произведения случайных величин» . Обмен стеками . 3 января 2013 г.
  6. ^ heropup (1 февраля 2014 г.). «продукт распределения двух равномерных распределений, как насчет 3 или более» . Обмен стеками .
  7. ^ Градшейн, IS; Рыжик И.М. (1980). Таблицы интегралов, серий и продуктов . Академическая пресса. стр. раздел 6.561.
  8. ^ Надараджа, Сарали; Погани, Тибор (2015). «О распределении произведения коррелированных нормальных случайных величин» . Comptes Rendus де l'Академии наук, Série я . 354 (2): 201–204. DOI : 10.1016 / j.crma.2015.10.019 .
  9. ^ Equ (13.18.9). «Электронная библиотека математических функций» . NIST: Национальный институт стандартов и технологий .
  10. ^ а б Цуй, Гуолун (2016). «Точное распределение для произведения двух коррелированных гауссовских случайных величин». Письма об обработке сигналов IEEE . 23 (11): 1662–1666. Bibcode : 2016ISPL ... 23.1662C . DOI : 10,1109 / LSP.2016.2614539 .
  11. ^ Кан, Раймонд (2008). «От моментов суммы к моментам продукта». Журнал многомерного анализа . 99 (3): 542–554. DOI : 10.1016 / j.jmva.2007.01.013 .
  12. ^ Уэллс, RT; Андерсон, Р.Л .; Cell, JW (1962). «Распределение продукта двух центральных или нецентральных переменных хи-квадрат» . Анналы математической статистики . 33 (3): 1016–1020. DOI : 10.1214 / АОМ / 1177704469 .
  13. ^ O'Donoughue, N; Моура, JMF (март 2012 г.). «О произведении независимых комплексных гауссианов». Транзакции IEEE по обработке сигналов . 60 (3): 1050–1063. Bibcode : 2012ITSP ... 60.1050O . DOI : 10.1109 / TSP.2011.2177264 .
  14. ^ Wolfies (август 2017). «PDF произведения двух независимых гамма-случайных величин» . stackexchange .
  15. ^ Нагар, ДК; Ороско-Кастаньеда, JM; Гупта, АК (2009). «Произведение и коэффициент коррелированных бета-переменных». Письма по прикладной математике . 22 : 105–109. DOI : 10.1016 / j.aml.2008.02.014 .
  16. ^ a b Джонсон, Норман Л .; Коц, Самуэль; Балакришнан, Н. (1995). Непрерывные одномерные распределения Том 2, второе издание . Вайли. п. 306. ISBN. 978-0-471-58494-0. Проверено 24 сентября 2012 года .
  17. ^ Надараджа, Saralees (июнь 2011). «Точное распределение произведения n гамма и m случайных величин Парето» . Журнал вычислительной и прикладной математики . 235 (15): 4496–4512. DOI : 10.1016 / j.cam.2011.04.018 .
  18. ^ Servedio, Rocco А. (2004), "Об изучения монотонную DNF под распределениями продуктов", информация и вычисления , 193 (1): 57-74, DOI : 10.1016 / j.ic.2004.04.003

Ссылки [ править ]

  • Спрингер, Мелвин Дейл; Томпсон, WE (1970). «Распределение произведений бета, гамма и гауссовских случайных величин». Журнал SIAM по прикладной математике . 18 (4): 721–737. DOI : 10.1137 / 0118065 . JSTOR  2099424 .
  • Спрингер, Мелвин Дейл; Томпсон, WE (1966). «Распределение произведений независимых случайных величин». Журнал SIAM по прикладной математике . 14 (3): 511–526. DOI : 10.1137 / 0114046 . JSTOR  2946226 .