Нормирующая константа

Ведущий раздел этой статьи может быть слишком коротким, чтобы адекватно резюмировать ключевые моменты . Пожалуйста, рассмотрите возможность расширения лид, чтобы предоставить доступный обзор всех важных аспектов статьи. ( Март 2014 г. )

Понятие нормирующей константы возникает в теории вероятностей и во множестве других областей математики . Нормализующая константа используется для сведения любой функции вероятности к функции плотности вероятности с полной вероятностью, равной единице.

Определение [ править ]

В теории вероятностей , нормализующая константа является константой , с помощью которого всюду неотрицательная функция должна быть умножена так что площадь под графиком 1, например, чтобы сделать его функцию плотности вероятности или функцию вероятности массы . ^{[1] [2]}

Примеры [ править ]

Если мы начнем с простой функции Гаусса

${\ Displaystyle р (х) = е ^ {- х ^ {2} / 2}, х \ in (- \ infty, \ infty)}$

имеем соответствующий гауссов интеграл

${\ displaystyle \ int _ {- \ infty} ^ {\ infty} p (x) \, dx = \ int _ {- \ infty} ^ {\ infty} e ^ {- x ^ {2} / 2} \ , dx = {\ sqrt {2 \ pi \,}},}$

Теперь, если мы используем обратное значение последнего как нормирующую константу для первого, определяя функцию как${\ Displaystyle \ varphi (х)}$

${\ displaystyle \ varphi (x) = {\ frac {1} {\ sqrt {2 \ pi \,}}} p (x) = {\ frac {1} {\ sqrt {2 \ pi \,}}} д ^ {- х ^ {2} / 2}}$

так что его интеграл равен единице

${\ displaystyle \ int _ {- \ infty} ^ {\ infty} \ varphi (x) \, dx = \ int _ {- \ infty} ^ {\ infty} {\ frac {1} {\ sqrt {2 \ pi \,}}} e ^ {- x ^ {2} / 2} \, dx = 1}$

тогда функция является функцией плотности вероятности. ^[3] Это плотность стандартного нормального распределения . ( Стандарт в данном случае означает, что ожидаемое значение равно 0, а дисперсия - 1.)${\ Displaystyle \ varphi (х)}$

А константа - нормирующая константа функции .${\ displaystyle {\ frac {1} {\ sqrt {2 \ pi \,}}}}$${\ displaystyle p (x)}$

По аналогии,

${\ displaystyle \ sum _ {n = 0} ^ {\ infty} {\ frac {\ lambda ^ {n}} {n!}} = e ^ {\ lambda},}$

и следовательно

${\ Displaystyle е (п) = {\ гидроразрыва {\ лямбда ^ {п} е ^ {- \ лямбда}} {п!}}}$

является функцией массы вероятности на множестве всех неотрицательных целых чисел. ^[4] Это функция массы вероятности распределения Пуассона с математическим ожиданием λ.

Обратите внимание, что если функция плотности вероятности является функцией различных параметров, то это также будет ее нормирующая константа. Параметризованная нормирующая постоянная для распределения Больцмана играет центральную роль в статистической механике . В этом контексте нормализующая константа называется статистической суммой .

Теорема Байеса [ править ]

Теорема Байеса гласит, что апостериорная вероятностная мера пропорциональна произведению априорной вероятностной меры и функции правдоподобия . Пропорциональность к подразумевает, что нужно умножить или разделить на нормирующую константу, чтобы присвоить меру 1 всему пространству, т. Е. Получить вероятностную меру. В простом дискретном случае имеем

${\ Displaystyle P (H_ {0} | D) = {\ frac {P (D | H_ {0}) P (H_ {0})} {P (D)}}}$

где P (H ₀ ) - априорная вероятность того, что гипотеза верна; P (D | H ₀ ) - это условная вероятность данных с учетом того, что гипотеза верна, но с учетом того, что данные известны, это вероятность гипотезы (или ее параметров) с учетом данных; P (H ₀ | D) - апостериорная вероятность того, что гипотеза верна с учетом данных. P (D) должно быть вероятностью получения данных, но само по себе его сложно вычислить, поэтому альтернативный способ описать эту взаимосвязь как один из пропорциональных:

${\displaystyle P(H_{0}|D)\propto P(D|H_{0})P(H_{0}).}$

Поскольку P (H | D) является вероятностью, сумма по всем возможным (взаимоисключающим) гипотезам должна быть 1, что приводит к выводу, что

${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{\displaystyle \sum _{i}P(D|H_{i})P(H_{i})}}.}$

В этом случае величина , обратная величине

${\displaystyle P(D)=\sum _{i}P(D|H_{i})P(H_{i})\;}$

- нормирующая постоянная . ^[5] Его можно расширить от счетного числа гипотез до несчетного числа, заменив сумму интегралом.

Невозможно использовать [ править ]

Эти многочлены Лежандра характеризуется ортогональностью относительно равномерной меры на интервале [- 1, 1] , и тот факт , что они нормированные так , что их значение в 1 равно 1. Константе , с помощью которого умножить многочлен так ее значение в 1 = 1 - нормализующая константа.

Ортонормированные функции нормированы так, что

${\displaystyle \langle f_{i},\,f_{j}\rangle =\,\delta _{i,j}}$

относительно некоторого внутреннего продукта < f ,  g >.

Константа 1 / √ 2 используется для определения гиперболических функций ch и sinh из длин смежных и противоположных сторон гиперболического треугольника .

См. Также [ править ]

• Нормализация (статистика)

Заметки [ править ]

Ссылки [ править ]

• Непрерывные распределения в Департаменте математических наук: Университет Алабамы в Хантсвилле
• Феллер, Уильям (1968). Введение в теорию вероятностей и ее приложения (том I) . Джон Вили и сыновья. ISBN 0-471-25708-7. CS1 maint: discouraged parameter (link)