Априорная вероятность


В байесовском статистическом выводе априорное распределение вероятностей , часто называемое просто априорным , неопределенной величины — это распределение вероятностей , которое будет выражать убеждения относительно этой величины до того, как будут приняты во внимание некоторые свидетельства. Например, априорным может быть распределение вероятностей, представляющее относительную долю избирателей, которые проголосуют за определенного политика на будущих выборах. Неизвестная величина может быть параметром модели или скрытой переменной , а не наблюдаемой переменной .

Теорема Байеса вычисляет перенормированное точечное произведение априорной функции и функции правдоподобия для получения апостериорного распределения вероятностей , которое является условным распределением неопределенной величины с учетом данных.

Точно так же априорная вероятность случайного события или неопределенного предположения — это безусловная вероятность , которая назначается до того, как будут приняты во внимание какие-либо соответствующие доказательства.

Приоры могут быть созданы с использованием ряда методов. [1] : 27–41 Априорное значение  можно определить на основе прошлой информации, такой как предыдущие эксперименты. Априор может быть получен из чисто субъективной оценки опытного эксперта. Неинформативный априор может быть создан для отражения баланса между результатами, когда информация недоступна. Априоры также могут быть выбраны в соответствии с каким-либо принципом, таким как симметрия или максимизация энтропии при заданных ограничениях; примерами являются приор Джеффриса или эталонный приор Бернардо. Когда существует семейство сопряженных априорных значений , выбор априорного значения из этого семейства упрощает вычисление апостериорного распределения.

Параметры априорных распределений являются своего рода гиперпараметрами . Например, если кто-то использует бета-распределение для моделирования распределения параметра p распределения Бернулли , то:

Сами гиперпараметры могут иметь гипераприорные распределения, выражающие убеждения об их значениях. Байесовская модель с более чем одним априорным уровнем называется иерархической байесовской моделью .