Информационная метрика Фишера

В информационной геометрии информационная метрика Фишера — это особая риманова метрика , которая может быть определена на гладком статистическом многообразии , т . е . на гладком многообразии , точки которого являются вероятностными мерами, заданными на общем вероятностном пространстве . Его можно использовать для расчета информационной разницы между измерениями.

Метрика интересна в нескольких отношениях. По теореме Ченцова информационная метрика Фишера на статистических моделях является единственной римановой метрикой (с точностью до масштабирования), которая инвариантна при достаточной статистике . ^[1]^[2]

Его также можно понимать как бесконечно малую форму относительной энтропии ( т . е. расхождение Кульбака-Лейблера ); в частности, это гессиан дивергенции. С другой стороны, это можно понимать как метрику, индуцированную евклидовой метрикой плоского пространства после соответствующих замен переменной. При расширении до комплексного проективного гильбертова пространства оно становится метрикой Фубини – Штуди ; при записи в терминах смешанных состояний это квантовая метрика Бюреса .

Рассматриваемая исключительно как матрица, она известна как информационная матрица Фишера . Рассматриваемый как метод измерения, в котором он используется для оценки скрытых параметров с точки зрения наблюдаемых случайных величин, он известен как наблюдаемая информация .

Учитывая статистическое многообразие с координатами , можно написать для распределения вероятностей как функцию . Здесь взято из пространства значений R для (дискретной или непрерывной) случайной величины X . Вероятность нормирована по ${\ Displaystyle \ тета = (\ тета _ {1}, \ тета _ {2}, \ ldots, \ тета _ {п})}$ $p(x,\theta )$ $\theta$ $x$ $\int _{X}p(x,\theta )\,dx=1$

Интеграл выполняется по всем значениям x в X . Переменная теперь является координатой на римановом многообразии . Метки j и k обозначают локальные оси координат на многообразии. $\theta$