Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску
Набор всех нормальных распределений образует статистическое многообразие с гиперболической геометрией .

Информационная геометрия - это междисциплинарная область, которая применяет методы дифференциальной геометрии для изучения теории вероятностей и статистики . Он изучает статистические многообразия , которые являются римановыми многообразиями , точки которых соответствуют распределениям вероятностей .

Введение [ править ]

Исторически сложилось так, что информационная геометрия восходит к работам Р. Р. Рао , который первым трактовал матрицу Фишера как риманову метрику . [1] [2] Современная теория во многом обязана Шунити Амари , работа которого оказала большое влияние на развитие этой области. [ необходима цитата ]

Классически информационная геометрия рассматривала параметризованную статистическую модель как риманово многообразие . Для таких моделей существует естественный выбор римановой метрики, известной как информационная метрика Фишера . В частном случае, когда статистическая модель является экспоненциальным семейством , можно индуцировать статистическое многообразие с метрикой Гессе (т. Е. Римановой метрикой, заданной потенциалом выпуклой функции). В этом случае многообразие естественным образом наследует две плоские аффинные связности , а также каноническую расходимость Брегмана. Исторически сложилось так, что большая часть работы была посвящена изучению геометрии, связанной с этими примерами. В современных условиях информационная геометрия применяется к гораздо более широкому контексту, включая неэкспоненциальные семейства, непараметрическую статистику и даже абстрактные статистические многообразия, не вызванные известной статистической моделью. Результаты сочетают в себе методы теории информации , аффинной дифференциальной геометрии , выпуклого анализа и многих других областей.

Стандартные ссылки в области являются Шуничи Амари и книги Хироси Нагаока, методы информационной геометрии , [3] и более поздние книга Нихат Ay и другие. [4] Мягкое введение дано в обзоре Фрэнка Нильсена. [5] В 2018 году вышел журнал « Информационная геометрия» , посвященный данной тематике.

Авторы [ править ]

История информационной геометрии связана с открытиями по крайней мере следующих людей и многих других.

  • Рональд Фишер
  • Харальд Крамер
  • Калимпуди Радхакришна Рао
  • Гарольд Джеффрис
  • Соломон Кульбак
  • Жан-Луи Кошул
  • Ричард Лейблер
  • Клод Шеннон
  • Имре Цисар
  • Н. Н. Ченцов (также пишется как Ченцов)
  • Брэдли Эфрон
  • Шунити Амари
  • Оле Барндорф-Нильсен
  • Франк Нильсен
  • Дамиано Бриго
  • AWF Эдвардс
  • Грант Хиллиер
  • Кис Ян Ван Гардерен

Приложения [ править ]

Как междисциплинарная область, информационная геометрия используется в различных приложениях.

Вот неполный список:

  • Статистические выводы
  • Временные ряды и линейные системы
  • Квантовые системы
  • Нейронные сети
  • Машинное обучение
  • Статистическая механика
  • Биология
  • Статистика
  • Математические финансы

См. Также [ править ]

  • Геометрия Руппайнера
  • Дивергенция Кульбака – Лейблера.

Ссылки [ править ]

  1. Перейти ↑ Rao, CR (1945). «Информация и достижимая точность при оценке статистических параметров». Бюллетень Калькуттского математического общества . 37 : 81–91.Перепечатано в « Прорыве в статистике» . Springer. 1992. С. 235–247. DOI : 10.1007 / 978-1-4612-0919-5_16 .
  2. Перейти ↑ Nielsen, F. (2013). "Нижняя граница Крамера-Рао и информационная геометрия". In Bhatia, R .; Раджан, CS (ред.). Connected at Infinity II: О работе индийских математиков . Специальный том текстов и материалов по математике (TRIM). Книжное агентство Индостан. arXiv : 1301,3578 . ISBN 978-93-80250-51-9.
  3. ^ Амари, Шунити; Нагаока, Хироши (2000). Методы информационной геометрии . Переводы математических монографий. 191 . Американское математическое общество. ISBN 0-8218-0531-2.
  4. ^ Ай, Нихат; Йост, Юрген ; Ле, Хонг Ван; Шваххёфер, Лоренц (2017). Информационная геометрия . Ergebnisse der Mathematik und ihrer Grenzgebiete. 64 . Springer. ISBN 978-3-319-56477-7.
  5. ^ Нильсен, Франк (2018). «Элементарное введение в информационную геометрию». arXiv : 1808.08271 . Cite journal requires |journal= (help)

Дальнейшее чтение [ править ]

  • Амари, Шунити (1985). Дифференциально-геометрические методы в статистике . Конспект лекций по статистике. Берлин: Springer-Verlag. ISBN 0-387-96056-2.
  • Мюррей, М .; Райс, Дж. (1993). Дифференциальная геометрия и статистика . Монографии по статистике и прикладной теории вероятностей. 48 . Чепмен и Холл . ISBN 0-412-39860-5.
  • Касс, RE; Вос, П. У. (1997). Геометрические основы асимптотического вывода . Серии по вероятности и статистике. Вайли. ISBN 0-471-82668-5.
  • Marriott, Пол; Лосось, Марк, ред. (2000). Приложения дифференциальной геометрии к эконометрике . Издательство Кембриджского университета. ISBN 0-521-65116-6.

Внешние ссылки [ править ]

  • [1] Журнал "Информационная геометрия" Springer.
  • Обзор информационной геометрии , Косма Рохилла Шализи, июль 2010 г.
  • Заметки по информационной геометрии Джона Баэза , ноябрь 2012 г.
  • Информационная геометрия для нейронных сетей (pdf) , Даниэль Вагенаар