В математике , метод Лапласа , названный после того, как Лаплас , является методом , используемым для аппроксимации интегралов вида
где - дважды дифференцируемая функция , M - большое число, и конечные точки a и b могут быть бесконечными. Первоначально эта техника была представлена у Лапласа (1774 г.) .
Идея метода Лапласа
Предположим, что функция имеет уникальный глобальный максимум в точке x 0 . Пусть M - константа, и рассмотрим следующие две функции:
Обратите внимание, что x 0 будет глобальным максимумом а также также. Теперь обратите внимание:
С увеличением M отношение для будет расти экспоненциально, а отношение не меняется. Таким образом, значительный вклад в интеграл этой функции будет исходить только от точки х в окрестностях из й 0 , который затем может быть оценены.
Общая теория метода Лапласа
Чтобы сформулировать и мотивировать метод, нам потребуется несколько предположений. Будем считать, что x 0 не является конечной точкой интервала интегрирования, что значения не может быть очень близко к если x не близок к x 0 , и что
Мы можем расширить около x 0 по теореме Тейлора ,
где (см .: большое обозначение O ).
С имеет глобальный максимум в x 0 , и поскольку x 0 не является конечной точкой, это стационарная точка , поэтому производная отобращается в нуль при x 0 . Следовательно, функция может быть приближен к квадратичному порядку
для x, близкого к x 0 (напомним). Предположения обеспечивают точность приближения
(см. картинку справа). Этот последний интеграл является гауссовским интегралом, если пределы интегрирования изменяются от −∞ до + ∞ (что можно предположить, поскольку экспонента очень быстро затухает при удалении от x 0 ), и, таким образом, его можно вычислить. Мы нашли
Обобщение этого метода и его расширение до произвольной точности предоставлено Фогом (2008) .
Официальное заявление и доказательство
Предполагать является дважды непрерывно дифференцируемой функцией на и существует единственная точка такой, что:
Потом:
Нижняя граница: Пусть. С непрерывно существует так что если тогда По теореме Тейлора для любого
Тогда у нас есть следующая нижняя оценка:
где последнее равенство получено заменой переменных
Помнить так что мы можем извлечь квадратный корень из отрицания.
Если разделить обе части указанного неравенства на
и возьмем предел, получим:
поскольку это верно для произвольных получаем нижнюю границу:
Обратите внимание, что это доказательство работает также, когда или же (или оба).
Верхняя оценка: доказательство аналогично доказательству нижней оценки, но с некоторыми неудобствами. Снова начнем с выбора но для того, чтобы доказательства сработали, нам нужно достаточно маленький, чтобы Тогда, как и выше, по непрерывности и теоремы Тейлора мы можем найти так что если , тогда
Наконец, по нашим предположениям (при условии, что конечны) существует так что если , тогда .
Затем мы можем вычислить следующую верхнюю границу:
Если разделить обе части указанного неравенства на
и возьмем предел, получим:
С произвольно, получаем верхнюю границу:
И объединение этого с нижней границей дает результат.
Обратите внимание, что приведенное выше доказательство, очевидно, не выполняется, когда или же (или оба). Чтобы разобраться в этих случаях, нам нужны дополнительные предположения. Достаточным (не необходимым) предположением является то, что для
и что число как указано выше (обратите внимание, что это должно быть предположение в случае, когда интервал бесконечно). Доказательство проводится иначе, как указано выше, но с несколько другим приближением интегралов:
Когда мы делим на
мы получаем за этот срок
чей предел как является . Остальная часть доказательства (анализ интересующего термина) проводится, как указано выше.
Данное условие в случае бесконечного интервала, как сказано выше, является достаточным, но не необходимым. Однако это условие выполняется во многих, если не в большинстве, приложениях: условие просто говорит, что изучаемый нами интеграл должен быть четко определенным (не бесконечным) и что максимум функции в точке должен быть "истинным" максимумом (число должен существовать). Нет необходимости требовать конечности интеграла при но достаточно потребовать конечности интеграла для некоторого
Этот метод основан на 4 основных понятиях, таких как
- 1. Относительная ошибка
«Приближение» в этом методе связано с относительной ошибкой, а не с абсолютной ошибкой . Следовательно, если мы положим
интеграл можно записать как
где это небольшое число, когда очевидно, большое число, и относительная погрешность будет
Теперь разделим этот интеграл на две части: регион и остальное.
- 2. вокруг стационарной точки, когда достаточно большой
Давайте посмотрим на разложение Тейлора извокруг x 0 и переведем x в y, потому что мы проводим сравнение в y-пространстве, мы получим
Обратите внимание, что так как неподвижная точка. Из этого уравнения вы обнаружите, что члены выше второй производной в этом разложении Тейлора подавляются как порядок чтобы приблизится к функции Гаусса, как показано на рисунке. Кроме,
- 3. Чем больше есть, меньший диапазон относится
Поскольку мы делаем сравнение в y-пространстве, фиксируется в что вызовет ; тем не мение, обратно пропорционально , выбранный регион будет меньше, когда увеличена.
- 4. Если интеграл в методе Лапласа сходится, вклад области, которая не находится вокруг стационарной точки интегрирования его относительной ошибки, будет стремиться к нулю, как растет.
Опираясь на 3-ю концепцию, даже если мы выберем очень большое значение D y , sD y в конечном итоге будет очень маленьким числом, когдаувеличено до огромного числа. Тогда как мы можем гарантировать, что интеграл остатка будет стремиться к 0, когда достаточно большой?
Основная идея - найти функцию такой, что и интеграл будет стремиться к нулю, когда растет. Поскольку экспоненциальная функция от всегда будет больше нуля, пока является действительным числом, и эта экспоненциальная функция пропорциональна интеграл будет стремиться к нулю. Для простоты выберитекак касательная через точку как показано на рисунке:
Если интервал интегрирования этого метода конечен, мы обнаружим, что независимо от продолжается в остальной области, она всегда будет меньше, чем показано выше, когда достаточно большой. Кстати, позже будет доказано, что интеграл от будет стремиться к нулю, когда достаточно большой.
Если интервал интегрирования этого метода бесконечен, а также могут всегда переходить друг к другу. В таком случае мы не можем гарантировать, что интеграл отв конечном итоге будет стремиться к нулю. Например, в случае всегда будет расходиться. Следовательно, нам нужно потребовать, чтобыможет сходиться в случае бесконечного интервала. В таком случае этот интеграл будет стремиться к нулю, когда достаточно большой, и мы можем выбрать это как крест а также
Вы можете спросить, почему бы не выбрать как сходящийся интеграл? Позвольте мне показать вам причину на примере. Предположим, что остальная часть является тогда и его интеграл будет расходиться; однако, когда интеграл сходится. Итак, интеграл от некоторых функций будет расходиться при не большое число, но они сойдутся, когда достаточно большой.
Основываясь на этих четырех концепциях, мы можем вывести относительную погрешность этого метода Лапласа.
Другие составы
Приближение Лапласа иногда записывают как
где положительный.
Важно отметить, что точность приближения зависит от переменной интегрирования, то есть от того, что остается в и что входит в . [1]
Во-первых, используйте для обозначения глобального максимума, который упростит этот вывод. Нас интересует относительная погрешность, записанная как,
где
Итак, если мы позволим
а также , мы можем получить
поскольку .
Относительно верхней границы отметим, что таким образом, мы можем разделить эту интеграцию на 5 частей с 3 различными типами (a), (b) и (c) соответственно. Следовательно,
где а также похожи, давайте просто посчитаем а также а также тоже похожи, я просто подсчитаю .
Для , после перевода , мы можем получить
Это означает, что пока достаточно большой, он будет стремиться к нулю.
Для , мы можем получить
где
а также должен иметь такой же знак в этом регионе. Давайте выберем как касательная через точку в , т.е. что показано на рисунке
Из этого рисунка видно, что когда или же становится меньше, область, удовлетворяющая указанному выше неравенству, станет больше. Поэтому, если мы хотим найти подходящий покрыть все в интервале , будет иметь верхний предел. Кроме того, поскольку интеграция прост, позвольте мне использовать его, чтобы оценить относительную ошибку, вносимую этим .
Основываясь на разложении Тейлора, мы можем получить
а также
а затем подставьте их обратно в расчет ; однако вы можете обнаружить, что остатки этих двух расширений обратно пропорциональны квадратному корню из, позвольте мне выкинуть их, чтобы украсить расчет. Лучше хранить их, но это сделает формулу уродливее.
Следовательно, он будет стремиться к нулю, когда становится больше, но не забывайте, что верхняя граница следует учитывать при этом расчете.
Об интеграции рядом , мы также можем использовать теорему Тейлора для его вычисления. Когда
и вы можете обнаружить, что он обратно пропорционален квадратному корню из . По факту, будет вести себя так же, когда является константой.
В итоге интеграл вблизи стационарной точки станет меньше при становится больше, а остальные части будут стремиться к нулю, пока достаточно большой; однако мы должны помнить, что имеет верхний предел, который определяется тем, будет ли функция всегда больше чем в остальном регионе. Однако пока мы можем найти удовлетворяющее этому условию, верхняя оценка можно выбрать прямо пропорциональным поскольку является касательной через точку в . Итак, чем больше это больше может быть.
В многомерном случае, когда это -мерный вектор и является скалярной функцией от , Приближение Лапласа обычно записывается как:
где является матрицей Гесса из оценивается в и где обозначает определитель матрицы . Аналогично одномерному случаю требуется, чтобы гессиан был отрицательно определенным . [2]
Кстати, хотя обозначает -мерный вектор, член здесь обозначает бесконечно малый объем , т.е..
Расширение метода Лапласа: крутой спуск
В расширениях метода Лапласа комплексный анализ и, в частности , интегральная формула Коши , используются для нахождения контура наискорейшего спуска для (асимптотически с большим M ) эквивалентного интеграла, выраженного в виде линейного интеграла . В частности, если нет точки x 0, в которой производнаяисчезает на реальной прямой, возможно, потребуется деформировать контур интегрирования до оптимального, где вышеупомянутый анализ будет возможен. И снова основная идея состоит в том, чтобы сократить, по крайней мере асимптотически, вычисление данного интеграла до вычисления более простого интеграла, который может быть вычислен явно. См. Книгу Эрдели (1956) для простого обсуждения (где метод называется наискорейшим спуском ).
Подходящая формулировка для комплексной плоскости z :
для пути, проходящего через седловую точку в точке z 0 . Обратите внимание на явное появление знака минус, указывающего направление второй производной: модуль нельзя брать. Также обратите внимание, что если подынтегральное выражение мероморфно , может потребоваться добавить вычеты, соответствующие полюсам, пройденным при деформации контура (см., Например, раздел 3 статьи Окунькова « Симметричные функции и случайные разбиения» ).
Дальнейшие обобщения
Расширением метода наискорейшего спуска является так называемый метод нелинейной стационарной фазы / наискорейшего спуска . Здесь вместо интегралов необходимо асимптотически оценивать решения задач факторизации Римана – Гильберта .
Для контура C в комплексной сфере функцияопределенная на этом контуре и в специальной точке, скажем на бесконечности, ищется функция M, голоморфная вдали от контура C , с заданным скачком через C и с заданной нормализацией на бесконечности. Еслии, следовательно, M - это матрицы, а не скаляры, это проблема, которая в общем случае не допускает явного решения.
Тогда возможна асимптотическая оценка в соответствии с методом линейной стационарной фазы / наискорейшего спуска. Идея состоит в том, чтобы асимптотически свести решение данной проблемы Римана – Гильберта к решению более простой, явно решаемой проблемы Римана – Гильберта. Теорема Коши используется для обоснования деформаций контура скачка.
Нелинейная стационарная фаза была введена Дейфтом и Чжоу в 1993 году на основе более ранней работы Its. (Собственно говоря) нелинейный метод наискорейшего спуска был введен Камвиссисом, К. Маклафлином и П. Миллером в 2003 году на основе предыдущей работы Лакса, Левермора, Дейфта, Венакидеса и Чжоу. Как и в линейном случае, «контуры наискорейшего спуска» решают задачу минимума-максимума. В нелинейном случае они оказываются «S-образными кривыми» (определенными в другом контексте еще в 80-х годах Шталем, Гончаром и Рахмановым).
Метод нелинейной стационарной фазы / наискорейшего спуска имеет приложения к теории солитонных уравнений и интегрируемым моделям , случайным матрицам и комбинаторике .
Обобщение метода Лапласа: приближение средней точки
В обобщении вычисление интеграла считается эквивалентным нахождению нормы распределения с плотностью
Обозначая кумулятивное распределение , если существует диффеоморфное гауссово распределение с плотностью
норма дается
и соответствующий диффеоморфизм есть
где обозначает кумулятивную стандартную функцию нормального распределения .
В общем случае любое распределение, диффеоморфное гауссову, имеет плотность
а медианная точка отображается на медиану распределения Гаусса. Сопоставление логарифма функций плотности и их производных в средней точке до заданного порядка дает систему уравнений, которые определяют приблизительные значения а также .
Приближение было введено в 2019 году Д. Макогоном и К. Мораисом Смитом в первую очередь в контексте вычисления статистической суммы для системы взаимодействующих фермионов.
Комплексные интегралы
Для комплексных интегралов вида:
с участием делаем замену t = iu и замену переменной чтобы получить двустороннее преобразование Лапласа:
Затем мы разбиваем g ( c + ix ) на действительную и комплексную части, после чего получаем u = t / i . Это полезно для обратных преобразований Лапласа , формулы Перрона и комплексного интегрирования.
Пример: приближение Стирлинга
Метод Лапласа можно использовать для получения приближения Стирлинга.
для большого целого числа N .
Из определения гамма-функции имеем
Теперь сделаем замену переменных, позволив чтобы Вставьте эти значения обратно, чтобы получить
Этот интеграл имеет вид, необходимый для метода Лапласа с
которая дважды дифференцируема:
Максимум лежит в точке z 0 = 1, а вторая производная отв этот момент имеет значение -1. Следовательно, получаем
Смотрите также
- Метод стационарной фазы
- Метод наискорейшего спуска
- Теория больших отклонений
- Принцип Лапласа (теория больших уклонений)
Заметки
- Перейти ↑ Butler, Ronald W (2007). Приближения перевала и приложения . Издательство Кембриджского университета. ISBN 978-0-521-87250-8.
- ^ Маккей, Дэвид JC (сентябрь 2003 г.). Теория информации, логические выводы и алгоритмы обучения . Кембридж: Издательство Кембриджского университета. ISBN 9780521642989.
Рекомендации
- Azevedo-Filho, A .; Shachter, R. (1994), "Аппроксимации метода Лапласа для вероятностного вывода в сетях доверия с непрерывными переменными", в Mantaras, R .; Пул, Д. (ред.), Неопределенность в искусственном интеллекте , Сан-Франциско, Калифорния: Морган Кауфманн , CiteSeerX 10.1.1.91.2064.
- Deift, P .; Чжоу, X. (1993), "Метод наискорейшего спуска для осцилляторных задач Римана – Гильберта. Асимптотика для уравнения MKdV", Ann. математики. , 137 (2), стр. 295–368, arXiv : math / 9201261 , doi : 10.2307 / 2946540 , JSTOR 2946540.
- Эрдели А. (1956), Асимптотические разложения , Дувр..
- Туман, A. (2008), "Методы расчета для Валлениус нецентральные гипергеометрическими Распределение", Связь в статистике, моделирования и вычислений , 37 (2), стр 258-273,. DOI : 10,1080 / 03610910701790269.
- Лаплас, PS (1774), «Mémoires de Mathématique et de Physique, Tome Sixième» [Воспоминания о вероятности причин событий.], Статистическая наука , 1 (3): 366–367, JSTOR 2245476
- Ван, Сян-Шэн; Вонг, Родерик (2007). «Дискретные аналоги приближения Лапласа». Асимптотика. Анальный . 54 (3–4): 165–180.
Эта статья включает материал из аппроксимации седловой точки на PlanetMath , который находится под лицензией Creative Commons Attribution / Share-Alike License .