Радиальная базисная функция

Радиальная базисная функция ( RBF ) является вещественной функцией , значение которого зависит только от расстояния между входом и некоторой фиксированной точкой, либо происхождениями , так что , или какой -либо другая неподвижной точкой , называется центром , так что . Любая функция , удовлетворяющая этому свойству, является радиальной функцией . Расстояние обычно представляет собой евклидово расстояние , хотя иногда используются другие метрики . Они часто используются в качестве набора, который формирует основу для интересующего функционального пространства , отсюда и название. ${\ textstyle \ varphi}$ ${\ textstyle \ varphi (\ mathbf {x}) = \ varphi (\ left \ | \ mathbf {x} \ right \ |)}$ ${\ textstyle \ mathbf {c}}$ ${\ textstyle \ varphi (\ mathbf {x}) = \ varphi (\ left \ | \ mathbf {x} - \ mathbf {c} \ right \ |)}$ ${\ textstyle \ varphi}$ ${\ textstyle \ varphi (\ mathbf {x}) = \ varphi (\ left \ | \ mathbf {x} \ right \ |)}$ ${\ displaystyle \ {\ varphi _ {k} \} _ {k}}$

Суммы радиальных базисных функций обычно используются для аппроксимации заданных функций . Этот процесс аппроксимации также можно интерпретировать как простой вид нейронной сети ; Это был контекст, в котором они первоначально применялись к машинному обучению в работе Дэвида Брумхеда и Дэвида Лоу в 1988 году ^[1]^[2], которая возникла из основополагающего исследования Майкла Дж. Д. Пауэлла в 1977 году ^[3]^[4].^[5] RBF также используются в качестве ядра в классификации опорных векторов . ^[6]Этот метод оказался достаточно эффективным и гибким, поэтому радиальные базисные функции теперь применяются во множестве инженерных приложений. ^[7]^[8]

Определение [ править ]

Радиальная функция - это функция . В сочетании с метрикой в векторном пространстве функция называется радиальным ядром с центром в . Радиальная функция и связанные с ней радиальные ядра называются радиальными базисными функциями, если для любого набора узлов ${\ textstyle \ varphi: [0, \ infty) \ to \ mathbb {R}}$ ${\ textstyle \ | \ cdot \ |: от V \ к [0, \ infty)}$ ${\ textstyle \ varphi _ {\ mathbf {c}} = \ varphi (\ | \ mathbf {x} - \ mathbf {c} \ |)}$ ${\ textstyle \ mathbf {c}}$ ${\ displaystyle \ {\ mathbf {x} _ {k} \} _ {k = 1} ^ {n}}$

Ядра являются линейно независимыми (например , в не радиальной базисной функции) ${\ displaystyle \ varphi _ {\ mathbf {x} _ {1}}, \ varphi _ {\ mathbf {x} _ {2}}, \ dots, \ varphi _ {\ mathbf {x} _ {n}} }$ ${\ Displaystyle \ varphi (г) = г ^ {2}}$ ${\ Displaystyle V = \ mathbb {R}}$

Ядра составляют основу пространства Хаара , а это означает, что матрица интерполяции ${\ displaystyle \ varphi _ {\ mathbf {x} _ {1}}, \ varphi _ {\ mathbf {x} _ {2}}, \ dots, \ varphi _ {\ mathbf {x} _ {n}} }$

{\begin{bmatrix}\varphi (\|\mathbf {x} _{1}-\mathbf {x} _{1}\|)&\varphi (\|\mathbf {x} _{2}-\mathbf {x} _{1}\|)&\dots &\varphi (\|\mathbf {x} _{n}-\mathbf {x} _{1}\|)\\\varphi (\|\mathbf {x} _{1}-\mathbf {x} _{2}\|)&\varphi (\|\mathbf {x} _{2}-\mathbf {x} _{2}\|)&\dots &\varphi (\|\mathbf {x} _{n}-\mathbf {x} _{2}\|)\\\vdots &\vdots &\ddots &\vdots \\\varphi (\|\mathbf {x} _{1}-\mathbf {x} _{n}\|)&\varphi (\|\mathbf {x} _{2}-\mathbf {x} _{n}\|)&\dots &\varphi (\|\mathbf {x} _{n}-\mathbf {x} _{n}\|)\\\end{bmatrix}}

неособен. ^[9]^[10]

Примеры [ править ]

Обычно используемые типы радиальных базисных функций включают (запись и использование для указания параметра формы, который может использоваться для масштабирования входных данных радиального ядра ^[11] ): ${\textstyle r=\left\|\mathbf {x} -\mathbf {x} _{i}\right\|}$ ${\textstyle \varepsilon }$

Бесконечно гладкие RBF

Эти радиальные базисные функции являются строго положительно определенными функциями ^[12], которые требуют настройки параметра формы. $C^{\infty }(\mathbb {R} )$ $\varepsilon$

Гауссовский : $\varphi (r)=e^{-(\varepsilon r)^{2}}$

Функция Гаусса для нескольких вариантов .

\varepsilon

График масштабированной функции Bump с несколькими вариантами выбора .

\varepsilon

Мультиквадрический : $\varphi (r)={\sqrt {1+(\varepsilon r)^{2}}}$

Обратный квадратичный : $\varphi (r)={\dfrac {1}{1+(\varepsilon r)^{2}}}$

Обратный мультиквадрик : $\varphi (r)={\dfrac {1}{\sqrt {1+(\varepsilon r)^{2}}}}$

Полигармонический сплайн : ${\begin{aligned}\varphi (r)&=r^{k},&k&=1,3,5,\dotsc \\\varphi (r)&=r^{k}\ln(r),&k&=2,4,6,\dotsc \end{aligned}}$ * Для четной степени полигармонических сплайнов , чтобы избежать численных проблем при котором вычислительная реализации часто пишутся как . $(k=2,4,6,\dotsc )$ $r=0$ $\ln(0)=-\infty$ $\varphi (r)=r^{k-1}\ln(r^{r})$

Тонкопластинчатый шлиц (специальный полигармонический сплайн): $\varphi (r)=r^{2}\ln(r)$

Компактно поддерживаемые RBF

Эти RBF имеют компактный носитель и, следовательно, не равны нулю только в пределах радиуса , и поэтому имеют разреженные матрицы дифференцирования $1/\varepsilon$

Функция удара :

\varphi (r)={\begin{cases}\exp \left(-{\frac {1}{1-(\varepsilon r)^{2}}}\right)&{\mbox{ for }}r<{\frac {1}{\varepsilon }}\\0&{\mbox{ otherwise}}\end{cases}}

Приближение [ править ]

Радиальные базисные функции обычно используются для построения аппроксимации функций вида

y(\mathbf {x} )=\sum _{i=1}^{N}w_{i}\,\varphi (\left\|\mathbf {x} -\mathbf {x} _{i}\right\|),

где аппроксимирующая функция представлена как сумма радиальных базисных функций, каждая из которых связана с различным центром и взвешена соответствующим коэффициентом . Веса можно оценить с помощью матричных методов линейных наименьших квадратов , поскольку аппроксимирующая функция линейна по весам. . ${\textstyle y(\mathbf {x} )}$ $N$ ${\textstyle \mathbf {x} _{i}}$ ${\textstyle w_{i}.}$ ${\textstyle w_{i}}$ ${\textstyle w_{i}}$

Приближенные схемы такого типа были использованы в частности , ^{[ править ]} в прогнозировании временных рядов и управления в нелинейных системах , проявляющего достаточно простое хаотическое поведение и 3D - реконструкции в области компьютерной графики (например, иерархического RBF и Pose Space Деформация ).

Сеть RBF [ править ]

Две ненормализованные гауссовские радиальные базисные функции в одном входном измерении. Базовые функциональные центры расположены в и .

{\textstyle x_{1}=0.75}

{\textstyle x_{2}=3.25}

Сумма

y(\mathbf {x} )=\sum _{i=1}^{N}w_{i}\,\varphi (\left\|\mathbf {x} -\mathbf {x} _{i}\right\|),

может также интерпретироваться как довольно простой однослойный тип искусственной нейронной сети, называемый сетью радиальных базисных функций , с радиальными базисными функциями, берущими на себя роль функций активации сети. Можно показать, что любую непрерывную функцию на компактном интервале в принципе можно интерполировать с любой точностью суммой такого вида, если использовать достаточно большое количество радиальных базисных функций. ${\textstyle N}$

Аппроксиманта дифференцируема по весам . Таким образом, веса можно было узнать, используя любой из стандартных итерационных методов для нейронных сетей. ${\textstyle y(\mathbf {x} )}$ ${\textstyle w_{i}}$

Использование радиальных базисных функций таким образом дает разумный подход к интерполяции при условии, что набор подгонки был выбран таким, что он систематически охватывает весь диапазон (идеально расположены точки данных на одинаковом расстоянии). Однако без полиномиального члена, который ортогонален радиальным базисным функциям, оценки за пределами подгоночного набора имеют тенденцию работать плохо. ^{[ необходима цитата ]}

См. Также [ править ]

Ковариационная функция Матерна
Радиальная интерполяция базисной функции

Ссылки [ править ]

^ Радиальная базисная функция сети Архивировано 2014-04-23 в Wayback Machine
^ Broomhead, David H .; Лоу, Дэвид (1988). «Многопараметрическая функциональная интерполяция и адаптивные сети» (PDF) . Сложные системы . 2 : 321–355. Архивировано из оригинального (PDF) 14 июля 2014 года.
^ Майкл Дж. Д. Пауэлл (1977). «Перезапустить процедуры для метода сопряженных градиентов». Математическое программирование . 12 (1): 241–254. DOI : 10.1007 / bf01593790 . S2CID 9500591 .
^ Sahin, Фера (1997). Подход радиальной базовой функции к проблеме классификации цветных изображений в промышленном приложении реального времени (M.Sc.). Virginia Tech . п. 26. hdl : 10919/36847 . Радиальные базисные функции были впервые введены Пауэллом для решения реальной многомерной интерполяционной задачи.
^ Broomhead & Lowe 1988 , стр. 347: «Мы хотели бы поблагодарить профессора М.Д. Пауэлла с факультета прикладной математики и теоретической физики Кембриджского университета за начальный стимул для этой работы».
^ VanderPlas, Джейк (6 мая 2015). «Введение в машины опорных векторов» . [О'Рейли] . Дата обращения 14 мая 2015 .
^ Бухманн, Мартин Дитрих (2003). Радиальные базисные функции: теория и реализации . Издательство Кембриджского университета. ISBN 978-0511040207. OCLC 56352083 .
^ Biancolini, Marco Эвенджелос (2018). Быстрые радиальные базисные функции для инженерных приложений . Издательство Springer International. ISBN 9783319750118. OCLC 1030746230 .
^ Fasshauer, Gregory E. (2007). Бессеточные методы аппроксимации с помощью MATLAB . Сингапур: World Scientific Publishing Co. Pte. Ltd. С. 17–25. ISBN 9789812706331.
Перейти ↑ Wendland, Holger (2005). Аппроксимация разрозненных данных . Кембридж: Издательство Кембриджского университета. С. 11, 18–23, 64–66. ISBN 0521843359.
^ Fasshauer, Gregory E. (2007). Бессеточные методы аппроксимации с помощью MATLAB . Сингапур: World Scientific Publishing Co. Pte. ООО п. 37. ISBN 9789812706331.
^ Fasshauer, Gregory E. (2007). Бессеточные методы аппроксимации с помощью MATLAB . Сингапур: World Scientific Publishing Co. Pte. Ltd. С. 37–45. ISBN 9789812706331.

Дальнейшее чтение [ править ]

Эта статья включает в себя список общих ссылок , но он остается в основном непроверенным, поскольку в нем отсутствуют соответствующие встроенные ссылки . Пожалуйста, помогите улучшить эту статью, добавив более точные цитаты. ( Июнь 2013 г. ) ( Узнайте, как и когда удалить этот шаблон сообщения )

Харди, Р.Л. (1971). «Мультиквадрические уравнения топографии и других нерегулярных поверхностей». Журнал геофизических исследований . 76 (8): 1905–1915. Bibcode : 1971JGR .... 76.1905H . DOI : 10,1029 / jb076i008p01905 .
Харди, Р.Л. (1990). "Теория и приложения многоквадратично-бигармонического метода, 20 лет открытий, 1968 1988". Комп. Math Applic . 19 (8/9): 163–208. DOI : 10.1016 / 0898-1221 (90) 90272-л .
Нажмите, WH; Теукольский С.А.; Феттерлинг, штат Вашингтон; Фланнери, Б.П. (2007), «Раздел 3.7.1. Интерполяция радиальной базисной функции» , Численные рецепты: Искусство научных вычислений (3-е изд.), Нью-Йорк: Cambridge University Press, ISBN 978-0-521-88068-8
Сираяноне, С., 1988, Сравнительные исследования кригинга, мультиквадратично-бигармонического и других методов решения проблем минеральных ресурсов, доктор философии. Диссертация, кафедра наук о Земле, Государственный университет Айовы, Эймс, Айова.
Sirayanone, S .; Харди, Р.Л. (1995). «Многоквадратично-бигармонический метод, используемый для минеральных ресурсов, метеорологических и других приложений». Журнал прикладных наук и вычислений . 1 : 437–475.

[1] Радиальная базисная функция сети Архивировано 2014-04-23 в Wayback Machine

[2] Broomhead, David H .; Лоу, Дэвид (1988). «Многопараметрическая функциональная интерполяция и адаптивные сети» (PDF) . Сложные системы . 2 : 321–355. Архивировано из оригинального (PDF) 14 июля 2014 года.

[3] Майкл Дж. Д. Пауэлл (1977). «Перезапустить процедуры для метода сопряженных градиентов». Математическое программирование . 12 (1): 241–254. DOI : 10.1007 / bf01593790 . S2CID 9500591 .

[4] Sahin, Фера (1997). Подход радиальной базовой функции к проблеме классификации цветных изображений в промышленном приложении реального времени (M.Sc.). Virginia Tech . п. 26. hdl : 10919/36847 . Радиальные базисные функции были впервые введены Пауэллом для решения реальной многомерной интерполяционной задачи.

[CITEREFBroomheadLowe1988-5] Broomhead & Lowe 1988 , стр. 347: «Мы хотели бы поблагодарить профессора М.Д. Пауэлла с факультета прикладной математики и теоретической физики Кембриджского университета за начальный стимул для этой работы».

[6] VanderPlas, Джейк (6 мая 2015). «Введение в машины опорных векторов» . [О'Рейли] . Дата обращения 14 мая 2015 .

[7] Бухманн, Мартин Дитрих (2003). Радиальные базисные функции: теория и реализации . Издательство Кембриджского университета. ISBN 978-0511040207. OCLC 56352083 .

[8] Biancolini, Marco Эвенджелос (2018). Быстрые радиальные базисные функции для инженерных приложений . Издательство Springer International. ISBN 9783319750118. OCLC 1030746230 .

[9] Fasshauer, Gregory E. (2007). Бессеточные методы аппроксимации с помощью MATLAB . Сингапур: World Scientific Publishing Co. Pte. Ltd. С. 17–25. ISBN 9789812706331.

[wendland2005-10] Перейти ↑ Wendland, Holger (2005). Аппроксимация разрозненных данных . Кембридж: Издательство Кембриджского университета. С. 11, 18–23, 64–66. ISBN 0521843359.

[11] Fasshauer, Gregory E. (2007). Бессеточные методы аппроксимации с помощью MATLAB . Сингапур: World Scientific Publishing Co. Pte. ООО п. 37. ISBN 9789812706331.

[12] Fasshauer, Gregory E. (2007). Бессеточные методы аппроксимации с помощью MATLAB . Сингапур: World Scientific Publishing Co. Pte. Ltd. С. 37–45. ISBN 9789812706331.

[1]