В теории стохастических процессов , то теорема Карунена-Лоэва ( по имени Kari Карунена и Ло ), также известный как теорема Косамби-Карунена-Лоэв [1] [2] является представлением стохастического процесса в виде бесконечной линейной комбинации из ортогональных функций , аналогичных в ряд Фурье представление функции на ограниченном интервале. Преобразование также известно как преобразование Хотеллинга и преобразование собственного вектора и тесно связано с анализом главных компонентов.(PCA) метод, широко используемый при обработке изображений и анализе данных во многих областях. [3]
Случайные процессы, задаваемые бесконечными сериями этой формы, впервые были рассмотрены Дамодаром Дхарманандой Косамби . [4] [5] Там существует много такого разложения случайного процесса: если процесс индексируется над [ а , Ь ] , любой ортонормированный базис из L 2 ([ , Ь ]) дает разложение из него в этой форме. Важность теоремы Карунена – Лоэва состоит в том, что она дает наилучший такой базис в том смысле, что минимизирует общую среднеквадратичную ошибку .
В отличие от ряда Фурье, где коэффициенты являются фиксированными числами, а базис разложения состоит из синусоидальных функций (то есть функций синуса и косинуса ), коэффициенты в теореме Карунена – Лоэва являются случайными величинами, а базис разложения зависит от процесса. Фактически, ортогональные базисные функции, используемые в этом представлении, определяются ковариационной функцией процесса. Можно подумать, что преобразование Карунена – Лоэва адаптируется к процессу, чтобы создать наилучшую возможную основу для его расширения.
В случае центрированного случайного процесса { X t } t ∈ [ a , b ] ( центрированное означает E [ X t ] = 0 для всех t ∈ [ a , b ] ), удовлетворяющего условию технической непрерывности, X t допускает разложение
где Z к попарно некоррелированные случайные величины и функции е к имеют непрерывные вещественные функции на [ , Ь ] , что попарно ортогональны в L 2 ([ , Ь ]) . Поэтому иногда говорят, что разложение является биортогональным, поскольку случайные коэффициенты Z k ортогональны в вероятностном пространстве, в то время как детерминированные функции e k ортогональны во временной области. Общий случай нецентрированного процесса X t может быть возвращен к случаю центрированного процесса, рассматривая X t - E [ X t ], который является центрированным процессом.
Более того, если процесс гауссовский , то случайные величины Z k гауссовы и стохастически независимы . Этот результат обобщает преобразование Карунена – Лоэва . Важным примером центрированного реального случайного процесса на [0, 1] является винеровский процесс ; теорема Карунена – Лоэва может быть использована, чтобы дать ей каноническое ортогональное представление. В этом случае разложение состоит из синусоидальных функций.
В этой статье мы будем рассматривать интегрируемый с квадратом случайный процесс X t с нулевым средним, определенный в вероятностном пространстве (Ω, F , P ) и проиндексированный на отрезке [ a , b ] , с ковариационной функцией K X ( s , т ) . Таким образом, мы имеем:
Поскольку T K X - линейный оператор, имеет смысл говорить о его собственных значениях λ k и собственных функциях e k , которые находятся при решении однородного интегрального уравнения Фредгольма второго рода
Формулировка теоремы
Теорема . Пусть X t - случайный процесс, интегрируемый с нулевым средним квадратом, определенный в вероятностном пространстве (Ω, F , P ) и индексированный на замкнутом и ограниченном интервале [ a , b ] с непрерывной ковариационной функцией K X ( s , t ) .
Тогда K X ( s, t ) - ядро Мерсера, и пусть e k - ортонормированный базис на L 2 ([ a , b ]), образованный собственными функциями T K X с соответствующими собственными значениями λ k , X t, допускает следующее представление
Кроме того, случайные величины Z k имеют нулевое среднее, некоррелированы и имеют дисперсию λ k
Заметим , что при обобщениях теоремы Мерсера можно заменить интервал [ , Ь ] с другими компактными пространствами С и меру Лебега на [ , Ь ] с борелевской мерой, носитель которой C .
Доказательство
Ковариационная функция K X удовлетворяет определению ядра Мерсера. По теореме Мерсера , существует , следовательно , существует множество Л K , е K ( т ) собственных значений и собственных функций T K X , образующих ортогональный базис L 2 ([ , Ь ]) , и К Х может быть выражена как
Процесс X t может быть расширен с помощью собственных функций e k как:
где коэффициенты (случайные величины) Z k задаются проекцией X t на соответствующие собственные функции
Затем мы можем вывести
где мы использовали тот факт, что e k являются собственными функциями T K X и ортонормированы.
Покажем теперь , что сходимость в L 2 . Позволять
Потом:
который стремится к 0 по теореме Мерсера.
Свойства преобразования Карунена – Лоэва.
Частный случай: распределение Гаусса
Поскольку предел в среднем совместно гауссовских случайных величин является совместно гауссовским, а совместно гауссовские случайные (центрированные) переменные являются независимыми тогда и только тогда, когда они ортогональны, мы также можем заключить:
Теорема . Переменные Z i имеют совместное гауссовское распределение и стохастически независимы, если исходный процесс { X t } t является гауссовским.
В гауссовском случае, поскольку переменные Z i независимы, мы можем сказать больше:
почти наверняка.
Преобразование Карунена – Лоэва декоррелирует процесс
Это следствие независимости Z k .
Разложение Карунена – Лоэва минимизирует общую среднеквадратичную ошибку.
Во введении мы упоминали, что усеченное разложение Карунена – Лоэва было наилучшим приближением исходного процесса в том смысле, что оно уменьшает общую среднеквадратичную ошибку, возникающую в результате его усечения. Из-за этого свойства часто говорят, что преобразование KL оптимально уплотняет энергию.
Более конкретно, учитывая любой ортогональный базис { ф к } из L 2 ([ , Ь ]) , мы можем разложить процесс X т , как:
где
и мы можем аппроксимировать X t конечной суммой
для некоторого целого N .
Претензия . Из всех таких приближений KL-приближение минимизирует общую среднеквадратичную ошибку (при условии, что мы расположили собственные значения в порядке убывания).
[Доказательство]
Рассмотрим ошибку, возникающую в результате усечения N -го члена в следующем ортонормированном разложении:
Среднеквадратичная ошибка ε N 2 ( t ) может быть записана как:
Затем мы интегрируем это последнее равенство по [ a , b ]. Ортонормированность f k дает:
Таким образом, задача минимизации полной среднеквадратичной ошибки сводится к минимизации правой части этого равенства при условии, что f k нормализуется. Поэтому мы вводим β k , множители Лагранжа, связанные с этими ограничениями, и стремимся минимизировать следующую функцию:
Другими словами, когда f k выбраны как собственные функции T K X , что приводит к расширению KL.
Объясненная дисперсия
Важное наблюдение состоит в том, что, поскольку случайные коэффициенты Z k разложения KL некоррелированы, формула Биенайме утверждает, что дисперсия X t является просто суммой дисперсий отдельных компонентов суммы:
Интегрируя по [ a , b ] и используя ортонормированность e k , мы получаем, что общая дисперсия процесса равна:
В частности, полная дисперсия N -усеченного приближения равна
В результате N- усеченное расширение объясняет
дисперсии; и если мы довольствуемся приближением, которое объясняет, скажем, 95% дисперсии, тогда нам просто нужно определить такой, что
Расширение Карунена – Лоэва обладает свойством минимальной энтропии представления
Учитывая представление , для некоторого ортонормированного базиса и случайный , мы позволяем , чтобы . Затем мы можем определить энтропию представления как. Тогда у нас есть, для всех вариантов . То есть KL-расширение имеет минимальную энтропию представления.
Доказательство:
Обозначим коэффициенты, полученные для базиса в виде , и для в виде .
Выбирать . Обратите внимание, что поскольку минимизирует среднеквадратичную ошибку, мы имеем
Расширяя правый размер, получаем:
Используя ортонормированность , и расширение в исходя из этого, получаем, что размер правой руки равен:
Мы можем провести идентичный анализ для , и поэтому перепишем вышеупомянутое неравенство как:
Вычитая общий первый член и разделив на , получаем, что:
Это означает, что:
Линейные приближения Карунена – Лоэва.
Рассмотрим целый класс сигналов, которые мы хотим аппроксимировать по первым M векторам базиса. Эти сигналы моделируются как реализации случайного вектора Y [ п ] размера N . Для оптимизации аппроксимации мы разрабатываем базис, который минимизирует среднюю ошибку аппроксимации. Этот раздел доказывает , что оптимальные основания являются Карунено-Лоэва основанием , которые диагонализирующая ковариационной матрицей Y . Случайный вектор Y можно разложить по ортогональному базису
следующим образом:
где каждый
случайная величина. Аппроксимация от первых M ≤ N векторов базиса имеет вид
Из сохранения энергии в ортогональном базисе следует
Эта ошибка связана с ковариацией Y, определяемой
Для любого вектора x [ n ] обозначим через K ковариационный оператор, представленный этой матрицей,
Таким образом, ошибка ε [ M ] является суммой последних N - M коэффициентов ковариационного оператора.
Ковариационный оператор K эрмитов и положителен и поэтому диагонализован в ортогональном базисе, называемом базисом Карунена – Лоэва. Следующая теорема утверждает, что базис Карунена – Лоэва оптимален для линейных приближений.
Теорема (оптимальность базиса Карунена – Лоэва). Пусть K - ковариационный оператор. Для всех M ≥ 1 ошибка аппроксимации
минимален тогда и только тогда, когда
является базисом Карунена – Лоэва, упорядоченным по убыванию собственных значений.
Нелинейное приближение в базисах
Линейные приближения априори проецируют сигнал на M векторов. Приближение можно сделать более точным, выбрав M ортогональных векторов в зависимости от свойств сигнала. В этом разделе анализируется общая производительность этих нелинейных приближений. Сигнал аппроксимируется M векторов, выбранных адаптивно в ортонормированном базисе для [ требуется определение ]
Позволять - проекция f на M векторов, индексы которых лежат в I M :
Ошибка аппроксимации складывается из оставшихся коэффициентов
Чтобы минимизировать эту ошибку, индексы в I M должны соответствовать M векторам, имеющим наибольшую амплитуду внутреннего произведения
Это векторы, которые лучше всего коррелируют с f. Таким образом, их можно интерпретировать как основные черты f. Результирующая ошибка обязательно меньше, чем ошибка линейной аппроксимации, которая выбирает M векторов аппроксимации независимо от f. Давайте рассортируем
в порядке убывания
Наилучшее нелинейное приближение
Его также можно записать как внутреннее пороговое значение продукта:
с участием
Нелинейная ошибка равна
эта ошибка быстро стремится к нулю при увеличении M, если отсортированные значения имеют быстрое затухание при увеличении k. Этот распад количественно оценивается путем вычисления норма сигнальных скалярных произведений в B:
Следующая теорема связывает убыль ε [ M ] с
Теорема (убыль ошибки). Еслис p <2, то
а также
Наоборот, если тогда
для любого q > p .
Неоптимальность базисов Карунена – Лоэва.
Чтобы проиллюстрировать разницу между линейными и нелинейными приближениями, мы изучаем разложение простого негауссовского случайного вектора в базисе Карунена – Лоэва. Процессы, реализации которых имеют случайную трансляцию, стационарны. Тогда базис Карунена – Лоэва является базисом Фурье, и мы изучаем его эффективность. Чтобы упростить анализ, рассмотрим случайный вектор Y [ n ] размера N, который представляет собой случайный сдвиг по модулю N детерминированного сигнала f [ n ] с нулевым средним.
Случайный сдвиг P равномерно распределен на [0, N - 1]:
Четко
а также
Следовательно
Поскольку R Y является N периодическим, Y - круговой стационарный случайный вектор. Ковариационный оператор представляет собой круговую свертку с R Y и, следовательно, диагонализован в дискретном базисе Фурье Кархунена – Лоэва.
Спектр мощности представляет собой преобразование Фурье R Y :
Пример: рассмотрим крайний случай, когда. Приведенная выше теорема гарантирует, что базис Фурье, Карунена – Лоэва дает меньшую ожидаемую ошибку аппроксимации, чем канонический базис Дирака.. В самом деле, мы не знаем априори абсцисс ненулевых коэффициентов Y , поэтому не существует конкретного Дирака, который лучше приспособлен для выполнения аппроксимации. Но векторы Фурье покрывают всю опору Y и, таким образом, поглощают часть энергии сигнала.
Выбор более высоких частотных коэффициентов Фурье дает лучшее среднеквадратическое приближение, чем выбор априори нескольких векторов Дирака для выполнения аппроксимации. Совершенно иная ситуация с нелинейными приближениями. Еслитогда дискретный базис Фурье крайне неэффективен, потому что f и, следовательно, Y имеют энергию, которая почти равномерно распределена между всеми векторами Фурье. Напротив, поскольку f имеет только два ненулевых коэффициента в базисе Дирака, нелинейная аппроксимация Y с M ≥ 2 дает нулевую ошибку. [6]
Анализ главных компонентов
Мы установили теорему Карунена – Лоэва и вывели некоторые ее свойства. Мы также отметили, что одним из препятствий в его применении была численная стоимость определения собственных значений и собственных функций его ковариационного оператора через интегральное уравнение Фредгольма второго рода.
Однако применительно к дискретному и конечному процессу , задача принимает гораздо более простой вид, и для выполнения вычислений можно использовать стандартную алгебру.
Обратите внимание, что непрерывный процесс также может быть выбран в N моментов времени, чтобы уменьшить проблему до конечной версии.
В дальнейшем мы рассматриваем случайный N -мерный вектор. Как упоминалось выше, X может содержать N отсчетов сигнала, но может содержать гораздо больше представлений в зависимости от области применения. Например, это могут быть ответы на опрос или экономические данные в эконометрическом анализе.
Как и в непрерывном варианте, мы предполагаем, что X центрировано, иначе мы можем позволить (где это средний вектор из X ) , которая расположена по центру.
Адаптируем процедуру к дискретному случаю.
Ковариационная матрица
Напомним, что основное значение и сложность преобразования KL - это вычисление собственных векторов линейного оператора, связанного с ковариационной функцией, которые задаются решениями интегрального уравнения, записанными выше.
Определим Σ, ковариационную матрицу X , как матрицу N × N , элементы которой задаются следующим образом:
Переписывая приведенное выше интегральное уравнение в соответствии с дискретным случаем, мы видим, что оно превращается в:
где является N -мерным вектором.
Таким образом, интегральное уравнение сводится к простой задаче на собственные значения матрицы, что объясняет, почему PCA имеет такую широкую область применения.
Поскольку Σ является положительно определенной симметричной матрицей, она обладает набором ортонормированных собственных векторов, образующих базис , и мы пишем этот набор собственных значений и соответствующих собственных векторов, перечисленных в порядке убывания значений λ i . Пусть также Φ - ортонормированная матрица, состоящая из этих собственных векторов:
Преобразование главного компонента
Осталось выполнить собственное преобразование KL, которое в данном случае называется преобразованием главных компонентов . Напомним, что преобразование было найдено путем расширения процесса по базису, покрытому собственными векторами ковариационной функции. В этом случае мы имеем:
В более компактной форме преобразование главных компонент X определяется следующим образом:
Я -й компонент Y является, проекция X наа обратное преобразование X = Φ Y дает расширение X на пространство, натянутое на:
Как и в непрерывном случае, мы можем уменьшить размерность задачи, усекая сумму на некотором такой, что
где α - объясненный порог дисперсии, который мы хотим установить.
Мы также можем уменьшить размерность за счет использования многоуровневой оценки доминирующего собственного вектора (MDEE). [7]
Примеры
Винеровский процесс
Существует множество эквивалентных характеристик винеровского процесса, который является математической формализацией броуновского движения . Здесь мы рассматриваем его как центрированный стандартный гауссовский процесс W t с ковариационной функцией
Мы ограничиваем временную область до [ a , b ] = [0,1] без ограничения общности.
Собственные векторы ядра ковариации легко определяются. Эти
а соответствующие собственные значения равны
[Доказательство]
Чтобы найти собственные значения и собственные векторы, нам необходимо решить интегральное уравнение:
дифференцируя один раз по t, получаем:
второе дифференцирование дает следующее дифференциальное уравнение:
Общее решение которого имеет вид:
где A и B - две константы, которые необходимо определить с помощью граничных условий. Установка t = 0 в исходном интегральном уравнении дает e (0) = 0, что означает, что B = 0, и аналогичным образом установка t = 1 в первом дифференцировании дает e ' (1) = 0, откуда:
что, в свою очередь, означает, что собственные значения T K X :
Таким образом, соответствующие собственные функции имеют вид:
Затем A выбирается так, чтобы нормализовать e k :
Это дает следующее представление о винеровском процессе:
Теорема . Существует последовательность { Z i } i независимых гауссовских случайных величин с нулевым средним и дисперсией 1 такая, что
Обратите внимание, что это представление действительно только для На больших интервалах приращения не являются независимыми. Как указано в теореме, сходимость в L 2 нормы и формы в т .
Броуновский мост
Аналогично броуновский мост который представляет собой случайный процесс с ковариационной функцией
можно представить как серию
Приложения
Системы адаптивной оптики иногда используют функции K – L для восстановления информации о фазе волнового фронта (Dai 1996, JOSA A). Разложение Карунена – Лоэва тесно связано с разложением по сингулярным значениям . Последний имеет множество приложений в обработке изображений, радарах, сейсмологии и т. Д. Если есть независимые векторные наблюдения из векторнозначного случайного процесса, то левые сингулярные векторы являются оценками максимального правдоподобия разложения ансамбля KL.
Приложения для оценки и обнаружения сигналов
Обнаружение известного непрерывного сигнала S ( t )
При общении мы обычно должны решить, содержит ли сигнал из зашумленного канала ценную информацию. Следующая проверка гипотез используется для обнаружения непрерывного сигнала s ( t ) с выхода канала X ( t ), N ( t ) - шум канала, который обычно считается гауссовским процессом с нулевым средним с корреляционной функцией.
Обнаружение сигнала в белом шуме
Когда шум канала белый, его корреляционная функция равна
и имеет постоянную спектральную плотность мощности. В физически практическом канале мощность шума конечна, поэтому:
Тогда корреляционная функция шума является функцией sinc с нулями при Поскольку они некоррелированы и гауссовы, они независимы. Таким образом, мы можем брать выборки из X ( t ) с интервалом времени
Позволять . У нас в общей сложности iid наблюдения разработать тест отношения правдоподобия. Определить сигнал, проблема становится,
Отношение логарифмического правдоподобия
При t → 0 пусть:
Тогда G - тестовая статистика, и оптимальный детектор Неймана – Пирсона имеет вид
Поскольку G гауссовский, мы можем охарактеризовать его, найдя его среднее значение и дисперсии. Тогда мы получим
где
- энергия сигнала.
Ошибка ложной тревоги
И вероятность обнаружения:
где Φ - cdf стандартной нормальной или гауссовой переменной.
Обнаружение сигнала в цветном шуме
Когда N (t) окрашен (коррелирован во времени) гауссовский шум с нулевым средним и ковариационной функцией мы не можем произвести выборку независимых дискретных наблюдений, равномерно распределив время. Вместо этого мы можем использовать расширение K – L, чтобы некоррелировать [ проверить орфографию ] шумовой процесс и получить независимые гауссовские «выборки» наблюдений. K – L разложение N ( t ):
где и ортонормированные базы генерируются ядром , т. е. решение
Сделайте расширение:
где , тогда
под H и под К. Пусть , у нас есть
независимые гауссовские с.в. с дисперсией
под H: являются независимыми гауссовскими с.в.
под K: являются независимыми гауссовскими с.в.
Следовательно, log-LR определяется как
и оптимальный детектор
Определять
тогда
Как найти k ( t )
С
k (t) - решение
Если N ( t ) стационарен в широком смысле,
которое известно как уравнение Винера – Хопфа . Уравнение может быть решено с помощью преобразования Фурье, но не реализуемо на практике, поскольку бесконечный спектр требует пространственной факторизации. Частным случаем, который легко вычислить k ( t ), является белый гауссов шум.
Соответствующий импульсный отклик: h ( t ) = k ( T - t ) = CS ( T - t ). Пусть C = 1, это как раз тот результат, к которому мы пришли в предыдущем разделе для обнаружения сигнала в белом шуме.
Порог тестирования для детектора Неймана – Пирсона
Поскольку X (t) - гауссовский процесс,
- гауссова случайная величина, которую можно охарактеризовать своим средним значением и дисперсией.
Отсюда получаем распределения H и K :
Ошибка ложной тревоги
Таким образом, порог проверки оптимального детектора Неймана – Пирсона равен
Его способность обнаружения составляет
Когда шум представляет собой белый гауссовский процесс, мощность сигнала равна
Предварительное отбеливание
Для некоторых типов цветного шума типичной практикой является добавление предварительного отбеливающего фильтра перед согласованным фильтром, чтобы преобразовать цветной шум в белый шум. Например, N (t) - это стационарный цветной шум широкого смысла с корреляционной функцией
Передаточная функция фильтра предварительного отбеливания:
Обнаружение гауссовского случайного сигнала в аддитивном белом гауссовском шуме (AWGN)
Когда сигнал, который мы хотим обнаружить из зашумленного канала, также является случайным, например, белый гауссовский процесс X ( t ), мы все равно можем реализовать расширение K – L, чтобы получить независимую последовательность наблюдений. В этом случае проблема обнаружения описывается следующим образом:
X ( t ) - случайный процесс с корреляционной функцией
K – L-разложение X ( t ) имеет вид
где
а также решения для
Так 's являются независимой последовательностью rv с нулевым средним и дисперсией . Раскладывая Y ( t ) и N ( t ) на, мы получили
где
Поскольку N ( t ) - гауссовский белый шум,- это последовательность идентификаторов rv с нулевым средним и дисперсией , то задача упрощается следующим образом:
Оптимальный тест Неймана – Пирсона:
поэтому логарифмическое отношение правдоподобия
С
это просто минимальная среднеквадратичная оценка дано s,
K – L разложение обладает следующим свойством: Если
где
тогда
Так что давайте
Непричинный фильтр Q ( t , s ) можно использовать для получения оценки через
По принципу ортогональности , Q ( т , ев ) удовлетворяет
Однако по практическим соображениям необходимо дополнительно вывести причинный фильтр h ( t , s ), где h ( t , s ) = 0 для s > t , чтобы получить оценку. Конкретно,
Смотрите также
Анализ главных компонентов
Полиномиальный хаос
Заметки
^ Сапатнекар, Сачин (2011), «Преодоление вариаций в технологиях нанометрового масштаба», IEEE Journal on Emerging and Selected Topics in Circuits and Systems , 1 (1): 5–18, Bibcode : 2011IJEST ... 1 .... 5S , CiteSeerX 10.1.1.300.5659 , DOI : 10,1109 / jetcas.2011.2138250
^Гоман, Сатьяджит; Ван, Чжичунь; Чен, ПК; Капания, Ракеш (2012), Схема упрощенного проектирования на основе POD для оптимизации формы летательных аппаратовНеизвестный параметр |book-title=игнорируется ( справка )
^ Карунена-Лоэва преобразование (КЛТ) , компьютерная обработка изображений и анализа (E161) лекции, Harvey Mudd College
^Раджу, CK (2009), «Косамби-математик», Economic and Политический еженедельник , 44 (20): 33–45.
^Косамби, Д.Д. (1943), «Статистика в функциональном пространстве», Журнал Индийского математического общества , 7 : 76–88, MR 0009816.
↑ Вейвлет-тур по обработке сигналов - Стефан Малла
^ X. Tang, «Информация о текстуре в матрицах длин серий», IEEE Transactions on Image Processing, vol. 7, No. 11, pp. 1602–1609, ноябрь 1998 г.
Рекомендации
Старк, Генри; Вудс, Джон В. (1986). Вероятность, случайные процессы и теория оценок для инженеров . ISBN компании Prentice-Hall, Inc. 978-0-13-711706-2. ПР 21138080М .
Ганем, Роджер; Спанос, Поль (1991). Стохастические конечные элементы: спектральный подход . Springer-Verlag. ISBN 978-0-387-97456-9. ПР 1865197М .
Guikhman, I .; Скороход, А. (1977). Вступление в духе Теории альтернативных процессов . Издания МИР.
Саймон Б. (1979). Функциональная интеграция и квантовая физика . Академическая пресса.
Карунен, Кари (1947). "Über lineare Methoden in der Wahrscheinlichkeitsrechnung". Аня. Акад. Sci. Fennicae. Сер. AI Math.-Phys . 37 : 1–79.
Лоэв, М. (1978). Теория вероятности. Vol. II, 4-е изд . Тексты для выпускников по математике. 46 . Springer-Verlag. ISBN 978-0-387-90262-3.
Дай, Г. (1996). «Модальное восстановление волнового фронта с помощью полиномов Цернике и функций Карунена – Лоэва». JOSA . 13 (6): 1218. Bibcode : 1996JOSAA..13.1218D . DOI : 10.1364 / JOSAA.13.001218 .
Ву Б., Чжу Дж., Наджм Ф. (2005) "Непараметрический подход для оценки динамического диапазона нелинейных систем". В материалах конференции по автоматизации проектирования (841-844) 2005 г.
Ву Б., Чжу Дж., Наджм Ф. (2006) «Оценка динамического диапазона». IEEE Transactions по автоматизированному проектированию интегральных схем и систем, Vol. 25 Выпуск: 9 (1618–1636) 2006 г.
Jorgensen, Palle ET; Песня, Мён-Син (2007). «Энтропийное кодирование, гильбертово пространство и преобразования Карунена – Лоэва». Журнал математической физики . 48 (10): 103503. arXiv : math-ph / 0701056 . Bibcode : 2007JMP .... 48j3503J . DOI : 10.1063 / 1.2793569 .
Внешние ссылки
Функция Mathematica KarhunenLoeveDecomposition .
E161: Заметки по компьютерной обработке и анализу изображений проф . Руй Ван в колледже Харви Мадда [1]