Автокорреляция

Часть серии по статистике
Корреляция и ковариация
Корреляция и ковариация случайных векторов Матрица автокорреляции Матрица взаимной корреляции Матрица автоковариации Матрица кросс-ковариации
Корреляция и ковариация случайных процессов Автокорреляционная функция Функция взаимной корреляции Автоковариационная функция Кросс-ковариационная функция
Корреляция и ковариация детерминированных сигналов Автокорреляционная функция Функция взаимной корреляции Автоковариационная функция Кросс-ковариационная функция
v т е

Вверху: график серии из 100 случайных чисел, скрывающих синусоидальную функцию. Ниже: функция синуса, отображаемая на коррелограмме, полученной с помощью автокорреляции

Визуальное сравнение свертки, взаимной корреляции и автокорреляции . Для операций с функцией f и при условии, что высота f равна 1,0, значение результата в 5 различных точках указывается заштрихованной областью под каждой точкой. Кроме того, симметрия f является причиной и идентичны в этом примере.${\ displaystyle g * f}$${\ displaystyle f \ star g}$

Автокорреляции , также известные как серийная корреляция , представляют собой корреляцию из сигнала с задержанной копией себя как функция задержки. Неформально это сходство между наблюдениями как функция временного интервала между ними. Анализ автокорреляции - это математический инструмент для поиска повторяющихся паттернов, таких как наличие периодического сигнала, скрытого шумом , или определения отсутствующей основной частоты в сигнале, подразумеваемой его гармоническими частотами. Он часто используется при обработке сигналов для анализа функций или серий значений, таких как сигналы во временной области .

В разных областях исследования автокорреляция определяется по-разному, и не все эти определения эквивалентны. В некоторых областях термин используется как синоним автоковариации .

Процессы единичного корня , стационарные по тренду процессы , авторегрессионные процессы и процессы скользящего среднего - это специфические формы процессов с автокорреляцией.

Автокорреляция случайных процессов [ править ]

В статистике автокорреляция реального или сложного случайного процесса - это корреляция Пирсона между значениями процесса в разное время, как функция двух моментов времени или временной задержки. Позвольте быть случайным процессом и быть любым моментом времени ( может быть целым числом для процесса с дискретным временем или действительным числом для процесса с непрерывным временем ). Тогда это ценность (или реализация ), произведенная данным запуском процесса в определенный момент времени . Предположим, что процесс имеет среднее значение и дисперсию во времени${\ displaystyle \ left \ {X_ {t} \ right \}}$${\ displaystyle t}$${\ displaystyle t}$${\ displaystyle X_ {t}}$${\ displaystyle t}$ ${\ displaystyle \ mu _ {t}}$ ${\ Displaystyle \ sigma _ {т} ^ {2}}$${\ displaystyle t}$, для каждого . Тогда определение функции автокорреляции между временами и будет ^{[1] : с.388 [2] : с.165}${\ displaystyle t}$${\ displaystyle t_ {1}}$${\ displaystyle t_ {2}}$

${\ displaystyle \ operatorname {R} _ {XX} (t_ {1}, t_ {2}) = \ operatorname {E} \ left [X_ {t_ {1}} {\ overline {X}} _ {t_ { 2}} \ right]}$

( Уравнение 1 )

где - оператор ожидаемого значения, а полоса представляет комплексное сопряжение. Обратите внимание, что ожидание не может быть четко определено.${\ displaystyle \ operatorname {E}}$

Вычитание среднего перед умножением дает функцию автоковариации между временами и : ^{[1] : p.392 [2] : p.168}${\ displaystyle t_ {1}}$${\ displaystyle t_ {2}}$

${\ displaystyle \ operatorname {K} _ {XX} (t_ {1}, t_ {2}) = \ operatorname {E} \ left [(X_ {t_ {1}} - \ mu _ {t_ {1}}) ) {\ overline {(X_ {t_ {2}} - \ mu _ {t_ {2}})}} \ right] = \ operatorname {E} \ left [X_ {t_ {1}} {\ overline {X }} _ {t_ {2}} \ right] - \ mu _ {t_ {1}} {\ overline {\ mu}} _ {t_ {2}}}$

( Уравнение 2 )

Обратите внимание, что это выражение не является четко определенным для всех временных рядов или процессов, потому что среднее значение может не существовать, или дисперсия может быть нулевой (для постоянного процесса) или бесконечной (для процессов с распределением, не имеющим хороших моментов, таких как как некоторые виды степенного закона).

Определение стационарного случайного процесса в широком смысле [ править ]

Если это стационарный процесс в широком смысле, то среднее значение и дисперсия не зависят от времени, и, кроме того, функция автоковариации зависит только от запаздывания между и : автоковариация зависит только от расстояния во времени между парой значений, но не от их положение во времени. Это также подразумевает, что автоковариация и автокорреляция могут быть выражены как функция запаздывания по времени, и что это будет четная функция запаздывания . Это дает более знакомые формы для функции автокорреляции ^{[1] : стр.395}${\ displaystyle \ left \ {X_ {t} \ right \}}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}}$${\displaystyle t_{1}}$${\displaystyle t_{2}}$${\displaystyle \tau =t_{2}-t_{1}}$

${\displaystyle \operatorname {R} _{XX}(\tau )=\operatorname {E} \left[X_{t}{\overline {X}}_{t+\tau }\right]}$

( Уравнение 3 )

и функция автоковариации :

${\displaystyle \operatorname {K} _{XX}(\tau )=\operatorname {E} \left[(X_{t}-\mu ){\overline {(X_{t+\tau }-\mu )}}\right]=\operatorname {E} \left[X_{t}{\overline {X}}_{t+\tau }\right]-\mu {\overline {\mu }}}$

( Уравнение 4 )

Нормализация [ править ]

В некоторых дисциплинах (например, в статистике и анализе временных рядов ) обычной практикой является нормализация функции автоковариации для получения зависящего от времени коэффициента корреляции Пирсона . Однако в других дисциплинах (например, инженерии) от нормализации обычно отказываются, и термины «автокорреляция» и «автоковариация» используются как взаимозаменяемые.

Определение коэффициента автокорреляции случайного процесса ^{[2] : с.169}

${\displaystyle \rho _{XX}(t_{1},t_{2})={\frac {\operatorname {K} _{XX}(t_{1},t_{2})}{\sigma _{t_{1}}\sigma _{t_{2}}}}={\frac {\operatorname {E} \left[(X_{t_{1}}-\mu _{t_{1}}){\overline {(X_{t_{2}}-\mu _{t_{2}})}}\right]}{\sigma _{t_{1}}\sigma _{t_{2}}}}.}$

Если функция четко определена, ее значение должно лежать в диапазоне , где 1 указывает на идеальную корреляцию, а -1 указывает на идеальную антикорреляцию .${\displaystyle \rho _{XX}}$${\displaystyle [-1,1]}$

Для процесса стационарности в слабом смысле и стационарности в широком смысле (WSS) определение таково:

${\displaystyle \rho _{XX}(\tau )={\frac {\operatorname {K} _{XX}(\tau )}{\sigma ^{2}}}={\frac {\operatorname {E} \left[(X_{t}-\mu ){\overline {(X_{t+\tau }-\mu )}}\right]}{\sigma ^{2}}}}$

где

${\displaystyle \operatorname {K} _{XX}(0)=\sigma ^{2}.}$

Нормализация важна как потому, что интерпретация автокорреляции как корреляции обеспечивает безмасштабную меру силы статистической зависимости , так и потому, что нормализация влияет на статистические свойства оцененных автокорреляций.

Свойства [ править ]

Свойство симметрии [ править ]

Тот факт, что автокорреляционная функция является четной функцией, можно сформулировать как ^{[2] : с.171}${\displaystyle \operatorname {R} _{XX}}$

${\displaystyle \operatorname {R} _{XX}(t_{1},t_{2})={\overline {\operatorname {R} _{XX}(t_{2},t_{1})}}}$

Соответственно для процесса WSS: ^{[2] : с.173}

${\displaystyle \operatorname {R} _{XX}(\tau )={\overline {\operatorname {R} _{XX}(-\tau )}}.}$

Максимум при нуле [ править ]

Для процесса WSS: ^{[2] : стр.174}

${\displaystyle \left|\operatorname {R} _{XX}(\tau )\right|\leq \operatorname {R} _{XX}(0)}$

Заметьте, что это всегда реально.${\displaystyle \operatorname {R} _{XX}(0)}$

Неравенство Коши – Шварца [ править ]

Неравенство Коши-Шварца , неравенство для случайных процессов: ^{[1] : p.392}

${\displaystyle \left|\operatorname {R} _{XX}(t_{1},t_{2})\right|^{2}\leq \operatorname {E} \left[|X_{t_{1}}|^{2}\right]\operatorname {E} \left[|X_{t_{2}}|^{2}\right]}$

Автокорреляция белого шума [ править ]

Автокорреляция сигнала белого шума с непрерывным временем будет иметь сильный пик (представленный дельта-функцией Дирака ) в точке и будет равняться 0 для всех остальных .${\displaystyle \tau =0}$${\displaystyle \tau }$

Теорема Винера – Хинчина [ править ]

Теорема Винера – Хинчина связывает автокорреляционную функцию со спектральной плотностью мощности через преобразование Фурье :${\displaystyle \operatorname {R} _{XX}}$ ${\displaystyle S_{XX}}$

${\displaystyle \operatorname {R} _{XX}(\tau )=\int _{-\infty }^{\infty }S_{XX}(f)e^{i2\pi f\tau }\,{\rm {d}}f}$

${\displaystyle S_{XX}(f)=\int _{-\infty }^{\infty }\operatorname {R} _{XX}(\tau )e^{-i2\pi f\tau }\,{\rm {d}}\tau .}$

Для действительных функций симметричная автокорреляционная функция имеет действительное симметричное преобразование, поэтому теорема Винера – Хинчина может быть выражена только через вещественные косинусы:

${\displaystyle \operatorname {R} _{XX}(\tau )=\int _{-\infty }^{\infty }S_{XX}(f)\cos(2\pi f\tau )\,{\rm {d}}f}$

${\displaystyle S_{XX}(f)=\int _{-\infty }^{\infty }\operatorname {R} _{XX}(\tau )\cos(2\pi f\tau )\,{\rm {d}}\tau .}$

Автокорреляция случайных векторов[ редактировать ]

Матрица автокорреляции (также называемый второй момент) из случайного вектора представляет собой матрицу , содержащую в качестве элементов автокорреляций всех пар элементов случайного вектора . Матрица автокорреляции используется в различных алгоритмах цифровой обработки сигналов.${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{n})^{\rm {T}}}$${\displaystyle n\times n}$${\displaystyle \mathbf {X} }$

Для случайного вектора, содержащего случайные элементы, для которых существуют ожидаемое значение и дисперсия , матрица автокорреляции определяется как ^{[3] : p.190 [1] : p.334}${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{n})^{\rm {T}}}$

${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }\triangleq \ \operatorname {E} \left[\mathbf {X} \mathbf {X} ^{\rm {T}}\right]}$

( Уравнение 1 )

где обозначает транспонирование и имеет размеры .${\displaystyle {}^{\rm {T}}}$${\displaystyle n\times n}$

Написано покомпонентно:

${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }={\begin{bmatrix}\operatorname {E} [X_{1}X_{1}]&\operatorname {E} [X_{1}X_{2}]&\cdots &\operatorname {E} [X_{1}X_{n}]\\\\\operatorname {E} [X_{2}X_{1}]&\operatorname {E} [X_{2}X_{2}]&\cdots &\operatorname {E} [X_{2}X_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\\\operatorname {E} [X_{n}X_{1}]&\operatorname {E} [X_{n}X_{2}]&\cdots &\operatorname {E} [X_{n}X_{n}]\\\\\end{bmatrix}}}$

Если - комплексный случайный вектор , матрица автокорреляции вместо этого определяется как${\displaystyle \mathbf {Z} }$

${\displaystyle \operatorname {R} _{\mathbf {Z} \mathbf {Z} }\triangleq \ \operatorname {E} [\mathbf {Z} \mathbf {Z} ^{\rm {H}}].}$

Здесь обозначает эрмитово транспонирование .${\displaystyle {}^{\rm {H}}}$

Например, если - случайный вектор, то это матрица, -я запись которой имеет значение .${\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)^{\rm {T}}}$${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {X} }}$${\displaystyle 3\times 3}$${\displaystyle (i,j)}$${\displaystyle \operatorname {E} [X_{i}X_{j}]}$

Свойства автокорреляционной матрицы [ править ]

• Матрица автокорреляции - это эрмитова матрица для комплексных случайных векторов и симметричная матрица для вещественных случайных векторов. ^{[3] : с.190}
• Матрица автокорреляции - это положительная полуопределенная матрица, ^{[3] : стр.190,} т.е. для действительного случайного вектора, соответственно, в случае комплексного случайного вектора.${\displaystyle \mathbf {a} ^{\mathrm {T} }\operatorname {R} _{\mathbf {X} \mathbf {X} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {R} ^{n}}$${\displaystyle \mathbf {a} ^{\mathrm {H} }\operatorname {R} _{\mathbf {Z} \mathbf {Z} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {C} ^{n}}$
• Все собственные значения автокорреляционной матрицы действительны и неотрицательны.
• Матрица автоматического ковариационная связана с матрицей автокорреляции следующим образом :

${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }=\operatorname {E} [(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\rm {T}}]=\operatorname {R} _{\mathbf {X} \mathbf {X} }-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{\rm {T}}}$

Соответственно для сложных случайных векторов:

${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {Z} }=\operatorname {E} [(\mathbf {Z} -\operatorname {E} [\mathbf {Z} ])(\mathbf {Z} -\operatorname {E} [\mathbf {Z} ])^{\rm {H}}]=\operatorname {R} _{\mathbf {Z} \mathbf {Z} }-\operatorname {E} [\mathbf {Z} ]\operatorname {E} [\mathbf {Z} ]^{\rm {H}}}$

Автокорреляция детерминированных сигналов [ править ]

При обработке сигналов приведенное выше определение часто используется без нормализации, то есть без вычитания среднего и деления на дисперсию. Когда автокорреляционная функция нормирована на среднее значение и дисперсию, ее иногда называют коэффициентом автокорреляции ^[4] или функцией автоковариации.

Автокорреляция сигнала непрерывного времени [ править ]

Учитывая сигнал , непрерывная автокорреляция чаще всего определяется как непрерывный интеграл взаимной корреляции с самим собой с запаздыванием . ^{[1] : с.411}${\displaystyle f(t)}$${\displaystyle R_{ff}(\tau )}$${\displaystyle f(t)}$${\displaystyle \tau }$

${\displaystyle R_{ff}(\tau )=\int _{-\infty }^{\infty }f(t+\tau ){\overline {f(t)}}\,{\rm {d}}t=\int _{-\infty }^{\infty }f(t){\overline {f(t-\tau )}}\,{\rm {d}}t}$

( Уравнение 6 )

где представляет комплексное сопряжение с . Обратите внимание, что параметр в интеграле является фиктивной переменной и необходим только для вычисления интеграла. Это не имеет особого значения.${\displaystyle {\overline {f(t)}}}$${\displaystyle f(t)}$${\displaystyle t}$

Автокорреляция дискретного сигнала [ править ]

Дискретная автокорреляция с запаздыванием для сигнала с дискретным временем равна${\displaystyle R}$${\displaystyle \ell }$${\displaystyle y(n)}$

${\displaystyle R_{yy}(\ell )=\sum _{n\in Z}y(n)\,{\overline {y(n-\ell )}}}$

( Ур.7 )

Приведенные выше определения работают для сигналов, которые интегрируются в квадрате или суммируются в квадрате, то есть с конечной энергией. Сигналы, которые «длятся вечно», вместо этого рассматриваются как случайные процессы, и в этом случае требуются другие определения, основанные на ожидаемых значениях. Для стационарных случайных процессов в широком смысле автокорреляции определяются как

${\displaystyle R_{ff}(\tau )=\operatorname {E} \left[f(t){\overline {f(t-\tau )}}\right]}$

${\displaystyle R_{yy}(\ell )=\operatorname {E} \left[y(n)\,{\overline {y(n-\ell )}}\right].}$

Для нестационарных процессов они также будут функциями , или .${\displaystyle t}$${\displaystyle n}$

Для процессов, которые также являются эргодическими , математическое ожидание можно заменить пределом среднего времени. Автокорреляция эргодического процесса иногда определяется как или приравнивается к ^[4]

${\displaystyle R_{ff}(\tau )=\lim _{T\rightarrow \infty }{\frac {1}{T}}\int _{0}^{T}f(t+\tau ){\overline {f(t)}}\,{\rm {d}}t}$

${\displaystyle R_{yy}(\ell )=\lim _{N\rightarrow \infty }{\frac {1}{N}}\sum _{n=0}^{N-1}y(n)\,{\overline {y(n-\ell )}}.}$

Преимущество этих определений состоит в том, что они дают разумные и четко определенные однопараметрические результаты для периодических функций, даже если эти функции не являются выходом стационарных эргодических процессов.

В качестве альтернативы, сигналы, которые длятся вечно, можно обрабатывать с помощью анализа краткосрочной автокорреляционной функции с использованием интегралов за конечное время. (См. Кратковременное преобразование Фурье для связанного процесса.)

Определение периодических сигналов [ править ]

Если - непрерывная периодическая функция периода , интегрирование от до заменяется интегрированием по любому интервалу длины :${\displaystyle f}$${\displaystyle T}$${\displaystyle -\infty }$${\displaystyle \infty }$${\displaystyle [t_{0},t_{0}+T]}$${\displaystyle T}$

${\displaystyle R_{ff}(\tau )\triangleq \int _{t_{0}}^{t_{0}+T}f(t+\tau ){\overline {f(t)}}\,dt}$

что эквивалентно

${\displaystyle R_{ff}(\tau )\triangleq \int _{t_{0}}^{t_{0}+T}f(t){\overline {f(t-\tau )}}\,dt}$

Свойства [ править ]

Далее мы будем описывать свойства только одномерных автокорреляций, поскольку большинство свойств легко переносятся из одномерного случая в многомерный. Эти свойства сохраняются для стационарных процессов в широком смысле . ^[5]

• Основным свойством автокорреляции является симметрия , которую легко доказать из определения. В непрерывном случае${\displaystyle R_{ff}(\tau )=R_{ff}(-\tau )}$

автокорреляция - четная функция

${\displaystyle R_{ff}(-\tau )=R_{ff}(\tau )\,}$когда это реальная функция,${\displaystyle f}$

а автокорреляция - эрмитова функция

${\displaystyle R_{ff}(-\tau )=R_{ff}^{*}(\tau )\,}$когда - сложная функция .${\displaystyle f}$

• Непрерывная функция автокорреляции достигает своего пика в начале координат, где она принимает реальное значение, то есть для каких - либо задержек , . ^{[1] : с.410} Это следствие перестановки неравенства . Тот же результат имеет место и в дискретном случае.${\displaystyle \tau }$${\displaystyle |R_{ff}(\tau )|\leq R_{ff}(0)}$
• Автокорреляция периодической функции сама по себе периодична с тем же периодом.
• Автокорреляция суммы двух полностью некоррелированных функций (взаимная корреляция равна нулю для всех ) - это сумма автокорреляций каждой функции в отдельности.${\displaystyle \tau }$
• Поскольку автокорреляция является особым типом взаимной корреляции , она сохраняет все свойства взаимной корреляции.
• Используя символ для представления свертки и функции, которая управляет функцией и определяется как , определение для может быть записано как:${\displaystyle *}$${\displaystyle g_{-1}}$${\displaystyle f}$${\displaystyle g_{-1}(f)(t)=f(-t)}$${\displaystyle R_{ff}(\tau )}$

${\displaystyle R_{ff}(\tau )=(f*g_{-1}({\overline {f}}))(\tau )}$

Многомерная автокорреляция [ править ]

Multi - мерная автокорреляция определяются аналогично. Например, в трех измерениях автокорреляция дискретного сигнала с суммированием квадратов будет

${\displaystyle R(j,k,\ell )=\sum _{n,q,r}x_{n,q,r}\,{\overline {x}}_{n-j,q-k,r-\ell }.}$

Когда средние значения вычитаются из сигналов перед вычислением функции автокорреляции, результирующая функция обычно называется функцией автоковариации.

Эффективное вычисление [ править ]

Для данных, выраженных в виде дискретной последовательности, часто необходимо вычислить автокорреляцию с высокой вычислительной эффективностью . Метод грубой силы, основанный на определении обработки сигнала, может использоваться, когда размер сигнала мал. Например, чтобы вычислить автокорреляцию реальной сигнальной последовательности (т. Е. И для всех других значений i ) вручную, мы сначала узнаем, что только что данное определение совпадает с "обычным" умножением, но со сдвигом вправо, где каждое добавление по вертикали дает автокорреляцию для определенных значений запаздывания:${\displaystyle R_{xx}(j)=\sum _{n}x_{n}\,{\overline {x}}_{n-j}}$${\displaystyle x=(2,3,-1)}$${\displaystyle x_{0}=2,x_{1}=3,x_{2}=-1}$${\displaystyle x_{i}=0}$

${\displaystyle {\begin{array}{rrrrrr}&2&3&-1\\\times &2&3&-1\\\hline &-2&-3&1\\&&6&9&-3\\+&&&4&6&-2\\\hline &-2&3&14&3&-2\end{array}}}$

Таким образом, требуемая последовательность автокорреляции равна , где и автокорреляция для других значений запаздывания равна нулю. В этом вычислении мы не выполняем операцию переноса во время сложения, как это обычно бывает при обычном умножении. Обратите внимание, что мы можем вдвое сократить количество необходимых операций, используя симметрию, присущую автокорреляции. Если сигнал является периодическим, то есть тогда мы получаем круговую автокорреляцию (подобную круговой свертке ), где левый и правый хвосты предыдущей автокорреляционной последовательности будут перекрываться и давать тот же период, что и сигнальная последовательность . как применение свойства свертки z-преобразования${\displaystyle R_{xx}=(-2,3,14,3,-2)}$${\displaystyle R_{xx}(0)=14,}$ ${\displaystyle R_{xx}(-1)=R_{xx}(1)=3,}$${\displaystyle R_{xx}(-2)=R_{xx}(2)=-2,}$${\displaystyle x=(\ldots ,2,3,-1,2,3,-1,\ldots ),}$${\displaystyle R_{xx}=(\ldots ,14,1,1,14,1,1,\ldots )}$${\displaystyle x.}$ дискретного сигнала.

Хотя алгоритм грубой силы имеет порядок n ² , существует несколько эффективных алгоритмов, которые могут вычислять автокорреляцию в порядке n log ( n ) . Например, теорема Винера – Хинчина позволяет вычислить автокорреляцию из необработанных данных X ( t ) с помощью двух быстрых преобразований Фурье (БПФ): ^[6]

${\displaystyle {\begin{aligned}F_{R}(f)&=\operatorname {FFT} [X(t)]\\S(f)&=F_{R}(f)F_{R}^{*}(f)\\R(\tau )&=\operatorname {IFFT} [S(f)]\end{aligned}}}$

где IFFT обозначает обратное быстрое преобразование Фурье . Звездочка означает комплексное сопряжение .

В качестве альтернативы, множественная корреляция τ может быть выполнена с использованием вычисления грубой силы для низких значений τ , а затем постепенного объединения данных X ( t ) с логарифмической плотностью для вычисления более высоких значений, что приводит к той же эффективности n log ( n ) , но с меньшими требованиями к памяти. ^{[7] [8]}

Оценка [ править ]

Для дискретного процесса с известным средним и дисперсией, для которого мы наблюдаем наблюдения , оценка автокорреляции может быть получена как${\displaystyle n}$${\displaystyle \{X_{1},\,X_{2},\,\ldots ,\,X_{n}\}}$

${\displaystyle {\hat {R}}(k)={\frac {1}{(n-k)\sigma ^{2}}}\sum _{t=1}^{n-k}(X_{t}-\mu )(X_{t+k}-\mu )}$

для любого положительного целого числа . Когда истинное среднее значение и дисперсия известны, эта оценка является несмещенной . Если истинное среднее значение и дисперсия процесса неизвестны, существует несколько возможностей:${\displaystyle k<n}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}}$

• Если и заменить стандартными формулами для выборочного среднего и выборочной дисперсии, то это будет смещенная оценка .${\displaystyle \mu }$${\displaystyle \sigma ^{2}}$
• Оценка на основе периодограммы заменяется в приведенной выше формуле на . Эта оценка всегда необъективна; однако обычно он имеет меньшую среднеквадратичную ошибку. ^{[9] [10]}${\displaystyle n-k}$${\displaystyle n}$
• Другие возможности вытекают из обработки двух частей данных и раздельно и вычисления отдельных выборочных средних и / или выборочных дисперсий для использования при определении оценки. ^{[ необходима цитата ]}${\displaystyle \{X_{1},\,X_{2},\,\ldots ,\,X_{n-k}\}}$${\displaystyle \{X_{k+1},\,X_{k+2},\,\ldots ,\,X_{n}\}}$

Преимущество оценок последнего типа состоит в том, что набор оцененных автокорреляций как функция от затем формирует функцию, которая является действительной автокорреляцией в том смысле, что можно определить теоретический процесс, имеющий именно эту автокорреляцию. Другие оценки могут страдать от проблемы, заключающейся в том, что, если они используются для вычисления дисперсии линейной комбинации 's, вычисленная дисперсия может оказаться отрицательной. ^[11]${\displaystyle k}$${\displaystyle X}$

Регрессионный анализ [ править ]

В регрессионном анализе с использованием данных временных рядов автокорреляция в интересующей переменной обычно моделируется либо с помощью авторегрессионной модели (AR), либо модели скользящего среднего (MA), либо их комбинации в качестве модели авторегрессионного скользящего среднего (ARMA) или расширение последней называется авторегрессионной интегрированной моделью скользящего среднего (ARIMA). Для нескольких взаимосвязанных рядов данных используется векторная авторегрессия (VAR) или ее расширения.

В обычном методе наименьших квадратов (МНК) адекватность спецификации модели можно частично проверить, установив, существует ли автокорреляция остатков регрессии . Проблемную автокорреляцию ошибок, которые сами по себе не наблюдаются, обычно можно обнаружить, потому что она вызывает автокорреляцию наблюдаемых остатков. (Ошибки в эконометрике также известны как «члены ошибок» .) Автокорреляция ошибок нарушает обычное предположение наименьших квадратов о том, что члены ошибок не коррелированы, что означает, что теорема Гаусса-Маркова не применяется и что оценки МНК больше не являются лучшими Линейные несмещенные оценщики ( СИНИЙ ). Хотя это не влияет на оценки коэффициента OLS,стандартные ошибки обычно недооцениваются (и t-значения завышаются), когда автокорреляция ошибок при малых лагах положительна.

Традиционным тестом на наличие автокорреляции первого порядка является статистика Дарбина – Ватсона или, если независимые переменные включают запаздывающую зависимую переменную, h-статистику Дарбина . Однако Дарбина-Ватсона можно линейно отобразить на корреляцию Пирсона между значениями и их лагами. ^[12] Более гибким тестом, охватывающим автокорреляцию более высоких порядков и применимым независимо от того, включают ли регрессоры лаги зависимой переменной, является тест Бреуша – Годфри . Это включает вспомогательную регрессию, в которой остатки, полученные в результате оценки интересующей модели, регрессируют по (а) исходным регрессорам и (б) kзапаздывания остатков, где k - порядок проверки. Самая простая версия тестовой статистики из этой вспомогательной регрессии - TR ² , где T - размер выборки, а R ² - коэффициент детерминации . При нулевой гипотезе об отсутствии автокорреляции эта статистика асимптотически распределена как с k степенями свободы.${\displaystyle \chi ^{2}}$

Отклики на ненулевую автокорреляцию включают обобщенный метод наименьших квадратов и оценку HAC Ньюи – Уэста (гетероскедастичность и согласованность автокорреляции). ^[13]

При оценке модели скользящего среднего (MA) автокорреляционная функция используется для определения подходящего количества включенных слагаемых ошибок. Это основано на том факте, что для процесса МА порядка q мы имеем , для и , для .${\displaystyle R(\tau )\neq 0}$${\displaystyle \tau =0,1,\ldots ,q}$${\displaystyle R(\tau )=0}$${\displaystyle \tau >q}$

Приложения [ править ]

• Автокорреляционный анализ широко используется в флуоресцентной корреляционной спектроскопии ^[14], чтобы обеспечить количественное понимание диффузии на молекулярном уровне и химических реакций. ^[15]
• Еще одно применение автокорреляции - измерение оптических спектров и измерение очень коротких световых импульсов, производимых лазерами , в обоих случаях с использованием оптических автокорреляторов .
• Автокорреляция используется для анализа данных динамического светорассеяния , что, в частности, позволяет определять гранулометрический состав частиц нанометрового размера или мицелл, взвешенных в жидкости. Лазер, освещающий смесь, создает спекл-узор, который возникает в результате движения частиц. Автокорреляцию сигнала можно проанализировать с точки зрения диффузии частиц. Исходя из этого, зная вязкость жидкости, можно рассчитать размеры частиц.
• Используется в системе GPS для корректировки задержки распространения или временного сдвига между моментом времени при передаче несущего сигнала на спутниках и моментом времени на приемнике на земле. Это выполняется приемником, генерирующим реплику сигнала 1023-битного кода C / A (курс / получение) и генерирующих строки кодовых элементов [-1,1] в пакетах по десять за раз, или 10230 чипов (1023 x 10), слегка смещаясь по мере продвижения, чтобы приспособиться к доплеровскому сдвигу входящего спутникового сигнала, до тех пор, пока сигнал реплики приемника и коды спутникового сигнала не совпадут. ^[16]
• Малоуглового рентгеновского рассеяния интенсивность наноструктурированного системы является преобразование Фурье пространственной автокорреляционной функции электронной плотности.
• В науке о поверхности и в сканирующей зондовой микроскопии автокорреляция используется для установления связи между морфологией поверхности и функциональными характеристиками. ^[17]
• В оптике нормированные автокорреляции и кросс-корреляции определяют степень когерентности электромагнитного поля.
• При обработке сигналов автокорреляция может дать информацию о повторяющихся событиях, таких как музыкальные ритмы (например, для определения темпа ) или частоты пульсаров , хотя она не может определить положение во времени биения. Его также можно использовать для оценки высоты звука музыкального тона .
• При записи музыки автокорреляция используется как алгоритм определения высоты звука перед обработкой голоса, как эффект искажения или для устранения нежелательных ошибок и неточностей. ^[18]

• Автокорреляция в пространстве, а не во времени, через функцию Паттерсона , используется специалистами по дифракции рентгеновских лучей, чтобы помочь восстановить «фазовую информацию Фурье» о положениях атомов, недоступную только с помощью дифракции.
• В статистике пространственная автокорреляция между местоположениями выборки также помогает оценить неопределенности среднего значения при выборке гетерогенной совокупности.
• Sequest алгоритм для анализа масс - спектров позволяет использовать автокорреляции в сочетании с кросс-корреляции , чтобы выиграть сходство наблюдаемого спектра идеализированной спектра , представляющего собой пептид .
• В астрофизике автокорреляция используется для изучения и описания пространственного распределения галактик во Вселенной, а также для многоволновых наблюдений за маломассивными рентгеновскими двойными системами .
• В панельных данных пространственная автокорреляция относится к корреляции переменной с самой собой в пространстве.
• При анализе данных цепи Маркова методом Монте-Карло необходимо учитывать автокорреляцию для правильного определения ошибки.
• В науках о Земле (в частности, в геофизике) его можно использовать для вычисления автокорреляционного сейсмического атрибута на основе трехмерной сейсмической разведки под землей.
• В медицинской ультразвуковой визуализации автокорреляция используется для визуализации кровотока.
• При выборе межвременного портфеля наличие или отсутствие автокорреляции в норме доходности актива может повлиять на оптимальную часть портфеля для удержания в этом активе.

Серийная зависимость [ править ]

Серийная зависимость тесно связана с понятием автокорреляции, но представляет собой отдельную концепцию (см. Корреляция и зависимость ). В частности, возможна серийная зависимость, но не (линейная) корреляция. Однако в некоторых областях эти два термина используются как синонимы.

Временной ряд из случайной величины имеет последовательную зависимость , если значение в какой - то момент в серии статистически зависит от значения в другое время . Серия является серийно независимой, если нет зависимости между какой-либо парой.${\displaystyle t}$${\displaystyle s}$

Если временной ряд является стационарным , то статистическая зависимость между парой будет означать, что существует статистическая зависимость между всеми парами значений с одинаковым запаздыванием .${\displaystyle \left\{X_{t}\right\}}$${\displaystyle (X_{t},X_{s})}$${\displaystyle \tau =s-t}$

См. Также [ править ]

Ссылки [ править ]

Дальнейшее чтение [ править ]

• Кмента, Ян (1986). Элементы эконометрики (второе изд.). Нью-Йорк: Макмиллан. С.  298–334 . ISBN 978-0-02-365070-3.
• Марно Вербеек (10 августа 2017 г.). Руководство по современной эконометрике . Вайли. ISBN 978-1-119-40110-0.
• Моджтаба Солтаналиан и Петре Стойка. « Вычислительный дизайн последовательностей с хорошими корреляционными свойствами ». IEEE Transactions on Signal Processing, 60.5 (2012): 2180–2193.
• Соломон В. Голомб и Гуан Гун. Дизайн сигнала для хорошей корреляции: для беспроводной связи, криптографии и радара . Издательство Кембриджского университета, 2005.
• Клапетек, Петр (2018). Количественная обработка данных в сканирующей зондовой микроскопии: приложения СЗМ для нанометрологии (второе изд.). Эльзевир. С. 108–112 ISBN 9780128133477 . 
• Вайсштейн, Эрик В. «Автокорреляция» . MathWorld .