Матрица кросс-ковариации

Часть серии по статистике
Корреляция и ковариация
Корреляция и ковариация случайных векторов Матрица автокорреляции Матрица взаимной корреляции Матрица автоковариации Матрица кросс-ковариации
Корреляция и ковариация случайных процессов Автокорреляционная функция Функция взаимной корреляции Автоковариационная функция Кросс-ковариационная функция
Корреляция и ковариация детерминированных сигналов Автокорреляционная функция Функция взаимной корреляции Автоковариационная функция Кросс-ковариационная функция
v т е

В теории вероятностей и статистике , А кросс-ковариационная матрица является матрицей , которой элемент в I , J положение является ковариацией между я -й элементом случайного вектора и J -го элементом другого случайным вектора. Случайный вектор - это случайная величина с несколькими измерениями. Каждый элемент вектора - скалярная случайная величина. Каждый элемент имеет либо конечное число наблюдаемых эмпирических значений, либо конечное или бесконечное число потенциальныхзначения. Возможные значения задаются теоретическим совместным распределением вероятностей . Интуитивно матрица кросс-ковариации обобщает понятие ковариации на несколько измерений.

Кросс-ковариационная матрица двух случайных векторов и , как правило , обозначается или .${\ displaystyle \ mathbf {X}}$${\ displaystyle \ mathbf {Y}}$${\ displaystyle \ operatorname {K} _ {\ mathbf {X} \ mathbf {Y}}}$${\ Displaystyle \ Sigma _ {\ mathbf {X} \ mathbf {Y}}}$

Определение [ править ]

Для случайных векторов и , каждые из которых содержит случайные элементы , чьи ожидаемое значение и дисперсию существует, кросс-ковариационная матрица из и определяются ^{[1] : p.336}${\ displaystyle \ mathbf {X}}$${\ displaystyle \ mathbf {Y}}$${\ displaystyle \ mathbf {X}}$${\ displaystyle \ mathbf {Y}}$

${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} ){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} [(\mathbf {X} -\mathbf {\mu _{X}} )(\mathbf {Y} -\mathbf {\mu _{Y}} )^{\rm {T}}]}$

( Уравнение 1 )

где и - векторы, содержащие ожидаемые значения и . Векторы и не обязательно должны иметь одинаковую размерность, и любое из них может быть скалярным значением.${\displaystyle \mathbf {\mu _{X}} =\operatorname {E} [\mathbf {X} ]}$${\displaystyle \mathbf {\mu _{Y}} =\operatorname {E} [\mathbf {Y} ]}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$

Матрица кросс-ковариации - это матрица, элементом которой является ковариация${\displaystyle (i,j)}$

${\displaystyle \operatorname {K} _{X_{i}Y_{j}}=\operatorname {cov} [X_{i},Y_{j}]=\operatorname {E} [(X_{i}-\operatorname {E} [X_{i}])(Y_{j}-\operatorname {E} [Y_{j}])]}$

между i -м элементом и j-м элементом . Это дает следующее покомпонентное определение матрицы кросс-ковариации.${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$

${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\mathrm {E} [(X_{1}-\operatorname {E} [X_{1}])(Y_{1}-\operatorname {E} [Y_{1}])]&\mathrm {E} [(X_{1}-\operatorname {E} [X_{1}])(Y_{2}-\operatorname {E} [Y_{2}])]&\cdots &\mathrm {E} [(X_{1}-\operatorname {E} [X_{1}])(Y_{n}-\operatorname {E} [Y_{n}])]\\\\\mathrm {E} [(X_{2}-\operatorname {E} [X_{2}])(Y_{1}-\operatorname {E} [Y_{1}])]&\mathrm {E} [(X_{2}-\operatorname {E} [X_{2}])(Y_{2}-\operatorname {E} [Y_{2}])]&\cdots &\mathrm {E} [(X_{2}-\operatorname {E} [X_{2}])(Y_{n}-\operatorname {E} [Y_{n}])]\\\\\vdots &\vdots &\ddots &\vdots \\\\\mathrm {E} [(X_{m}-\operatorname {E} [X_{m}])(Y_{1}-\operatorname {E} [Y_{1}])]&\mathrm {E} [(X_{m}-\operatorname {E} [X_{m}])(Y_{2}-\operatorname {E} [Y_{2}])]&\cdots &\mathrm {E} [(X_{m}-\operatorname {E} [X_{m}])(Y_{n}-\operatorname {E} [Y_{n}])]\end{bmatrix}}}$

Пример [ править ]

Например, если и являются случайными векторами, то это матрица, -я запись которой равна .${\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)^{\rm {T}}}$${\displaystyle \mathbf {Y} =\left(Y_{1},Y_{2}\right)^{\rm {T}}}$${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}$${\displaystyle 3\times 2}$${\displaystyle (i,j)}$${\displaystyle \operatorname {cov} (X_{i},Y_{j})}$

Свойства [ править ]

Для матрицы кросс-ковариации применяются следующие основные свойства: ^[2]

1. ${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {E} [\mathbf {X} \mathbf {Y} ^{\rm {T}}]-\mathbf {\mu _{X}} \mathbf {\mu _{Y}} ^{\rm {T}}}$
2. ${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )^{\rm {T}}}$
3. ${\displaystyle \operatorname {cov} (\mathbf {X_{1}} +\mathbf {X_{2}} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {X_{1}} ,\mathbf {Y} )+\operatorname {cov} (\mathbf {X_{2}} ,\mathbf {Y} )}$
4. ${\displaystyle \operatorname {cov} (A\mathbf {X} +\mathbf {a} ,B^{\rm {T}}\mathbf {Y} +\mathbf {b} )=A\,\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )\,B}$
5. Если и независимы (или несколько менее ограниченно, если каждая случайная величина в не коррелирует с каждой случайной величиной в ), то${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=0_{p\times q}}$

где , и являются случайными векторами, является случайной вектор, является вектором, является вектором, и являются матрицами констант, и является матрицей нулей.${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X_{1}} }$${\displaystyle \mathbf {X_{2}} }$${\displaystyle p\times 1}$${\displaystyle \mathbf {Y} }$${\displaystyle q\times 1}$${\displaystyle \mathbf {a} }$${\displaystyle q\times 1}$${\displaystyle \mathbf {b} }$${\displaystyle p\times 1}$${\displaystyle A}$${\displaystyle B}$${\displaystyle q\times p}$${\displaystyle 0_{p\times q}}$${\displaystyle p\times q}$

Определение сложных случайных векторов [ править ]

Если и являются комплексными случайными векторами, определение матрицы кросс-ковариации немного изменяется. Транспонирование заменяется эрмитовым транспонированием :${\displaystyle \mathbf {Z} }$${\displaystyle \mathbf {W} }$

${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {W} }=\operatorname {cov} (\mathbf {Z} ,\mathbf {W} ){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} [(\mathbf {Z} -\mathbf {\mu _{Z}} )(\mathbf {W} -\mathbf {\mu _{W}} )^{\rm {H}}]}$

Для сложных случайных векторов другая матрица, называемая матрицей псевдокросс-ковариации, определяется следующим образом:

${\displaystyle \operatorname {J} _{\mathbf {Z} \mathbf {W} }=\operatorname {cov} (\mathbf {Z} ,{\overline {\mathbf {W} }}){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} [(\mathbf {Z} -\mathbf {\mu _{Z}} )(\mathbf {W} -\mathbf {\mu _{W}} )^{\rm {T}}]}$

Некоррелированность [ править ]

Два случайных вектора и называются некоррелированными, если их матрица кросс-ковариации является нулевой матрицей. ^{[1] : с.337}${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }}$

Комплексные случайные векторы и называются некоррелированными, если их ковариационная матрица и псевдоковариационная матрица равны нулю, т . Е. Если .${\displaystyle \mathbf {Z} }$${\displaystyle \mathbf {W} }$${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {W} }=\operatorname {J} _{\mathbf {Z} \mathbf {W} }=0}$

Ссылки [ править ]