Квадратичная форма (статистика)

Эта статья требует дополнительных ссылок для проверки . Пожалуйста, помогите улучшить эту статью , добавив цитаты из надежных источников . Материал, не полученный от источника, может быть оспорен и удален. Найти источники:  статистика "квадратичной формы"  -  новости  · газеты  · книги  · ученый  · JSTOR ( декабрь 2009 г. ) ( Узнайте, как и когда удалить этот шаблон сообщения )

В многомерных статистиках , если это вектор из случайных величин , и является -мерном симметричной матрицы , то скалярная величина известна как квадратичная форма в .${\ Displaystyle \ varepsilon}$${\ displaystyle n}$ ${\ displaystyle \ Lambda}$${\ displaystyle n}$${\ Displaystyle \ varepsilon ^ {T} \ Lambda \ varepsilon}$${\ Displaystyle \ varepsilon}$

Ожидание [ править ]

Можно показать, что ^[1]

${\ displaystyle \ operatorname {E} \ left [\ varepsilon ^ {T} \ Lambda \ varepsilon \ right] = \ operatorname {tr} \ left [\ Lambda \ Sigma \ right] + \ mu ^ {T} \ Lambda \ mu}$

где и являются ожидаемое значение и ковариационная матрица из , соответственно, и тр обозначает след матрицы. Этот результат зависит только от наличия и ; в частности, нормальность в это не требуется.${\ displaystyle \ mu}$${\ displaystyle \ Sigma}$${\ Displaystyle \ varepsilon}$${\ displaystyle \ mu}$${\ displaystyle \ Sigma}$${\ Displaystyle \ varepsilon}$

Книга, посвященная квадратичным формам от случайных величин, принадлежит Матхаю и Провосту. ^[2]

Доказательство [ править ]

Так как квадратичная форма является скалярной величиной, .${\ displaystyle \ varepsilon ^ {T} \ Lambda \ varepsilon = \ operatorname {tr} (\ varepsilon ^ {T} \ Lambda \ varepsilon)}$

Далее, по циклическому свойству оператора следа

${\displaystyle \operatorname {E} [\operatorname {tr} (\varepsilon ^{T}\Lambda \varepsilon )]=\operatorname {E} [\operatorname {tr} (\Lambda \varepsilon \varepsilon ^{T})].}$

Поскольку оператор следа представляет собой линейную комбинацию компонентов матрицы, следовательно, из линейности оператора математического ожидания следует, что

${\displaystyle \operatorname {E} [\operatorname {tr} (\Lambda \varepsilon \varepsilon ^{T})]=\operatorname {tr} (\Lambda \operatorname {E} (\varepsilon \varepsilon ^{T})).}$

Стандартное свойство дисперсии говорит нам, что это

${\displaystyle \operatorname {tr} (\Lambda (\Sigma +\mu \mu ^{T})).}$

Снова применяя циклическое свойство оператора трассировки, получаем

${\displaystyle \operatorname {tr} (\Lambda \Sigma )+\operatorname {tr} (\Lambda \mu \mu ^{T})=\operatorname {tr} (\Lambda \Sigma )+\operatorname {tr} (\mu ^{T}\Lambda \mu )=\operatorname {tr} (\Lambda \Sigma )+\mu ^{T}\Lambda \mu .}$

Дисперсия в гауссовском случае [ править ]

В общем, дисперсия квадратичной формы сильно зависит от распределения . Однако, если делает следовать многомерному нормальному распределению, дисперсия квадратичной формы становится особенно послушной. Предположим пока, что это симметричная матрица. Потом,${\displaystyle \varepsilon }$${\displaystyle \varepsilon }$ ${\displaystyle \Lambda }$

${\displaystyle \operatorname {var} \left[\varepsilon ^{T}\Lambda \varepsilon \right]=2\operatorname {tr} \left[\Lambda \Sigma \Lambda \Sigma \right]+4\mu ^{T}\Lambda \Sigma \Lambda \mu }$. ^[3]

Фактически, это можно обобщить, чтобы найти ковариацию между двумя квадратичными формами на одном и том же (опять же, и обе должны быть симметричными):${\displaystyle \varepsilon }$${\displaystyle \Lambda _{1}}$${\displaystyle \Lambda _{2}}$

${\displaystyle \operatorname {cov} \left[\varepsilon ^{T}\Lambda _{1}\varepsilon ,\varepsilon ^{T}\Lambda _{2}\varepsilon \right]=2\operatorname {tr} \left[\Lambda _{1}\Sigma \Lambda _{2}\Sigma \right]+4\mu ^{T}\Lambda _{1}\Sigma \Lambda _{2}\mu }$. ^[4]

Вычисление дисперсии в несимметричном случае [ править ]

В некоторых текстах неправильно ^{[ необходима цитата ]} утверждается, что приведенные выше результаты по дисперсии или ковариации верны без необходимости быть симметричными. В пользу общего можно вывести, отметив, что${\displaystyle \Lambda }$${\displaystyle \Lambda }$

${\displaystyle \varepsilon ^{T}\Lambda ^{T}\varepsilon =\varepsilon ^{T}\Lambda \varepsilon }$

так

${\displaystyle \varepsilon ^{T}{\tilde {\Lambda }}\varepsilon =\varepsilon ^{T}\left(\Lambda +\Lambda ^{T}\right)\varepsilon /2}$

является квадратичной формой в симметричной матрице , поэтому выражения для среднего и дисперсии одинаковы, если в них заменены на .${\displaystyle {\tilde {\Lambda }}=\left(\Lambda +\Lambda ^{T}\right)/2}$${\displaystyle \Lambda }$${\displaystyle {\tilde {\Lambda }}}$

Примеры квадратичных форм [ править ]

В ситуации, когда имеется набор наблюдений и матрица операторов , остаточная сумма квадратов может быть записана в виде квадратичной формы в виде :${\displaystyle y}$ ${\displaystyle H}$${\displaystyle y}$

${\displaystyle {\textrm {RSS}}=y^{T}(I-H)^{T}(I-H)y.}$

Для процедур, в которых матрица является симметричной и идемпотентной , а ошибки являются гауссовыми с ковариационной матрицей , имеет распределение хи-квадрат со степенями свободы и параметром нецентральности , где${\displaystyle H}$${\displaystyle \sigma ^{2}I}$${\displaystyle {\textrm {RSS}}/\sigma ^{2}}$${\displaystyle k}$${\displaystyle \lambda }$

${\displaystyle k=\operatorname {tr} \left[(I-H)^{T}(I-H)\right]}$

${\displaystyle \lambda =\mu ^{T}(I-H)^{T}(I-H)\mu /2}$

могут быть найдены путем сопоставления первых двух центральных моментов из более нецентральном хи-квадрат случайной величины в выражениях , приведенных в первых двух разделах. Если оценки без смещения , то нецентральность равна нулю и следует центральному распределению хи-квадрат.${\displaystyle Hy}$${\displaystyle \mu }$${\displaystyle \lambda }$${\displaystyle {\textrm {RSS}}/\sigma ^{2}}$

См. Также [ править ]

• Квадратичная форма
• Ковариационная матрица
• Матричное представление конических сечений

Ссылки [ править ]