Идемпотентная матрица

В линейной алгебре , матрица идемпотентная является матрицей , который при умножении самого по себе, дает себя. ^{[1] [2]} То есть матрица идемпотентна тогда и только тогда, когда . Чтобы этот продукт был определен , он обязательно должен быть квадратной матрицей . С этой точки зрения идемпотентные матрицы являются идемпотентными элементами матричных колец .${\ displaystyle A}$${\ displaystyle A ^ {2} = A}$${\ displaystyle A ^ {2}}$${\ displaystyle A}$

Пример [ править ]

Примеры идемпотентных матриц:${\ displaystyle 2 \ times 2}$

$${\ displaystyle {\ begin {bmatrix} 1 & 0 \\ 0 & 1 \ end {bmatrix}} \ qquad {\ begin {bmatrix} 3 & -6 \\ 1 & -2 \ end {bmatrix}}}$$

Примеры идемпотентных матриц:${\ displaystyle 3 \ times 3}$

$${\ displaystyle {\ begin {bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \ end {bmatrix}} \ qquad {\ begin {bmatrix} 1 & -2 & -4 \\ - 1 & 3 & 4 \\ 1 & -2 & -3 \ end {bmatrix }}}$$

Реальный футляр 2 × 2 [ править ]

Если матрица идемпотентна, то${\ displaystyle {\ begin {pmatrix} a & b \\ c & d \ end {pmatrix}}}$

• ${\ displaystyle a = a ^ {2} + bc,}$
• ${\displaystyle b=ab+bd,}$подразумевая это или${\displaystyle b(1-a-d)=0}$${\displaystyle b=0}$${\displaystyle d=1-a,}$
• ${\displaystyle c=ca+cd,}$подразумевая это или${\displaystyle c(1-a-d)=0}$${\displaystyle c=0}$${\displaystyle d=1-a,}$
• ${\displaystyle d=bc+d^{2}.}$

Таким образом, необходимое условие для идемпотентности матрицы 2 × 2 состоит в том, что либо она диагональна, либо ее след равен 1. Обратите внимание, что для идемпотентных диагональных матриц и должно быть либо 1, либо 0.${\displaystyle a}$${\displaystyle d}$

Если матрица будет идемпотентной при условии, что a удовлетворяет квадратному уравнению${\displaystyle b=c}$${\displaystyle {\begin{pmatrix}a&b\\b&1-a\end{pmatrix}}}$${\displaystyle a^{2}+b^{2}=a,}$

${\displaystyle a^{2}-a+b^{2}=0,}$ или же ${\displaystyle \left(a-{\frac {1}{2}}\right)^{2}+b^{2}={\frac {1}{4}}}$

который представляет собой круг с центром (1/2, 0) и радиусом 1/2. Что касается угла θ,

${\displaystyle A={\frac {1}{2}}{\begin{pmatrix}1-\cos \theta &\sin \theta \\\sin \theta &1+\cos \theta \end{pmatrix}}}$ идемпотентно.

Однако это необязательное условие: любая матрица${\displaystyle b=c}$

${\displaystyle {\begin{pmatrix}a&b\\c&1-a\end{pmatrix}}}$с идемпотентным.${\displaystyle a^{2}+bc=a}$

Свойства [ править ]

Необычность и закономерность [ править ]

Единственная невырожденная идемпотентная матрица - это единичная матрица ; то есть, если неединичная матрица идемпотентна, ее количество независимых строк (и столбцов) меньше, чем количество строк (и столбцов).

Это можно увидеть из записи , предполагающей, что A имеет полный ранг (неособое число), и предварительного умножения на, чтобы получить .${\displaystyle A^{2}=A}$${\displaystyle A^{-1}}$${\displaystyle A=IA=A^{-1}A^{2}=A^{-1}A=I}$

Когда идемпотентная матрица вычитается из единичной матрицы, результат также идемпотентный. Это верно, поскольку

${\displaystyle (I-A)(I-A)=I-A-A+A^{2}=I-A-A+A=I-A}$.

Матрица идемпотентна тогда и только тогда , когда для всех положительных целых чисел п, . Направление «если» тривиально следует за взятием . Часть «только если» можно показать, используя доказательство по индукции. Ясно, что у нас есть результат для as . Предположим, что . Затем, по мере необходимости. Отсюда по принципу индукции следует результат.${\displaystyle A^{n}=A}$${\displaystyle n=2}$${\displaystyle n=1}$${\displaystyle A^{1}=A}$${\displaystyle A^{k-1}=A}$${\displaystyle A^{k}=A^{k-1}A=AA=A}$

Собственные значения [ править ]

Идемпотентная матрица всегда диагонализуема, и ее собственные значения равны 0 или 1. ^[3]

След [ править ]

След от матрицы идемпотентного - сумма элементов на главной диагонали - равно ранг матрицы и , таким образом , всегда является целым числом. Это обеспечивает простой способ вычисления ранга или, альтернативно, простой способ определения следа матрицы, элементы которой конкретно не известны (что полезно в статистике , например, при установлении степени смещения при использовании выборочной дисперсии как оценка дисперсии совокупности ).

Отношения между идемпотентными матрицами [ править ]

В регрессионном анализе матрица, как известно, производит остатки от регрессии вектора зависимых переменных на матрицу ковариант . (См. Раздел «Приложения».) Теперь пусть будет матрица, сформированная из подмножества столбцов , и пусть . Легко показать, что оба и являются идемпотентными, но это несколько удивительный факт . Это потому , или, другими словами, остатки от регрессии столбцов on равны 0, поскольку могут быть идеально интерполированы, поскольку это подмножество (путем прямой подстановки также легко показать, что${\displaystyle M=I-X(X'X)^{-1}X'}$${\displaystyle e}$${\displaystyle y}$${\displaystyle X}$${\displaystyle X_{1}}$${\displaystyle X}$${\displaystyle M_{1}=I-X_{1}(X_{1}'X_{1})^{-1}X_{1}'}$${\displaystyle M}$${\displaystyle M_{1}}$${\displaystyle MM_{1}=M}$${\displaystyle MX_{1}=0}$${\displaystyle X_{1}}$${\displaystyle X}$${\displaystyle X_{1}}$${\displaystyle X}$${\displaystyle MX=0}$). Это приводит к двум другим важным результатам: один является то , что является симметричным и идемпотентным, а другой в том , что , например, ортогонально . Эти результаты играют ключевую роль, например, при выводе F-теста.${\displaystyle (M_{1}-M)}$${\displaystyle (M_{1}-M)M=0}$${\displaystyle (M_{1}-M)}$${\displaystyle M}$

Приложения [ править ]

Идемпотентные матрицы часто возникают в регрессионном анализе и эконометрике . Например, при обычном методе наименьших квадратов задача регрессии состоит в том, чтобы выбрать вектор β оценок коэффициентов так, чтобы минимизировать сумму квадратов остатков (ошибочных прогнозов) e _i : в матричной форме,

Свести к минимуму ${\displaystyle (y-X\beta )^{\textsf {T}}(y-X\beta )}$

где - вектор наблюдений зависимых переменных , а - матрица, каждый из столбцов которой представляет собой столбец наблюдений по одной из независимых переменных . Результирующая оценка${\displaystyle y}$${\displaystyle X}$

${\displaystyle {\hat {\beta }}=\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}y}$

где верхний индекс T указывает на транспонирование , а вектор остатков равен ^[2]

${\displaystyle {\hat {e}}=y-X{\hat {\beta }}=y-X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}y=\left[I-X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}\right]y=My.}$

Здесь обе и (последняя известна как матрица шляпы ) являются идемпотентными и симметричными матрицами, факт, который позволяет упростить, когда вычисляется сумма квадратов остатков:${\displaystyle M}$${\displaystyle X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}}$

${\displaystyle {\hat {e}}^{\textsf {T}}{\hat {e}}=(My)^{\textsf {T}}(My)=y^{\textsf {T}}M^{\textsf {T}}My=y^{\textsf {T}}MMy=y^{\textsf {T}}My.}$

Идемпотентность играет роль и в других вычислениях, например, при определении дисперсии оценки .${\displaystyle M}$${\displaystyle {\hat {\beta }}}$

Идемпотентный линейный оператор - это оператор проекции на пространство значений вдоль его нулевого пространства . является ортогональным проекционным оператором тогда и только тогда, когда он идемпотентен и симметричен .${\displaystyle P}$ ${\displaystyle R(P)}$ ${\displaystyle N(P)}$${\displaystyle P}$

См. Также [ править ]

• Идемпотентность
• Нильпотентный
• Проекция (линейная алгебра)
• Матрица шляп

Ссылки [ править ]