Дополнение Шура

В линейной алгебре и теории матриц , то Щур дополнение из блочной матрицы определяются следующим образом .

Предположим, что p , q - неотрицательные целые числа, и предположим, что A , B , C , D - матрицы комплексных чисел p × p , p × q , q × p и q × q соответственно. Позволять

${\ displaystyle M = \ left [{\ begin {matrix} A&B \\ C&D \ end {matrix}} \ right]}$

так что M - матрица размера ( p + q ) × ( p + q ).

Если D обратимо, то дополнение Шура блока D матрицы M - это матрица размера p × p, определяемая формулой

${\ Displaystyle M / D: = A-BD ^ {- 1} C.}$

Если A обратимо, дополнение Шура блока A матрицы M - это матрица q × q, определенная формулой

${\ displaystyle M / A: = D-CA ^ {- 1} B.}$

В том случае, или D является сингулярным , заменив обобщенный обратную для обратных на M / A и M / D , получает обобщенные дополнения Шуру .

Дополнение Шура названо в честь Иссая Шура, который использовал его для доказательства леммы Шура , хотя оно использовалось ранее. ^[1] Эмили Вирджиния Хейнсворт первой назвала это дополнением Шура . ^[2] Дополнение Шура - ключевой инструмент в области численного анализа, статистики и матричного анализа.

Фон [ править ]

Дополнение Шура возникает в результате выполнения блочного исключения Гаусса путем умножения матрицы M справа на блочную нижнюю треугольную матрицу

${\ displaystyle L = {\ begin {bmatrix} I_ {p} & 0 \\ - D ^ {- 1} C & I_ {q} \ end {bmatrix}}.}$

Здесь I _p обозначает единичную матрицу размера p × p . После умножения на матрицу L в верхнем блоке p × p появляется дополнение Шура . Матрица продуктов

${\displaystyle {\begin{aligned}ML&={\begin{bmatrix}A&B\\C&D\end{bmatrix}}{\begin{bmatrix}I_{p}&0\\-D^{-1}C&I_{q}\end{bmatrix}}={\begin{bmatrix}A-BD^{-1}C&B\\0&D\end{bmatrix}}\\[4pt]&={\begin{bmatrix}I_{p}&BD^{-1}\\0&I_{q}\end{bmatrix}}{\begin{bmatrix}A-BD^{-1}C&0\\0&D\end{bmatrix}}\\[6pt]\Rightarrow M&={\begin{bmatrix}A&B\\C&D\end{bmatrix}}={\begin{bmatrix}I_{p}&BD^{-1}\\0&I_{q}\end{bmatrix}}{\begin{bmatrix}A-BD^{-1}C&0\\0&D\end{bmatrix}}{\begin{bmatrix}I_{p}&0\\D^{-1}C&I_{q}\end{bmatrix}},\end{aligned}}}$

Т.е. разложение LDU . Таким образом, обратное к M может быть выражено с использованием D ⁻¹ и обратного дополнения Шура, если оно существует, как

${\displaystyle {\begin{aligned}M^{-1}={\begin{bmatrix}A&B\\C&D\end{bmatrix}}^{-1}={}&\left({\begin{bmatrix}I_{p}&BD^{-1}\\0&I_{q}\end{bmatrix}}{\begin{bmatrix}A-BD^{-1}C&0\\0&D\end{bmatrix}}{\begin{bmatrix}I_{p}&0\\D^{-1}C&I_{q}\end{bmatrix}}\right)^{-1}\\={}&{\begin{bmatrix}I_{p}&0\\-D^{-1}C&I_{q}\end{bmatrix}}{\begin{bmatrix}\left(A-BD^{-1}C\right)^{-1}&0\\0&D^{-1}\end{bmatrix}}{\begin{bmatrix}I_{p}&-BD^{-1}\\0&I_{q}\end{bmatrix}}\\[4pt]={}&{\begin{bmatrix}\left(A-BD^{-1}C\right)^{-1}&-\left(A-BD^{-1}C\right)^{-1}BD^{-1}\\-D^{-1}C\left(A-BD^{-1}C\right)^{-1}&D^{-1}+D^{-1}C\left(A-BD^{-1}C\right)^{-1}BD^{-1}\end{bmatrix}}\\[4pt]={}&{\begin{bmatrix}\left(M/D\right)^{-1}&-\left(M/D\right)^{-1}BD^{-1}\\-D^{-1}C\left(M/D\right)^{-1}&D^{-1}+D^{-1}C\left(M/D\right)^{-1}BD^{-1}\end{bmatrix}}.\end{aligned}}}$

Ср. матрица инверсия лемма , которая иллюстрирует взаимосвязь между выше и эквивалентным выводом с ролями и D взаимозаменяемых.

В другой интерпретации ^[3] дополнение Шура также появляется при решении линейных уравнений путем исключения одного блока переменных. Начнем с того,

${\displaystyle M={\begin{bmatrix}A&B\\C&D\end{bmatrix}}{\begin{bmatrix}x\\y\end{bmatrix}}={\begin{bmatrix}u\\v\end{bmatrix}}}$.

Предполагая, что подматрица обратима, мы можем исключить из уравнений следующим образом. ${\displaystyle A}$${\displaystyle x}$

${\displaystyle x=A^{-1}(u-By)}$.

Подставляя это выражение во второе уравнение, получаем

${\displaystyle \left(D-CA^{-1}B\right)y=v-CA^{-1}u}$.

Мы называем это сокращенным уравнением, полученным путем исключения из исходного уравнения. Матрица, фигурирующая в приведенном уравнении, называется дополнением Шура первого блока в :${\displaystyle x}$${\displaystyle A}$${\displaystyle M}$

${\displaystyle S\ {\overset {\underset {\mathrm {def} }{}}{=}}\ D-CA^{-1}B}$.

Решая приведенное уравнение, получаем

${\displaystyle y=S^{-1}\left(v-CA^{-1}u\right)}$.

Подставляя это в первое уравнение, получаем

${\displaystyle x=\left(A^{-1}+A^{-1}BS^{-1}CA^{-1}\right)u-A^{-1}BS^{-1}v}$.

Мы можем выразить два приведенных выше уравнения как:

${\displaystyle {\begin{bmatrix}x\\y\end{bmatrix}}={\begin{bmatrix}A^{-1}+A^{-1}BS^{-1}CA^{-1}&-A^{-1}BS^{-1}\\-S^{-1}CA^{-1}&S^{-1}\end{bmatrix}}{\begin{bmatrix}u\\v\end{bmatrix}}}$.

Следовательно, формулировка, обратная блочной матрице:

${\displaystyle {\begin{bmatrix}A&B\\C&D\end{bmatrix}}^{-1}={\begin{bmatrix}A^{-1}+A^{-1}BS^{-1}CA^{-1}&-A^{-1}BS^{-1}\\-S^{-1}CA^{-1}&S^{-1}\end{bmatrix}}}$.

В частности, мы видим, что дополнение Шура является обратным блочному вхождению обратного к .${\displaystyle 2,2}$${\displaystyle M}$

Свойства [ править ]

Приложение для решения линейных уравнений [ править ]

Дополнение Шура возникает естественным образом при решении системы линейных уравнений, таких как

${\displaystyle {\begin{aligned}Ax+By&=a\\Cx+Dy&=b\end{aligned}}}$

где x , a - p -мерные векторы-столбцы , y , b - q -мерные векторы-столбцы, A , B , C , D такие же, как указано выше, а D - обратимый. Умножая нижнее уравнение на и затем вычитая из верхнего уравнения, получаем${\textstyle BD^{-1}}$

${\displaystyle \left(A-BD^{-1}C\right)x=a-BD^{-1}b.}$

Таким образом, если можно инвертировать D, а также дополнение Шура к D , можно решить для x , а затем, используя уравнение, можно решить для y . Это сводит проблему обращения матрицы к проблеме обращения матрицы p × p и матрицы q × q . На практике требуется, чтобы D был хорошо обусловлен, чтобы этот алгоритм был численно точным.${\textstyle Cx+Dy=b}$${\textstyle (p+q)\times (p+q)}$

В электротехнике это часто называют устранением узлов или уменьшением Крона .

Приложения к теории вероятностей и статистике [ править ]

Предположим, что случайные векторы-столбцы X , Y живут в R ⁿ и R ^m соответственно, а вектор ( X , Y ) в R ^{n + m} имеет многомерное нормальное распределение , ковариация которого является симметричной положительно определенной матрицей

${\displaystyle \Sigma =\left[{\begin{matrix}A&B\\B^{\mathsf {T}}&C\end{matrix}}\right],}$

где это ковариационная матрица X , является ковариационной матрицей Y и является матрицей ковариации между X и Y .${\textstyle A\in \mathbb {R} ^{n\times n}}$${\textstyle C\in \mathbb {R} ^{m\times m}}$${\textstyle B\in \mathbb {R} ^{n\times m}}$

Тогда условная ковариация из X дается Y является дополнением Шура C в : ^[4]${\textstyle \Sigma }$

${\displaystyle {\begin{aligned}\operatorname {Cov} (X\mid Y)&=A-BC^{-1}B^{\mathsf {T}}\\\operatorname {E} (X\mid Y)&=\operatorname {E} (X)+BC^{-1}(Y-\operatorname {E} (Y))\end{aligned}}}$

Если мы возьмем приведенную выше матрицу не за ковариацию случайного вектора, а за выборочную ковариацию, тогда она может иметь распределение Уишарта . В этом случае дополнение Шура к C in также имеет распределение Вишарта. ^{[ необходима цитата ]}${\displaystyle \Sigma }$${\displaystyle \Sigma }$

Условия положительной определенности и полуопределенности [ править ]

Пусть X - симметричная матрица действительных чисел, заданная формулой

${\displaystyle X=\left[{\begin{matrix}A&B\\B^{\mathsf {T}}&C\end{matrix}}\right].}$

потом

• Если A обратимо, то X положительно определено тогда и только тогда, когда A и его дополнение X / A положительно определены:

  ${\displaystyle X\succ 0\Leftrightarrow A\succ 0,X/A=C-B^{\mathsf {T}}A^{-1}B\succ 0.}$^[5]

• Если C обратим, то X положительно определен тогда и только тогда, когда C и его дополнение X / C положительно определены:

  ${\displaystyle X\succ 0\Leftrightarrow C\succ 0,X/C=A-BC^{-1}B^{\mathsf {T}}\succ 0.}$

• Если A положительно определено, то X положительно полуопределено тогда и только тогда, когда дополнение X / A положительно полуопределено:

  ${\displaystyle {\text{If }}A\succ 0,{\text{ then }}X\succeq 0\Leftrightarrow X/A=C-B^{\mathsf {T}}A^{-1}B\succeq 0.}$^[5]

• Если C положительно определен, то X положительно полуопределен тогда и только тогда, когда дополнение X / C положительно полуопределено:

  ${\displaystyle {\text{If }}C\succ 0,{\text{ then }}X\succeq 0\Leftrightarrow X/C=A-BC^{-1}B^{\mathsf {T}}\succeq 0.}$

Первое и третье утверждения можно вывести ^[3] , рассматривая минимизатор величины

${\displaystyle u^{\mathsf {T}}Au+2v^{\mathsf {T}}B^{\mathsf {T}}u+v^{\mathsf {T}}Cv,\,}$

как функция от v (при фиксированном u ).

Кроме того, поскольку

${\displaystyle \left[{\begin{matrix}A&B\\B^{\mathsf {T}}&C\end{matrix}}\right]\succ 0\Longleftrightarrow \left[{\begin{matrix}C&B^{\mathsf {T}}\\B&A\end{matrix}}\right]\succ 0}$

и аналогично для положительных полуопределенных матриц второе (соответственно четвертое) утверждение непосредственно из первого (соответственно третьего) утверждения.

Существует также достаточное и необходимое условие положительной полуопределенности X в терминах обобщенного дополнения Шура. ^[1] Именно,

• ${\displaystyle X\succeq 0\Leftrightarrow A\succeq 0,C-B^{\mathsf {T}}A^{g}B\succeq 0,\left(I-AA^{g}\right)B=0\,}$ и
• ${\displaystyle X\succeq 0\Leftrightarrow C\succeq 0,A-BC^{g}B^{\mathsf {T}}\succeq 0,\left(I-CC^{g}\right)B^{\mathsf {T}}=0,}$

где обозначает обобщенное обратное к .${\displaystyle A^{g}}$${\displaystyle A}$

См. Также [ править ]

• Тождество матрицы Вудбери
• Квазиньютоновский метод
• Формула инерционной аддитивности Хейнсворта
• Гауссовский процесс
• Всего наименьших квадратов

Ссылки [ править ]