Определенная матрица

В математике , A симметричная матрица ${\ displaystyle M}$с действительными записями положительно определен, если действительное число${\ Displaystyle Z ^ {\textf {T}} Mz}$положительна для любого ненулевого действительного вектора-столбца ${\ displaystyle z,}$ куда ${\ Displaystyle Z ^ {\textf {T}}}$является транспонированной из${\ displaystyle z}$. ^{[1] В} более общем смысле, эрмитова матрица (то есть комплексная матрица, равная ее сопряженному транспонированию ) положительно определена, если действительное число${\ displaystyle z ^ {*} Mz}$ положительна для любого ненулевого комплексного вектора-столбца ${\ displaystyle z,}$ куда ${\ displaystyle z ^ {*}}$ обозначает сопряженное транспонирование ${\ displaystyle z.}$

Положительные полуопределенные матрицы определяются аналогично, за исключением того, что скаляры ${\ Displaystyle Z ^ {\textf {T}} Mz}$ и ${\ displaystyle z ^ {*} Mz}$должны быть положительными или нулевыми (что неотрицательно). Аналогично определяются отрицательно-определенные и отрицательно-полуопределенные матрицы. Матрица, которая не является положительно полуопределенной и не отрицательной полуопределенной, иногда называется неопределенной .

Таким образом, матрица положительно определена тогда и только тогда, когда она является матрицей положительно определенной квадратичной формы или эрмитовой формы . Другими словами, матрица положительно определена тогда и только тогда, когда она определяет внутренний продукт .

Положительно определенные и положительно-полуопределенные матрицы можно охарактеризовать по-разному, что может объяснить важность этого понятия в различных разделах математики. Матрица M положительно определена (соответственно, положительно полуопределена) тогда и только тогда, когда удовлетворяет любому из следующих эквивалентных условий.

• M является конгруэнтен с диагональной матрицей с положительными (соответственно. Неотрицательным) реальным данные.
• M является симметричным или эрмитовым, и все его собственные значения действительны и положительны (соответственно неотрицательны).
• M является симметричным или эрмитовым, и все его старшие главные миноры положительны (соответственно, все главные миноры неотрицательны).
• Существует обратимая матрица (соотв. Матрица)${\ displaystyle B}$ с сопряженным транспонированием ${\ displaystyle B ^ {*}}$ такой, что ${\ displaystyle M = B ^ {*} B.}$

Положительно определенные и положительно-полуопределенные вещественные матрицы лежат в основе выпуклой оптимизации , поскольку, если задана дважды дифференцируемая функция нескольких действительных переменных , то если ее матрица Гессе (матрица ее вторых частных производных) положительно определена в точке в точке p , то функция выпукла около точки p , и, наоборот, если функция выпукла около точки p , то матрица Гессе положительно полуопределенная в точке p .

Некоторые авторы используют более общие определения определенности, включая некоторые несимметричные вещественные матрицы или неэрмитовы комплексные.

Определения

В следующих определениях ${\ Displaystyle \ mathbf {х} ^ {\textf {T}}}$ это транспонирование ${\ displaystyle \ mathbf {x}}$, ${\ Displaystyle \ mathbf {х} ^ {*}}$является сопряженной транспозицией из${\ displaystyle \ mathbf {x}}$ и ${\ displaystyle \ mathbf {0}}$обозначает n -мерный нуль-вектор.

Определения для вещественных матриц

An ${\ Displaystyle п \ раз п}$ симметричная вещественная матрица ${\ displaystyle M}$называется положительно определенным, если${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x}> 0}$ для всех ненулевых ${\ displaystyle \ mathbf {x}}$ в ${\ Displaystyle \ mathbb {R} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$ симметричная вещественная матрица ${\ displaystyle M}$называется положительно полуопределенным или неотрицательно определенным, если${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x} \ geq 0}$ для всех ${\ displaystyle \ mathbf {x}}$ в ${\ Displaystyle \ mathbb {R} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$ симметричная вещественная матрица ${\ displaystyle M}$называется отрицательно-определенным, если${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x} <0}$ для всех ненулевых ${\ displaystyle \ mathbf {x}}$ в ${\ Displaystyle \ mathbb {R} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$ симметричная вещественная матрица ${\ displaystyle M}$называется отрицательно-полуопределенным или отрицательно-определенным, если${\ Displaystyle х ^ {\textf {T}} Mx \ leq 0}$ для всех ${\ displaystyle x}$ в ${\ Displaystyle \ mathbb {R} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$симметричная вещественная матрица, которая не является ни положительно полуопределенной, ни отрицательной полуопределенной, называется неопределенной .

Определения для сложных матриц

Все следующие определения включают термин ${\ displaystyle \ mathbf {x} ^ {*} M \ mathbf {x}}$. Обратите внимание, что это всегда действительное число для любой квадратной эрмитовой матрицы.${\ displaystyle M}$.

An ${\ Displaystyle п \ раз п}$ Эрмитова комплексная матрица ${\ displaystyle M}$называется положительно определенным, если${\ displaystyle \ mathbf {x} ^ {*} M \ mathbf {x}> 0}$ для всех ненулевых ${\ displaystyle \ mathbf {x}}$ в ${\ Displaystyle \ mathbb {C} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$ Эрмитова комплексная матрица ${\ displaystyle M}$называется положительно полуопределенным или неотрицательно определенным, если${\ displaystyle x ^ {*} Mx \ geq 0}$ для всех ${\ displaystyle x}$ в ${\ Displaystyle \ mathbb {C} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$ Эрмитова комплексная матрица ${\ displaystyle M}$называется отрицательно-определенным, если${\ Displaystyle \ mathbf {x} ^ {*} M \ mathbf {x} <0}$ для всех ненулевых ${\ displaystyle \ mathbf {x}}$ в ${\ Displaystyle \ mathbb {C} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$ Эрмитова комплексная матрица ${\ displaystyle M}$называется отрицательно полуопределенным или неположительно определенным, если${\ displaystyle \ mathbf {x} ^ {*} M \ mathbf {x} \ leq 0}$ для всех ${\ displaystyle \ mathbf {x}}$ в ${\ Displaystyle \ mathbb {C} ^ {п}}$. Формально,

An ${\ Displaystyle п \ раз п}$Эрмитова комплексная матрица, которая не является ни положительно полуопределенной, ни отрицательной полуопределенной, называется неопределенной .

Согласованность между реальными и сложными определениями

Поскольку каждая вещественная матрица также является комплексной матрицей, определения «определенности» для этих двух классов должны согласовываться.

Для сложных матриц наиболее распространенное определение гласит, что "${\ displaystyle M}$ положительно определен тогда и только тогда, когда ${\ Displaystyle \ mathbf {z} ^ {*} М \ mathbf {z}}$действительна и положительна для всех ненулевых комплексных векторов-столбцов${\ displaystyle \ mathbf {z}}$". Это условие означает, что ${\ displaystyle M}$эрмитово (т.е. его транспонирование равно сопряженному). Чтобы убедиться в этом, рассмотрим матрицы${\ textstyle A = {\ frac {1} {2}} \ left (M + M ^ {*} \ right)}$ и ${\ textstyle B = {\ frac {1} {2i}} \ left (MM ^ {*} \ right)}$, и что ${\ displaystyle M = A + iB}$ и ${\ displaystyle \ mathbf {z} ^ {*} M \ mathbf {z} = \ mathbf {z} ^ {*} A \ mathbf {z} + я \ mathbf {z} ^ {*} B \ mathbf {z }}$. Матрицы${\ displaystyle A}$ и ${\ displaystyle B}$ эрмитовы, поэтому ${\ displaystyle \ mathbf {z} ^ {*} A \ mathbf {z}}$ и ${\ displaystyle \ mathbf {z} ^ {*} B \ mathbf {z}}$индивидуально реальны. Если${\ Displaystyle \ mathbf {z} ^ {*} М \ mathbf {z}}$ реально, тогда ${\ displaystyle \ mathbf {z} ^ {*} B \ mathbf {z}}$ должен быть нулевым для всех ${\ displaystyle \ mathbf {z}}$. Затем${\ displaystyle B}$ - нулевая матрица и ${\ displaystyle M = A}$, доказывая, что ${\ displaystyle M}$ эрмитово.

По этому определению положительно определенная вещественная матрица${\ displaystyle M}$эрмитово, следовательно, симметрично; и${\ Displaystyle \ mathbf {z} ^ {\textf {T}} М \ mathbf {z}}$положительно для всех ненулевых действительных векторов-столбцов${\ displaystyle \ mathbf {z}}$. Однако одного последнего условия недостаточно для${\ displaystyle M}$быть положительно определенным. Например, если

${\ Displaystyle M = {\ begin {bmatrix} 1 & 1 \\ - 1 & 1 \ end {bmatrix}},}$

тогда для любого реального вектора ${\ displaystyle \ mathbf {z}}$ с записями ${\ displaystyle a}$ и ${\ displaystyle b}$ у нас есть ${\ Displaystyle \ mathbf {z} ^ {\textf {T}} M \ mathbf {z} = \ left (a + b \ right) a + \ left (-a + b \ right) b = a ^ {2} + b ^ {2}}$, что всегда положительно, если ${\ displaystyle \ mathbf {z}}$не равно нулю. Однако если${\ displaystyle \ mathbf {z}}$ - комплексный вектор с элементами ${\ displaystyle 1}$ и ${\ displaystyle i}$, получается

${\ displaystyle \ mathbf {z} ^ {*} M \ mathbf {z} = {\ begin {bmatrix} 1 & -i \ end {bmatrix}} M {\ begin {bmatrix} 1 \\ i \ end {bmatrix} } = {\ begin {bmatrix} 1 + i & 1-i \ end {bmatrix}} {\ begin {bmatrix} 1 \\ i \ end {bmatrix}} = 2 + 2i}$

что не реально. Следовательно,${\ displaystyle M}$ не является положительно-определенным.

С другой стороны, для симметричной вещественной матрицы${\ displaystyle M}$, условие "${\ Displaystyle \ mathbf {z} ^ {\textf {T}} М \ mathbf {z}> 0}$ для всех ненулевых действительных векторов ${\ displaystyle \ mathbf {z}}$" Это означает , что${\ displaystyle M}$ положительно определен в сложном смысле.

Обозначение

Если эрмитова матрица ${\ displaystyle M}$ положительно полуопределенный, иногда пишут ${\ Displaystyle M \ successq 0}$ и если ${\ displaystyle M}$ положительно определенный пишет ${\ Displaystyle M \ succ 0}$. Чтобы обозначить, что${\ displaystyle M}$ отрицательно полуопределенный пишет ${\ Displaystyle M \ prevq 0}$ и обозначить, что ${\ displaystyle M}$ отрицательно-определенный пишет ${\ Displaystyle M \ Prec 0}$.

Это понятие пришло из функционального анализа, в котором положительные полуопределенные матрицы определяют положительные операторы .

Обычное альтернативное обозначение ${\ displaystyle M \ geq 0}$, ${\ displaystyle M> 0}$, ${\ Displaystyle M \ leq 0}$ и ${\ displaystyle M <0}$для положительно полуопределенных и положительно определенных, отрицательных полуопределенных и отрицательно определенных матриц соответственно. Это может сбивать с толку, так как иногда неотрицательные матрицы (соответственно, неположительные матрицы) также обозначаются таким образом.

Примеры

Собственные значения

Позволять ${\ displaystyle M}$ быть ${\ Displaystyle п \ раз п}$ Эрмитова матрица . Это означает, что все его собственные значения действительны.

• ${\ displaystyle M}$ положительно определен тогда и только тогда, когда все его собственные значения положительны.
• ${\ displaystyle M}$ положительно полуопределено тогда и только тогда, когда все его собственные значения неотрицательны.
• ${\ displaystyle M}$ отрицательно определен тогда и только тогда, когда все его собственные значения отрицательны
• ${\ displaystyle M}$ отрицательно полуопределено тогда и только тогда, когда все его собственные значения неположительны.
• ${\ displaystyle M}$ неопределенно тогда и только тогда, когда у него есть как положительные, так и отрицательные собственные значения.

Позволять ${\ Displaystyle PDP ^ {- 1}}$быть eigendecomposition из${\ displaystyle M}$, куда ${\ displaystyle P}$является унитарной комплексной матрицей , столбцы которой содержит ортогональный базис из собственных векторов из${\ displaystyle M}$, и ${\ displaystyle D}$- вещественная диагональная матрица , главная диагональ которой содержит соответствующие собственные значения . Матрица${\ displaystyle M}$ можно рассматривать как диагональную матрицу ${\ displaystyle D}$ который был повторно выражен в координатах базиса (собственных векторов) ${\ displaystyle P}$. Другими словами, применение M к некоторому вектору z в нашей системе координат ( M z ) аналогично изменению базиса нашего z на систему координат собственного вектора с использованием P ⁻¹ ( P ⁻¹ z ), применяя преобразование растяжения D к it ( DP ⁻¹ z ), а затем вернем базис в нашу систему с помощью P ( PDP ⁻¹ z ).

Имея это в виду, однозначное изменение переменной ${\ displaystyle \ mathbf {y} = P \ mathbf {z}}$ показывает, что ${\ Displaystyle \ mathbf {z} ^ {*} М \ mathbf {z}}$ действительна и положительна для любого комплексного вектора ${\ displaystyle \ mathbf {z}}$ если и только если ${\ Displaystyle \ mathbf {y} ^ {*} D \ mathbf {y}}$ реально и положительно для любого ${\ displaystyle y}$; другими словами, если${\ displaystyle D}$положительно определен. Для диагональной матрицы это верно, только если каждый элемент главной диагонали, то есть каждое собственное значение матрицы ${\ displaystyle M}$- положительно. Поскольку спектральная теорема гарантирует, что все собственные значения эрмитовой матрицы будут действительными, положительность собственных значений может быть проверена с помощью правила чередования знаков Декарта, когда характеристический многочлен действительной симметричной матрицы${\ displaystyle M}$ доступен.

Разложение

Позволять ${\ displaystyle M}$ быть ${\ Displaystyle п \ раз п}$ Эрмитова матрица .${\ displaystyle M}$ положительно полуопределено тогда и только тогда, когда оно может быть разложено как произведение

${\ Displaystyle M = B ^ {*} B}$

матрицы ${\ displaystyle B}$с его сопряженным транспонированием .

Когда ${\ displaystyle M}$ это реально, ${\ displaystyle B}$ также могут быть действительными, и разложение можно записать как

${\ Displaystyle M = B ^ {\textf {T}} B.}$

${\ displaystyle M}$ положительно определено тогда и только тогда, когда такое разложение существует с ${\ displaystyle B}$ обратимый . В более общем смысле,${\ displaystyle M}$ положительно полуопределено с рангом ${\ displaystyle k}$ тогда и только тогда, когда существует разложение с ${\ Displaystyle к \ раз п}$ матрица ${\ displaystyle B}$ полного ранга строки (т. е. ранга ${\ displaystyle k}$). Более того, для любого разложения${\ Displaystyle M = B ^ {*} B}$, ${\ Displaystyle \ OperatorName {ранг} (M) = \ OperatorName {ранг} (B)}$. ^[2]

Колонны ${\ displaystyle b_ {1}, \ dots, b_ {n}}$ из ${\ displaystyle B}$можно рассматривать как векторы в комплексном или реальном векторном пространстве ${\ Displaystyle \ mathbb {R} ^ {k}}$, соответственно. Тогда записи${\ displaystyle M}$являются внутренними продуктами (то есть скалярными произведениями в реальном случае) этих векторов

${\ displaystyle M_ {ij} = \ langle b_ {i}, b_ {j} \ rangle.}$

Другими словами, эрмитова матрица ${\ displaystyle M}$положительно полуопределено тогда и только тогда, когда это матрица Грама некоторых векторов${\ displaystyle b_ {1}, \ dots, b_ {n}}$. Она положительно определена тогда и только тогда, когда она является матрицей Грама некоторых линейно независимых векторов. В общем случае ранг матрицы Грама векторов${\ displaystyle b_ {1}, \ dots, b_ {n}}$равна размерности пространства, покрытого этими векторами. ^[3]

Уникальность с точностью до унитарных преобразований

Разложение не однозначно: если ${\ Displaystyle M = B ^ {*} B}$ для некоторых ${\ Displaystyle к \ раз п}$ матрица ${\ displaystyle B}$ и если ${\ displaystyle Q}$любой унитарный ${\ Displaystyle к \ раз к}$ матрица (значение ${\ displaystyle Q ^ {*} Q = QQ ^ {*} = I}$), потом ${\ Displaystyle M = B ^ {*} B = B ^ {*} Q ^ {*} QB = A ^ {*} A}$ для ${\ displaystyle A = QB}$.

Однако это единственный способ, которым два разложения могут различаться: разложение уникально с точностью до унитарных преобразований . Более формально, если${\ displaystyle A}$ это ${\ Displaystyle к \ раз п}$ матрица и ${\ displaystyle B}$ это ${\ displaystyle \ ell \ times n}$ матрица такая, что ${\ Displaystyle A ^ {*} A = B ^ {*} B}$, то есть ${\ displaystyle \ ell \ times k}$ матрица ${\ displaystyle Q}$ с ортонормированными столбцами (что означает ${\ Displaystyle Q ^ {*} Q = I_ {k \ times k}}$) такой, что ${\ displaystyle B = QA}$. ^[4] Когда${\ displaystyle \ ell = k}$ это означает ${\ displaystyle Q}$является унитарной .

В реальном случае это утверждение имеет интуитивно понятную геометрическую интерпретацию: пусть столбцы ${\ displaystyle A}$ и ${\ displaystyle B}$ быть векторами ${\ displaystyle a_ {1}, \ dots, a_ {n}}$ и ${\ displaystyle b_ {1}, \ dots, b_ {n}}$ в ${\ Displaystyle \ mathbb {R} ^ {k}}$. Реальная унитарная матрица - это ортогональная матрица , описывающая жесткое преобразование (изометрия евклидова пространства${\ Displaystyle \ mathbb {R} ^ {k}}$) с сохранением точки 0 (т.е. повороты и отражения , без сдвигов). Следовательно, скалярные произведения${\ displaystyle a_ {i} \ cdot a_ {j}}$ и ${\ displaystyle b_ {i} \ cdot b_ {j}}$ равны тогда и только тогда, когда некоторое жесткое преобразование ${\ Displaystyle \ mathbb {R} ^ {k}}$ преобразует векторы ${\ displaystyle a_ {1}, \ dots, a_ {n}}$ к ${\ displaystyle b_ {1}, \ dots, b_ {n}}$ (и от 0 до 0).

Квадратный корень

Матрица ${\ displaystyle M}$ положительно полуопределенная тогда и только тогда, когда существует положительно полуопределенная матрица ${\ displaystyle B}$ (в частности ${\ displaystyle B}$ эрмитовский, поэтому ${\ displaystyle B ^ {*} = B}$) удовлетворение ${\ displaystyle M = BB}$. Эта матрица${\ displaystyle B}$единственна, ^[5] называется неотрицательным квадратным корнем из${\ displaystyle M}$, и обозначается ${\ displaystyle B = M ^ {\ frac {1} {2}}}$. Когда${\ displaystyle M}$ положительно определен, так же ${\ displaystyle M ^ {\ frac {1} {2}}}$, поэтому его также называют положительным квадратным корнем из${\ displaystyle M}$.

Неотрицательный квадратный корень не следует путать с другими разложениями. ${\ Displaystyle M = B ^ {*} B}$. Некоторые авторы используют имя квадратный корень и${\ displaystyle M ^ {\ frac {1} {2}}}$для любого такого разложения, или конкретно для разложения Холецкого , или любого разложения формы${\ displaystyle M = BB}$; другие используют его только для неотрицательного квадратного корня.

Если ${\ displaystyle M> N> 0}$ потом ${\ displaystyle M ^ {\ frac {1} {2}}> N ^ {\ frac {1} {2}}> 0}$.

Разложение Холецкого

Положительная полуопределенная матрица ${\ displaystyle M}$ можно записать как ${\ displaystyle M = LL ^ {*}}$, куда ${\ displaystyle L}$ является нижним треугольником с неотрицательной диагональю (эквивалентно ${\ Displaystyle M = B ^ {*} B}$ куда ${\ Displaystyle B = L ^ {*}}$верхнетреугольная); это разложение Холецкого . Если${\ displaystyle M}$ положительно определена, то диагональ ${\ displaystyle L}$положительно и разложение Холецкого единственно. Разложение Холецкого особенно полезно для эффективных численных расчетов. Близкое разложение - разложение ЛПНП ,${\ Displaystyle M = ЛПНП ^ {*}}$, куда ${\ displaystyle D}$ диагональный и ${\ displaystyle L}$это ниже унитреугольная .

Другие характеристики

Позволять ${\ displaystyle M}$ быть ${\ Displaystyle п \ раз п}$ Эрмитова матрица . Следующие свойства эквивалентны${\ displaystyle M}$ будучи положительно определенным:

Соответствующая полуторалинейная форма является внутренним продуктом.

Полуторалинейная форма определяется${\ displaystyle M}$ это функция ${\ Displaystyle \ langle \ cdot, \ cdot \ rangle}$ из ${\ Displaystyle \ mathbb {C} ^ {n} \ times \ mathbb {C} ^ {n}}$ к ${\ Displaystyle \ mathbb {C} ^ {п}}$ такой, что ${\ displaystyle \ langle x, y \ rangle: = y ^ {*} Mx}$ для всех ${\ displaystyle x}$ и ${\ displaystyle y}$ в ${\ Displaystyle \ mathbb {C} ^ {п}}$, куда ${\ displaystyle y ^ {*}}$ является сопряженным транспонированием ${\ displaystyle y}$. Для любой сложной матрицы${\ displaystyle M}$, эта форма линейна по ${\ displaystyle x}$ и полулинейный в ${\ displaystyle y}$. Таким образом, форма является внутренним продуктом на${\ Displaystyle \ mathbb {C} ^ {п}}$ если и только если ${\ displaystyle \ langle z, z \ rangle}$ действительна и положительна для всех ненулевых ${\ displaystyle z}$; то есть тогда и только тогда, когда${\ displaystyle M}$положительно определен. (Фактически, каждый внутренний продукт на${\ Displaystyle \ mathbb {C} ^ {п}}$ возникает таким образом из эрмитовой положительно определенной матрицы.)

Все ведущие основные несовершеннолетние положительные

К - й ведущий главного минора матрицы${\ displaystyle M}$является определителем его верхнего левого${\ Displaystyle к \ раз к}$подматрица. Оказывается, матрица положительно определена тогда и только тогда, когда все эти определители положительны. Это условие известно как критерий Сильвестра и обеспечивает эффективную проверку положительной определенности симметричной вещественной матрицы. А именно, матрица сводится к верхнетреугольной матрице с использованием элементарных операций со строками , как в первой части метода исключения Гаусса , заботясь о сохранении знака ее определителя во время процесса поворота . Поскольку k- й старший главный минор треугольной матрицы является произведением ее диагональных элементов до строки${\ displaystyle k}$, Критерий Сильвестра эквивалентен проверке положительности всех его диагональных элементов. Это условие можно проверять каждый раз, когда появляется новая строка${\ displaystyle k}$ треугольной матрицы.

Положительно полуопределенная матрица положительно определена тогда и только тогда, когда она обратима . ^[6] Матрица${\ displaystyle M}$ отрицательно (полу) определенно тогда и только тогда, когда ${\ displaystyle -M}$ положительно (полу) определенно.

Квадратичные формы

(Чисто) квадратичная форма, ассоциированная с вещественным${\ Displaystyle п \ раз п}$ матрица ${\ displaystyle M}$ это функция ${\ Displaystyle Q: \ mathbb {R} ^ {n} \ to \ mathbb {R}}$ такой, что ${\ Displaystyle Q (х) = х ^ {\textf {T}} Mx}$ для всех ${\ displaystyle x}$. ${\ displaystyle M}$ можно считать симметричным, заменив его на ${\ displaystyle {\ tfrac {1} {2}} \ left (M + M ^ {\textf {T}} \ right)}$.

Симметричная матрица ${\ displaystyle M}$положительно определен тогда и только тогда, когда его квадратичная форма является строго выпуклой функцией .

В более общем смысле, любая квадратичная функция из${\ Displaystyle \ mathbb {R} ^ {п}}$ к ${\ Displaystyle \ mathbb {R}}$ можно записать как ${\ Displaystyle х ^ {\textf {T}} Mx + x ^ {\textf {T}} b + c}$ куда ${\ displaystyle M}$ симметричный ${\ Displaystyle п \ раз п}$ матрица ${\ displaystyle b}$ настоящий ${\ displaystyle n}$-вектор и ${\ displaystyle c}$настоящая константа. Эта квадратичная функция строго выпукла и, следовательно, имеет единственный конечный глобальный минимум тогда и только тогда, когда${\ displaystyle M}$положительно определен. По этой причине положительно определенные матрицы играют важную роль в задачах оптимизации .

Одновременная диагонализация

Симметричная матрица и другая симметричная и положительно определенная матрица могут быть одновременно диагонализованы , хотя и не обязательно с помощью преобразования подобия . Этот результат не распространяется на случай трех и более матриц. В этом разделе мы пишем для реального случая. Немедленное распространение на сложный случай.

Позволять ${\ displaystyle M}$ быть симметричным и ${\ displaystyle N}$симметричная и положительно определенная матрица. Запишите обобщенное уравнение на собственные значения в виде${\ Displaystyle \ влево (М- \ лямбда N \ вправо) \ mathbf {x} = 0}$ где мы налагаем, что ${\ displaystyle x}$ быть нормализованным, т. е. ${\ Displaystyle \ mathbf {x} ^ {\textf {T}} N \ mathbf {x} = 1}$. Теперь воспользуемся разложением Холецкого, чтобы записать обратное к${\ displaystyle N}$ в виде ${\ Displaystyle Q ^ {\textf {T}} Q}$. Умножение на${\ displaystyle Q}$ и позволяя ${\ Displaystyle \ mathbf {x} = Q ^ {\textf {T}} \ mathbf {y}}$, мы получили ${\ displaystyle Q \ left (M- \ lambda N \ right) Q ^ {\textf {T}} \ mathbf {y} = 0}$, который можно переписать как ${\ displaystyle \ left (QMQ ^ {\textf {T}} \ right) \ mathbf {y} = \ lambda \ mathbf {y}}$ куда ${\ Displaystyle \ mathbf {y} ^ {\textf {T}} \ mathbf {y} = 1}$. Манипуляция теперь дает${\ displaystyle MX = NX \ Lambda}$ куда ${\ displaystyle X}$ матрица, имеющая в качестве столбцов обобщенные собственные векторы и ${\ displaystyle \ Lambda}$- диагональная матрица обобщенных собственных значений. Теперь предварительное умножение на${\ Displaystyle X ^ {\textf {T}}}$ дает окончательный результат: ${\ Displaystyle X ^ {\textf {T}} MX = \ Lambda}$ и ${\ Displaystyle X ^ {\textf {T}} NX = I}$, но обратите внимание, что это больше не ортогональная диагонализация по отношению к внутреннему произведению, где ${\ Displaystyle \ mathbf {y} ^ {\textf {T}} \ mathbf {y} = 1}$. Фактически мы диагонализовали${\ displaystyle M}$ относительно внутреннего продукта, индуцированного ${\ displaystyle N}$. ^[7]

Обратите внимание, что этот результат не противоречит тому, что сказано об одновременной диагонализации в статье « Диагонализируемая матрица» , которая относится к одновременной диагонализации с помощью преобразования подобия. Наш результат здесь больше похож на одновременную диагонализацию двух квадратичных форм и полезен для оптимизации одной формы при условиях другой.

Свойства

Вызванное частичное упорядочивание

Для произвольных квадратных матриц ${\ displaystyle M}$, ${\ displaystyle N}$ мы пишем ${\ Displaystyle M \ geq N}$ если ${\ displaystyle MN \ geq 0}$ т.е. ${\ displaystyle MN}$положительно полуопределенный. Это определяет частичный порядок на множестве всех квадратных матриц. Аналогичным образом можно определить строгий частичный порядок${\ displaystyle M> N}$. Заказ называется заказом Лёвнера .

Инверсия положительно определенной матрицы

Любая положительно определенная матрица обратима, и ее обратная матрица также положительно определена. ^[8] Если${\ displaystyle M \ geq N> 0}$ потом ${\ Displaystyle N ^ {- 1} \ geq M ^ {- 1}> 0}$. ^[9] Кроме того, по теореме мин-макс , то к й наибольшее собственное значение${\ displaystyle M}$больше k- го наибольшего собственного значения${\ displaystyle N}$.

Масштабирование

Если ${\ displaystyle M}$ положительно определен и ${\ displaystyle r> 0}$ это действительное число, тогда ${\ displaystyle rM}$положительно определен. ^[10]

Дополнение

• Если ${\ displaystyle M}$ и ${\ displaystyle N}$ положительно определенные, то сумма ${\ displaystyle M + N}$также положительно определен. ^[10]
• Если ${\ displaystyle M}$ и ${\ displaystyle N}$ положительно-полуопределенные, то сумма ${\ displaystyle M + N}$ также положительно-полуопределенный.
• Если ${\ displaystyle M}$ положительно определен и ${\ displaystyle N}$ положительно-полуопределённая, то сумма ${\ displaystyle M + N}$ также положительно определен.

Умножение

• Если ${\ displaystyle M}$ и ${\ displaystyle N}$ положительно определены, то продукты ${\ displaystyle MNM}$ и ${\ displaystyle NMN}$также положительно определенные. Если${\ displaystyle MN = NM}$, потом ${\ displaystyle MN}$ также положительно определен.
• Если ${\ displaystyle M}$ положительно полуопределено, то ${\ displaystyle A ^ {*} MA}$ положительно полуопределенна для любой (возможно, прямоугольной) матрицы ${\ displaystyle A}$. Если${\ displaystyle M}$ положительно определен и ${\ displaystyle A}$ имеет полный ранг столбца, тогда ${\ displaystyle A ^ {*} MA}$положительно определен. ^[11]

Подматрицы

Каждая главная подматрица положительно определенной матрицы положительно определена.

След

Диагональные записи ${\ displaystyle m_ {ii}}$положительно-полуопределенной матрицы действительны и неотрицательны. Как следствие след ,${\ Displaystyle \ OperatorName {tr} (М) \ geq 0}$. Кроме того, ^[12], поскольку каждая главная подматрица (в частности, 2 на 2) положительно полуопределенная,

${\ displaystyle \ left | m_ {ij} \ right | \ leq {\ sqrt {m_ {ii} m_ {jj}}} \ quad \ forall i, j}$

и, таким образом, когда ${\ Displaystyle п \ geq 1}$,

${\ displaystyle \ max _ {i, j} \ left | m_ {ij} \ right | \ leq \ max _ {i} m_ {ii}}$

An ${\ Displaystyle п \ раз п}$ Эрмитова матрица ${\ displaystyle M}$положительно определен, если он удовлетворяет следующим следовым неравенствам: ^[13]

${\ displaystyle \ operatorname {tr} (M)> 0 \ quad \ mathrm {and} \ quad {\ frac {(\ operatorname {tr} (M)) ^ {2}} {\ operatorname {tr} (M ^ {2})}}> n-1.}$

Еще один важный результат: при любом ${\ displaystyle M}$ и ${\ displaystyle N}$ положительно-полуопределенные матрицы, ${\ Displaystyle \ OperatorName {tr} (MN) \ geq 0}$

Произведение Адамара

Если ${\ displaystyle M, N \ geq 0}$, хотя ${\ displaystyle MN}$не обязательно положительно полуопределенное произведение Адамара ,${\ Displaystyle M \ circ N \ geq 0}$(этот результат часто называют теоремой Шура о произведении ). ^[14]

Относительно произведения Адамара двух положительно полуопределенных матриц ${\ Displaystyle M = (m_ {ij}) \ geq 0}$, ${\ displaystyle N \ geq 0}$, есть два заметных неравенства:

• Неравенство Оппенгейма: ${\ displaystyle \ det (M \ circ N) \ geq \ det (N) \ prod \ nolimits _ {i} m_ {ii}.}$^[15]
• ${\ Displaystyle \ Det (М \ CIRC N) \ GEQ \ Det (M) \ Det (N)}$. ^[16]

Продукт Кронекера

Если ${\ displaystyle M, N \ geq 0}$, хотя ${\ displaystyle MN}$не обязательно положительно полуопределенное произведение Кронекера ${\ displaystyle M \ otimes N \ geq 0}$.

Продукт Фробениуса

Если ${\ displaystyle M, N \ geq 0}$, хотя ${\ displaystyle MN}$не обязательно положительно полуопределенное произведение Фробениуса ${\ displaystyle M: ​​N \ geq 0}$(Ланкастер – Тисменецкий, Теория матриц , стр. 218).

Выпуклость

Множество положительно полуопределенных симметрических матриц выпукло . То есть, если${\ displaystyle M}$ и ${\ displaystyle N}$ положительно полуопределенные, то для любого ${\ displaystyle \ alpha}$ от 0 до 1, ${\ Displaystyle \ альфа М + \ влево (1- \ альфа \ вправо) N}$также положительно полуопределено. Для любого вектора${\ displaystyle \ mathbf {x}}$:

${\ Displaystyle \ mathbf {x} ^ {\textf {T}} \ left (\ alpha M + \ left (1- \ alpha \ right) N \ right) \ mathbf {x} = \ alpha \ mathbf {x} ^ {\textf {T}} M \ mathbf {x} + (1- \ alpha) \ mathbf {x} ^ {\textf {T}} N \ mathbf {x} \ geq 0.}$

Это свойство гарантирует, что задачи полуопределенного программирования сходятся к глобально оптимальному решению.

Связь с косинусом

Положительная определенность матрицы ${\ displaystyle A}$ выражает, что угол ${\ displaystyle \ theta}$ между любым вектором ${\ displaystyle \ mathbf {x}}$ и его образ ${\ displaystyle A \ mathbf {x}}$ является всегда ${\ Displaystyle - \ пи / 2 <\ тета <+ \ пи / 2}$:

${\ displaystyle \ cos \ theta = {\ frac {\ mathbf {x} ^ {T} A \ mathbf {x}} {\ lVert \ mathbf {x} \ rVert \ lVert A \ mathbf {x} \ rVert}} = {\ frac {\ langle \ mathbf {x}, A \ mathbf {x} \ rangle} {\ lVert \ mathbf {x} \ rVert \ lVert A \ mathbf {x} \ rVert}}, \ theta = \ theta (\ mathbf {x}, A \ mathbf {x}) = {\ widehat {\ mathbf {x}, A \ mathbf {x}}} = {\ text {угол между}} \ mathbf {x} {\ текст {и}} A \ mathbf {x}}$

Другие свойства

1. Если ${\ displaystyle M}$является симметричной тёплицевой матрицей , т. е. элементы${\ displaystyle m_ {ij}}$ даны как функция их абсолютных разностей индексов: ${\ displaystyle m_ {ij} = h (| ij |)}$, и строгое неравенство${\ textstyle \ sum _ {j \ neq 0} \ left | h (j) \ right | <h (0)}$ держит, то ${\ displaystyle M}$является строго положительно определена.
2. Позволять ${\ displaystyle M> 0}$ и ${\ displaystyle N}$Эрмитский. Если${\ displaystyle MN + NM \ geq 0}$ (соответственно, ${\ displaystyle MN + NM> 0}$) потом ${\ displaystyle N \ geq 0}$ (соответственно, ${\ displaystyle N> 0}$). ^[17]
3. Если ${\ displaystyle M> 0}$ реально, то есть ${\ displaystyle \ delta> 0}$ такой, что ${\ displaystyle M> \ delta I}$, куда ${\ displaystyle I}$- единичная матрица .
4. Если ${\ displaystyle M_ {k}}$ обозначает ведущий ${\ Displaystyle к \ раз к}$ незначительный, ${\ displaystyle \ det \ left (M_ {k} \ right) / \ det \ left (M_ {k-1} \ right)}$является к - й оси во время разложения LU .
5. Матрица является отрицательно определенной, если ее старший главный минор k- го порядка отрицателен, когда${\ displaystyle k}$ нечетное и положительное, когда ${\ displaystyle k}$ даже.

Эрмитова матрица положительно полуопределенная тогда и только тогда, когда все ее главные миноры неотрицательны. Однако недостаточно рассматривать только главные главные миноры, как это проверяется на диагональной матрице с элементами 0 и −1.

Матрицы блоков

Положительный ${\ displaystyle 2n \ times 2n}$матрица также может быть определена блоками :

${\ displaystyle M = {\ begin {bmatrix} A&B \\ C&D \ end {bmatrix}}}$

где каждый блок ${\ Displaystyle п \ раз п}$. Из условия положительности сразу следует, что${\ displaystyle A}$ и ${\ displaystyle D}$ эрмитовские, и ${\ displaystyle C = B ^ {*}}$.

У нас есть это ${\ Displaystyle \ mathbf {z} ^ {*} M \ mathbf {z} \ geq 0}$ для всего комплекса ${\ displaystyle \ mathbf {z}}$, и в частности для ${\ Displaystyle \ mathbf {z} = [\ mathbf {v}, 0] ^ {\textf {T}}}$. Затем

${\ displaystyle {\ begin {bmatrix} \ mathbf {v} ^ {*} & 0 \ end {bmatrix}} {\ begin {bmatrix} A&B \\ B ^ {*} & D \ end {bmatrix}} {\ begin { bmatrix} \ mathbf {v} \\ 0 \ end {bmatrix}} = \ mathbf {v} ^ {*} A \ mathbf {v} \ geq 0.}$

Аналогичный аргумент можно применить к ${\ displaystyle D}$, и, таким образом, мы заключаем, что оба ${\ displaystyle A}$ и ${\ displaystyle D}$ также должны быть положительно определенные матрицы.

Обратные результаты могут быть доказаны с помощью более сильных условий на блоки, например, с использованием дополнения Шура .

Локальные экстремумы

Общая квадратичная форма ${\ Displaystyle е (\ mathbf {х})}$ на ${\ displaystyle n}$ реальные переменные ${\ displaystyle x_ {1}, \ ldots, x_ {n}}$ всегда можно записать как ${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x}}$ куда ${\ displaystyle \ mathbf {x}}$ вектор-столбец с этими переменными, а ${\ displaystyle M}$является симметричной вещественной матрицей. Следовательно, положительно определенная матрица означает, что${\ displaystyle f}$ имеет единственный минимум (ноль), когда ${\ displaystyle \ mathbf {x}}$ равен нулю и строго положителен для любых других ${\ displaystyle \ mathbf {x}}$.

В более общем смысле, дважды дифференцируемая действительная функция ${\ displaystyle f}$ на ${\ displaystyle n}$ реальные переменные имеют локальный минимум аргументов ${\ displaystyle x_ {1}, \ ldots, x_ {n}}$если его градиент равен нулю, а его гессиан (матрица всех вторых производных) положительно полуопределен в этой точке. Аналогичные утверждения можно сделать для отрицательно определенных и полуопределенных матриц.

Ковариация

В статистике , то ковариационная матрица из многомерного распределения вероятностей всегда положительно полуопределенная; и он положительно определен, если одна переменная не является точной линейной функцией других. И наоборот, каждая положительно полуопределенная матрица является ковариационной матрицей некоторого многомерного распределения.

Расширение для неэрмитовых квадратных матриц

Определение положительно определенного можно обобщить, обозначив любую сложную матрицу ${\ displaystyle M}$ (например, действительный несимметричный) как положительно определенный, если ${\ displaystyle \ Re \ left (\ mathbf {z} ^ {*} M \ mathbf {z} \ right)> 0}$ для всех ненулевых комплексных векторов ${\ displaystyle \ mathbf {z}}$, куда ${\ Displaystyle \ Re (с)}$ обозначает действительную часть комплексного числа ${\ displaystyle c}$. ^[18] Только эрмитская часть${\ textstyle {\ frac {1} {2}} \ left (M + M ^ {*} \ right)}$определяет, является ли матрица положительно определенной, и оценивается в более узком смысле выше. Аналогично, если${\ displaystyle \ mathbf {x}}$ и ${\ displaystyle M}$ настоящие, у нас есть ${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x}> 0}$ для всех действительных ненулевых векторов ${\ displaystyle \ mathbf {x}}$ тогда и только тогда, когда симметричная часть ${\ textstyle {\ frac {1} {2}} \ left (M + M ^ {\textf {T}} \ right)}$положительно определен в более узком смысле. Сразу видно, что${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x} = \ sum _ {ij} x_ {i} M_ {ij} x_ {j}}$нечувствителен к транспозиции М .

Следовательно, несимметричная вещественная матрица только с положительными собственными значениями не обязательно должна быть положительно определенной. Например, матрица${\ displaystyle M = \ left [{\ begin {smallmatrix} 4 & 9 \\ 1 & 4 \ end {smallmatrix}} \ right]}$имеет положительные собственные значения, но не является положительно определенным; в частности отрицательное значение${\ Displaystyle \ mathbf {x} ^ {\textf {T}} M \ mathbf {x}}$ получается с выбором ${\ displaystyle \ mathbf {x} = \ left [{\ begin {smallmatrix} -1 \\ 1 \ end {smallmatrix}} \ right]}$ (который является собственным вектором, связанным с отрицательным собственным значением симметричной части ${\ displaystyle M}$).

Таким образом, отличительная черта между действительным и комплексным случаем состоит в том, что ограниченный положительный оператор в комплексном гильбертовом пространстве обязательно эрмитов или самосопряжен. Общее утверждение можно аргументировать, используя поляризационное тождество . В действительности это уже не так.

Приложения

Матрица теплопроводности

Закон теплопроводности Фурье, дающий тепловой поток ${\ displaystyle \ mathbf {q}}$ по температурному градиенту ${\ displaystyle \ mathbf {g} = \ nabla T}$ для анизотропных сред записывается как ${\ displaystyle \ mathbf {q} = -K \ mathbf {g}}$, в котором ${\ displaystyle K}$- симметричная матрица теплопроводности . Отрицательный элемент вставлен в закон Фурье, чтобы отразить ожидание того, что тепло всегда будет переходить от горячего к холодному. Другими словами, поскольку температурный градиент${\ displaystyle \ mathbf {g}}$ всегда указывает от холода к горячему, тепловой поток ${\ displaystyle \ mathbf {q}}$ ожидается, что будет иметь негативный внутренний продукт с ${\ displaystyle \ mathbf {g}}$ и что ${\ Displaystyle \ mathbf {q} ^ {\textf {T}} \ mathbf {g} <0}$. Подстановка закона Фурье дает это ожидание как${\ Displaystyle \ mathbf {g} ^ {\textf {T}} K \ mathbf {g}> 0}$, что означает, что матрица проводимости должна быть положительно определенной.

См. Также

• Ковариационная матрица
• М-матрица
• Положительно определенная функция
• Положительно определенное ядро
• Дополнение Шура
• Критерий сильвестра
• Числовой диапазон

Примечания

Ссылки

• Хорн, Роджер А .; Джонсон, Чарльз Р. (2013). Матричный анализ (2-е изд.). Издательство Кембриджского университета . ISBN 978-0-521-54823-6.
• Бхатия, Раджендра (2007). Положительно определенные матрицы . Принстонская серия по прикладной математике. ISBN 978-0-691-12918-1.
• Bernstein, B .; Тупен, Р.А. (1962). «Некоторые свойства матрицы Гессе строго выпуклой функции». Journal für die reine und angewandte Mathematik . 210 : 67–72. DOI : 10,1515 / crll.1962.210.65 .

Внешние ссылки

• "Положительно-определенная форма" , Энциклопедия математики , EMS Press , 2001 [1994]
• Wolfram MathWorld: положительно определенная матрица