Ранг (линейная алгебра)

В линейной алгебре , то ранг из матрицы A является измерением из векторного пространства , генерируемые (или натянутые ) путем ее столбцами. ^{[1] [2] [3]} Это соответствует максимальному числу линейно независимых столбцов A . Это, в свою очередь, идентично размерности векторного пространства, охватываемого его строками. ^[4] Ранг, таким образом, является мерой « невырожденности » системы линейных уравнений и линейного преобразования, кодируемого A. Существует несколько эквивалентных определений ранга. Ранг матрицы - одна из ее самых фундаментальных характеристик.

Ранг обычно обозначается рангом ( A ) или rk ( A ) ; ^[2] иногда круглые скобки не пишутся, как и в ранге А . ^[я]

Основные определения [ править ]

В этом разделе мы дадим некоторые определения ранга матрицы. Возможны многие определения; см. Альтернативные определения некоторых из них.

Столбец ранг из A представляет собой измерение в пространстве столбцов из А , в то время как строка ранг из A представляет размерность строки пространства из A .

Фундаментальный результат линейной алгебры состоит в том, что ранг столбца и ранг строки всегда равны. (Два доказательства этого результата приведено в § доказательстве того, что колонка ранг = строка ранг , ниже) . Это число (то есть, число линейно независимых строк или столбцов) просто называется рангом из A .

Считается, что матрица имеет полный ранг, если ее ранг равен максимально возможному для матрицы той же размерности, которая является меньшим из числа строк и столбцов. Матрица называется дефектной, если она не имеет полного ранга. Оценка дефицита матрицы представляет собой разность между наименьшим между количеством строк и столбцов, и ранга.

Ранг линейной карты или оператора определяется как размерность ее изображения : ^{[5] [6] [7] [8]}${\ displaystyle \ Phi}$

где - размерность векторного пространства, а - изображение карты.${\ displaystyle \ dim}$${\ displaystyle \ operatorname {img}}$

Примеры [ править ]

Матрица

${\ displaystyle {\ begin {bmatrix} 1 & 0 & 1 \\ - 2 & -3 & 1 \\ 3 & 3 & 0 \ end {bmatrix}}}$

имеет ранг 2: первые два столбца линейно независимы , поэтому ранг равен не менее 2, но поскольку третий является линейной комбинацией первых двух (второй вычитается из первого), три столбца линейно зависимы, поэтому ранг должно быть меньше 3.

Матрица

${\displaystyle A={\begin{bmatrix}1&1&0&2\\-1&-1&0&-2\end{bmatrix}}}$

имеет ранг 1: есть ненулевые столбцы, поэтому ранг положительный, но любая пара столбцов линейно зависима. Точно так же транспонирование

${\displaystyle A^{\mathrm {T} }={\begin{bmatrix}1&-1\\1&-1\\0&0\\2&-2\end{bmatrix}}}$

из имеет ранг 1. Действительно, так как векторы - столбцы A являются строки векторы транспонированной из А , утверждение о том , что столбец ранг матрицы равен ее строка ранг эквивалентно утверждению , что ранг матрицы равен в ранг его транспонирования, т. е. rank ( A ) = rank ( A ^T ) .

Вычисление ранга матрицы [ править ]

Ранг из форм эшелона строк [ править ]

Обычный подход к нахождению ранга матрицы состоит в том, чтобы привести ее к более простой форме, как правило , к форме эшелона строк , с помощью элементарных операций со строками . Операции со строками не изменяют пространство строк (следовательно, не меняют ранг строки) и, будучи обратимыми, отображают пространство столбцов в изоморфное пространство (следовательно, не меняют ранг столбца). Находясь в форме эшелона строк, ранг явно одинаков как для ранга строки, так и для ранга столбца и равен количеству опорных точек (или базовых столбцов), а также количеству ненулевых строк.

Например, матрица A, заданная формулой

${\displaystyle A={\begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}}}$

может быть приведен в сокращенную форму строки-эшелона, используя следующие элементарные операции со строками:

${\displaystyle {\begin{aligned}{\begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}}&\xrightarrow {2R_{1}+R_{2}\to R_{2}} {\begin{bmatrix}1&2&1\\0&1&3\\3&5&0\end{bmatrix}}\xrightarrow {-3R_{1}+R_{3}\to R_{3}} {\begin{bmatrix}1&2&1\\0&1&3\\0&-1&-3\end{bmatrix}}\\&\xrightarrow {R_{2}+R_{3}\to R_{3}} \,\,{\begin{bmatrix}1&2&1\\0&1&3\\0&0&0\end{bmatrix}}\xrightarrow {-2R_{2}+R_{1}\to R_{1}} {\begin{bmatrix}1&0&-5\\0&1&3\\0&0&0\end{bmatrix}}~.\end{aligned}}}$

Конечная матрица (в форме эшелона строк) имеет две ненулевые строки, поэтому ранг матрицы A равен 2.

Вычисление [ править ]

При применении к вычислениям с плавающей запятой на компьютерах базовое исключение Гаусса ( разложение LU ) может быть ненадежным, и вместо этого следует использовать разложение с выявлением ранга. Эффективной альтернативой является разложение по сингулярным значениям (SVD), но есть и другие менее дорогостоящие варианты, такие как QR-разложение с поворотом (так называемая QR-факторизация с выявлением ранга ), которые по-прежнему более устойчивы в числовом отношении, чем исключение Гаусса. Для численного определения ранга требуется критерий для принятия решения о том, когда значение, такое как сингулярное значение из SVD, следует рассматривать как нулевое, практический выбор, который зависит как от матрицы, так и от приложения.

Доказательства того, что ранг столбца = ранг строки [ править ]

Тот факт, что ранги столбцов и строк любой матрицы являются равными формами, является фундаментальным в линейной алгебре. Было дано много доказательств. Один из самых элементарных набросан в § Ранг из форм эшелона строк . Вот вариант этого доказательства:

Несложно показать, что ни ранг строки, ни ранг столбца не меняются с помощью элементарной операции над строкой . Поскольку исключение Гаусса выполняется с помощью элементарных операций со строками, сокращенная форма эшелона строк матрицы имеет тот же ранг строки и тот же ранг столбца, что и исходная матрица. Дальнейшие операции с элементарными столбцами позволяют представить матрицу в виде единичной матрицы, возможно окаймленной строками и столбцами нулей. Опять же, это не меняет ни ранга строки, ни ранга столбца. Сразу видно, что ранги строки и столбца этой результирующей матрицы являются количеством ее ненулевых элементов.

Приведем еще два доказательства этого результата. Первый использует только основные свойства линейных комбинаций векторов и действителен для любого поля . Доказательство основано на Wardlaw (2005). ^[9] Второй использует ортогональность и действителен для матриц над действительными числами ; он основан на Mackiw (1995). ^[4] Оба доказательства можно найти в книге Банерджи и Роя (2014). ^[10]

Доказательство с использованием линейных комбинаций [ править ]

Пусть A - матрица размера m × n . Пусть столбец ранга А быть г , и пусть с ₁ , ..., с _т быть любым основанием для столбца пространства A . Поместите их как столбцы матрицы C размера m × r . Каждый столбец А может быть выражена в виде линейной комбинации из г столбцов в C . Это означает, что существует матрица R размером r × n такая, что A = CR . рматрица которого я й столбец формируется из коэффициентов , дающих I - й столбец A в виде линейной комбинации из г столбцов C . Другими словами, R - это матрица, которая содержит кратные для оснований пространства столбцов A (то есть C ), которые затем используются для формирования A в целом. Теперь, каждая строка A задается линейной комбинацией г рядами R . Следовательно, строки матрицы R образуют остовное множество пространства строк матрицы A, и по лемме Стейница об обмене, ранг строки матрицы A не может превышать r . Это доказывает , что строка ранг A меньше или равна колонке ранга А . Этот результат может быть применен к любой матрице, поэтому применить результат к транспонированному А . Поскольку ранг строки транспонированной матрицы A является рангом столбца матрицы A, а ранг столбца транспонированной матрицы A является рангом строки матрицы A , это устанавливает обратное неравенство, и мы получаем равенство ранга строки и ранга столбца матрицы. . (Также см. Факторизация рангов .)

Доказательство с использованием ортогональности [ править ]

Пусть A - матрица размера m  ×  n с элементами действительных чисел , ранг строки которых равен r . Следовательно, размерность пространства строк матрицы A равна r . Пусть х ₁ , х ₂ , ..., х _г быть основой из строки пространства A . Покажем , что векторы х ₁ , х ₂ , ..., х _Г являются линейно независимыми. Чтобы понять, почему, рассмотрим линейное однородное отношение, включающее эти векторы со скалярными коэффициентами c ₁ , c ₂ ,…, c _r :

${\displaystyle 0=c_{1}A\mathbf {x} _{1}+c_{2}A\mathbf {x} _{2}+\cdots +c_{r}A\mathbf {x} _{r}=A(c_{1}\mathbf {x} _{1}+c_{2}\mathbf {x} _{2}+\cdots +c_{r}\mathbf {x} _{r})=A\mathbf {v} ,}$

где v = c ₁ x ₁ + c ₂ x ₂ + ⋯ + c _r x _r . Мы делаем два замечания: (а) v является линейной комбинацией векторов в строке пространстве А , что означает , что v принадлежит пространству строк A , и (б) с v = 0 , то вектор v является ортогональным к каждая строка вектор а и, следовательно, ортогонален каждому вектору в строке пространства A . Факты (а) и (б) вместе означают, чтоv ортогонален сам себе, что доказывает, что v = 0 или, по определению v ,

${\displaystyle c_{1}\mathbf {x} _{1}+c_{2}\mathbf {x} _{2}+\cdots +c_{r}\mathbf {x} _{r}=0.}$

Но напомним, что x _i были выбраны в качестве основы пространства строк матрицы A и поэтому линейно независимы. Отсюда следует, что c ₁ = c ₂ = ⋯ = c _r = 0 . Отсюда следует, что A x ₁ , A x ₂ ,…, A x _r линейно независимы.

Теперь каждый х _я , очевидно, вектор в пространстве столбцов матрицы A . Итак, A x ₁ , A x ₂ ,…, A x _r - это набор из r линейно независимых векторов в пространстве столбцов A и, следовательно, размерность пространства столбцов A (т. Е. Ранг столбца A ) должен быть не меньше r . Это доказывает , что строка ранг A не больше , чем на колонке ранг A . Теперь применим этот результат к транспонированию A чтобы получить обратное неравенство и сделать вывод, как в предыдущем доказательстве.

Альтернативные определения [ править ]

Во всех определениях в этом параграфе, матрица берутся в т × п матрица над произвольным полем F .

Размер изображения

Данной матрице существует связанное линейное отображение${\displaystyle A}$

${\displaystyle f:F^{n}\mapsto F^{m}}$

определяется

${\displaystyle f(x)=Ax}$.

Ранг - это размер изображения . Это определение имеет то преимущество, что его можно применить к любой линейной карте без необходимости в конкретной матрице.${\displaystyle A}$${\displaystyle f}$

Рейтинг с точки зрения недействительности

Учитывая то же линейное отображение F , как описано выше, ранг п минус размерность ядра из F . Теорема ранга-недействительности утверждает, что это определение эквивалентно предыдущему.

Ранг столбца - размер пространства столбца

Ранг A называется максимальное число линейно независимых столбцов в А ; это измерение в пространстве столбцов из А (в колонке пространства быть подпространством F ^м , порожденными столбцами А , которая на самом деле просто образом линейного отображения F , связанное с А ).${\displaystyle \mathbf {c} _{1},\mathbf {c} _{2},\dots ,\mathbf {c} _{k}}$

Row rank - размер пространства строки

Ранг A - это максимальное количество линейно независимых строк A ; это размерность строки пространства из A .

Ранг разложения

Ранг A - это наименьшее целое число k такое, что A можно разложить на множители , где C - матрица размера m × k, а R - матрица k × n . Фактически, для всех целых k следующие утверждения эквивалентны:${\displaystyle A=CR}$

1. ранг столбца A меньше или равен k ,
2. существует k столбцов размера m таких, что каждый столбец A является линейной комбинацией ,${\displaystyle \mathbf {c} _{1},\ldots ,\mathbf {c} _{k}}$${\displaystyle \mathbf {c} _{1},\ldots ,\mathbf {c} _{k}}$
3. существуют матрицы С , и матрицей R такие , что (если к есть ранг, это ранг факторизация из А ),${\displaystyle m\times k}$${\displaystyle k\times n}$${\displaystyle A=CR}$
4. существует k строк размера n таких, что каждая строка A является линейной комбинацией ,${\displaystyle \mathbf {r} _{1},\ldots ,\mathbf {r} _{k}}$${\displaystyle \mathbf {r} _{1},\ldots ,\mathbf {r} _{k}}$
5. ранг строки A меньше или равен k .

Действительно, следующие эквивалентности очевидны: . Например, чтобы доказать (3) из (2), возьмем C в качестве матрицы, столбцы которой взяты из (2). Чтобы доказать (2) из (3), принять , чтобы быть столбцы C .${\displaystyle (1)\Leftrightarrow (2)\Leftrightarrow (3)\Leftrightarrow (4)\Leftrightarrow (5)}$${\displaystyle \mathbf {c} _{1},\ldots ,\mathbf {c} _{k}}$${\displaystyle \mathbf {c} _{1},\ldots ,\mathbf {c} _{k}}$

Из эквивалентности следует, что ранг строки равен рангу столбца.${\displaystyle (1)\Leftrightarrow (5)}$

Как и в случае характеристики «размерности изображения», это можно обобщить до определения ранга любого линейного отображения: ранг линейного отображения f  : V → W - это минимальная размерность k промежуточного пространства X, такого как что е можно записать в виде композиции отображения V → X и отображение X → W . К сожалению, это определение не предлагает эффективного способа вычисления ранга (для которого лучше использовать одно из альтернативных определений). Подробности см. В разделе « Факторизация рангов» .

Рейтинг по сингулярным значениям

Ранг A равен количеству ненулевых сингулярных значений , которое совпадает с количеством ненулевых диагональных элементов в Σ в разложении сингулярных значений .${\displaystyle A=U\Sigma V^{*}}$

Детерминантный ранг - размер наибольшего не исчезающего второстепенного

Ранг А самый большой порядок любого ненулевого минора в A . (Порядок второстепенного - это длина стороны квадратной подматрицы, определителем которой он является.) Как и характеристика ранга разложения, это не дает эффективного способа вычисления ранга, но теоретически полезно: единственный ненулевой минор свидетельствует о нижней границе (а именно ее порядке) для ранга матрицы, что может быть полезно (например), чтобы доказать, что определенные операции не понижают ранг матрицы.

Не обращающийся в нуль p- минор ( подматрица p × p с ненулевым определителем) показывает, что строки и столбцы этой подматрицы линейно независимы, и, таким образом, эти строки и столбцы полной матрицы линейно независимы (в полной матрице) , поэтому ранг строки и столбца по крайней мере равен детерминантному рангу; однако обратное менее однозначно. Эквивалентность детерминантного ранга и ранга столбца является усилением утверждения о том, что если промежуток из n векторов имеет размерность p, то p этих векторов покрывают пространство (эквивалентно, что можно выбрать остовное множество, которое является подмножествомвекторов): эквивалентность означает, что подмножество строк и подмножество столбцов одновременно определяют обратимую подматрицу (эквивалентно, если промежуток из n векторов имеет размерность p, то p этих векторов покрывают пространство и существует множество p- координат, на которых они линейно независимы).

Тензорный ранг - минимальное количество простых тензоров

Ранг A - это наименьшее число k такое, что A может быть записано как сумма k матриц ранга 1, где матрица определяется как имеющая ранг 1 тогда и только тогда, когда она может быть записана как ненулевое произведение вектора-столбца c и вектор-строку r . Это понятие ранга называется тензорным рангом ; его можно обобщить в интерпретации разделимых моделей разложения по сингулярным значениям .${\displaystyle c\cdot r}$

Свойства [ править ]

Мы предполагаем, что A является матрицей размера m × n , и определяем линейное отображение f как f ( x ) = A x, как указано выше.

• Ранг матрицы m × n является неотрицательным целым числом и не может быть больше m или n . Это,

${\displaystyle \operatorname {rank} (A)\leq \min(m,n).}$

Матрица, имеющая ранг min ( m , n ) , называется имеющей полный ранг ; в противном случае матрица имеет недостаточный ранг .

• Только нулевая матрица имеет нулевой ранг.
• f является инъективным (или «взаимно однозначным») тогда и только тогда, когда A имеет ранг n (в этом случае мы говорим, что A имеет полный ранг столбца ).
• е является сюръективным (или «на») тогда и только тогда , когда имеет ранг т (в данном случае, мы говорим , что имеет полный ранг строк ).
• Если квадратная матрица (то есть, т = п ), то является обратимым тогда и только тогда , когда имеет ранг п (то есть, имеет полный ранг).
• Если B - любая матрица размера n × k , то

${\displaystyle \operatorname {rank} (AB)\leq \min(\operatorname {rank} (A),\operatorname {rank} (B)).}$

• Если B - матрица размера n × k ранга n , то

${\displaystyle \operatorname {rank} (AB)=\operatorname {rank} (A).}$

• Если C - матрица размера l × m ранга m , то

${\displaystyle \operatorname {rank} (CA)=\operatorname {rank} (A).}$

• Ранг матрицы A равен r тогда и только тогда, когда существуют обратимая матрица X размера m × m и обратимая матрица Y размера n × n такие, что

${\displaystyle XAY={\begin{bmatrix}I_{r}&0\\0&0\\\end{bmatrix}},}$

где I _r обозначает единичную матрицу размера r × r .

• Неравенство рангов Сильвестра : если A -матрица m × n, а B - n × k , то

${\displaystyle \operatorname {rank} (A)+\operatorname {rank} (B)-n\leq \operatorname {rank} (AB).}$^[ii]

Это частный случай следующего неравенства.

• Неравенство Фробениуса : если AB , ABC и BC определены, то

${\displaystyle \operatorname {rank} (AB)+\operatorname {rank} (BC)\leq \operatorname {rank} (B)+\operatorname {rank} (ABC).}$^[iii]

• Субаддитивность:

${\displaystyle \operatorname {rank} (A+B)\leq \operatorname {rank} (A)+\operatorname {rank} (B)}$

когда A и B имеют одинаковую размерность. Как следствие, матрица ранга k может быть записана как сумма k матриц ранга 1, но не меньше.

• Ранг матрицы плюс нулевое значение матрицы равны количеству столбцов матрицы. (Это теорема о ранге недействительности .)
• Если A - матрица над действительными числами, то ранг A и ранг соответствующей матрицы Грама равны. Таким образом, для вещественных матриц

${\displaystyle \operatorname {rank} (A^{\mathrm {T} }A)=\operatorname {rank} (AA^{\mathrm {T} })=\operatorname {rank} (A)=\operatorname {rank} (A^{\mathrm {T} }).}$

Это можно показать, доказав равенство их нулевых пространств . Нулевое пространство матрицы Грама задается векторами x, для которых, если это условие выполняется, мы также имеем ^[11]${\displaystyle A^{\mathrm {T} }A\mathbf {x} =0.}$${\displaystyle 0=\mathbf {x} ^{\mathrm {T} }A^{\mathrm {T} }Ax=\left|A\mathbf {x} \right|^{2}.}$

• Если A - матрица над комплексными числами и обозначает комплексно сопряженное к A и A ^∗ сопряженное транспонирование A (т. Е. Сопряженное к A ), то${\displaystyle {\overline {A}}}$

${\displaystyle \operatorname {rank} (A)=\operatorname {rank} ({\overline {A}})=\operatorname {rank} (A^{\mathrm {T} })=\operatorname {rank} (A^{*})=\operatorname {rank} (A^{*}A)=\operatorname {rank} (AA^{*}).}$

Приложения [ править ]

Одним из полезных приложений вычисления ранга матрицы является вычисление числа решений системы линейных уравнений . Согласно теореме Руше – Капелли , система несовместна, если ранг расширенной матрицы больше ранга матрицы коэффициентов . Если же ранги этих двух матриц равны, то система должна иметь хотя бы одно решение. Решение уникально тогда и только тогда, когда ранг равен количеству переменных. В противном случае общее решение имеет k свободных параметров, где kэто разница между количеством переменных и рангом. В этом случае (и если предположить, что система уравнений состоит из действительных или комплексных чисел) система уравнений имеет бесконечно много решений.

В теории управления , ранг матрицы может быть использован для определения , является ли линейная система является управляемой , или наблюдаемым .

В области коммуникационной сложности ранг коммуникационной матрицы функции дает границы объема коммуникации, необходимой двум сторонам для вычисления функции.

Обобщение [ править ]

Существуют различные обобщения концепции ранга для матриц над произвольными кольцами , где ранг столбца, ранг строки, размерность пространства столбца и размерность пространства строки матрицы могут отличаться от других или могут не существовать.

Если рассматривать матрицы как тензоры , тензорный ранг обобщается на произвольные тензоры; для тензоров порядка больше 2 (матрицы - это тензоры порядка 2), ранг очень трудно вычислить, в отличие от матриц.

Существует понятие ранга для гладких отображений между гладких многообразий . Он равен линейному рангу производной .

Матрицы как тензоры [ править ]

Ранг матрицы не следует путать с тензорным порядком , который называется тензорным рангом. Тензорный порядок - это количество индексов, необходимых для записи тензора , и, таким образом, все матрицы имеют тензорный порядок 2. Точнее, матрицы - это тензоры типа (1,1), имеющие один индекс строки и один индекс столбца, также называемый ковариантным порядком 1. и контравариантный порядок 1; подробности см. в Tensor (внутреннее определение) .

Тензорный ранг матрицы также может означать минимальное количество простых тензоров, необходимых для выражения матрицы как линейной комбинации, и что это определение действительно согласуется с рангом матрицы, как здесь обсуждается.

См. Также [ править ]

• Матроид ранг
• Неотрицательный ранг (линейная алгебра)
• Ранг (дифференциальная топология)
• Мультиколлинеарность
• Линейная зависимость

Заметки [ править ]

Ссылки [ править ]

Источники [ править ]

• Акслер, Шелдон (2015). Линейная алгебра сделано правильно . Тексты для бакалавриата по математике (3-е изд.). Springer . ISBN 978-3-319-11079-0.
• Халмос, Пол Ричард (1974) [1958]. Конечномерные векторные пространства . Тексты для бакалавриата по математике (2-е изд.). Springer . ISBN 0-387-90093-4.
• Хефферон, Джим (2020). Линейная алгебра (4-е изд.). ISBN 978-1-944325-11-4.
• Кацнельсон, Ицхак ; Кацнельсон, Йонатан Р. (2008). (Краткое) Введение в линейную алгебру . Американское математическое общество . ISBN 978-0-8218-4419-9.
• Роман, Стивен (2005). Продвинутая линейная алгебра . Тексты для бакалавриата по математике (2-е изд.). Springer . ISBN 0-387-24766-1.
• Валенца, Роберт Дж. (1993) [1951]. Линейная алгебра: введение в абстрактную математику . Тексты для бакалавриата по математике (3-е изд.). Springer . ISBN 3-540-94099-5.

Дальнейшее чтение [ править ]

• Роджер А. Хорн и Чарльз Р. Джонсон (1985). Матричный анализ . ISBN 978-0-521-38632-6.
• Кау, Аутар К. Две главы из книги Введение в матричную алгебру: 1. Векторы [1] и система уравнений [2]
• Майк Брукс: Справочное руководство по матрице. [3]