Ортогональные и унитарные матрицы
Жёсткие преобразования, бесплатное обращение и путь к спектральной теореме
1. Определение — три эквивалентных лица
Вспомним, что процесс Грама–Шмидта берёт любой базис и строит ортонормированный набор — векторы, которые попарно перпендикулярны и каждый имеет единичную длину. Если записать эти ортонормированные векторы как столбцы квадратной матрицы, получится ортогональная матрица.
Это единственное геометрическое требование имеет два мощных алгебраических эквивалента. Три лица:
Лицо 1 — Столбцы
Столбцы $A$ образуют ортонормированное семейство.
Лицо 2 — Произведение
$A^{\!\top}A = I$ (а также $AA^{\!\top} = I$).
Лицо 3 — Обратная матрица
$A^{-1} = A^{\!\top}$.
Почему все три эквивалентны
Лицо 1 ⟹ Лицо 2. Запишем $A = [\mathbf{a}_1 \;|\; \mathbf{a}_2 \;|\; \cdots \;|\; \mathbf{a}_n]$. Элемент $(i,j)$ матрицы $A^{\!\top}A$ равен $\mathbf{a}_i \cdot \mathbf{a}_j$. Ортонормированность означает, что это равно $1$ при $i=j$ и $0$ в остальных случаях — то есть это в точности единичная матрица.
Лицо 2 ⟹ Лицо 3. Если $A^{\!\top}A = I$, то по определению $A^{\!\top}$ является левой обратной матрицей для $A$. Для квадратных матриц левая обратная является единственной обратной, поэтому $A^{-1} = A^{\!\top}$.
Лицо 3 ⟹ Лицо 1. Если $A^{-1} = A^{\!\top}$, то $A^{\!\top}A = I$, и, считывая элементы, получаем $\mathbf{a}_i \cdot \mathbf{a}_j = \delta_{ij}$, то есть столбцы ортонормированы.