Ортогона́льная ма́трица — квадратная матрица с вещественными элементами, результат умножения которой на транспонированную матрицу равен единичной матрице[1]:
или, что эквивалентно, её обратная матрица (которая обязательно существует) равна транспонированной матрице:
Ортогональная матрица с определителем называется специальной ортогональной.
Другими словами, скалярное произведение строки на саму себя равно 1, а на любую другую строку — 0. Это же справедливо и для столбцов.