Ортогональное преобразование — линейное преобразование евклидова пространства , сохраняющее длины или (что эквивалентно) скалярное произведение векторов. Это означает, что для любых двух векторов выполняется равенство
где треугольными скобками обозначено скалярное произведение в пространстве .
В случае евклидовой плоскости всякое собственное ортогональное преобразование является поворотом на некоторый угол , и его матрица в любом ортонормированном базисе имеет вид
Она симметрична, имеет собственными числами 1 и −1 и, следовательно, является инволюцией. В подходящем ортонормированном базисе матрица несобственного ортогонального преобразования имеет вид
то есть оно является отражением относительно некоторой прямой. Собственное ортогональное преобразование есть произведение двух отражений:
В трёхмерном пространстве всякое собственное ортогональное преобразование есть поворот вокруг некоторой оси, а всякое несобственное — композиция поворота вокруг оси и отражения в перпендикулярной плоскости.