Dado um Espaço vetorial euclidiano , um operador linear é dito ortogonal se preservar a norma de cada vetor , ou seja:

Se é um operador ortogonal, então a matriz da transformação é também ortogonal, ou seja:

isto é, a inversa da matriz coincide com sua transposta. Note que se é ortogonal, então . Além disso, as colunas (ou linhas) de uma matriz ortogonal são sempre vetores ortonormais.

Todo operador linear ortogonal preserva o produto escalar de vetores, ou seja, para quaisquer vetores tem-se: