Dado um Espaço vetorial euclidiano , um operador linear é dito ortogonal se preservar a norma de cada vetor , ou seja:
Se é um operador ortogonal, então a matriz da transformação é também ortogonal, ou seja:
isto é, a inversa da matriz coincide com sua transposta. Note que se é ortogonal, então . Além disso, as colunas (ou linhas) de uma matriz ortogonal são sempre vetores ortonormais.
Todo operador linear ortogonal preserva o produto escalar de vetores, ou seja, para quaisquer vetores tem-se: