nicht-leere Teilmenge X ⊂ V eines euklidischen oder unitären Vektorraumes (V, ⟨·, ·⟩), deren Elemente paarweise orthogonal sind, d. h. für die gilt: ⟨x_i, x_j⟩ = 0 für alle x_i, x_j ∈ X mit x_i ≠ x_j. Um triviale Fälle auszuschließen, fordert man noch, daß X nicht die 0 enthält: X ∩ {0} = ∅. Orthogonalsysteme sind dann stets linear unabhängig.

Für jedes Orthogonalsystem {x₁, …, x_n} gilt der (verallgemeinerte) Satz des Pythagoras: \begin{eqnarray}{\Vert {x}_{1}+\cdots +{x}_{n}\Vert }^{2}={\Vert {x}_{1}\Vert }^{2}+\cdots +{\Vert {x}_{n}\Vert }^{2}.\end{eqnarray}

Beispiel: Im euklidischen Vektorraum aller reellen stetigen Funktionen auf dem Intervall [−π, π] mit dem Skalarprodukt \begin{eqnarray}\langle f,g\rangle :=\displaystyle \underset{-\pi }{\overset{\pi }{\int }}f(t)g(t)\,dt\end{eqnarray} bildet die Menge \begin{eqnarray}\{1,\cos t,\cos 2t,\ldots \sin t,\sin 2t,\ldots \}\end{eqnarray} ein Orthogonalsystem.