ein Unterraum U ⊆ V eines Vektorraumes V über \({\mathbb{K}}\), für den gilt: \begin{eqnarray}F(U)\subseteq U\end{eqnarray} (F ein Endomorphismus auf V); man nennt U dann auch invariant unter F, oder auch noch präziser F-invarianter Unterraum.

Der Durchschnitt F-invarianter Unterräume eines Vektorraumes V ist wieder ein F-invarianter Unterraum von V, ebenso die Summe endlich vieler F-invarianter Unterräume von V.

Ist der Unterraum U invariant unter F, so auch unter f(F) für jedes Polynom f über \({\mathbb{K}}\). Durch U → U; u ↦ f(F)(u) ist dann ein Endomorphismus auf U gegeben. Stets ist Ker(f(F)) ein F-invarianter Unterraum von V.

Der Durchschnitt aller F-invarianten Unterräume des Vektorraumes V, die ein festes Element v₀ ∈ V enthalten, ist der bzgl. Inklusion kleinste F-invariante Unterraum, der v₀ enthält, er ist gegeben durch die Menge aller \(f(F)({v}_{0})\), wobei f alle Polynome über \({\mathbb{K}}\) durchläuft; eine Basis dieses Unterraumes ist gegeben durch \begin{eqnarray}({v}_{0},F({v}_{0}),{F}^{2}({v}_{0}),\mathrm{...},{F}^{n-1}({v}_{0}))\end{eqnarray} mit einem geeigneten n ∈ ℕ.

Ist U ⊆ V ein F-invarianter Unterraum des Endomorphismus F : V → V auf dem endlich-dimen- sionalen Vektorraum V, so ist das charakteristische Polynom von F|U : U → U; u ↦ F(u) ein Teiler des charakteristischen Polynoms von F.

Eindimensionale F-invariante Unterräume des Vektorraumes V gibt es genau dann, wenn ein \(0\ne v\in V\) existiert mit \(F(v)=\lambda v\) für ein \(\lambda \in {\mathbb{K}}\). Eigenräume zu einem Endomorphismus φ sind stets φ-invariant.

Der von den linear unabhängigen Vektoren v₁,…,v_r aufgespannte Unterraum Span{v₁,…,v_r} des n-dimensionalen Vektorraumes V ist genau dann invariant unter dem Endomorphismus F : V → V, wenn F bzgl. einer Basis (v₁,…,v_r, b_r+1,…,b_n) von V durch eine (n × n)-Matrix A = (α_ij) mit α_ij = 0 für i ∈ {r + 1,…,n} und j ∈ {1,…,r} dargestellt wird. Ist \(U:=\text{span}\{{b}_{1},\mathrm{....},{b}_{{n}_{1}}\}\) ein F-invarianter Unterraum des Vektorraumes V mit der Basis b = (b₁,…,b_n), und ist U′ ein Unterraum mit \(V=U\oplus {U}{^{\prime} }\), so wird F bezüglich b durch die (n × n)-Matrix \begin{eqnarray}\left(\begin{array}{cc}A & C\\ 0 & {A}{^{\prime} }\end{array}\right)\end{eqnarray} beschrieben, wobei A = (a_ij) die (n₁ × n₁)-Matrix mit \begin{eqnarray}F({b}_{j})=\displaystyle \sum _{i=1}^{{n}_{1}}{a}_{ij}{b}_{i}\quad(1\le j\le {n}_{1})\end{eqnarray} bezeichnet, und C = (c_ij) bzw. \({A}{^{\prime} }=({{a}{^{\prime} }}_{ij})\) die (n₁ − n₁)- bzw. die (n − n₁ × n − n₁)-Matrix mit \begin{eqnarray}\begin{array}{cc}F({b}_{j})=\displaystyle \sum _{i=1}^{{n}_{1}}{c}_{ij}{b}_{i}+\mathop{\sum ^{n}}\limits_{i={n}_{1}+1}{{a}{^{\prime} }}_{ij}{b}_{i} & ({n}_{1}+1\le j\le n).\end{array}\end{eqnarray} Ist V direkte Summe der F-invarianten Unterräume \({U}_{1},\mathrm{...},{U}_{m}(V={U}_{1}\oplus \cdots \oplus {U}_{m})\) mit den Basen \({b}_{1}=({b}_{11},\mathrm{...},{b}_{{n}_{1}}1),\mathrm{...},{b}_{m}=({b}_{1m},\mathrm{...},{b}_{{n}_{m}m})\), so wird F bezüglich \(b=({b}_{11},\mathrm{...},{b}_{{n}_{1}}1,\mathrm{...},{b}_{{n}_{m}m})\) durch die Matrix \begin{eqnarray}\left(\begin{array}{ccc}{A}_{1} & & \\ & \ddots & \\ & & {A}_{m}\end{array}\right)\end{eqnarray} beschrieben, wobei A_i (1 ≤ i ≤ m) die Abbildung \({F}_{i}:{U}_{i}\to {U}_{i};u\mapsto F(u)\) bezüglich b_i beschreibt (siehe oben).

Es muß noch darauf hingewisen werden, daß die Bezeichnungsweise in der Literatur nicht ganz einheitlich ist; manche Autoren definieren die Invarianz eines Unterraums als die Eigenschaft von F, jedes Element des Unterraums auf sich selbst abzubilden (es genügt natürlich, dieses für eine Basis des Unterraums zu fordern). Die Mehrheit würde jedoch diese Eigenschaft (die natürlich viel stärker ist als (1)) als „elementeweise Invarianz“ bezeichnen.