Sous-espace stable
Soit $E$ un espace vectoriel, $u$ un endomorphisme de $E$ et $F$ un sous-espace vectoriel de $E$. On dit que $F$ est stable par $u$ (ou $u$-stable) si $u(F)\subset F.$ Autrement dit, $F$ est stable par $u$ si et seulement si la restriction de $u$ à $F$ induit un endomorphisme de $F.$
Exemple :
- $E$ et $\{0\}$ sont stables par tout endomorphisme $u$ de $E$.
- Si $u$ et $v$ sont deux endomorphismes de $E$ qui commutent ($u\circ v=v\circ u$), alors $\textrm{Im}(u)$ et $\ker(u)$ sont stables par $v$, et même $\ker(P(u))$ et $\textrm{Im}(P(u))$ sont stables par $v$ pour tout polynôme $P$. Cette propriété est souvent utile lors de la réduction des endomorphismes.
Les sous-espaces stables interviennent notamment dans la réduction des endomorphismes. L'idéal, pour un endomorphisme $u$ de $E$, est de trouver des sous-espaces vectoriels $F$ et $G$ supplémentaires de sorte que $F$ et $G$ soient stables par $u$. Dans une base adaptée à la décomposition $E=F\oplus G,$ la matrice de $E$ est diagonale par blocs. On peut espérer itérer cela pour avoir la forme la plus simple possible d'une matrice de $u.$
Les sous-espaces stables possèdent les propriétés suivantes :
- Si $(A_i)_{i\in I}$ est une famille de sous-espaces stables par $u$, alors $\bigcap_{i\in I}A_i$ et $\sum_{i\in I}A_i$ sont stables par $u$.
- Si $u$ est diagonalisable, alors sa restriction à tout sous-espace stable par $u$ est diagonalisable. En particulier, les sous-espaces stables par $u$ sont les sous-espaces engendrés par les vecteurs propres.
- Si $u$ est trigonalisable, alors sa restriction à tout sous-espace stable par $u$ est trigonalisable.
- Si $u$ est diagonalisable, alors tout sous-espace de $E$ possède un supplémentaire stable par $u$.
- Si $F$ est un sous-espace stable de $u,$ alors le polynôme caractéristique de $u_{|F}$ divise le polynôme caractéristique de $u$ et le polynôme minimal de $u_{|F}$ divise le polynôme minimal de $u.$