$E$ désigne un $\mathbb K$-espace vectoriel, $\mathbb K$ étant le corps $\mathbb R$ ou $\mathbb C$, et $u$ désigne un élément de $\mathcal L(E)$.
On rappelle la notation suivante :
$$u^n=u\circ u\circ\dots \circ u\textrm{ de sorte que }u^{p+q}=u^p\circ u^q.$$
Polynômes d'un endomorphisme
Soit $P\in\mathbb K[X]$ qu'on écrit $P(X)=a_dX^d+a_{d-1}X^{d-1}+\dots+a_1X+a_0$. On note $P(u)$ l'endomorphisme de $E$ défini par
$$P(u)=a_d u^d+a_{d-1}u^{d-1}+\dots+a_1u+a_0Id_E.$$
Proposition : L'application $\phi$ de $\mathbb K[X]$ dans $\mathcal L(E)$ définie par $P\mapsto P(u)$ est
un morphisme d'algèbres. Son image est une sous-algèbre commutative de $\mathcal L(E)$, notée $\mathbb K[u]$; c'est
la plus petite algèbre de $\mathcal L(E)$ contenant $u$. Le noyau de $\phi$ s'appelle l'idéal annulateur de $u$.
En particulier, la proposition précédente implique que, pour tous $P,Q\in\mathbb K[X]$, on a
$$(PQ)(u)=P(u)\circ Q(u).$$
Théorème : Si $E$ est de dimension finie, alors le noyau de $P\mapsto P(u)$ n'est pas réduit à $\{0\}$. Il existe un unique polynôme unitaire $\pi_u$ qui engendre ce noyau. On appelle ce polynôme le polynôme minimal de $u$.
Le polynôme minimal de $u$ est donc caractérisé par $\pi_u$ est unitaire, $\pi_u(u)=0$ et si $P\in\mathbb K[X]$ est tel que $P(u)=0$, alors $\pi_u|P$.
Dans la suite, on supposera désormais que $E$ est de dimension finie.
Proposition : Si $d$ est le degré du polynôme minimal de $u$, alors $\{\textrm{Id},u,\dots,u^{d-1}\}$ forme une base de
$\mathbb K[u]$.
Proposition : Soit $P\in\mathbb K[X]$, $\lambda\in\textrm{Sp}(u)$ et $x\in E\backslash\{0\}$ tel que $u(x)=\lambda x$. Alors
$$P(u)(x)=P(\lambda)x.$$
En particulier, si $P$ est un polynôme annulateur de $u$, alors $P(\lambda)=0$.
Corollaire : Les valeurs propres de $u$ sont exactement les racines
du polynôme minimal de $u.$
Théorème de Cayley-Hamilton :
Le polynôme caractéristique $\chi_u$ est un polynôme annulateur de $u$.
On définit les mêmes notions pour une matrice $A\in\mathcal M_n(\mathbb K)$. Toutes les propriétés analogues sont vérifiées.
Lemme de décomposition des noyaux
Théorème : Soient $P_1,\dots,P_r\in\mathbb K[X]$ des polynômes premiers entre eux deux à deux et notons $P=P_1\cdots P_r$. Alors
$$\ker(P(u))=\bigoplus_{i=1}^r \ker(P_i(u)).$$
Polynôme annulateur et réduction
$E$ est de dimension finie $n$. L'existence d'un polynôme annulateur pour $u$ possédant certaines propriétés
donne des informations sur sa diagonalisabilité.
Théorème : Les assertions suivantes sont équivalentes :
$u$ est diagonalisable.
$u$ admet un polynôme annulateur scindé à racines simples.
le polynôme minimal de $u$ est scindé à racines simples.
Ce résultat est important pour démontrer que la restriction d'un endomorphisme diagonalisable
à un sous-espace stable est elle-même diagonalisable. En effet :
Proposition : Soit $F$ un sous-espace stable par $u$ et notons
$u_F$ l'endomorphisme induit par $u$ sur $F$. Alors son polynôme minimal divise le polynôme minimal de $u$.
Corollaire : Si $F$ est un sous-espace stable par $u$ et si $u$ est diagonalisable, alors
l'endomorphisme induit $u_F$ par $u$ sur $F$ est lui-même diagonalisable.
Concernant la trigonalisabilité, on a le résultat suivant :
Théorème : Les assertions suivantes sont équivalentes :
$u$ est trigonalisable.
$u$ admet un polynôme annulateur scindé.
le polynôme minimal de $u$ est scindé.
le polynôme caractéristique de $u$ est scindé.
Sous-espaces caractéristiques
$E$ est de dimension finie $n$. Soit $\lambda$ une valeur propre de $u$ de multiplicité $m(\lambda)$
On appelle sous-espace caractéristique associé à $\lambda$ le sous-espace
$$C_\lambda=\ker( (u-\lambda \textrm{Id}_e)^{m(\lambda)}).$$
Du théorème de Cayley-Hamilton et du lemme des noyaux, on déduit le résultat suivant :
Théorème : On suppose que le polynôme
caractéristique de $u$ est scindé. Alors
$$E=\bigoplus_{\lambda\in\textrm{Sp}(u)} C_\lambda.$$
En étudiant $u$ sur chaque sous-espace caractéristique $C_\lambda$, on obtient finalement :
Corollaire : On suppose que le
polynôme caractéristique de $u$ est scindé. Alors il existe une base de $u$ dans laquelle
la matrice de $u$ est diagonale par blocs, chaque bloc étant triangulaire supérieur à coefficients
diagonaux égaux.
Endomorphismes nilpotents, matrices nilpotentes
L'espace vectoriel $E$ est de dimension finie $n$.
On dit que $u\in\mathcal L(E)$ est nilpotent
s'il existe un entier naturel $p$ tel que $u^p=0$. Le plus petit entier naturel
$p$ qui convient s'appelle l'indice de nilpotence de $u$.
Théorème : Soit $u\in\mathcal L(E).$
Les assertions suivantes sont équivalentes :
$u$ est nilpotent;
$\chi_u(X)=X^n$;
il existe une base de $E$ dans laquelle la matrice de $u$ est triangulaire supérieure avec des zéros sur la diagonale.
Corollaire : L'indice de nilpotence de $u$ est majoré par $n$.
On dit que $A\in\mathcal M_n(\mathbb K)$ est nilpotente s'il existe $p\in\mathbb N$ tel que $A^p=0$.
Le plus entier naturel $p$ qui convient s'appelle l'indice de nilpotence de $A.$
Corollaire : Une matrice $A\in\mathcal M_n(\mathbb K)$ est nilpotente si et seulement si $A$ est semblable
à une matrice triangulaire supérieure avec des zéros sur la diagonale.
En particulier, comme pour les endomorphismes nilpotents, l'indice de nilpotence de $A\in\mathcal M_n(\mathbb K)$
est inférieur ou égal à $n.$