Math spé : Exercices sur les polynômes d'endomorphismes

On commence par remarque que, pour tout $n\geq 1$, $M^n$ a la forme suivante : $$\left(\begin{array}{cc} A^n&*\\ 0&B^n \end{array}\right).$$ Donc, pour tout polynôme $R$, on a $$R(M)=\left(\begin{array}{cc} R(A)&*\\ 0&R(B) \end{array}\right).$$ En particulier, on a $$P(M)=\left(\begin{array}{cc} 0&*\\ 0&* \end{array}\right)\textrm{ et } Q(M)=\left(\begin{array}{cc} *&*\\ 0&0 \end{array}\right).$$ On vérifie alors aisément que $PQ(M)=P(M)Q(M)=0$.

D'après le théorème de décomposition des noyaux, on a $$E=\ker(P(u))=\ker(R(u))\oplus \ker(Q(u)).$$ En particulier, on sait que $\dim(\ker R(u))+\dim(\ker Q(u))=\dim (E).$ D'après le théorème du rang appliqué à l'endomorphisme $R(u)$, on a aussi $$\dim(\textrm{Im}(R(u))+\dim(\ker(R(u))=\dim(E).$$ On en déduit que $\textrm{Im}(R(u))$ et $\ker(Q(u))$ ont la même dimension. De plus, on a sait que $$QR(u)=Q(u)\circ R(u)=0,$$ ce qui implique que $ \textrm{Im}(R(u))\subset \ker(Q(u))$. Puisque ces deux sous-espaces ont la même dimension, ils sont en réalité égaux.

On vérifie facilement que $J^2=nJ$ et donc que $P(X)=X^2-nX$ est un polynôme annulateur pour $J$. Effectuons ensuite la division euclidienne de $X^k$ par $P$. Puisque $P$ est de degré 2, il existe $Q\in\mathbb R[X]$ et $a,b\in\mathbb R$ tels que $$X^k=P(X)Q(X)+aX+b.$$ On évalue cette égalité en les racines de $P$, à savoir $0$ et $n$. L'évaluation en $0$ donne $b=0$ et l'évalution en $n$ donne $a=n^{k-1}$. On a donc $X^k=P(X)Q(X)+n^{k-1}X$. On en déduit que $J^k=n^{k-1}J$, relation que l'on aurait tout aussi bien pu prouver assez simplement par récurrence!

On sait qu'on a un polynôme annulateur non-nul lorsque $E$ est de dimension finie. Si $E$ est de dimension infinie, ce n'est plus nécessairement le cas. Considérons par exemple $E=\mathbb R[X]$, et $u$ l'endomorphisme défini par $u(A)=XA$. Alors $u$ n'admet pas de polynôme annulateur. En effet, soit $P(X)=a_kX^k+\dots+a_0$ un polynôme, alors $$P(u)(1)=a_ku^k(1)+\dots+a_1u(1)+a_0Id(1)=a_kX^k+\dots+a_1X+a_0,$$ qui est non-nul si $P\neq 0$. D'où $P(u)\neq 0$ si $P\neq 0$.

Soit $P(X)=a_n X^n+\dots+a_1X+a_0$ ce polynôme. Puisque $P(0)=0$, on a $a_0=0$. Puisque $P'(0)\neq 0$, on a $a_1\neq 0$. Prenons maintenant $y\in\ker(f)\cap\textrm{Im}(f)$. On peut donc écrire $y=f(x)$ et on sait que $f(y)=0$, ce qui entraîne $f^p(x)=0$ pour tout $p\geq 2$. On applique alors la relation $P(f)=0$ à $y$ : $$0=P(f)(x)=a_nf^n(x)+\dots+a_1 f(x)=a_1 f(x)=a_1y$$ ce qui entraîne $y=0$. $\ker(f)$ et $\hbox{Im}(f)$ sont donc en somme directe. De plus, par le théorème du rang, on sait que $$\dim(\ker(f))+\dim(\hbox{Im}(f))=\dim(E).$$ D'où l'égalité demandée.

Considérons $u$ l'endomorphisme de $\mathbb R_{n-1}[X]$ défini par $\phi(P )(X)=P(X+1)$. C'est un endomorphisme de $\mathbb R_{n-1}[X]$ de dimension $n$. Notons $\chi_u(X)=X^n+a_{n-1}X^{n-1}+\dots+a_0$ son polynôme caractéristique. D'après le théorème de Cayley-Hamilton, on a pour tout $P\in\mathbb R_{n-1}[X]$, $\chi_u(u)=0$. Puisque $u^k( P)=P(X+k)$, ceci donne exactement la relation demandée.

Le sens direct est clair (le produit de deux matrices triangulaires supérieures étant une matrice triangulaire supérieure). Réciproquement, soit $\chi_A(X)$ le polynôme annulateur de $A$. $$\chi_A(X)=X^n+a_{n-1}X^{n-1}+\dots+a_0$$ où $a_0=(-1)^n \det(A)$. En particulier, $a_0\neq 0$. D'après le théorème de Cayley-Hamilton, on a $$\chi_A(A)=A^n+a_{n-1}A^{n-1}+\dots+a_0 I_n=0.$$ On multiplie la relation par $A$, puis on isole $A$. Il vient : $$A=\frac{-1}{a_0}\left(a_1A^2+\dots+a_{n-1}A^n+A^{n+1}\right).$$ Ainsi, comme $A^2,\dots,A^{n+1}$ sont triangulaires supérieures, il en est de même de $A$.
Le résultat ne subsiste pas si $A$ n'est pas inversible. En effet, prenons $$A=\left( \begin{array}{cc} 0&0\\ 1&0 \end{array}\right).$$ $A$ n'est pas triangulaire supérieure, et pour tout $k\geq 2$, $A^k=0$.

On note $P_f$ le polynôme caractéristique de $f$, que l'on factorise en produit d'irréductibles sur $\mtr$ : $$P_f(X)=\prod_{i=1}^l(X-\alpha_i)^{n_i}\prod_{j=1}^m(X^2+a_jX+b_j)^{q_j}.$$ Si cette factorisation possède un facteur de degré 1, l'endomorphisme possède un vecteur propre $u$, et la droite vectorielle $\vect(u)$ convient. Sinon, d'après le théorème de Cayley-Hamilton : $$(f^2+a_1f+b_1Id)^{q_1}\circ\dots\circ(f^2+a_mf+b_mId)^{q_m}=0.$$ La composée d'applications bijectives étant bijective, une des applications que l'on compose au moins n'est pas bijective. On en déduit par exemple que $f^2+a_1f+b_1Id$ n'est pas une bijection. Soit $u$ dans le noyau de cette application. Alors $\vect(u,f(u))$ est un plan stable, car $f^2(u)=-a_1f(u)-b_1u$. Remarquons qu'un endomorphisme sur un $\mtr-$espace vectoriel n'admet pas forcément une valeur propre, comme le prouve l'endomorphisme : $$\left(\begin{array}{cc} 0&1\\ -1&0\\ \end{array}\right).$$

On écrit $X^p-1=X^p-(\omega^{-1})^p$ et on factorise ce polynôme comme $$X^p-1=(X-\omega^{-1})(X^{p-1}+\omega^{-1}X^{p-2}+\dots+\omega^{-(p-1)}).$$ De $A^p=I_n$, on en déduit que $$(A-\omega^{-1}I)\times\sum_{k=0}^{p-1}A^k(\omega^{-1})^{p-1-k}=0.$$ Puisque $\omega^{-1}$ n'est pas une valeur propre de $A$, $(A-\omega^{-1}I)$ est inversible. Donc on trouve $$\sum_{k=0}^{p-1}A^k\omega^{-p+1+k}=0.$$ Il suffit de multiplier par $\omega^{p-1}$ pour en déduire le résultat.

On note $B$ la transposée de la comatrice de $A$, il suffit de calculer le polynôme caractéristique de $B$. On suppose d'abord que $A$ est inversible. La formule de Cramer s'écrit encore : $$B=\det(A)A^{-1},$$ ce qui donne : $$B-XI_n=\det(A)\left(A^{-1}-\frac{X}{\det A}I_n\right).$$ On note $\lambda_1,\dots,\lambda_n$ les valeurs propres de $A$ dans $\mtc$, répétées autant de fois que leur multiplicité pour en avoir exactement $n$. On rappelle que le déterminant de $A$ vaut : $$\det(A)=\prod_{j=1}^n\lambda_j.$$ Par ailleurs, les valeurs propres de $A^{-1}$ sont les $\frac{1}{\lambda_j}$, et le polynôme caractéristique de $A^{-1}$ vaut donc : $$P_{A^{-1}}(X)=(-1)^n \prod_{j=1}^n\left(X-\frac{1}{\lambda_j}\right).$$ On obtient finalement que : \begin{eqnarray*} P_B(X)&=&(-1)^n\prod_{j=1}^n\lambda_j^n\prod_{j=1}^n\left(\frac{X}{\lambda_1\dots\lambda_n}-\frac{1}{\lambda_i}\right)\\ &=&(-1)^n\prod_{i=1}^n\left(X-\prod_{m\neq i}\lambda _m\right). \end{eqnarray*} Dans le cas où $A$ n'est pas inversible, il est bien connu que pour $r>0$ assez petit, $A_r=A+rI_n$ est inversible, et si $r$ tend vers 0, la suite $A_r$ tend vers $A$. En outre, les valeurs propres de $A_r$ tendent vers les valeurs propres de $A$. Il suffit donc d'appliquer le résultat précédent à $A_r$, puis de faire tendre $r$ vers 0 pour vérifier que le résultat est encore valable.

On va utiliser plusieurs méthodes. Pour $A$, on remarque que son polynôme caractéristique est $(X-1)^2$. Son polynôme minimal ne peut être que $(X-1)$ ou $(X-1)^2$. Ce ne peut pas être $X-1$ car si $A$ serait égale à $I_2$ donc son polynôme minimal est $(X-1)^2$.
Pour $B$, on remarque que $B^2=3B$ et donc $B^2-3B=0$. Comme $B$ n'est pas un multiple de l'identité, on en déduit que son polynôme minimal est $X^2-3X$.
Pour $C$, nous allons utiliser le fait qu'elle est diagonalisable. On commence par calculer le polynôme caractéristique de $C$. Après calculs, on trouve qu'il est égal à $$\chi_C(X)= (X-1)(X+1)^2.$$ $C$ admet donc deux valeurs propres, $1$ et $-1$. On recherche les espaces propres associés. Pour la valeur propre 1, on trouve que $E_1=\mathbb R f_1$ avec $f_1=(1,1,1)$. Pour la valeur propre -1, on trouve que $E_{-1}=\mathbb R f_2\oplus\mathbb Rf_3$ avec $f_2=(-1,1,0)$ et $f_3=(1,0,1)$. La matrice $C$ est donc diagonalisable, de spectre $1$ et $-1$. Son polynôme minimal est donc $(X-1)(X+1)$. On aurait pu aussi dire que son polynôme minimal divise le polynôme caractéristique $(X-1)(X+1)^2$ tout en ayant les mêmes racines. Cela ne peut être que $(X-1)(X+1)$ ou $(X-1)(X+1)^2$. Il était alors facile de vérifier que $(X-1)(X+1)$ est un polynôme annulateur pour $C$.
Pour $D$, le polynôme caractéristique de $D$ est $$\chi_D(X)=(X+1)^3.$$ La seule valeur propre de $D$ est donc -1. Comme $D$ n'est pas égale à $-I_3$, $D$ n'est pas diagonalisable et son polynôme minimal ne peut être que $(X+1)^3$ ou $(X+1)^2$. Un calcul rapide montre que $(D+I_3)^2=0$, et donc le polynôme minimal de $D$ est $(X+1)^2$.

Posons $P=\textrm{ppcm}(\pi_F,\pi_G).$ Alors, pour tout $y\in F$, on a $P(u)(y)=0$ car $\pi_F|P$ et pour tout $z\in G$, on $P(u)(z)=0$ car $\pi_G|P$. Puisque tout élément de $x\in E$ s'écrit $y+z$ avec $y\in F$ et $z\in G$, on a $P(u)(x)=0$, et donc $\pi_u|P$.
Réciproquement, on sait que $\pi_F|\pi_u$ et que $\pi_G|\pi_u$, et donc $P|\pi_u$. En conclusion, on a bien $P=\pi_u$ (les deux polynômes sont unitaires).

D'abord, d'après le théorème de Cayley-Hamilton, le polynôme caractéristique est annulateur et c'est donc un multiple du polynôme minimal. Alors les racines du polynôme minimal sont racines du polynôme caractéristique, c'est-à-dire valeurs propres de $u$. Réciproquement, soit $\lambda$ une valeur propre de $u$ et $x$ un vecteur propre associé (non nul). Alors pour tout polynôme $P$, on a $P(u)(x)=P(\lambda)x$. Puisque $\pi_u(u)=0$, on doit avoir $\pi_u(\lambda)=0$ et donc $\lambda$ est racine du polynôme minimal de $u$.

Supposons d'abord qu'il existe une telle matrice. Alors puisque $X^2+1$ n'a pas de racines dans $\mathbb R$, $A$ n'admet pas de valeurs propres réelles. Ceci n'est possible que si $n$ est pair, sinon le polynôme caractéristique est de degré impair et s'annule.
Réciproquement, supposons que $n=2p$ est pair. La clé est le cas $n=2$. Dans ce cas, la matrice $$B=\left(\begin{array}{cc} 0&1\\ -1&0 \end{array}\right)$$ convient (dans ce cas, on a également $\chi_B(X)=X^2+1$). Plus généralement, pour $n=2p$ pair quelconque, on considère la matrice diagonale par blocs comprenant sur la diagonale $p$ blocs de $B$.

Supposons d'abord que $P$ et $\pi_u$ sont premiers entre eux. Alors, d'après le théorème de Bézout, il existe $U,V\in\mathbb K[X]$ tels que $UP+V\pi_u=1$. On évalue en $u$ : $$U(u)P(u)+V(u)\pi_u(u)=Id_E\iff U(u)P(u)=I_n.$$ $P(u)$ est donc inversible, d'inverse $U(u)$.
Réciproquement, supposons que $P$ et $\pi_u$ ne sont pas premiers entre eux, et soit $Q$ un facteur commun. On factorise $\pi_u$ en $\pi_u=QR$ avec $\deg(Q),\deg(R )<\deg(\pi_u)$. En particulier, on a $R(u)\neq 0$. Mais d'autre part, $\pi_u|PR$ et donc $0=P(u)R(u)$. Comme $R(u)$ est non-nul, $P(u)$ n'est pas inversible.

Supposons d'abord $M$ diagonalisable. Alors, $M$ s'écrit $PDP^{-1}$ où $D$ est diagonale. Il est clair que $M^p$ s'écrit $PD^pP^{-1}$, où $D^p$ est elle aussi diagonale. Donc $M^p$ est diagonalisable. De plus, puisque $P$ est inversible, on a $x\in \ker(M)\iff P^{-1}x\in P\ker(D)$ et $x\in \ker(M^p)\iff P^{-1}x\in P\ker(D^p)$. Puisque $\ker(D)$ et $\ker(D^p)$ sont égaux, on a bien $\ker(M)=\ker(M^p)$.
Réciproquement, on suppose que $M^p$ est diagonalisable et que $\ker(M^p)=\ker(M)$. Alors, $M^p$ annule un polynôme de $\mathbb C[X]$ scindé à racines simples (par exemple, son polynôme minimal). Quitte à multiplier ce polynôme par $X$, il existe donc des complexes $\lambda_1,\dots,\lambda_s$, tous distincts et différents de 0, tels que $$M^p(M^p-\lambda_1 I)\dots(M^p-\lambda_s I)=0.$$ Soient $\mu_{1,i},\dots,\mu_{p,i}$ les racines $p$-ièmes de $\lambda_i$. Elles sont toutes distinctes entre elles, et distinctes des $\mu_{k,j}$ pour $k\neq j$. Factorisant $$X^p-\lambda_i=\prod_{k=1}^p (X-\mu_{k,i}),$$ on obtient $$M^p\prod_{k=1,\dots,p\atop i=1,\dots, s}(M-\mu_{k,i}I)=0.$$ D'après le théorème de décomposition des noyaux, on a $$\ker(M^p)\bigoplus\oplus_{k=1,\dots,p\atop i=1,\dots,s}\ker(M-\mu_{k,i}I)=\mathbb C^n.$$ De la deuxième partie de l'hypothèse, on tire $$\ker(M)\bigoplus\oplus_{k=1,\dots,p\atop i=1,\dots,s}\ker(M-\mu_{k,i}I)=\mathbb C^n.$$ Autrement dit, $\mathbb C^n$ est somme des espaces propres de $M$ (certains espaces de la décomposition précédente peuvent être réduits à $\{0\}$). Autrement dit, $M$ est diagonalisable.
Dans $\mathbb R$, le résultat devient faux. En effet, prenons la matrice $M=\left(\begin{array}{cc} 0&1\\ -1&0 \end{array}\right).$ Alors $M$ n'est pas diagonalisable (sur $\mathbb R$) car elle n'admet pas de valeurs propres. En revanche, $M^2=-I_2$ est diagonale, donc diagonalisable!

Commençons par prouver que $1.\implies 2.$ Pour cela, on part de $(e_1,\dots,e_n)$ une base de vecteurs propres de $f$, $f(e_i)=\lambda_i e_i$, et posons $x=e_1+\dots+e_n$. Alors la famille $(x,f(x),\dots,f^{n-1}(x))$ est libre, donc c'est une base de $E$. En effet, s'il existe une relation de liaison $$\alpha_0 x+\dots+\alpha_{n-1}f^{n-1}(x),$$ alors puisque $$f^k(x)=\lambda_1^k e_1+\dots+\lambda_n^k e_n$$ en raisonnant coordonnées par coordonnées on obtient que pour tout $i$, on a $$\alpha_0+\alpha_1\lambda_i+\dots+\alpha_{n-1}\lambda_i^{n-1}=0.$$ Notant $P$ le polynôme $P(X)=\alpha_0+\alpha_1X+\dots+\alpha_{n-1}X^{n-1}$, on obtient que $P(\lambda_i)=0$ pour tout $i=1,\dots,n$, donc $P$ admet $n$ racines distinctes. $P$ est le polynôme nul, donc tous les $\alpha_i$ sont nuls et la famille est effectivement libre. Une autre façon de procéder aurait été de remarquer que la matrice de passage de $(e_1,\dots,e_n)$ à $(x,f(x),\dots,f^{n-1}(x))$ est une matrice de Vandermonde.
L'implication $2.\implies 3.$ est la plus facile des trois. En effet, si la famille $(Id,f,\dots,f^{n-1})$ était liée, toute relation de liaison non triviale donnerait, par évaluation en $x$, une relation de liaison non triviale sur la famille $(x,f(x),\dots,f^{n-1}(x))$.
Prouvons enfin $3.\implies 1.$. Puisque $f$ est diagonalisable, son polynôme minimal est scindé à racines simples. Mais d'après la troisième propriété, ce polynôme doit être au moins de degré $n$. Il est donc exactement de degré $n$, et admet $n$ racines distinctes qui sont les valeurs propres de $f$.

Supposons que $B$ soit diagonalisable. Alors il existe un polynôme scindé à racines simples, noté $P$, tel que $P(B)=0$. Calculons $P(B)$. On montre facilement par récurrence sur $n$ que $$B^n=\left(\begin{array}{c|c} A^n&nA^n\\ \hline 0&A^n \end{array}\right).$$ Ainsi, par linéarité, on trouve que $$P(B)=\left(\begin{array}{c|c} P(A)&AP'(A)\\ \hline 0&P(A) \end{array}\right).$$ Puisque $P(B)$ est nul, on a aussi $P(A)=0$ et $AP'(A)=0$. Le point crucial est de remarquer que, puisque $P$ est scindé à racines simples, on a $P\wedge P'=1$. En effet, tout diviseur irréductible de $P$, qui est forcément de la forme $(X-a)$ (car $P$ est scindé), ne peut pas aussi diviser $P'$ (car les racines de $P$ sont simples). Par le théorème de Bézout, on en déduit qu'il existe deux polynômes $U$ et $V$ de $\mathbb R[X]$ tels que $$U(X)P(X)+V(X)P'(X)=1$$ soit encore $$XU(X)P(X)+V(X)XP'(X)=X.$$ On évalue cette égalité en $A$, et puisque $P(A)=0$ et $AP'(A)=0$, on trouve $$0+0=A$$ et donc $A$ doit être la matrice nulle. Réciproquement, si $A$ est la matrice nulle, $B$ est clairement diagonalisable.

D'après le théorème de Cayley-Hamilton, le polynôme caractéristique est annulateur, et donc $\pi_f|\chi_f$. Écrivons : $$\pi_f(X)=\prod_i P_i^{\alpha_i}(X),$$ $$\chi_f(X)=\prod_i P_i^{\beta_i}(X)Q(X),$$ où les $P_i$ sont irréductibles, $\beta_i\geq \alpha_i$, et où $Q$ est premier avec chaque $P_i$. Le théorème de décomposition des noyaux, appliqué dans chacun des cas, donne : $$\mathbb C^n=\oplus_{i}\ker(P_i^{\alpha_i}(f));$$ $$\mathbb C^n=\oplus_{i}\ker(P_i^{\beta_i}(f))\oplus\ker Q(f).$$ Par des considérations de dimension, et remarquant que $\ker P_i^{\alpha_i}\subset \ker P_i^{\beta_i}$, on obtient que $\ker Q(f)=\{0\}$. Autrement dit, $Q(f)$ est injectif.
Supposons maintenant que $Q$ n'est pas un polynôme constant. Soit $\lambda$ une racine de $Q$. C'est aussi une racine de $\chi_f$ et il s'agit donc d'une valeur propre de $f$ associée à un vecteur propre non nul $x\in\mtc^n$. On a donc : $$(f-\lambda Id)(x)=0\implies Q(f)(x)=0.$$ Ceci contredit que $Q(f)$ est injectif. $Q$ est donc constant, et $\chi_f$ a les mêmes facteurs irréductibles que $\pi_f$.
Ce résultat reste valable sur $\mathbb R$, par exemple en raisonnant sur les matrices et en remarquant que si deux polynômes de $\mathbb R[X]$ ont les mêmes facteurs irréductibles sur $\mathbb C$, alors ils ont les mêmes facteurs irréductibles sur $\mathbb R$.