Math sup : Matrices

Soit $B=\left( \begin{array}{cc} c & d\\ e &f \end{array} \right)$ une telle matrice. On a : $$AB=\left(\begin{array}{cc} ac+be&ad+bf\\ ae&af\\\end{array}\right),BA=\left(\begin{array}{cc} ac&bc+ad\\ ae&be+af\\\end{array}\right).$$ Puisque $AB=BA$, on obtient le système : $$\left\{\begin{array}{rcl} ac+be&=&ac\\ ad+bf&=&bc+ad\\ af&=&be+af\\\end{array}\right.$$ On résout ce système pour trouver que $e=0$ et $c=f$. Toutes les matrices $B$ qui conviennent sont celles de la forme : $$\left(\begin{array}{cc} c&d\\ 0&c\end{array}\right).$$

On trouve : $$AB=AC=\left(\begin{array}{ccc} 1&1&1\\ 1&1&0\\ 4&4&3\end{array}\right).$$ La matrice $A$ n'est pas inversible : si tel était le cas, on multiplierait à gauche par $A^{-1}$ dans l'égalité $AB=AC$, et on trouverait $B=C$. Ce n'est pas le cas! Pour la seconde partie, on considère $F$ une matrice vérifiant les propriétés précitées : $$F=\left(\begin{array}{ccc} a&b&c\\ d&e&f\\ g&h&i\\ \end{array}\right).$$ Le calcul de $AF$ donne : $$AF=\left(\begin{array}{ccc} a&b&c\\ d+g&e+h&f+i\\ 3a+d+g&3b+e+h&3c+f+i\\ \end{array}\right).$$ Puisque $AF=0$, on a le système suivant : $$\left\{\begin{array}{l} a=b=c=0\\ d+g=e+h=f+i=0\\ 3a+d+g=3b+e+h=3c+f+i=0 \end{array}\right.\iff \left\{ \begin{array}{l} a=b=c=0\\ d=-g\\ e=-h\\ f=-i\\ \end{array}\right.$$ Les matrices $F$ recherchées sont donc les matrices de la forme : $$F=\left(\begin{array}{ccc} 0&0&0\\ d&e&f\\ -d&-e&-f\\ \end{array}\right).$$

Les matrices $$ A = \begin{pmatrix} 0&1\\ 0&0\\ \end{pmatrix}, \qquad B = \begin{pmatrix} 1&0\\ 0&0\\ \end{pmatrix} $$ conviennent.

On va commencer par calculer les premiers termes de $A^n$ pour essayer de deviner la formule. On a $$A^2=\left(\begin{array}{cc} 2&-2\\ -2&2 \end{array}\right),\ A^3=\left(\begin{array}{cc} 4&-4\\ -4&4 \end{array}\right).$$ On démontre alors par récurrence sur $n\geq 1$ que $$A^n=\left(\begin{array}{cc} 2^{n-1}&-2^{n-1}\\ -2^{n-1}&2^{n-1} \end{array}\right).$$ La preuve par récurrence est très simple, et repose simplement sur le fait que $2^{n-1}+2^{n-1}=2^n$.
On fait la même chose pour $B$ : $$B^2=\left(\begin{array}{cc} 1&3\\ 0&4 \end{array}\right),\ B^3=\left(\begin{array}{cc} 1&7\\ 0&8 \end{array}\right).$$ On démontre alors, par récurrence sur $n$, que $$B^n=\left(\begin{array}{cc} 1&2^n-1\\ 0&2^n \end{array}\right).$$

On commence par calculer les premières valeurs de $B^n$. On a $$ B=\left( \begin{array}{ccc} 0&1&0\\ 0&0&1\\ 0&0&0 \end{array}\right),\quad B^2=\left( \begin{array}{ccc} 0&0&1\\ 0&0&0\\ 0&0&0 \end{array}\right),\quad B^3=\left( \begin{array}{ccc} 0&0&0\\ 0&0&0\\ 0&0&0 \end{array}\right).$$ On en déduit alors par récurrence que, pour tout $n\geq 3$, on a $B^n=0$. En effet, c'est vrai pour $n=3$. Si c'est vrai au rang $n\geq 3$, alors $$B^{n+1}=B^n\times B=0\times B=0.$$ Pour obtenir $A$, on écrit $A=I+B$ et on remarque que $I$ et $B$ commutent puisque $IB=BI=B$. On peut alors appliquer la formule du binôme de Newton, ce qui est très facile ici puisque $B^n=0$ dès que $n\geq 3$. On en déduit $$A^n=I^{n}+\binom{n}{1}I^{n-1}B+\binom{n}{2}I^{n-2}B^2$$ ce qui se réécrit en $$A^n=I+nB+\frac{n(n-1)}{2}B^2.$$ On a donc $$A^n=\left(\begin{array}{ccc} 1&n&\frac{n(n-1)}2\\ 0&1&n\\ 0&0&1 \end{array} \right).$$

Remarquons d'abord que si $A=\lambda I_n$, alors $A$ commute avec toutes les matrices et donc $A$ est dans le centre de $\mathcal M_n(\mathbb R)$. Réciproquement, supposons que $A$ commute avec toutes les matrices, et étudions ce que donne $AE_{i,j}=E_{i,j}A$, où $E_{i,j}$ est la matrice élémentaire avec des 0 partout sauf le coefficient à la $i$-ème ligne et $j$-ième colonne qui est égal à 1. Alors, $$AE_{i,j}= \left(\begin{array}{ccccc} 0&\dots&0&a_{1,i}&0&\dots\\ 0&\dots&0&a_{2,i}&0&\dots\\ \vdots&\vdots&\vdots&\vdots&\vdots&\vdots\\ 0&\dots&0&a_{n,i}&0&\dots \end{array}\right) $$ où la seule colonne non-nulle est la $j$-ième colonne, et $$E_{i,j}A= \left(\begin{array}{cccc} 0&\dots&\dots&0&\\ \vdots&\vdots&\vdots&\vdots\\ 0&\dots&\dots&0&\\ a_{j,1}&a_{j,2}&\dots&a_{j,n}\\ 0&\dots&\dots&0&\\ \end{array}\right) $$ où la seule ligne non-nulle est la $i$-ème ligne. Le seul terme (éventuellement) non-nul que peuvent avoir en commun les deux matrices est situé sur la $i$-ème ligne et la $j$-ème colonne. Les coefficients correspondants doivent être égaux et donc on doit avoir $$a_{i,i}=a_{j,j}.$$ Les autres coefficients doivent être nuls, ce qui signifie en particulier, pour $k\neq i$, que $a_{k,i}=0$. Ainsi, $A$ est une matrice diagonale dont tous les coefficients diagonaux doivent être égaux. On en déduit que $A=\lambda I_n$.

On utilise la méthode du pivot de Gauss. Commençons par $A$. $$\begin{array}{r|l} \dis \left( \begin{array}{rcl} 1&1&2\\ 1&2&1\\ 2&1&1 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} \\ L_2-L_1\to L_2\\ L_3-2L_1\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} 1&1&2\\ 0&1&-1\\ 0&-1&-3 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ -1&1&0\\ -2&0&1 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} \\ \\ L_3+L_2\to L_3 \end{array}\right. \dis \left( \begin{array}{rcl} 1&1&2\\ 0&1&-1\\ 0&0&-4 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ -1&1&0\\ -3&1&1 \end{array} \right)\\ \end{array}$$ Après transformations élémentaires, la matrice qui apparait à gauche est triangulaire supérieure, et les coefficients sur la diagonale sont tous non nuls. On en déduit que $A$ est inversible. On trouve son inverse en poursuivant la méthode. $$\begin{array}{r|l} \dis \left. \begin{array}{c} \\ \\ \frac{-1}{4}L_3\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} 1&1&2\\ 0&1&-1\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ -1&1&0\\ 3/4&-1/4&-1/4 \end{array} \right)\\ \\ \dis \left. \begin{array}{c} L_1-2L_3\to L_1\\ L_2+L_3\to L_2\\ \ \end{array} \right. \left( \begin{array}{rcl} 1&1&0\\ 0&1&0\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} -1/2&1/2&1/2\\ -1/4&3/4&-1/4\\ 3/4&-1/4&-1/4 \end{array} \right)\\ \\ \dis \left. \begin{array}{c} L_1-L_2\to L_1\\ \\ \ \end{array} \right. \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} -1/4&-1/4&3/4\\ -1/4&3/4&-1/4\\ 3/4&-1/4&-1/4 \end{array} \right)\\ \end{array} $$ La matrice inverse recherchée est donc : $$\left( \begin{array}{rcl} -1/4&-1/4&3/4\\ -1/4&3/4&-1/4\\ 3/4&-1/4&-1/4 \end{array} \right).$$ On suit la même méthode pour $B$. On forme $$\begin{array}{r|l} \dis \left( \begin{array}{rcl} 0&1&2\\ 1&1&2\\ 0&2&3 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} L_2\to L_1\\ L_1\to L_2\\ L_3-2L_1\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} 1&1&2\\ 0&1&2\\ 0&0&-1 \end{array} \right) &\dis \left( \begin{array}{rcl} 0&1&0\\ 1&0&0\\ -2&0&1 \end{array} \right)\\ \end{array}$$ Après transformations élémentaires, la matrice qui apparait à gauche est triangulaire supérieure, et les coefficients sur la diagonale sont tous non nuls. On en déduit que $B$ est inversible. On trouve son inverse en poursuivant la méthode. $$\begin{array}{r|l} \dis \left. \begin{array}{c} L_1+2L_3\to L_1\\ L_2+2L_3\to L_2\\ -L_3\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} 1&1&0\\ 0&1&0\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} -4&1&2\\ -3&0&2\\ 2&0&-1 \end{array} \right)\\ \\ \dis \left. \begin{array}{c} L_1-L_2\to L_1\\ \\ \ \end{array} \right. \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} -1&1&0\\ -3&0&2\\ 2&0&-1 \end{array} \right)\\ \end{array} $$ La matrice inverse recherchée est donc : $$B^{-1}=\left( \begin{array}{rcl} -1&1&0\\ -3&0&2\\ 2&0&-1 \end{array} \right).$$ Passons à $C$ : $$\begin{array}{r|l} \dis \left( \begin{array}{rcl} 1&4&7\\ 2&5&8\\ 3&6&9 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} L_1\\ L_2-2L_1\to L_2\\ L_3-3L_1\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} 1&4&7\\ 0&-3&-6\\ 0&-6&-12 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ -2&1&0\\ -3&0&1 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} L_1\\ L_2\\ L_3-2L_2\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} 1&4&7\\ 0&-3&-6\\ 0&0&0 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ -2&1&0\\ 1&-2&1 \end{array} \right)\\ \end{array}$$ La matrice $C$ n'est donc pas inversible.
Étudions maintenant $I$ : $$\begin{array}{r|l} \dis \left( \begin{array}{rcl} i&-1&2i\\ 2&0&2\\ -1&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} L_3\to L_1\\ L_1\to L_2\\ L_2\to L_3 \end{array} \right. \dis \left( \begin{array}{rcl} -1&0&1\\ i&-1&2i\\ 2&0&2 \end{array} \right) &\dis \left( \begin{array}{rcl} 0&0&1\\ 1&0&0\\ 0&1&0 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} \\ L_2+iL_1\to L_2\\ L_3+2L_1\to L_3 \end{array}\right. \dis \left( \begin{array}{rcl} -1&0&1\\ 0&-1&3i\\ 0&0&4 \end{array} \right) &\dis \left( \begin{array}{rcl} 0&0&1\\ 1&0&i\\ 0&1&2 \end{array} \right)\\ \end{array}$$ La matrice $I$ est donc inversible. Pour calculer son inverse, on poursuit la méthode : $$\begin{array}{r|l} \dis \left .\begin{array}{c} \\ \\ L_3/4\to L_3 \end{array}\right. \left( \begin{array}{rcl} -1&0&1\\ 0&-1&3i\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} 0&0&1\\ 1&0&i\\ 0&1/4&1/2 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} L_1-L_3\to L_1\\ L_2-3iL_3\to L_2\\ \\ \end{array} \right. \dis \left( \begin{array}{rcl} -1&0&0\\ 0&-1&0\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} 0&-1/4&1/2\\ 1&-3i/4&-i/2\\ 0&1/4&1/2 \end{array} \right)\\ \\ \dis \left .\begin{array}{c} -L_1\to L_1\\ -L_2\to L_2\\ \\ \end{array}\right. \dis \left( \begin{array}{rcl} 1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right) &\dis \left( \begin{array}{rcl} 0&1/4&-1/2\\ -1&3i/4&i/2\\ 0&1/4&1/2 \end{array} \right)\\ \end{array}$$ L'inverse de $I$ est donc la matrice $$\left( \begin{array}{rcl} 0&1/4&-1/2\\ -1&3i/4&i/2\\ 0&1/4&1/2 \end{array} \right).$$

On remarque que la matrice est triangulaire supérieure et que tous ses coefficients sur la diagonale sont non nuls. Elle est donc inversible. Pour calculer son inverse, on utilise la méthode du pivot de Gauss, même si c'est un peu plus compliqué car on a une matrice de taille $n$. Cela dit, elle est déjà triangulaire supérieure. On commence par retirer la dernière ligne aux autres lignes, et on trouve : $$\begin{array}{r|l} \left( \begin{array}{ccccc} 1&1&\dots&1&0\\ 0&1&1&\dots&0\\ \vdots&\ddots&\ddots&\vdots\\ 0&\dots&&1&0\\ 0&\dots&\dots&\dots&1 \end{array}\right) & \left( \begin{array}{ccccc} 1&0&\dots&0&-1\\ 0&1&0&\dots&-1\\ \vdots&\ddots&\ddots&\vdots\\ 0&\dots&&1&-1\\ 0&\dots&\dots&\dots&1 \end{array}\right) \end{array}$$ On retire ensuite l'avant-dernière ligne à toutes les lignes la précédent. On trouve $$\begin{array}{r|l} \left( \begin{array}{ccccc} 1&1&\dots&0&0\\ 0&1&1&\dots&0\\ \vdots&\ddots&1&\vdots&\vdots\\ 0&\dots&&1&0\\ 0&\dots&\dots&\dots&1 \end{array}\right) & \left( \begin{array}{ccccc} 1&0&\dots&-1&0\\ 0&1&\ddots&-1&0\\ \vdots&\ddots&\vdots&\vdots\\ 0&\dots&&1&-1\\ 0&\dots&\dots&\dots&1 \end{array}\right) \end{array}$$ On continue ainsi, et on fait apparaitre des $-1$ juste au dessus de la diagonale, et rien ailleurs. L'inverse de $A$ est donc $$ \left( \begin{array}{ccccc} 1&-1&0&\dots&0\\ 0&1&-1&0&\dots\\ \vdots&\vdots&\ddots&\ddots&\dots\\ 0&\dots&\dots&1&-1\\ 0&\dots&\dots&\dots&1 \end{array}\right) $$ ce qu'on peut facilement vérifier en faisant le produit de $A$ et de cette matrice.

L'idée est que, si $-1<x<1$, on a $$\frac1{1-x}=1+x+x^2+\dots$$ La même chose va se produire pour les matrices grâce au fait que $A^p=0$. En effet, on a \begin{eqnarray*} (I_n-A)(I_n+A+\dots+A^{p-1})&=&I_n-A+A-A^2+A^2+\dots+A^{p-1}-A^p\\ &=&I_n-A^p\\ &=&I_n. \end{eqnarray*} On en déduit que $I_n-A$ est inversible, d'inverse $I_n+A+\dots+A^{p-1}$.

On utilise la méthode du pivot de Gauss pour mettre la matrice sous forme échelonnée.

1. On a \begin{eqnarray*} \textrm{rg}(A)&=& \textrm{rg}\left( \begin{array}{cccc} 1&2&3\\ 0&-1&-2\\ 0&-2&-4\\ \end{array}\right) \begin{array}{l} \\ L_2-2L_1\\ L_3-3L_1\\ \end{array}\\ &=& \textrm{rg}\left( \begin{array}{cccc} 1&2&3\\ 0&-1&-2\\ 0&0&0\\ \end{array}\right) \begin{array}{l} \\ \\ L_3-2L_2\\ \end{array}. \end{eqnarray*} Le rang de la matrice est donc égal à 2.
2. On a \begin{eqnarray*} \textrm{rg}(B)&=& \textrm{rg}\left( \begin{array}{cccc} 1&1&1\\ 0&1&3\\ 0&2&8\\ \end{array}\right) \begin{array}{l} \\ L_2-L_1\\ L_3-L_1\\ \end{array}\\ &=& \textrm{rg}\left( \begin{array}{cccc} 1&1&1\\ 0&1&3\\ 0&0&2\\ \end{array}\right) \begin{array}{l} \\ \\ L_3-2L_2\\ \end{array}. \end{eqnarray*} Le rang de la matrice est donc égal à 3.
3. On a \begin{eqnarray*} \textrm{rg}(C)&=& \textrm{rg}\left( \begin{array}{cccc} 1&2&3&2\\ 0&-1&-2&-2\\ 0&-2&-4&-4\\ \end{array}\right) \begin{array}{l} \\ L_2-2L_1\\ L_3-3L_1\\ \end{array}\\ &=& \textrm{rg}\left( \begin{array}{cccc} 1&2&3&2\\ 0&-1&-2&-2\\ 0&0&0&0\\ \end{array}\right) \begin{array}{l} \\ \\ L_3-2L_2\\ \end{array}. \end{eqnarray*} Le rang de cette matrice est donc égal à 2.
4. On a \begin{eqnarray*} \textrm{rg}(D)&=& \textrm{rg}\left( \begin{array}{cccc} 1&2&1&2\\ 0&1&2&-1\\ 0&1&2&-1\\ 0&-3&-6&3 \end{array}\right) \begin{array}{l} \\ L_2+2L_1\\ L_3-4L_1\\ L_4-L_1 \end{array}\\ &=& \textrm{rg}\left( \begin{array}{cccc} 1&2&1&2\\ 0&1&2&-1\\ 0&0&0&0\\ 0&0&0&0 \end{array}\right) \begin{array}{l} \ \quad\\ \ \quad\\ L_3-L_2\\ L_4+3L_2 \end{array}. \end{eqnarray*} Le rang de cette matrice est donc égal à 2.

On effectue les opérations suivantes : $$L_2-aL_1\to L_2,\ L_3-a^2L_1\to L_3,\ L_4-a^3L_1\to L_4$$ et $A$ a même rang que $$A_1=\left( \begin{array}{cccc} 1&a&a^2&a^3\\ 0&0&0&1-a^4\\ 0&0&1-a^4&a(1-a^4)\\ 0&1-a^4&a(1-a^4)&a^2(1-a^4)\\ \end{array}\right).$$ On échange ensuite $L_2$ et $L_4$ et on trouve que $A$ a même rang que $$A_2=\left( \begin{array}{cccc} 1&a&a^2&a^3\\ 0&1-a^4&a(1-a^4)&a^2(1-a^4)\\ 0&0&1-a^4&a(1-a^4)\\ 0&0&0&1-a^4\\ \end{array}\right).$$ On obtient une matrice triangulaire, dont les pivots sont non nuls si $1-a^4\neq 0$, ie si $a\neq 1$ et $a\neq -1$. Dans ce cas, la matrice est de rang 4. Si $a=1$ ou $a=-1$, la matrice $A$ a même rang qu'une matrice dont une seule ligne est non-nulle. Elle a donc pour rang 1.

On va calculer la dimension du noyau de $B$. Notons $m_i$ le nombre de colonnes de $A_i$ et $r_i$ le rang de $A_i$, pour $i=1,\dots,n$. Notons $E_i$ le noyau de $A_i$, qui est, par le théorème du rang, de dimension $m_i-r_i$. Soit $X=\begin{pmatrix}X_1\\ X_2\\ \vdots \\ X_n\end{pmatrix}.$ Alors $$BX=0\iff \forall i=1,\dots,n,\ A_i X_i=0\iff \forall i=1,\dots,n,\ X_i\in E_i.$$ On en déduit que $\ker B=E_1\times\cdots\times E_n$ et donc \begin{align*} \dim(\ker(B))&=\dim(E_1)+\cdots+\dim(E_n)\\ &=(m_1+\cdots+m_n)-(r_1+\cdots+r_n). \end{align*} Appliquant à nouveau le théorème du rang, on trouve que $$\textrm{rg}(B)=(m_1+\cdots+m_n)-\dim(\ker(B))=r_1+\cdots+r_n.$$

Considérons $A$, $B$ et $C$ les trois matrices suivantes : $$A=\left( \begin{array}{ccc} 1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 1 \\ \end{array}\right), B=\left( \begin{array}{ccc} 0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \\ \end{array}\right), C=\left( \begin{array}{ccc} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 1 & 0 & 0 \\ \end{array}\right) .$$ Alors une matrice $M$ est élément de $E$ si et seulement si il existe trois réels $a,b,c$ tels que $M=aA+bB+cC$. Autrement dit, $E=\textrm{vect}(A,B,C)$ est le sous-espace vectoriel de $\mathcal M_3(\mathbb R)$ engendré par $A,B,C$. $E$ est donc bien un sous-espace vectoriel de $M_3(\mathbb R)$. De plus, $(A,B,C)$ est une base de $E$. En effet, par définition, c'est une famille génératrice de $E$. De plus, $(A,B,C)$ est une famille libre. En effet, s'il existe trois scalaires $a,b,c$ tels que $aA+bB+cC=0$, alors on obtient $M(a,b,c)=0$ ce qui donne $a=b=c=0$. Ainsi, $\hbox{dim}(E)=3$. Reste à voir que $E$ est stable par multiplication de matrices. Mais, pour tous $a,b,c,a',b',c'$ réels, on a : $$M(a,b,c)\times M(a',b',c')= \left( \begin{array}{ccc} aa'+cc' & 0 & ac'+a'c \\ 0 & bb' & 0 \\ ac'+a'c & 0 & aa'+cc' \\ \end{array}\right)=M(aa'+cc',bb',ac'+a'c)\in E. $$ $E$ est donc bien stable par multiplication.

Il est d'abord clair que ces deux ensembles sont des sous-espaces vectoriels. Soit $A=(a_{i,j})$ une matrice à la fois symétrique et antisymétrique. Ses coefficients diagonaux sont nuls, et si $i\neq j$, on a à la fois $a_{i,j}=a_{j,i}$ et $a_{i,j}=-a_{j,i}$, ce qui donne $a_{i,j}=-a_{i,j}$ ce qui n'est possible que si $a_{i,j}=0$. La matrice $A$ est donc la matrice nulle, et les espaces vectoriels sont en somme directe.
D'autre part, si A est une matrice quelconque, on pose : $C=\frac{A+\ \!^tA}{2}$ et $D=\frac{A-\ \!^tA}{2}$. Il est facile de vérifier que $C$ est symétrique, que $D$ est anti-symétrique, et que $A=C+D$. Les deux sous-espaces vectoriels sont supplémentaires dans $\mathcal M_n(\mathbb R)$.

Soit $M$ la matrice : $$M=\left(\begin{array}{ccc} \theta_1(x_1)&\theta_2(x_1)&\theta_3(x_1)\\ \theta_1(x_2)&\theta_2(x_2)&\theta_3(x_2)\\ \theta_1(x_3)&\theta_2(x_3)&\theta_3(x_3)\\ \end{array}\right).$$ Par hypothèse, les colonnes de cette matrice sont liées. Les lignes le sont donc aussi, et il existe des réels $\lambda_1,\ \lambda_2,\ \lambda_3$ non tous nuls tels que $\lambda_1L_1+\lambda_2L_2+\lambda_3L_3=0$. Ceci donne le résultat. La difficulté de cet exercice repose donc sur sa formulation un peu alambiquée, et aussi de sa position dans le problème (d'analyse) dont il est extrait.

Le noyau de $f$ est l'ensemble des triplets $(x,y,z)$ tels que $$f(x,y,z)=0\iff \left\{ \begin{array}{rcl} x+y+z&=&0\\ -x+2y-2z&=&0\\ 3y-z&=&0 \end{array}\right. \iff \left\{ \begin{array}{rcl} x&=&-4y\\ y&=&y\\ z&=&3y \end{array}\right.$$ Le noyau de $f$ est donc la droite vectorielle de vecteur directeur $(-4,1,3)$. Par le théorème du rang, $\textrm{Im}(f)$ est de dimension 2. De plus, $f(e_1)=(1,-1,0)$ et $f(e_2)=(1,2,3)$ sont clairement indépendants. Donc $(f(e_1),f(e_2))$ est une base de $\textrm{Im}(f)$.

On a $$f(x,y,z)=0\iff x+y-z=0\iff\left\{ \begin{array}{rcl} x&=&x\\ y&=&y\\ z&=&x+y \end{array}\right..$$ $\ker(f)$ est donc un plan vectoriel, de base $(u,v)$ avec $u=(1,0,1)$ et $v=(0,1,1)$. D'après le théorème du rang, on sait que $\textrm{Im}(f)$ est de dimension 1. Il est engendré par exemple par le vecteur non nul $w=f(e_1)=(1,-3,-2)$.
On remarque que $w=u-3v$ est élément de $\ker(f)$. Ainsi, $\textrm{Im}(f)\subset\ker(f)$ et donc $f^2=0$. Par suite, $f^n=0$ pour tout $n\geq 2$ et la matrice de $f^n$ dans la base canonique de $\mathbb R^3$ est elle aussi nulle. Donc $M^n=0$ pour tout $n\geq 2$.

Il suffit de chercher les valeurs de $\alpha$ et $\beta$ pour lesquelles le rang de cette matrice est 3. On calcule le rang par la méthode du pivot de Gauss : \begin{eqnarray*} \textrm{rg}(M_{\alpha,\beta})&=& \textrm{rg}\left( \begin{array}{cccc} 1&3&\alpha&\beta\\ 0&-7&2-2\alpha&1-2\beta\\ 0&4&2+\alpha&\beta\\ \end{array}\right) \begin{array}{l} L_1 \\ L_2-2L_1\to L_2\\ L_3+L_1\to L_3\\ \end{array}\\ &=& \textrm{rg}\left( \begin{array}{cccc} 1&3&\alpha&\beta\\ 0&-7&2-2\alpha&1-2\beta\\ 0&0&22-\alpha&4-\beta\\ \end{array}\right) \begin{array}{l} L_1 \\ L_2 \\ 7L_3+4L_2\to L_3\\ \end{array}. \end{eqnarray*} La matrice est donc de rang 3, sauf si $\alpha=22$ et $\beta=4$.

On commence par chercher une base de $P$ et une base de $D$. On a $$(x,y,z)\in P \iff\left\{\begin{array}{cccccc} x&=&x\\ y&=&&y\\ z&=&x&-y \end{array}\right.$$ Autrement dit, si on pose $u=(1,0,1)$ et $v=(0,1,-1)$, alors $(u,v)$ est une base de $P$. On cherche ensuite une base (ici, un vecteur directeur) de $D$. Clairement, $w=(1,-1,1)$ convient. Puisque $P$ et $D$ sont supplémentaires, $(u,v,w)$ est une base de $\mathbb R^3$. La matrice de la projection dans cette base est : $$A=\left(\begin{array}{ccc} 1&0&0\\ 0&1&0\\ 0&0&0 \end{array}\right).$$ Si $Q$ est la matrice de passage de la base canonique à la base $(u,v,w)$, alors la matrice recherchée est $QAQ^{-1}$. Or, on peut écrire $Q$ directement, $$Q=\left( \begin{array}{ccc} 1&0&1\\ 0&1&-1\\ 1&-1&1 \end{array} \right),$$ et, après calculs, on obtient $$Q^{-1}=\left( \begin{array}{ccc} 0&1&1\\ 1&0&-1\\ 1&-1&-1 \end{array} \right),\ QAQ^{-1}=\left( \begin{array}{ccc} 0&1&1\\ 1&0&-1\\ -1&1&2 \end{array} \right).$$

La preuve de la linéarité de $f$ est laissée au lecteur. Rappelons que la base canonique de $M_2(\mathbb R)$ est la base $(E_{1,1},E_{1,2},E_{2,1},E_{2,2})$ avec $$E_{1,1}=\left(\begin{array}{cc} 1&0\\ 0&0 \end{array}\right)\quad E_{1,2}=\left(\begin{array}{cc} 0&1\\ 0&0 \end{array}\right)\quad E_{2,1}=\left(\begin{array}{cc} 0&0\\ 1&0 \end{array}\right)\quad E_{2,2}=\left(\begin{array}{cc} 0&0\\ 0&1 \end{array}\right).$$ Il suffit de calculer l'image par $f$ de ces matrices, et de les exprimer dans la base canonique. Mais on a $$f(E_{1,1})=\left(\begin{array}{cc} -1&0\\ 1&0 \end{array} \right)=-1E_{1,1}+0E_{1,2}+1E_{2,1}+0E_{2,2},$$ $$f(E_{1,2})=\left(\begin{array}{cc} 0&-1\\ 0&1 \end{array} \right)=0E_{1,1}-1E_{1,2}+0E_{2,1}+1E_{2,2},$$ $$f(E_{2,1})=\left(\begin{array}{cc} 2&0\\ 0&0 \end{array} \right)=2E_{1,1}+0E_{1,2}+0E_{2,1}+0E_{2,2},$$ $$f(E_{2,2})=\left(\begin{array}{cc} 0&2\\ 0&0 \end{array} \right)=0E_{1,1}+2E_{1,2}+0E_{2,1}+0E_{2,2}.$$ La matrice de $f$ dans la base canonique de $M_2(\mathbb R)$ est donc $$\left(\begin{array}{cccc} -1&0&2&0\\ 0&-1&0&2\\ 1&0&0&0\\ 0&1&0&0 \end{array} \right).$$

Soit $A$ une telle matrice. Alors $A$ s'écrit $$A=PJ_r Q,$$ où $P\in GL_n(\mathbb K)$, $Q\in GL_p(\mathbb K)$ et $J_r$ est la matrice de $M_{n,p}(\mathbb K)$ avec r fois le chiffre 1 sur la diagonale principale et des 0 partout ailleurs. Alors, $$J_r=\sum_{i=1}^r E_{i,i}$$ et donc $A=\sum_{i=1}^r A_i$ avec $A_i=PE_{i,i}Q$. Chaque $A_i$ est de rang 1 (la multiplication par une matrice inversible ne change pas le rang). D'où le résultat.

On note $f$ et $g$ les applications linaires de $\mathbb R^2\to\mathbb R^3$ pour $f$, de $\mathbb R^3$ dans $\mathbb R^2$ pour $g$, canoniquement associées à $A$ et $B$. Alors, on sait que $$fg(e_2)=e_2,\ fg(e_3)=e_3.$$ Il vient $$gf(g(e_2)))=g(e_2) \textrm{ et }gf(g(e_3))=g(e_3).$$ De plus, $(g(e_2),g(e_3))$ est une famille libre de $\mathbb R^2$. En effet, si on a $$ag(e_2)+bg(e_3)=0,$$ on compose par $f$ et on trouve que $ae_2+be_3=0$, d'où $a=b=0$.
Ainsi, $(g(e_2),g(e_3))$ est une base de $\mathbb R^2$, et $gf$ laisse invariant les vecteurs de cette base. Autrement dit, $gf$ est l'identité de $\mathbb R^2$ et $BA=I_2$.

On va prouver que le noyau de $A$ est réduit à $\{0\}$. Pour cela, supposons que ce ne soit pas le cas et choisissons $X=\begin{pmatrix}x_1\\ \vdots \\ x_n\end{pmatrix}\in\ker A$, $X$ non-nul. Soit $i$ tel que $|x_i|=\max(|x_j|,j=1,\dots,n)>0$. Alors la $i$-ème ligne de $AX=0$ se réécrit en $$a_{i,i}x_i=-\sum_{j\neq i}a_{i,j}x_j.$$ Mais, $$\left|\sum_{j\neq i}a_{i,j}x_j\right|\leq\sum_{j\neq i}|a_{i,j}||x_j|\leq |x_i|\sum_{j\neq i}|a_{i,j}|<|a_{i,i}x_i|$$ ce qui est une contradiction. Donc $A$ est inversible.

Notons $M$ une telle matrice. On désignera par $f$ l'endomorphisme associé sur $\mathbb K^n$, c'est-à-dire dont la matrice dans la base canonique de $\mathbb K^n$ est $M$. Alors $\ker(f)$ n'est pas réduit à $\{0\}$, puisque la matrice $M$ n'est pas inversible, donc l'endomorphisme $f$ n'est pas injectif. Soit $S$ un supplémentaire de $\ker(f)$. Alors $f$ induit un isomorphisme de $S$ sur $\textrm{Im}(f)$. Autrement dit, soit $\mathcal B_2=(e_1,\dots,e_p)$ une base de $S$. Alors $\mathcal C_1=(f(e_1),\dots,f(e_p))$ est une base de $\textrm{Im}(f)$. Soit de plus $\mathcal B_1$ une base de $\ker(f)$ et posons $\mathcal B=\mathcal B_1\cup\mathcal B_2$. Soit $\mathcal C$ une base obtenue à partir de $\mathcal C_1$ en appliquant le théorème de la base incomplète. Alors la matrice de $f$ dans la base $\mathcal B$ au départ et $\mathcal C$ à l'arrivée à la forme suivante : $$\left(\begin{array}{cccccc} 0&\dots&0&1&0&\dots\\ \vdots&\dots&\vdots&0&1&\dots\\ \vdots&\vdots&\vdots&&\ddots&\ddots\\ 0&\dots&0&0&\dots \end{array}\right).$$ Elle est donc nilpotente. Autrement dit, $M$ est équivalente à une matrice nilpotente.

1. Si $f$ est une homothétie, alors $(x,f(x))$ est bien toujours liée. Réciproquement, l'hypothèse nous dit, que pour tout $x$ non-nul, il existe un scalaire $\lambda_x$ tel que $f(x)=\lambda_x x$. On doit prouver qu'il existe un scalaire $\lambda$ tel que $\lambda_x=\lambda$ pour tout $x$ de $E$, ou encore que $\lambda_x=\lambda_y$ quels que soient $x$ et $y$ non-nuls. Si la famille $(x,y)$ est liée, c'est clair, car $y=\mu x$ et $\mu\lambda_y x=\lambda_y y=f(y)=\mu f(x)=\mu \lambda_x x$ et on peut simplifier par $\mu x\neq 0$. Si la famille $(x,y)$ est libre, calculons $f(x+y)$. D'une part, $$f(x+y)=\lambda_{x+y}(x+y)=\lambda_{x+y}x+\lambda_{x+y}y,$$ d'autre part, $$f(x+y)=f(x)+f(y)=\lambda_x x+\lambda_y y.$$ Puisque la famille $(x,y)$ est libre, toute décomposition d'un vecteur à l'aide de combinaison linéaire de ces vecteurs est unique. On obtient donc $\lambda_x=\lambda_y=\lambda_{x+y}$, ce qui est le résultat voulu.
2. On va raisonner par récurrence sur $n$, le résultat étant vrai si $n=1$. Soit $f$ l'application linéaire associée à $M$ dans la base canonique de $\mathbb K^n$. Si $f$ est une homothétie, alors $M$ est diagonale et comme sa trace est nulle, c'est la matrice nulle. Sinon, soit $x\in \mathbb K^n$ tel que $(x,f(x))$ est libre. Alors on peut compléter cette famille en une base $(x,f(x),e_3,\dots,e_n)$. Dans cette base, la matrice de $f$ est $$N=\left(\begin{array}{c|ccc} 0&*&\dots&*\\ \hline 1&\\ 0&&N'\\ \vdots& \end{array}\right).$$ Autrement dit, $M$ est semblable à $N$. Puisque $N$ est de trace nulle, $N'$ est de trace nulle. On peut lui appliquer l'hypothèse de récurrence : il existe $Q\in GL_{n-1}(\mathbb K)$ tel que $Q^{-1} N' Q$ soit une matrice n'ayant que des zéros sur la diagonale. Posons alors $$P=\left(\begin{array}{c|ccc} 1&0&\dots&0\\ \hline 0&\\ 0&&Q\\ \vdots& \end{array}\right).$$ Alors, $P$ est inversible, et on vérifie aisément que $P^{-1}NP$ est une matrice n'ayant que des zéros sur la diagonale. Ainsi, $N$, donc $M$, est semblable à une telle matrice.