Math spé : endomorphismes des espaces euclidiens

On rappelle que $\langle M,N\rangle=\textrm{Tr}(M^T N)$ est un produit scalaire sur $\mathcal M_n(\mathbb R)$. Alors, par le théorème de représentation de Riesz, il existe une unique matrice $B$ telle que, pour tout $M\in\mathcal M_n(\mathbb R),$ $$\varphi(M)=\langle B,M\rangle=\textrm{Tr}(B^T M).$$ La matrice $A=B^T$ convient, et par unicité de $B$ (et puisque $M\mapsto M^T$ est injective), la matrice $A$ est aussi unique.

Soit $x,y\in E$. On va déterminer l'adjoint $f^*$ en revenant à la définition : \begin{align*} \langle f(x),y\rangle&=\langle \langle a,x\rangle b-\langle b,x\rangle a,y\rangle\\ &=\langle a,x\rangle \langle b,y\rangle-\langle b,x\rangle \langle a,y\rangle\\ &=\langle x,a\rangle \langle b,y\rangle-\langle x,b\rangle \langle a,y\rangle\\ &=\langle x,\langle b,y\rangle a-\langle a,y\rangle b\rangle. \end{align*} On en déduit que $$f^*(y)=\langle b,y\rangle a-\langle a,y\rangle b=-f(y).$$

On va revenir à la définition de l'adjoint. Pour tous $M,N\in E,$ $$\langle R_A (M),N\rangle=\textrm{Tr}((MA)^T N)=\textrm{Tr}(A^T M^T N)=\textrm{Tr}(M^T N A^T)=\langle M,NA^T\rangle$$ ce qui prouve que $R_A^* = R_{A^T}.$ De la même façon, on prouve que $L_A^*=L_{A^T}$.

Puisque $P$ et $Q$ sont premiers entre eux, il existe deux polynômes $U,V\in\mathbb R[X]$ tels que $UP+VQ=1.$ On a donc, en considérant les polynômes d'endomorphismes associés, $$U(f)\circ P(f)+V(f)\circ Q(f)=\textrm{Id}.$$ Considérons ensuite $x\in\ker(P(f)).$ Alors $P(f)(x)=0$ et donc $x=V(f)\circ Q(f)(x)=Q(f)\circ V(f)(x).$ Soit maintenant $y\in \ker(Q(f^*)).$ Alors \begin{align*} \langle x,y\rangle&=\langle Q(f)\circ V(f) (x),y\rangle\\ &=\langle V(f) (x),(Q(f))^* (y)\rangle\\ &=\langle V(f)(x),Q(f^*)(y)\rangle\\ &=0. \end{align*} Ainsi, on a bien $\ker(P(f))\perp \ker(Q(f^*)).$

Le polynôme $P=X^4-2X^3+3X^2$ est un polynôme annulateur pour $S.$ Il se factorise en $P=X^2(X^2-2X+3)$. Or, le discriminant de $X^2-2X+3$ est $-8<0,$ et donc la seule racine de $P$ est $0$. Comme les valeurs propres des matrices sont toujours des racines des polynômes annulateurs, la seule valeur propre possible pour $S$ est $0$.
Mais d'autre part, $S$ est diagonalisable (dans une base orthonormée), et donc il existe $P\in O_n(\mathbb R)$ tel que $S=PDP^T$ avec $D$ diagonale constituée par les valeurs propres de $A,$ c'est-à-dire $D=0.$ Ainsi, $S=0.$

La matrice $A$ est symétrique réelle, elle est donc diagonalisable. Le calcul du polynôme caractéristique nous dit que $-3$ est valeur propre simple, et que $3$ est valeur propre double. Cherchons d'abord le sous-espace propre associé à $3$. La résolution de l'équation $AX=3X$ montre que l'espace propre associé est le plan vectoriel $x+y+z=0$. Une base de cet espace est donnée par le vecteurs $(1,-1,0)$ et $(1,0,-1)$. L'orthonormalisation de cette base donne la base orthonormalisée $(1/\sqrt 2,-1/\sqrt 2,0)$, $(1/\sqrt 6,1/\sqrt 6,-2/\sqrt 6)$.
Pour l'espace propre associé à -3, il y a possibilité d'aller plus vite. Comme on a affaire à une matrice symétrique, les espaces propres sont orthogonaux. Ici, l'espace propre associé à -3 ne peut-être que l'orthogonal du plan $x+y+z=0$. Un vecteur normal à ce plan étant le vecteur $(1,1,1)$, une base orthonormée de l'espace propre associée à -3 est le vecteur $(1/\sqrt 3,1/\sqrt 3,1/\sqrt 3)$.
Finalement, on trouve qu'une matrice $P$ qui convient est : $$P=\left( \begin{array}{ccc} 1/\sqrt 3&1/\sqrt 2&1/\sqrt 6\\ 1/\sqrt 3&-1/\sqrt 2&1/\sqrt 6\\ 1/\sqrt 3&0&-2/\sqrt 6\\ \end{array}\right).$$

Soit $\lambda$ une valeur propre de $u$, et $x$ un vecteur propre associé. Alors on a d'une part $$\langle u(x),x\rangle=\langle \lambda x,x\rangle=\lambda \|x\|^2$$ et d'autre part, par hypothèse, $$\langle u(x),x\rangle=0.$$ Toutes les valeurs propres de $u$ sont donc nulles. Comme $u$ est diagonalisable, on en déduit que $u=0$.

Soit $\lambda$ une valeur propre de $A$, et $X$ un vecteur propre associé. Alors on a $A^p X=\lambda^p X$ mais aussi $A^p X=0$. Ainsi, on doit avoir $\lambda^p=0$, soit encore $\lambda=0$. Ainsi, toutes les valeurs propres de $A$ doivent être nulles. Mais comme $A$ est diagonalisable, il est clair que ceci entraîne que $A=0$. Réciproquement, la matrice nulle vérifie bien ceci!

Il suffit de prouver que $0$ n'est pas une valeur propre de $A+iI_n$. Mais $A$ étant une matrice symétrique réelle, elle est diagonalisable sur $\mathbb R$ et admet donc uniquement des valeurs propres réelles, $\lambda_1,\dots,\lambda_n$ (éventuellement répétées plusieurs fois si la valeur propre est multiple). Donc les valeurs propres de $A+iI_n$ sont $\lambda_1+i,\dots,\lambda_n+i$. Ainsi, $0$ n'est pas valeur propre de $A+iI_n$ et cette matrice est inversible.

Soit $(e_1,\dots,e_n)$ une base orthonormée de vecteurs propres associée aux valeurs propres $(\lambda_1,\dots,\lambda_n)$. Écrivons $x\in E$ sous la forme $x=x_1e_1+\dots x_n e_n$, de sorte que $$u(x)=\lambda_1 x_1 e_1+\dots+\lambda_n x_n e_n.$$ Alors on a $$\|x\|^2=x_1^2+\dots+x_n^2$$ et $$\langle u(x),x\rangle=\lambda_1x_1^2+\dots+\lambda_n x_n^2.$$ Puisque, pour tout $i=1,\dots,n$, on a $\lambda_1\leq\lambda_i\leq\lambda_n$, on a donc $$\lambda_1 \|x\|^2\leq \langle u(x),x\rangle\leq \lambda_n \|x\|^2.$$

$1.\implies 2.$ Puisque $f\in\mathcal S(E)$, il existe une base orthonormée $(e_1,\dots,e_n)$ de $E$ constituée de vecteurs propres pour $u$ : pour tout $i\in\{1,\dots,n\},$ $u(e_i)=\lambda_i e_i$ avec $\lambda_i\in[a,b]$. Soit maintenant $x\in E$. Alors $x$ s'écrit $\sum_{i=1}^n x_i e_i,$ et on a : \begin{align*} \langle u(x)-ax,u(x)-bx\rangle&=\left\langle \sum_{i=1}^n (\lambda_i-a)x_ie_i,\sum_{j=1}^n (\lambda_j-b)x_je_j\right\rangle\\ &=\sum_{i=1}^n (\lambda_i-a)(\lambda_i-b)x_i^2 \end{align*} où la dernière ligne vient du fait que $(e_1,\dots,e_n)$ est une base orthonormée. Puisque $(\lambda_i-a)(\lambda_i-b)x_i^2\leq 0$ pour tout $i=1,\dots,n$, on obtient bien $\langle u(x)-ax,u(x)-bx\rangle\leq 0.$
$2.\implies 1.$ Soit $\lambda$ une valeur propre de $E$ et $x\in E,$ $x\neq 0$, tel que $u(x)=\lambda x.$ Alors on a $$\langle u(x)-ax,u(x)-bx\rangle=(\lambda-a)(\lambda-b)\|x\|^2.$$ Ainsi, puisque $x\neq 0,$ on doit avoir $(\lambda-a)(\lambda-b)\leq 0,$ ce qui revient exactement à dire que $\lambda\in[a,b].$

Soit $(e_1,\dots,e_n)$ une base orthonormale de $E$ constituée de vecteurs propres pour $f$. Notons $(\lambda_1, \dots,\lambda_n)$ les valeurs propres associées. Pour $x=\sum_{i=1}^n x_ie_i$, on a $f(x)=\sum_{i=1}^n \lambda_ix_ie_i$, et donc $$\|f(x)\|^2=\sum_{i=1}^n |\lambda_i|^2 x_i^2\leq \rho(f)^2 \|x\|^2,$$ ce qui prouve que $\|f\|\leq\rho(f)$. D'autre part, il existe $k$ tel que $\rho(f)=|\lambda_k|$. On a alors $\|f(e_k)\|=|\lambda_k|=\rho(f)$, et comme $\|e_k\|=1$, on a $\rho(f)\leq\|f\|$.

Soit $u$ un tel endomorphisme, et soit $\lambda$ une valeur propre de $u$. Si $x$ est un vecteur propre associé, on a $\|u(x)\|=\|x\|$ et $\|u(x)\|=|\lambda| \|x\|$. On en déduit que $\lambda=\pm 1$. On a donc $\ker(u-Id)\oplus^\perp \ker(u+Id)=E$ et donc $u$ est une symétrie orthogonale. Réciproquement, toute symétrie orthogonale est un endomorphisme symétrique et orthogonal.

On remarque d'abord que la matrice $A^T A$ est symétrique. Elle est donc diagonalisable à valeurs propres réelles. De plus, si $X$ est un vecteur propre associé à la valeur propre $\lambda$, alors on a $$A^T A X=\lambda X\implies X^T A^T A X=\lambda X^T X\implies (AX)^T AX=\lambda X^T X\implies \|AX\|^2=\lambda \|X\|^2.$$ Ainsi, $\lambda$, quotient de deux réels positifs, est un réel positif.

Soit $X=\begin{pmatrix}x\\y\end{pmatrix}.$ Alors $AX=\begin{pmatrix}2x-y\\-x+y\end{pmatrix}$ de sorte que $$\langle AX,X\rangle=2x^2-xy-xy+y^2=(x-y)^2+x^2.$$ Cette dernière quantité est toujours positive ou nulle, donc $A\in\mathcal S_2^+(\mathbb R),$ et de plus elle est nulle si et seulement $x=y=0.$ Donc $A\in\mathcal S_2^{++}(\mathbb R).$
Concernant $B,$ un calcul similaire donne $$\langle BX,X\rangle=x^2+4xy+y^2=(x+y)^2+2xy.$$ En particulier, si $X=\begin{pmatrix}1\\-1\end{pmatrix},$ alors $\langle BX,X\rangle=-2<0.$ Donc $B$ n'est pas une matrice symétrique positive.
Les deux résultats de l'exercice peuvent sembler étonnants. Ils illustrent le fait qu'être positif ne peut se décider uniquement en fonction du signe des coefficients de la matrice.

Puisque $A\in\mathcal S_n(\mathbb R)$, $A$ est diagonalisable dans une base orthonormale : il existe $P\in O_n(\mathbb R)$ telle $A=PDP^{-1},$ avec $D=\textrm{diag}(\lambda_1,\dots,\lambda_n).$ D'autre part, puisque $A$ est positive, tous les valeurs propres $\lambda_i$ sont éléments de $[0,+\infty[$. On écrit ensuite $$I_n+A=PI_nP^{-1}+PDP^{-1}=P(I_n+D)P^{-1}$$ avec $I_n+D=\textrm{diag}(1+\lambda_1,\dots,1+\lambda_n).$ On a enfin $$\det(I_n+D)=\prod_{k=1}^n (1+\lambda_k)\geq 1$$ puisque $1+\lambda_k\geq 1$ pour tout $k=1,\dots,n$.

Voici deux méthodes pour résoudre cet exercice :
Méthode 1. $A\in\mathcal S_n^{++}(\mathbb R)$ si et seulement si, pour tout $X=\begin{pmatrix}x\\y\end{pmatrix}\neq 0,$ $\langle AX,X\rangle>0.$ On commence par calculer $$\langle AX,X\rangle=rx^2+2sxy+ty^2.$$ On suppose que $A\in\mathcal S_n^{++}(\mathbb R).$ Alors en choisissant $x=1$ et $y=0$, on obtient $r>0$. On a aussi $t>0$ en choisissant $x=0$ et $y=1$. On essaie alors d'écrire $\langle AX,X\rangle$ comme la somme de deux carrés. On s'inspire de la mise sous forme canonique d'un trinôme du second degré, et on trouve $$\langle AX,X\rangle=r\left(x+\frac{sy}r\right)^2 +\frac{y^2}{rt}(rt-s^2).$$ En choisissant $x=s/r$ et $y=-1,$ on a $$\langle AX,X\rangle=\frac{rt-s^2}{rt}>0,$$ ce qui entraîne $rt-s^2>0.$ Réciproquement, si $rt-s^2>0$ et $r>0$, on a aussi $t>0$ et l'écriture $$\langle AX,X\rangle=r\left(x+\frac{sy}r\right)^2 +\frac{y^2}{rt}(rt-s^2)$$ entraîne que $\langle AX,X\rangle\geq 0$ pour tout $X\in\mathbb R^2$. De plus, si $\langle AX,X\rangle=0,$ alors on a $$\left\{ \begin{array}{rcl} x+\frac{s}{r}y&=&0\\ y&=&0\end{array}\right. \iff x=y=0.$$ Ceci démontre que $A\in\mathcal S_2^{++}(\mathbb R).$
Méthode 2. Puisque $A$ est clairement symétrique, on peut utiliser que $A\in\mathcal S_2^{++}(\mathbb R)$ si et seulement si ses valeurs propres sont strictement posives. Notons $\lambda_1$ et $\lambda_2$ ces deux valeurs propres (éventuellement, $\lambda_1=\lambda_2$). Il est facile de voir que $$\left\{\begin{array}{rcl} \lambda_1&>&0\\ \lambda_2&>&0 \end{array}\right. \iff \left\{\begin{array}{rcl} \lambda_1\lambda_2&>&0\\ \lambda_1+\lambda_2&>&0 \end{array}\right. $$ Or, le polynôme caractéristique de $A$ est $$C_A(X)=x^2-(r+t)x+(rt-s^2).$$ Par les relations coefficients/racines, $\lambda_1\lambda_2=rt-s^2$ et $\lambda_1+\lambda_2=r+t$. Ainsi, $$A\in S_2^{++}(\mathbb R)\iff rt>s^2\textrm{ et }r+t>0.$$ Or, sous la condition $rt> 0,$ on a $r+t>0\iff r>0$. Ceci donne une deuxième démonstration de l'équivalence.

On vérifie que la relation $\leq$ est réflexive, antisymétrique, transitive :

• réflexive : puisque la matrice nulle est une matrice symétrique positive, on a bien $A\leq A$ pour tout $A\in\mathcal S_n(\mathbb R)$.
• antisymétrique : soit $A,B\in\mathcal S_n(\mathbb R)$ telles que $A\leq B$ et $B\leq A$. Alors $B-A\in\mathcal S_n^+(\mathbb R)$ et donc son spectre est contenu dans $\mathbb R_+$. De même, le spectre de $A-B$ est contenu dans $\mathbb R_+$. Puisque $B-A=-(A-B)$, on obtient que le spectre de $B-A$ est contenu dans $\{0\}$. Comme de plus $B-A$ est diagonalisable (c'est une matrice symétrique réelle!), on obtient que $B-A=0$ soit $A=B.$
• transitive : soit $A,B,C\in\mathcal S_n(\mathbb R)$ telles que $A\leq B$ et $B\leq C.$ Alors pour tout $X\in\mathbb R^n,$ $$\langle (C-A)X,X\rangle=\langle (C-B+B-A)X,X\rangle=\langle (C-B)X,X\rangle+\langle (B-A)X,X\rangle\geq 0.$$ Ainsi, $C-A$ est une matrice de $\mathcal S_n^+(\mathbb R)$ et $A\leq C.$

Remarquons que pour résoudre cet exercice, on a utilisé les deux caractérisations d'une matrice symétrique positive.

On va prouver que ce sont les matrices diagonales dont les coefficients diagonaux sont égaux à $\pm 1$. Commençons par la première colonne de la matrice $M$ orthogonale et triangulaire supérieure. Puisque sa norme vaut 1, et que seul le premier coefficient est non-nul, celui-ci vaut $\pm 1$. Considérons désormais la deuxième colonne, dont les coefficients éventuellement non-nuls sont $m_{1,2}$ et $m_{2,2}$. Puisque la première colonne est orthogonale à cette colonne, on a $\pm m_{1,2}=0$ et donc $m_{1,2}=0$. En considérant la norme, on trouve que $m_{2,2}=\pm 1$.
Considérons maintenant la troisième colonne. Ses coefficients éventuellement non-nuls sont $m_{1,3}$, $m_{2,3}$ et $m_{3,3}$. Écrivons que la troisième colonne est orthogonale à la première. On trouve $m_{1,3}=0$. Écrivons ensuite que la troisième colonne est orthogonale à la seconde. On trouve $m_{2,3}=0$. Le calcul de la norme donne $m_{3,3}=\pm 1$. On continue ainsi pour chaque colonne.
Réciproquement, une matrice diagonale dont les coefficients diagonaux sont égaux à $\pm 1$ est bien une matrice orthogonale.

Soit $A\in\mathcal M_n(\mathbb Z)\cap O_n(\mathbb R)$. Alors on sait que, pour tout $j=1,\dots,n,$ $$\sum_{i=1}^n a_{i,j}^2=1.$$ Puisque $a_{i,j}\in\mathbb Z,$ ceci n'est possible que s'il existe $\phi(j)\in\{1,\dots,n\}$ tel que $a_{\phi(j),j}=\pm 1$ et $a_{i,j}=0$ pour tout $i\neq \phi(j)$. De plus, deux colonnes sont non colinéaires. Ainsi, $\phi:\{1,\dots,n\}\to\{1,\dots,n\}$ est injective, donc bijective puisqu'on travaille avec des ensembles finis. Ainsi, il y a au plus $2^n\cdot n!$ telles matrices (le $2^n$ correspond au choix des signes, le $n!$ aux permutations des vecteurs).
Réciproquement, si on se donne des signes $\veps_i\in\{-1,1\},$ $i=1,\dots,n$, et si les colonnes de $A$ constituent une permutation des vecteurs $\veps_i e_i,$ où $(e_1,\dots,e_n)$ est la base canonique de $\mathbb R^n,$ alors $A$ est orthogonale. Il y a donc exactement $2^n\times n!$ matrices de $O_n(\mathbb R)$ à coefficients entiers.

Il faut d'abord prouver que $\phi$ est une symétrie, c'est-à-dire que $\phi\circ\phi=Id$. Mais c'est clair, car $P(-(-X))=P(X)$. Il faut aussi démontrer que $\phi$ est une symétrie orthogonale, c'est-à-dire que $\phi$ conserve le produit scalaire, ou encore que $$\langle \phi (P),\phi(Q)\rangle=\langle P,Q\rangle$$ pour tous polynômes $P,Q\in E$. Mais, $$\langle \phi(P),\phi(Q)\rangle =\int_{-1}^1 P(-t)Q(-t)dt=\int_{-1}^1 P(u)Q(u)du=\langle P,Q\rangle,$$ le seul argument utilisé étant le changement de variables $u=-t$.

Posons $F=\vect(a)$ et $G=a^\perp$. Soit $x\in E$, que l'on décompose en $x=g+\lambda a$, avec $g\in G$. On a alors : $$s_a(x)=x-2\frac{(a,\lambda a)}{(a,a)}a=\lambda a+g-2\lambda a=g-\lambda a.$$ Ceci prouve en particulier, à l'aide de la relation de Pythagore, que $\|x\|^2=\|s_a(x)\|^2=\|g\|^2+\lambda^2\|a\|^2$, et que l'endomorphisme est orthogonal. Le calcul précédent prouve en outre que $\ker(s_a-id)=G$ et $\ker(s_a+id)=\vect(a)$. Ainsi, on a $$\ker(s_a-id)\oplus^\perp \ker(s_a+id)=E.$$ $s_a$ est la symétrie orthogonale par rapport à l'hyperplan $a^\perp$.

On va faire un raisonnement par analyse/synthèse. On remarque d'abord que $f$ est clairement linéaire. Supposons que $f$ est orthogonale. Alors pour toute matrice $M\in\mathcal M_n(\mathbb R),$ on a $\|f(M)\|^2=\|M\|^2.$ Mais, \begin{align*} \|f(M)\|^2&=\langle aM+bM^T,aM+bM^T\rangle\\ &= \textrm{Tr} \big( (aM^T+bM)(aM+bM^T) \big)\\ &=\textrm{Tr} \big(abM^2+ab (M^T)^2+a^2 M^TM+b^2 MM^T\big). \end{align*} Utilisant que $\textrm{Tr}(A^T)=\textrm{Tr}(A),$ on trouve \begin{align*} \|f(M)\|^2&=2ab \textrm{Tr}(M^2)+(a^2+b^2)\textrm{Tr}(M^TM). \end{align*} On en déduit alors que pour tout $M\in\mathcal M_n(\mathbb R),$ $$2ab \textrm{Tr}(M^2)+(a^2+b^2)\textrm{Tr}(M^TM)=\textrm{Tr}(M^TM).$$ Pour $M=E_{1,2}$, on a $M^T M=E_{2,2}$ et $M^2=0,$ et donc on en déduit $$a^2+b^2=1.$$ Pour $M=E_{1,1}$, on a $M^TM=M^2=E_{1,1}$ et donc $$ab=0.$$ Réciproquement, le calcul précédent montrer que si $a^2+b^2=1$ et $ab=0,$ alors l'endomorphisme est orthogonal. Pour conclure, on remarque que le système $$\left\{ \begin{array}{rcl} a^2+b^2&=&1\\ ab&=&0 \end{array} \right.$$ a pour solutions les couples $(0,1),\ (0,-1),\ (-1,0),\ (0,1).$

Soit $\lambda$ une valeur propre de $u$, de vecteur propre associé $x$. Alors on a $$\|x\|=\|u(x)\|=|\lambda|\times\|x\|.$$ Ainsi, on a $\lambda=\pm 1$. Ainsi, dans une base de vecteurs propres, la matrice de $u$ est constituée de $1$ et de $-1$ sur la diagonale. C'est bien la matrice d'une symétrie.

On commence par remarquer que, comme $u^2=-\textrm{Id}_E,$ $u$ ne peut pas admettre de valeur propre réelle (une telle valeur propre $\lambda$ vérifierait $\lambda^2=-1$). D'après le théorème de réduction des symétries vectorielles, il existe une base orthonormée $\mathcal B=(e_1,e_2,e_3,e_4)$ de $E$ de sorte que $$\textrm{Mat}_\mathcal B=\begin{pmatrix}R(\theta_1)&0\\0&R(\theta_2)\end{pmatrix}.$$ Puisque $u^2=-\textrm{Id}_E,$ on doit avoir $R(2\theta_j)=\begin{pmatrix}-1&0\\0&-1\end{pmatrix}$ pour $j=1,2$. Il est facile de voir que ceci entraîne que $2\theta_j=\pi\ [2\pi]$ ou encore que $\theta_j=\frac{\pi}2\ [\pi].$ Maintenant, si $\theta_1=-\frac{\pi}{2}\ [\pi]$, il suffit de remplacer la base $\mathcal B$ par $(-e_1,e_2,e_3,e_4)$ pour pouvoir choisir un angle égal à $\pi/2$. De même, si $\theta_2=-\frac{\pi}2\ [\pi]$, on remplace $(e_3,e_4)$ par $(-e_3,e_4)$.

Il suffit de déterminer les rotations et les symétries qui envoient $u$ sur $v$. Pour les rotations, c'est très simple : il ne peut que s'agir de la rotation d'angle $(u,v)$. Pour les symétries, il y a deux cas à distinguer :

• Si $u=v$ ou si $u=-v$, alors il ne peut s'agir que de la symétrie orthogonale par rapport à $\textrm{vect}(u,v)$.
• Si $u$ et $v$ ne sont pas colinéaires, alors soit $s$ une symétrie orthogonale par rapport à la droite $D$ qui envoie $u$ sur $v$. Notons $e_1$ un vecteur directeur unitaire de $D$, et $e_2$ un vecteur unitaire orthogonal à $e_1$. L'expression analytique de la symétrie $s$ est $$s(x_1e_1+x_2e_2)=x_1e_1-x_2e_2.$$ Notons $u=u_1 e_1+u_2e_2$ et $v=v_1e_1+v_2e_2$. Alors $s(u)=v$ entraine $u_1=v_1$ et $u_2=-v_2$. Faisons la somme de $u$ et $v$, on en déduit que $e_1$ est proportionnelle à $u+v$ et donc $s$ est la symétrie orthogonale par rapport à $\textrm{vect}(u+v)$. Réciproquement, la symétrie orthogonale $s$ par rapport à $\textrm{vect}(u+v)$ envoie bien $u$ sur $v$. En effet, puisque $\|u\|=\|v\|=1$, $u+v$ et $u-v$ sont orthogonaux et $s$ est aussi la symétrie par rapport à $\textrm{vect}(u+v)$ parallèlement à $\textrm{vect}(u-v)$. Écrivant $u=\frac{1}2\big((u+v)+(u-v)\big)$, on obtient immédiatement que $s(u)=v$.

La matrice $M$ est clairement symétrique, et on vérifie qu'elle est orthogonale en vérifiant que les vecteurs colonnes sont de norme 1 et orthogonaux deux à deux. Puisque $M$ est symétrique réelle, elle est diagonalisable dans $\mathbb R$, notons $\lambda_1,\lambda_2$ et $\lambda_3$ ses valeurs propres. Puisque $M$ est une matrice orthogonale, c'est une isométrie et donc $\lambda_i\in\{-1,1\}$. De plus, on sait que $M$ est semblable à la matrice diagonale avec $\lambda_1,\lambda_2$ et $\lambda_3$ sur la diagonale. Comme la trace est un invariant de similitude, on doit avoir $\lambda_1+\lambda_2+\lambda_3=1$. La seule possibilité est que $1$ est valeur propre double, et $-1$ est valeur propre simple. De plus, puisque $M$ est diagonalisable, son polynôme minimal est scindé à racines simples et vaut donc $(X-1)(X+1)$.