Exercices corrigés - Matrices orthogonales et isométries vectorielles

On va prouver que ce sont les matrices diagonales dont les coefficients diagonaux sont égaux à $\pm 1$. Commençons par la première colonne de la matrice $M$ orthogonale et triangulaire supérieure. Puisque sa norme vaut 1, et que seul le premier coefficient est non-nul, celui-ci vaut $\pm 1$. Considérons désormais la deuxième colonne, dont les coefficients éventuellement non-nuls sont $m_{1,2}$ et $m_{2,2}$. Puisque la première colonne est orthogonale à cette colonne, on a $\pm m_{1,2}=0$ et donc $m_{1,2}=0$. En considérant la norme, on trouve que $m_{2,2}=\pm 1$.
Considérons maintenant la troisième colonne. Ses coefficients éventuellement non-nuls sont $m_{1,3}$, $m_{2,3}$ et $m_{3,3}$. Écrivons que la troisième colonne est orthogonale à la première. On trouve $m_{1,3}=0$. Écrivons ensuite que la troisième colonne est orthogonale à la seconde. On trouve $m_{2,3}=0$. Le calcul de la norme donne $m_{3,3}=\pm 1$. On continue ainsi pour chaque colonne.
Réciproquement, une matrice diagonale dont les coefficients diagonaux sont égaux à $\pm 1$ est bien une matrice orthogonale.

Soit $A\in\mathcal M_n(\mathbb Z)\cap O_n(\mathbb R)$. Alors on sait que, pour tout $j=1,\dots,n,$ $$\sum_{i=1}^n a_{i,j}^2=1.$$ Puisque $a_{i,j}\in\mathbb Z,$ ceci n'est possible que s'il existe $\phi(j)\in\{1,\dots,n\}$ tel que $a_{\phi(j),j}=\pm 1$ et $a_{i,j}=0$ pour tout $i\neq \phi(j)$. De plus, deux colonnes sont non colinéaires. Ainsi, $\phi:\{1,\dots,n\}\to\{1,\dots,n\}$ est injective, donc bijective puisqu'on travaille avec des ensembles finis. Ainsi, il y a au plus $2^n\cdot n!$ telles matrices (le $2^n$ correspond au choix des signes, le $n!$ aux permutations des vecteurs).
Réciproquement, si on se donne des signes $\veps_i\in\{-1,1\},$ $i=1,\dots,n$, et si les colonnes de $A$ constituent une permutation des vecteurs $\veps_i e_i,$ où $(e_1,\dots,e_n)$ est la base canonique de $\mathbb R^n,$ alors $A$ est orthogonale. Il y a donc exactement $2^n\times n!$ matrices de $O_n(\mathbb R)$ à coefficients entiers.

Notons $C_1,C_2,C_3$ les trois colonnes avec $C_1=\begin{pmatrix}3/5\\4/5\\0\end{pmatrix}.$ On remarque que $\|C_1\|=1$. On sait que $\langle C_1,C_2\rangle=0$ et que $\|C_2\|^2=1.$ Notons $C_2=\begin{pmatrix}a\\b\\c\end{pmatrix}.$ Alors on a $$3a+4b=0\textrm{ et }a^2+b^2+c^2=1.$$ On en déduit que $b=-3a/4$ et que $c=\veps \sqrt{1-\frac{25}{16}a^2}.$ En particulier, on doit avoir $|a|\leq 4/5.$ Ces conditions sont suffisantes pour que $C_1\perp C_2$ et que $\|C_2\|^2=1.$ Enfin, on a $C_3=\veps ' C_1\wedge C_2,$ avec $\veps'=\pm 1.$ On trouve donc $$C_3=\begin{pmatrix} \veps'\frac 45 c\\ -\veps'\frac 35 c\\ -\veps' \frac{5}4 a\end{pmatrix}.$$ Finalement, les matrices qui fonctionnent sont celles s'écrivant : $$\begin{pmatrix} \frac 35&a&\frac \veps' \frac 45 c\\ \frac 45&-\frac 34 a&-\veps' \frac 35 c\\ 0& -\veps' \frac 35 c&-\veps' \frac 54 a \end{pmatrix}$$ où $\veps,\veps'\in\{-1,1\},$ $a\in [-4/5,4/5],$ $c=\veps\sqrt{1-\frac{25}{16}a^2}.$

Il faut d'abord prouver que $\phi$ est une symétrie, c'est-à-dire que $\phi\circ\phi=Id$. Mais c'est clair, car $P(-(-X))=P(X)$. Il faut aussi démontrer que $\phi$ est une symétrie orthogonale, c'est-à-dire que $\phi$ conserve le produit scalaire, ou encore que $$\langle \phi (P),\phi(Q)\rangle=\langle P,Q\rangle$$ pour tous polynômes $P,Q\in E$. Mais, $$\langle \phi(P),\phi(Q)\rangle =\int_{-1}^1 P(-t)Q(-t)dt=\int_{-1}^1 P(u)Q(u)du=\langle P,Q\rangle,$$ le seul argument utilisé étant le changement de variables $u=-t$.

Posons $F=\vect(a)$ et $G=a^\perp$. Soit $x\in E$, que l'on décompose en $x=g+\lambda a$, avec $g\in G$. On a alors : $$s_a(x)=x-2\frac{(a,\lambda a)}{(a,a)}a=\lambda a+g-2\lambda a=g-\lambda a.$$ Ceci prouve en particulier, à l'aide de la relation de Pythagore, que $\|x\|^2=\|s_a(x)\|^2=\|g\|^2+\lambda^2\|a\|^2$, et que l'endomorphisme est orthogonal. Le calcul précédent prouve en outre que $\ker(s_a-id)=G$ et $\ker(s_a+id)=\vect(a)$. Ainsi, on a $$\ker(s_a-id)\oplus^\perp \ker(s_a+id)=E.$$ $s_a$ est la symétrie orthogonale par rapport à l'hyperplan $a^\perp$.

On va faire un raisonnement par analyse/synthèse. On remarque d'abord que $f$ est clairement linéaire. Supposons que $f$ est orthogonale. Alors pour toute matrice $M\in\mathcal M_n(\mathbb R),$ on a $\|f(M)\|^2=\|M\|^2.$ Mais, \begin{align*} \|f(M)\|^2&=\langle aM+bM^T,aM+bM^T\rangle\\ &= \textrm{Tr} \big( (aM^T+bM)(aM+bM^T) \big)\\ &=\textrm{Tr} \big(abM^2+ab (M^T)^2+a^2 M^TM+b^2 MM^T\big). \end{align*} Utilisant que $\textrm{Tr}(A^T)=\textrm{Tr}(A),$ on trouve \begin{align*} \|f(M)\|^2&=2ab \textrm{Tr}(M^2)+(a^2+b^2)\textrm{Tr}(M^TM). \end{align*} On en déduit alors que pour tout $M\in\mathcal M_n(\mathbb R),$ $$2ab \textrm{Tr}(M^2)+(a^2+b^2)\textrm{Tr}(M^TM)=\textrm{Tr}(M^TM).$$ Pour $M=E_{1,2}$, on a $M^T M=E_{2,2}$ et $M^2=0,$ et donc on en déduit $$a^2+b^2=1.$$ Pour $M=E_{1,1}$, on a $M^TM=M^2=E_{1,1}$ et donc $$ab=0.$$ Réciproquement, le calcul précédent montrer que si $a^2+b^2=1$ et $ab=0,$ alors l'endomorphisme est orthogonal. Pour conclure, on remarque que le système $$\left\{ \begin{array}{rcl} a^2+b^2&=&1\\ ab&=&0 \end{array} \right.$$ a pour solutions les couples $(0,1),\ (0,-1),\ (-1,0),\ (0,1).$

Soit $u$ l'endomorphisme de $\mathbb R^n$ dont la matrice dans la base canonique est $A$. L'hypothèse nous dit que $u$ est trigonalisable. Autrement dit, il existe une base $(e_1,\dots,e_n)$ de $\mathbb R^n$ telle que, pour tout $j\in\{1,\dots,n\},$ $u(\vect(e_1,\dots,e_j))\subset \vect(e_1,\dots,e_j).$ Soit $(f_1,\dots,f_n)$ la base orthonormale obtenue à partir de $(e_1,\dots,e_n)$ en appliquant le procédé d'orthonormalisation de Gram-Schmidt. Alors puisque $\vect(e_1,\dots,e_j)=\vect(f_1,\dots,f_j)$ pour tout $j=1,\dots,n,$ cette base est aussi une base de trigonalisation de $u$. Autrement dit, la matrice de $u$ dans cette base est triangulaire supérieure. On a donc $A=PBP^{-1}$ avec $B$ matrice triangulaire supérieure et $P$ la matrice de passage de la base canonique de $\mathbb R^n$ à la base $(f_1,\dots,f_n)$. Comme il s'agit de deux bases orthonormales, la matrice $P$ est orthogonale, et on a prouvé le résultat.

Soit $\lambda$ une valeur propre de $u$, de vecteur propre associé $x$. Alors on a $$\|x\|=\|u(x)\|=|\lambda|\times\|x\|.$$ Ainsi, on a $\lambda=\pm 1$. Ainsi, dans une base de vecteurs propres, la matrice de $u$ est constituée de $1$ et de $-1$ sur la diagonale. C'est bien la matrice d'une symétrie.

On commence par remarquer que, comme $u^2=-\textrm{Id}_E,$ $u$ ne peut pas admettre de valeur propre réelle (une telle valeur propre $\lambda$ vérifierait $\lambda^2=-1$). D'après le théorème de réduction des symétries vectorielles, il existe une base orthonormée $\mathcal B=(e_1,e_2,e_3,e_4)$ de $E$ de sorte que $$\textrm{Mat}_\mathcal B=\begin{pmatrix}R(\theta_1)&0\\0&R(\theta_2)\end{pmatrix}.$$ Puisque $u^2=-\textrm{Id}_E,$ on doit avoir $R(2\theta_j)=\begin{pmatrix}-1&0\\0&-1\end{pmatrix}$ pour $j=1,2$. Il est facile de voir que ceci entraîne que $2\theta_j=\pi\ [2\pi]$ ou encore que $\theta_j=\frac{\pi}2\ [\pi].$ Maintenant, si $\theta_1=-\frac{\pi}{2}\ [\pi]$, il suffit de remplacer la base $\mathcal B$ par $(-e_1,e_2,e_3,e_4)$ pour pouvoir choisir un angle égal à $\pi/2$. De même, si $\theta_2=-\frac{\pi}2\ [\pi]$, on remplace $(e_3,e_4)$ par $(-e_3,e_4)$.

$1.\implies 2.$ Si $A=B+B^T,$ il est clair que $A^T=A$ et donc que $A$ est symétrique. De plus, d'après le théorème de réduction des matrices orthogonales, il existe une matrice orthogonale $P$ telle que $$B=P\begin{pmatrix}I_p&\\&-I_q&&(0)\\ &&R(\theta_1)\\ &(0)&&\ddots\\ &&&&R(\theta_r) \end{pmatrix} P^T$$ avec $p,q,r\in\mathbb N$, $\theta_1,\dots,\theta_r\in \mathbb R\backslash\pi\mathbb Z$ et $R(\theta)=\begin{pmatrix} \cos\theta&-\sin\theta\\ \sin\theta&\cos\theta\end{pmatrix}.$ Dans ce cas, on a $$B+B^T=P\begin{pmatrix}2I_p&\\&-2I_q&&(0)\\ &&R(\theta_1)+R(\theta_1)^T\\ &(0)&&\ddots\\ &&&&R(\theta_r)+R(\theta_r)^T \end{pmatrix} P^T.$$ Ceci démontre le résultat, en remarquant que $$R(\theta)+R(\theta)^T =\begin{pmatrix}2\cos\theta&0\\0&2\cos\theta\end{pmatrix}.$$ Les valeurs propres de $A$ sont alors $2$ (de multiplicité $p$), $-2$ (de multiplicité $q$) et les $2\cos(\theta_i)$, qui sont dans $]-2,2[$ et qui sont de multiplicité paire (il est possible que les $\theta_i$ ne soient pas tous distincts).
$2.\implies 1.$ Notons $p$ (resp. $q$) la multiplicité de $2$ (resp. $-2$). Les valeurs propres de $A$ dans $]-2,2[$ sont de multiplicité paire. Notons les $\lambda_1,\lambda_1,\dots,\lambda_r,\lambda_r$, comptées avec leur multiplicité. Le théorème des réduction des matrices symétriques nous dit qu'il existe $P\in O_n(\mathbb R)$ tel que $$A= P\begin{pmatrix}2I_p&\\&-2I_q&&(0)\\ &&\lambda_1 I_2\\ &(0)&&\ddots\\ &&&&\lambda_r I_2 \end{pmatrix} P^T.$$ On peut alors s'inspirer de la preuve de $1.\implies 2.$ et remarquer que, pour $i=1,\dots,r,$ il existe $\theta_i\in\mathbb R$ tel que $2\cos(\theta_i)=\lambda_i.$ On pose alors $$B=P\begin{pmatrix}I_p&\\&-I_q&&(0)\\ &&R(\theta_1)\\ &(0)&&\ddots\\ &&&&R(\theta_r) \end{pmatrix} P^T$$ qui est bien élément de $O_n(\mathbb R)$ et satisfait $A=B+B^T.$

Il suffit de déterminer les rotations et les symétries qui envoient $u$ sur $v$. Pour les rotations, c'est très simple : il ne peut que s'agir de la rotation d'angle $(u,v)$. Pour les symétries, il y a deux cas à distinguer :

• Si $u=v$ ou si $u=-v$, alors il ne peut s'agir que de la symétrie orthogonale par rapport à $\textrm{vect}(u,v)$.
• Si $u$ et $v$ ne sont pas colinéaires, alors soit $s$ une symétrie orthogonale par rapport à la droite $D$ qui envoie $u$ sur $v$. Notons $e_1$ un vecteur directeur unitaire de $D$, et $e_2$ un vecteur unitaire orthogonal à $e_1$. L'expression analytique de la symétrie $s$ est $$s(x_1e_1+x_2e_2)=x_1e_1-x_2e_2.$$ Notons $u=u_1 e_1+u_2e_2$ et $v=v_1e_1+v_2e_2$. Alors $s(u)=v$ entraine $u_1=v_1$ et $u_2=-v_2$. Faisons la somme de $u$ et $v$, on en déduit que $e_1$ est proportionnelle à $u+v$ et donc $s$ est la symétrie orthogonale par rapport à $\textrm{vect}(u+v)$. Réciproquement, la symétrie orthogonale $s$ par rapport à $\textrm{vect}(u+v)$ envoie bien $u$ sur $v$. En effet, puisque $\|u\|=\|v\|=1$, $u+v$ et $u-v$ sont orthogonaux et $s$ est aussi la symétrie par rapport à $\textrm{vect}(u+v)$ parallèlement à $\textrm{vect}(u-v)$. Écrivant $u=\frac{1}2\big((u+v)+(u-v)\big)$, on obtient immédiatement que $s(u)=v$.

La matrice $M$ est clairement symétrique, et on vérifie qu'elle est orthogonale en vérifiant que les vecteurs colonnes sont de norme 1 et orthogonaux deux à deux. Puisque $M$ est symétrique réelle, elle est diagonalisable dans $\mathbb R$, notons $\lambda_1,\lambda_2$ et $\lambda_3$ ses valeurs propres. Puisque $M$ est une matrice orthogonale, c'est une isométrie et donc $\lambda_i\in\{-1,1\}$. De plus, on sait que $M$ est semblable à la matrice diagonale avec $\lambda_1,\lambda_2$ et $\lambda_3$ sur la diagonale. Comme la trace est un invariant de similitude, on doit avoir $\lambda_1+\lambda_2+\lambda_3=1$. La seule possibilité est que $1$ est valeur propre double, et $-1$ est valeur propre simple. De plus, puisque $M$ est diagonalisable, son polynôme minimal est scindé à racines simples et vaut donc $(X-1)(X+1)$.

On remarque que la matrice $A$ est symétrique et orthogonale. L'endomorphisme canoniquement associé est donc une symétrie orthogonale. Pour le déterminer complètement, il suffit de déterminer l'ensemble de ses points invariants. On résout donc l'équation $AX=X$, et on trouve que l'ensemble des points invariants est $F=\textrm{vect}(1,4,1)$. $A$ est donc la matrice, dans la base canonique, de la symétrie orthogonale par rapport à $F$, ou encore du retournement par rapport à $F$.

On vérifie que les colonnes de $A$ forment une base orthonormée. Ainsi, $f$ est un endomorphisme orthogonal. De plus, $\det(A)=1$. $f$ est donc une rotation. Cherchons son axe en cherchant ses points fixes. L'équation $AX=X$ donne que l'axe est la droite $\textrm{vect}(1,1,1)$. Posons $u=(1,1,1)$. Pour déterminer l'angle de cette rotation, que l'on note $\theta$, on remarque qu'en écrivant la matrice de $f$ sous forme réduite, on a $\textrm{Tr}(A)=1+2\cos\theta$. Or, $\textrm{Tr}(A)=2$, et donc $\cos(\theta)=\frac 12$, soit $\theta=\pm \frac{\pi}3$ modulo $2\pi$.
Pour conclure quant au signe de $\theta$, on peut remarquer que, posant $v=(1,-1,0)$, qui est orthogonal à $u$, alors la base $(u,v,f(v))$ est directe, ce qui signifie que $\theta\in ]0,\pi[$ modulo $2\pi$. On en déduit donc que $f$ est la rotation d'axe dirigé par $(1,1,1)$ et d'angle $\pi/3$.

$A$ va représenter une rotation si et seulement si ses vecteurs colonnes forment une base orthonormée directe de $\mathbb R^3$. Pour que la première colonne soit de norme 1, il faut et il suffit de $a=0$. Pour que la deuxième colonne soit orthogonale à la première, il faut et il suffit que $b=-\frac 1{\sqrt 3}$. Remarquons que dans ce cas la deuxième colonne est bien de norme 1. Pour déterminer $c,d,e$, plusieurs méthodes sont envisageables :

• La plus simple est d'utiliser le produit vectoriel. Si $(u,v)$ est une famille orthonormale, le seul vecteur $w$ tel que $(u,v,w)$ forme une base orthonormée directe est $w=u\wedge v$. On trouve alors facilement que $c=-\frac 1{\sqrt 6}$, $d=\frac 2{\sqrt 6}$ et $e=\frac 1{\sqrt 6}$.
• On écrit toutes les relations connues : l'orthogonalité de la première et de la troisième colonne donne $c+e=0$, celle de la deuxième et de la troisième donne $c+d-e=0$. On obtient alors $c=-e$ et $d=2e$. Sachant que $c^2+d^2+e^2=1$, ceci permet de déterminer $e$ au signe près. On calcule alors le déterminant de la matrice $A$, qui doit être égal à $1$, pour trouver le signe de $e$.

Il existe une base orthonormale $(u,v,w)$ de $E$ telle que la matrice de $f$ dans cette base orthonormale soit de la forme $$\left( \begin{array}{ccc} -1&0&0\\ 0&\cos\theta&-\sin\theta\\ 0&\sin\theta&\cos\theta \end{array} \right).$$ Notons $D=\textrm{vect}(u)$ de sorte que $D^\perp=\textrm{vect}(v,w)$. Soit $s$ la réflexion par rapport à $D^\perp$. Sa matrice dans la base $(u,v,w)$ est $$\left( \begin{array}{ccc} -1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right).$$ Ainsi, la matrice de $s\circ f$ est $$\left( \begin{array}{ccc} 1&0&0\\ 0&\cos\theta&-\sin\theta\\ 0&\sin\theta&\cos\theta \end{array} \right).$$ C'est bien la matrice d'une rotation $r$ d'axe $D$. Puisque $s^{-1}=s$, on a bien $$f=r\circ s=s\circ r$$ qui est donc la composée d'une rotation et d'une réflexion.