$$\newcommand{\mtn}{\mathbb{N}}\newcommand{\mtns}{\mathbb{N}^*}\newcommand{\mtz}{\mathbb{Z}}\newcommand{\mtr}{\mathbb{R}}\newcommand{\mtk}{\mathbb{K}}\newcommand{\mtq}{\mathbb{Q}}\newcommand{\mtc}{\mathbb{C}}\newcommand{\mch}{\mathcal{H}}\newcommand{\mcp}{\mathcal{P}}\newcommand{\mcb}{\mathcal{B}}\newcommand{\mcl}{\mathcal{L}} \newcommand{\mcm}{\mathcal{M}}\newcommand{\mcc}{\mathcal{C}} \newcommand{\mcmn}{\mathcal{M}}\newcommand{\mcmnr}{\mathcal{M}_n(\mtr)} \newcommand{\mcmnk}{\mathcal{M}_n(\mtk)}\newcommand{\mcsn}{\mathcal{S}_n} \newcommand{\mcs}{\mathcal{S}}\newcommand{\mcd}{\mathcal{D}} \newcommand{\mcsns}{\mathcal{S}_n^{++}}\newcommand{\glnk}{GL_n(\mtk)} \newcommand{\mnr}{\mathcal{M}_n(\mtr)}\DeclareMathOperator{\ch}{ch} \DeclareMathOperator{\sh}{sh}\DeclareMathOperator{\th}{th} \DeclareMathOperator{\vect}{vect}\DeclareMathOperator{\card}{card} \DeclareMathOperator{\comat}{comat}\DeclareMathOperator{\imv}{Im} \DeclareMathOperator{\rang}{rg}\DeclareMathOperator{\Fr}{Fr} \DeclareMathOperator{\diam}{diam}\DeclareMathOperator{\supp}{supp} \newcommand{\veps}{\varepsilon}\newcommand{\mcu}{\mathcal{U}} \newcommand{\mcun}{\mcu_n}\newcommand{\dis}{\displaystyle} \newcommand{\croouv}{[\![}\newcommand{\crofer}{]\!]} \newcommand{\rab}{\mathcal{R}(a,b)}\newcommand{\pss}[2]{\langle #1,#2\rangle} $$
Bibm@th

Résumé de cours : Endomorphismes des espaces euclidiens

On pourra avant d'aborder ce cours relire le cours de Math Sup concernant les espaces euclidiens.

On fixe $E$ un espace euclidien. Le produit scalaire est noté $\langle\cdot,\cdot\rangle$.

Adjoint d'un endomorphisme

On rappelle que $E^*$ désigne l'ensemble des formes linéaires sur $E.$ Dans un espace euclidien, on peut décrire ces formes linéaires à l'aide du produit scalaire.

Théorème de représentation de Riesz : Soit $\varphi\in E^*$. Alors il existe un unique vecteur $a\in E$ tel que, pour tout $x\in E,$ $\varphi(x)=\langle x,a\rangle.$

Fixons maintenant $u\in\mathcal L(E).$ Alors, pour tout $x\in E,$ l'application $y\mapsto \langle u(y),x\rangle$ est une forme linéaire sur $E$. Donc il existe un unique $u^*(x)\in E$ tel que, pour tout $y\in E,$ $$\langle u(y),x\rangle=\langle y,u^*(x)\rangle.$$ L'application $u^*:E\to E$ s'appelle l'adjoint de $u$. C'est un endomorphisme de $E.$

Proposition :
  • $(\mathrm{Id}_E)^*=\mathrm{Id}_E.$
  • $\forall u\in\mathcal L(E),$ $(u^*)^*=u.$
  • $\forall (u,v)\in\mathcal L(E)^2,$ $(u\circ v)^*=v^*\circ u^*.$
  • $\forall (u,v)\in\mathcal L(E)^2,$ $\forall (\lambda,\mu)\in \mathbb R^2,$ $(\lambda u+\mu v)^*=\lambda u^*+\mu v^*.$

En particulier, $u\in\mathcal L(E)\mapsto u^*$ est une symétrie de $\mathcal L(E).$

Théorème : Soit $u\in\mathcal L(E)$ et $\mathcal B$ une base orthonormée de $E$. Alors $\textrm{Mat}(u^*,\mathcal B)= \textrm{Mat}(u,\mathcal B)^T.$

En particulier, de la conservation de la trace, du rang et du déterminant par transposition des matrices carrées, on déduit que $\det(u^*)=\det(u),$ $\textrm{rg}(u^*)=\textrm{rg}(u)$ et $\textrm{Tr}(u^*)=\textrm{Tr}(u).$

Proposition : Soit $u\in\mathcal L(E)$ et $F$ un sous-espace vectoriel de $E$. Alors $F$ est stable par $u$ si et seulement si $F^\perp$ est stable par $u^*.$
Matrices orthogonales
Proposition : Soit $A\in\mathcal M_n(\mathbb R)$. Les propriétés suivantes sont équivalentes :
  • $A^T A=I_n$.
  • $A A^T=I_n$.
  • Les lignes de $A$ forment une base orthonormée de $\mathbb R^n$.
  • Les colonnes de $A$ forment une base orthonormée de $\mathbb R^n$.
  • $A$ est inversible et $A^{-1}=A^T.$

Lorsque $A\in \mathcal M_n(\mathbb R)$ vérifie l'une des propriétés équivalentes précédentes, on dit que $A$ est orthogonale. L'ensemble des matrices orthogonales de $\mathcal M_n(\mathbb R)$ forme un groupe appelé groupe orthogonal et noté $\mathcal O_n(\mathbb R)$.

Proposition (changement de base orthonormale) : Soit $(e_1,\dots,e_n)$ une base orthonormale de $E$ et soit $(f_1,\dots,f_n)$ une famille de vecteurs de $E$. On a l'équivalence suivante
  • $(f_1,\dots,f_n)$ est une base orthonormale de $E$;
  • la matrice de passage de $(e_1,\dots,e_n)$ à $(f_1,\dots,f_n)$ est une matrice orthogonale.

On dit que deux matrices $A$ et $B$ sont orthogonalement semblables s'il existe $P\in O_n(\mathbb R)$ tel que $A=PBP^{-1}=PBP^T.$ En particulier, deux matrices d'un même endomorphisme de $E$ dans deux bases orthonormées sont orthogonalement semblables.

Le déterminant d'une matrice orthogonale vaut $\pm 1$. Une matrice orthogonale est dite positive (ou directe) si son déterminant vaut $1$, négative (ou indirecte)si son déterminant vaut $-1$. L'ensemble des matrices orthogonales positives forme un groupe appelé le groupe spécial orthogonal et noté $SO_n(\mathbb R)$.

Endomorphismes symétriques

Un endomorphisme $u\in\mathcal L(E)$ est autoadjoint (ou symétrique) si $u^*=u$, c'est-à-dire si pour tous $x,y\in E$, $\langle u(x),y\rangle=\langle x,u(y)\rangle$. On note $\mathcal S(E)$ l'ensemble des endomorphismes autoadjoints de $E$; c'est un sous-espace vectoriel de $\mathcal L(E)$.

Matriciellement, dire qu'un endomorphisme est symétrique est équivalent à dire que sa matrice dans une base orthonormée est symétrique.

On rappelle qu'un projecteur $p\in\mathcal L(E)$ est appelé projecteur orthogonal si $\ker(p)$ et $\textrm{Im}(p)$ sont orthogonaux.

Proposition : Un projecteur de $E$ est autoadjoint si et seulement si c'est un projecteur orthogonal.
Proposition : Si $u\in\mathcal L(E)$ est symétrique et si $F$ est un sous-espace de $E$ stable par $u$, alors $F^\perp$ est un sous-espace de $E$ stable par $u$.
Théorème spectral : Soit $u\in\mathcal L(E)$. Les propriétés suivantes sont équivalentes :
  • $u$ est autoadjoint;
  • $E$ est somme directe orthogonale des sous-espaces propres de $u$.
  • Il existe une base orthonormale de $E$ constituée de vecteurs propres pour $u$.
Corollaire : Soit $M\in\mathcal M_n(\mathbb R)$. Alors $M$ est symétrique si et seulement s'il existe une matrice orthogonale $P$ et une matrice diagonale $D$ telle que $M=PDP^T$.

Soit $u\in\mathcal S(E)$. On dit que $u$ est positif si $$\forall x\in E,\ \langle u(x),x\rangle\geq 0.$$ Il est dit défini positif si $$\forall x\in E\backslash\{0\},\ \langle u(x),x\rangle > 0.$$ L'ensemble des endomorphismes autoadjoints positifs (resp. définis positifs) est noté $\mathcal S^+(E)$ (resp. $\mathcal S^{++}(E)$).

Proposition : Soit $u\in\mathcal S(E)$. On a les équivalences suivantes : $$u\in\mathcal S^+(E)\iff \textrm{Sp}(u)\subset\mathbb R_+$$ $$u\in\mathcal S^{++}(E)\iff \textrm{Sp}(u)\subset \mathbb R_+^*.$$

De la même façon, une matrice symétrique $A\in\mathcal S_n(\mathbb R)$ est dite positive si $\langle Ax,x\rangle\geq 0$ pour tout $x\in\mathbb R^n$ (ici, $\langle\cdot,\cdot\rangle$ désigne le produit scalaire canonique de $\mathbb R^n$). Elle est dite symétrique définie positive si $\langle Ax,x\rangle>0$ pour tout $x\in\mathbb R^n\backslash\{0\}$. Comme pour les endomorphismes symétriques, ceci revient à dire que le spectre de $A$ est contenu dans $\mathbb R_+$ (cas positif) ou $\mathbb R_+^*$ (cas défini positif).

Isométries vectorielles

Un endomorphisme $u\in\mathcal L(E)$ est une isométrie vectorielle si pour tout $x\in E$, $\|u(x)\|=\|x\|$. On note $\mathcal O(E)$ l'ensemble des automorphismes orthogonaux de $E$; $\mathcal O(E)$ est un sous-groupe de $GL(E)$ appelé groupe orthogonal de $E$.

Théorème : Soit $u\in\mathcal L(E)$. Les assertions suivantes sont équivalentes :
  • $u$ est une isométrie vectorielle;
  • $u$ conserve le produit scalaire : $$\forall (x,y)\in E^2,\ \langle u(x),u(y)\rangle=\langle x,y\rangle;$$
  • $u$ est inversible et $u^{-1}=u^*$;
  • L'image d'une base orthonormée de $E$ par $u$ est une base orthonormée;
  • La matrice de $u$ dans une base orthonormée est une base orthonormée.

L'énoncé précédent justifie qu'une isométrie vectorielle est encore appelée un automorphisme orthogonal.

Le déterminant d'une isométrie vectorielle est égal à $\pm 1$. Une isométrie vectorielle est dite directe si son déterminant vaut $1$, indirecte si son déterminant vaut $-1$. L'ensemble des isométries directes est un sous-groupe de $O(E),$ appelé groupe spécial orthogonal de $E$ et noté $SO(E)$.

Exemple : Soit $F$ un sous-espace vectoriel de $E$. On appelle symétrie orthogonale par rapport à $F$ la symétrie par rapport à $F$ parallèlement à $F^\perp$. Si $F$ est un hyperplan, on dit aussi que cette symétrie est la réflexion par rapport à $F$. Toute symétrie orthogonale est une isométrie vectorielle.

Réduction des isométries vectorielles
Théorème : Soit $A\in\mathcal M_2(\mathbb R)$. Alors :
  • $A\in SO_2(\mathbb R)$ si et seulement s'il existe $\theta\in\mathbb R$ tel que $$A=\left(\begin{array}{cc} \cos(\theta)&-\sin(\theta)\\ \sin(\theta)&\cos(\theta) \end{array}\right).$$
  • $A\in O_2(\mathbb R)\backslash SO_2(\mathbb R)$ si et seulement s'il existe $\theta\in\mathbb R$ tel que $$A=\left(\begin{array}{cc} \cos(\theta)&\sin(\theta)\\ \sin(\theta)&-\cos(\theta) \end{array}\right).$$
Proposition : Si $u\in\mathcal L(E)$ est une isométrie vectorielle et si $F$ est un sous-espace de $E$ stable par $u$, alors $F^\perp$ est un sous-espace de $E$ stable par $u$.
Théorème spectral : Soit $u\in\mathcal O(E)$. Alors il existe une base orthonormée de $E$ dans laquelle la matrice de $u$ est diagonale par blocs, les blocs diagonaux étant de la forme $(1)$, $(-1)$ ou $$\left(\begin{array}{cc} \cos\theta&-\sin\theta\\ \sin\theta&\cos\theta \end{array}\right),\ \theta\in\mathbb R.$$

En termes de matrices, le théorème précédent dit qu'une matrice orthogonale est orthogonalement semblable à une matrice de la forme $$\left( \begin{array}{ccccc} I_p&0&\dots&&0\\ 0&-I_q&\ddots&\\ \vdots&\ddots& \left(\begin{array}{cc} \cos\theta_1&-\sin\theta_1\\ \sin\theta_1&\cos\theta_1 \end{array}\right)&\ddots&\vdots\\ \vdots&\ddots&\ddots&\ddots&0\\ 0&\dots&\dots&0& \left(\begin{array}{cc} \cos\theta_r&-\sin\theta_r\\ \sin\theta_r&\cos\theta_r \end{array}\right) \end{array}\right).$$

Orientation d'un espace euclidien, rotation et angles

On fixe une base $\mathcal B_0$ de $E$. Pour toute base $\mathcal B$ de $E$, on a

  • ou bien $\det_{\mathcal B_0}(\mathcal B)>0$ : on dit que $\mathcal B$ est directe.
  • ou bien $\det_{\mathcal B_0}(\mathcal B)<0$ : on dit que $\mathcal B$ est indirecte.

On dit alors que l'on a orienté $E$ et on parle alors d'espace euclidien orienté.

Si $\mathcal B$ et $\mathcal B'$ sont deux bases orthonormées directes, alors $\textrm{Mat}_{\mathcal B}(\mathcal B')$ est un élément de $SO_n(\mathbb R)$. En particlier, d'après la formule de changement de base pour les déterminants, $\det_{\mathcal B}=\det_{\mathcal B'}$.

Théorème : Soit $E$ un plan euclidien orienté et $u\in SO(E)$. Alors il existe $\theta\in\mathbb R,$ unique modulo $2\pi,$ tel que, pour toute base orthonormée de $E,$ on ait : $$\textrm{Mat}_{\mathcal B}(u)=\left(\begin{array}{cc} \cos\theta_1&-\sin\theta_1\\ \sin\theta_1&\cos\theta_1 \end{array}\right).$$ Un tel élément de $SO(E)$ est appelé rotation d'angle $\theta$.
Corollaire : Soit $E$ un plan euclidien orienté. Alors $SO(E)$ est isomorphe à $\mathbb U=\{z\in\mathbb C:\ |z|=1\}.$
Proposition : Soit $E$ un plan euclidien et $u\in O(E)\backslash SO(E)$. Alors $u$ est une réflexion.

Une isométrie vectorielle d'un plan euclidien est donc ou bien une rotation, ou bien une réflexion. Plus généralement, le théorème de réduction des isométries vectorielles $u\in O(E)$ s'interprète en disant que $E$ est la somme directe orthogonale des sous-espaces propres associés aux valeurs propres $+1$ et $-1$ et de plans sur lesquels $u$ opère comme une rotation.

Proposition : Soit $E$ un plan euclidien orienté et $x$, $y$ deux vecteurs non nuls de $E$. Il existe une unique rotation $u\in SO(E)$ telle que $u\left(\frac x{\|x\|}\right)=\frac{y}{\|y\|}.$ L'angle de cette rotation s'appelle angle orienté des vecteurs $x$ et $y$ (il est défini à $2\pi$ près).
Isométries vectorielles en dimension 3

On suppose dans cette partie que $E$ est euclidien orienté de dimension 3.

Si $P$ est un plan de $E$ et $D$ la droite normale à $P$, il n'existe pas d'orientation a priori ni pour $D$, ni pour $P$. Choisissons une orientation sur $D$ en choisissant un vecteur unitaire $\vec u$ de $D$. $\vec u$ dirige $D$. Complétons $\vec u$ en $(\vec u,\vec v,\vec w)$ une base orthonormée directe de $E$. Alors $(\vec v,\vec w)$ est une base orthonormée de $P$. On oriente $P$ en disant que $(\vec v,\vec w)$ est une base orthonormée directe de $P$. Il s'agit ici de l'orientation induite par le choix de $\vec u$.

Théorème : Soit $E$ un espace euclidien orienté de dimension $3$ et $u\in SO(E).$ Il existe une base orthonormée directe $\mathcal B$ de $E$ telle que $$\textrm{Mat}_{\mathcal B}(u)=\left( \begin{array}{ccc} 1&0&0\\ 0&\cos\theta&-\sin\theta\\ 0&\sin\theta&\cos\theta \end{array}\right).$$ En particulier, il existe une droite $D$ et un plan $P$ orthogonal à $D$ tel que $u_{|D}=\textrm{Id}_D$ et $u_{|P}$ est une rotation d'angle $\theta.$ On dit alors que $u$ est la rotation d'axe $D$ et d'angle $\theta$.
Endomorphismes des espaces euclidiens