Endomorphisme orthogonal
Soit $E$ un espace vectoriel euclidien, et $u$ un endomorphisme de $E$. On dit que $u$ est un endomorphisme orthogonal s'il conserve le produit scalaire, c'est-à-dire si pour tous $x,y$ de $E$, on a : $$\langle u(x),u(y)\rangle = \langle x,y \rangle.$$ Puisqu'il conserve le produit scalaire, il conserve la norme, et $u$ est donc une isométrie. En outre, un endomorphisme orthogonal est toujours inversible, son inverse étant son adjoint $u^*.$
L'ensemble des endomorphismes orthogonaux forme un groupe pour l'opération de composition des applications : on l'appelle groupe orthogonal, et on le note $O(E)$. Le sous-groupe du groupe orthogonal constitué des endomorphismes de déterminant 1 s'appelle groupe spécial orthogonal, noté $SO(E)$.
Lorsque $E=\mathbb R^n$ muni du produit du scalaire canonique, on note aussi ces groupes $O_n(\mathbb R)$ et $SO_n(\mathbb R).$ L'ensemble des endomorphismes orthogonaux de $\mathbb R^n$ s'identifie, via la donnée de la matrice dans la base canonique, à l'ensemble des matrices orthogonales et on utilise aussi la notation $O_n(\mathbb R)$ pour désigner l'ensemble des matrices orthogonales de $\mathcal M_n(\mathbb R)$, et $SO_n(\mathbb R)$ pour désigner l'ensemble des matrices orthogonales de déterminant $1$.
Voici quelques propriétés de ces groupes :
- Le centre de $O(E)$ est $\{-\textrm{Id},\textrm{Id}\}.$
- Le centre de $SO(E)$ est $\{\textrm{Id}\}$ si $n$ est impair, $SO(E)$ si $n=2$ et $\{\textrm{Id},-\textrm{Id}\}$ si $n$ est pair supérieur ou égal à $4.$
- Le groupe dérivé de $O(E)$ est $\{\textrm{Id}\}$ si $n=1$ et $SO(E)$ si $n\geq 2.$
- Le groupe dérivé de $SO(E)$ est $\{\textrm{Id}\}$ si $n=1$ ou $n=2$ et $SO(E)$ si $n\geq 3.$
- $SO_n(\mathbb R)$ est un groupe simple pour $n\geq 3$ impair.
- Tout automorphisme de $SO_3(\mathbb R)$ est intérieur.
D'un point de vue topologique, on a les propriétés suivantes :
- L’ensemble $O_n(\mathbb R)$ est une partie compacte et d’intérieur vide de $\mathcal M_n(\mathbb R).$
- L’ensemble $O_n(\mathbb R)$ n’est pas connexe. Ses deux composantes connexes sont les ensembles $SO_n(\mathbb R)$ et $O^−_n (\mathbb R) = O_n(\mathbb R) \backslash SO_n(\mathbb R).$
- L’ensemble $SO_n(\mathbb R)$ est une partie compacte, d’intérieur vide et connexe par arcs de $\mathcal M_n(\mathbb R).$