Math spé : Espaces préhilbertiens, endomorphismes des espaces euclidiens

1. Soit $y\in B^\perp$. Alors, pour tout $x\in A$, on a $x\in B$ et donc $\langle x,y\rangle=0$, ce qui prouve que $y\in A^\perp$.
2. On commence par prendre $x\in (A\cup B)^\perp$, et prouvons que $x\in A^\perp$. En effet, si $y\in A$, on a $y\in A\cup B$, et donc $\langle x,y\rangle=0$. Ceci montre la première inclusion. Réciproquement, si $x\in A^\perp\cap B^\perp$, prenons $y\in (A\cup B)$. Alors si $y\in A$, on a bien $\langle x,y\rangle =0$ puisque $x\in A^\perp$, et le cas où $y\in B$ se résoud de la même façon.
3. D'après la première question, puisque $A\subset \textrm{vect}(A)$, on a $$\textrm{vect}(A)^\perp \subset A^\perp.$$ Réciproquement, si $y\in A^\perp$, prenons $x\in\textrm{vect}(A)$. Alors on peut trouver des éléments $a_1,\dots,a_n$ de $A$ et des scalaires $\lambda_1,\dots,\lambda_n$ tels que $$x=\lambda_1a_1+\dots+\lambda_n a_n.$$ On a alors \begin{eqnarray*} \langle y,x\rangle&=&\langle y,\lambda_1 a_1+\dots+\lambda_n a_n\rangle\\ &=& \lambda_1 \langle y,a_1\rangle+\dots+\lambda_n \langle y,a_n\rangle\\ &=&\lambda_1 0+\dots+\lambda_n 0\\ &=&0, \end{eqnarray*} et donc $y\in \textrm{vect}(A)^\perp$.
4. On va commencer par prouver que $A\subset (A^{\perp})^{\perp}$. Mais, soit $x\in A$. Choisissons $y\in A^\perp$. On a alors $\langle x,y\rangle=0$, ce qui prouve que $x\in A^{\perp\perp}$. D'autre part, $(A^\perp)^{\perp}$ est un sous-espace vectoriel de $E$ qui contient $A$. Il contient donc le sous-espace vectoriel engendré par $A$ et on a bien l'inclusion demandée.
5. Notons $B=\textrm{vect}(A)$ et $n=\dim(E)$. Alors d'après la question précédente, $$(A^\perp)^{\perp}=(B^\perp)^{\perp}.$$ D'autre part, $$\dim(B^\perp)=n-\dim B\implies \dim((B^{\perp})^\perp)=n-\dim(B^\perp)=\dim(B).$$ Ainsi, d'après la question précédente, on a $B\subset (B^\perp)^\perp$ et ces deux sous-espaces ont la même dimension. Ils sont donc égaux!

On remarque d'abord que si $A\subset B$, alors on a $B^\perp\subset A^\perp$, ce qui est immédiat en appliquant la définition. Ainsi, puisque $F\subset F+G$ et $G\subset F+G$, on obtient $(F+G)^\perp\subset F^\perp\cap G^\perp$. Prenons maintenant $x\in F^\perp\cap G^\perp$. Tout $z\in F+G$ s'écrit $z=f+g$, avec $f\in F$ et $g\in G$. Alors : $$(x,z)=(x,f)+(x,g)=0,$$ ce qui prouve que $F^\perp\cap G^\perp\subset (F+G)^\perp.$ D'autre part, on a $F\cap G\subset F$ et $F\cap G\subset G$, ce qui donne respectivement $F^\perp\subset (F\cap G)^\perp$ et $G^\perp\subset (F\cap G)^\perp$. Puisque $(F\cap G)^\perp$ est un sous-espace vectoriel, il est stable par addition, et donc on a $F^\perp+G^\perp\subset (F\cap G)^\perp$. Dans le cas où $E$ est un espace de dimension finie, on peut obtenir l'autre inclusion en comparant les dimensions des sous-espaces : \begin{eqnarray*} \dim(F^\perp+G^\perp)&=&\dim F^\perp+\dim G^\perp-\dim(F^\perp\cap G^\perp)\\ &=&\dim(F^\perp)+\dim(G^\perp)-\dim(F+G)^\perp\\ &=&\dim(E)-\dim(F)-\dim(G)+\dim(F+G)\\ &=&\dim(E)-\dim(F\cap G)\\ &=&\dim((F\cap G)^\perp). \end{eqnarray*}

Soit $g\in F^\perp$. Remarquons que la fonction $h$ définie par $h(x)=xg(x)$ est dans $F$. On en déduit que $(g,h)=0$, ce qui donne $\int_0^1 xg^2(x)=0.$ Or, la fonction $x\mapsto xg^2(x)$ est positive et continue sur $[0,1]$. Puisque son intégrale est nulle, c'est qu'il s'agit de la fonction identiquement nulle. Ainsi, pour tout $x>0$, on a $g(x)=0$. Maintenant, $g$ est continue, et donc on obtient que $g$ est identiquement nulle. Ainsi, $F^\perp=\{0\}$. D'autre part, si $F$ admettait un supplémentaire orthogonal, on aurait $F\oplus F^\perp=E$. Ici, $F\oplus F^\perp=F\neq E$. Donc $F$ n'admet pas de supplémentaire orthogonal!

On va orthonormaliser la base canonique $(1,X,X^2)$. Commençons par normaliser $1$. Sa norme est $\sqrt 2$. On pose donc $$P=\frac 1{\sqrt 2}.$$ Considérons ensuite $$Q_1(X)=X+\lambda P$$ où $\lambda$ est choisi de sorte que $\langle Q_1,P\rangle=0$. Mais, $$\langle Q_1,P\rangle=\int_{-1}^1 \frac t{\sqrt 2}dt+\lambda \langle P,P\rangle=\lambda.$$ On doit donc avoir $\lambda=0$ (en réalité, les deux vecteurs $1$ et $X$ sont déjà orthogonaux!), et donc $Q_1=X$. On normalise ce vecteur en $$Q(X)=\sqrt{\frac 32}X.$$ On pose enfin $$R_1=X^2+\lambda P+\mu Q$$ de sorte que $\langle R_1,P\rangle=0$ et $\langle R_1,Q\rangle=0$. Mais, $X^2$ est déjà orthogonal à $X$, et donc par un calcul similaire au précédent, on va trouver que $\mu=0$. D'autre part, $$\langle R_1,P\rangle=\frac 1{\sqrt 2}\int_{-1}^1 t^2dt+\lambda=\frac {\sqrt 2}3+\lambda.$$ On trouve $\lambda=-\frac{\sqrt 2}3$ et donc $$R_1(X)=X^2-\frac{1}3.$$ Reste à normaliser ce vecteur en $$R(X)=\sqrt{\frac 58}(3X^2-1).$$ Ainsi, $\left(\frac 1{\sqrt 2},\sqrt{\frac 32}X,\sqrt{\frac 58}(3X^2-1)\right)$ est une base orthonormale de $\mathbb R_2[X]$.

On va prouver que la famille est libre et génératrice. D'une part, si on applique l'égalité avec $e_j$, on obtient : $$1=1+\sum_{k\neq j}\langle e_k,e_j\rangle^2.$$ Ainsi, pour tout $k\neq j$, on a $\langle e_k,e_j\rangle=0$, et la famille est orthogonale. Ainsi, c'est une famille libre. De plus, elle est génératrice. Prenons en effet $x\in E$, et posons $$y=\sum_{k=1}^n \langle x,e_k\rangle e_k.$$ On va prouver que $x=y$. Pour cela, on remarque que, puisque la famille est orthogonale, on a $\langle x,e_k\rangle=\langle y,e_k\rangle$. Or, $$\|x-y\|^2=\sum_{k=1}^n \langle x-y,e_k\rangle^2=0.$$ Donc $x=y$. $(e_1,\dots,e_n)$ est donc une base orthonormale de $E$, qui est de dimension $n$ (ceci n'était pas précisé au début de l'énoncé).
Une autre façon de prouver que la famille est génératrice est de considérer $F$ le sous-espace de $E$ engendré par $(e_1,\dots,e_n)$. Il s'agit d'un sous-espace de dimension finie de $E$. On peut donc considérer $p$ la projection orthogonale sur $F$. Pour tout $x\in E$, d'après le théorème de Pythagore, on a $$\|x\|^2=\|p(x)\|^2+\|x-p(x)\|^2.$$ Or, $$p(x)=\sum_{i=1}^n \langle x,e_i\rangle e_i\implies \|p(x)\|^2=\sum_{i=1}^n \langle x,e_i\rangle^2=\|x\|^2.$$ On en déduit que $\|x-p(x)\|=0$, ou encore que $p(x)=x$, ou encore que $x\in F$, ce qui achève la preuve de $F=E$.

On commence par remarquer que $A^2=A$. Ainsi, $p$ est bien une projection. On va calculer $\ker(p)$ et $\textrm{Im}(p)$. Il suffira ensuite de démontrer que ces deux sous-espaces sont orthogonaux pour pouvoir conclure. On remarque d'abord que $(x,y,z)\in \ker(p)$ si et seulement si \begin{eqnarray*} \left\{ \begin{array}{rcl} 5x-2y+z&=&0\\ -2x+2y+2z&=&0\\ x+2y+5z&=&0\\ \end{array}\right. &\iff& \left\{ \begin{array}{rcl} x+2y+5z&=&0\\ 6y+12z&=&0\\ -12y-24z&=&0\\ \end{array}\right.\\ &\iff& \left\{ \begin{array}{rcl} x&=&-z\\ y&=&-2z\\ z&=&z \end{array}\right. \end{eqnarray*} Ainsi, $\ker(p)=\textrm{vect}(u)$, où $u=(-1,-2,1)$. On en déduit (on sait déjà que $p$ est une projection) que $\textrm{Im}(p)$ est de dimension 2. Puisque $p(e_1)$ et $p(e_2)$ sont indépendants, en posant $v=(5,-2,1)$ et $w=(-2,2,2)$, on en déduit que $\textrm{Im}(p)=\textrm{vect}(v,w)$.
Pour démontrer que $p$ est une projection orthogonale, il reste à prouver que $\ker(p)\perp\textrm{Im}(p)$. Mais $u\perp v$ et $u\perp w$, donc on a bien $\textrm{vect}(u)\perp \textrm{vect}(v,w)$.
Puisque $u$ est un vecteur normal au plan $\textrm{Im}(p)$, une équation de ce plan est $$-x-2y+z=0.$$ Enfin, on calcule la distance de $(1,1,1)$ au plan $\textrm{Im}(p)$ par la formule du cours : $$d=\frac{|\langle u,(1,1,1)\rangle|}{\|u\|}=\frac{|-1-2+1|}{\sqrt 6}=\frac {2}{\sqrt 6}.$$

Un vecteur normal du plan est $u=(2,1,-1)$. Un point du plan est $A=(0,0,2)$. On en déduit que la distance recherchée est $$d=\frac{|\langle u,\overrightarrow{AM}\rangle|}{\|u\|}=\frac{\langle(2,1,-1),(3,4,3)\rangle}{\sqrt{6}}=\frac{7}{\sqrt 6}.$$

Posons $E=\mathcal C([0,1])$ muni du produit scalaire $\pss{f}{g}=\int_0^1 f(t)g(t)dt$. On a $\int_0^1 |x^2-ax-b|^2dx=\|x^2-(ax+b)\|^2$. Quand $(a,b)$ décrit $\mathbb R^2$, $ax+b$ décrit $F=\textrm{vect}(1,x)$ et donc $$\inf_{(a,b)\in\mathbb R^2}\int_0^1 |x^2-ax-b|^2dx=\inf_{f\in F}\|x^2-f\|^2.$$ Mais on sait que $$\inf_{f\in F}\|x^2-f\|=\|x^2-p(x^2)\|$$ où $p(x^2)$ est la projection orthogonale de $x^2$ sur $F$. Il s'agit donc de calculer cette projection. Ceci peut se faire de deux façons. D'une part, on peut fabriquer une base orthonormale de $F$ par le procédé de Gram-Schmidt à partir de $1,x$ et on sait que $$p(x^2)=\pss{x^2}{e_1}e_1+\pss{x^2}{e_2}e_2.$$ On peut aussi poser a priori $p(x^2)=ax+b$ et écrire que $x^2-(ax+b)\perp 1$, $x^2-(ax+b)\perp x$. On obtient le système : $$\left\{ \begin{array}{ccc} \int_0^1 x^2-(ax+b)dx&=&0\\ \int_0^1 x^3-(ax^2+bx)dx&=&0 \end{array}\right.$$ qui permet de calculer $a$ et $b$. Par l'une ou l'autre méthode, on trouve que $p(x^2)=x-1/6$ et donc que $\|x^2-p(x^2)\|=\frac1{\sqrt{180}}.$ La borne inférieure recherchée est donc $1/180$ (il ne faut pas oublier de reprendre le carré).

Supposons d'abord que $p$ est un projecteur orthogonal. Pour tout $x$ de $E$, $x=p(x)+(x-p(x))$, où $p(x)\perp x-p(x)$. Le théorème de Pythagore donne alors $\|x\|^2=\|p(x)\|^2+\|x-p(x)\|^2$, ce qui entraîne $\|p(x)\|\leq \|x\|$ pour tout $x$ de $E$. Réciproquement, supposons que pour tout $x$ de $E$, $\|p(x)\|\leq \|x\|$, et supposons que $p$ est le projecteur sur $F$ parallèlement à $G$. Prenons $x$ dans $F$, et $y$ dans $G$, et posons $f(t)=\|x+ty\|^2$. Le développement de la norme donne : $$f(t)=\|x\|^2+2t(x,y)+t^2\|y\|^2.$$ $f$ est donc une fonction dérivable. En outre, $p(x+ty)=x$, et donc $f(0)=\|x\|^2\leq \|x+ty\|^2\leq f(t)$. $f$ atteint donc son minimum en 0. On a donc $f'(0)=0$, ce qui donne $(x,y)=0$ : $F$ et $G$ sont orthogonaux, ce qui signifie que $p$ est un projecteur orthogonal!

On va se simplifier la vie en travaillant avec les noyaux plutôt que les images. Il est en effet clair que, si $F$ et $G$ sont deux sous-espaces de $E$, alors $$F\subset G\iff G^\perp\subset F^\perp.$$ De plus, s'agissant de projections orthogonales, $\textrm{Im}(p)^\perp=\ker(p).$ L'assertion 1 est donc équivalente à $$(3)\quad\quad\quad \ker(q)\subset \ker(p).$$ Démontrons alors que $2\implies 3$. Supposons $2$ et prenons $y\in\textrm{ker}(q)$. Alors on a $$\|p(y)\|\leq \|q(y)\|=0$$ et donc $p(y)=0$. Réciproquement, supposement $\ker(q)\subset\ker(p)$ et prouvons $2$. Soit $x\in E$, que l'on décompose en $x=x_1+x_2$ dans $\ker(q)\oplus \textrm{Im}(q)$. Alors, $$q(x)=x_2\textrm{ et }p(x)=p(x_1)+p(x_2)=p(x_2).$$ $p$ étant une projection orthogonale, on a toujours $$\|p(x_2)\|\leq \|x_2\|$$ (c'est par exemple une conséquence du théorème de Pythagore, en décomposant $x_2$ dans la somme directe orthogonale $\textrm{Im}(p)\oplus \ker(p)$). Ainsi, on a bien prouvé que $$\|p(x)\|\leq \|q(x)\|.$$

Remarquons que, pour tout $g\in\mathcal C([0,1])$, on a $$\|g\|_2=\left(\int_0^1|g(t)|^2dt\right)^{1/2}\leq \|g\|_\infty.$$ Prenons maintenant $f\in\mathcal C([0,1])$ et $\veps>0$. D'après le théorème de Weierstrass, il existe un polynôme $P$ tel que $\|f-P\|_\infty\leq\veps$. On en déduit que $\|f-P\|\leq \veps$ ce qui prouve bien que la famille $(X^n)_{n\geq 0}$ est totale.

Pour $N\geq 1$, notons $p_N$ la projection orthogonale sur l'espace vectoriel $\textrm{vect}(e_1,\dots,e_N)$. Alors puisque la famille $(e_n)_{n\geq 1}$ est totale, on sait que $\|x-p_N(x)\|\to 0$ lorsque $N\to+\infty$. Mais par le théorème de Pythagore, $$\|x\|^2=\|x-p_N(x)\|^2+\|p_N(x)\|^2=\|x-p_N(x)\|^2+\sum_{n=1}^N \langle x,e_n\rangle^2.$$ Faisant tendre $N$ vers $+\infty$, on trouve bien le résultat demandé.

Soit $\lambda$ une valeur propre de $u$, et $x$ un vecteur propre associé. Alors on a d'une part $$\langle u(x),x\rangle=\langle \lambda x,x\rangle=\lambda \|x\|^2$$ et d'autre part, par hypothèse, $$\langle u(x),x\rangle=0.$$ Toutes les valeurs propres de $u$ sont donc nulles. Comme $u$ est diagonalisable, on en déduit que $u=0$.

Soit $\lambda$ une valeur propre de $A$, et $X$ un vecteur propre associé. Alors on a $A^p X=\lambda^p X$ mais aussi $A^p X=0$. Ainsi, on doit avoir $\lambda^p=0$, soit encore $\lambda=0$. Ainsi, toutes les valeurs propres de $A$ doivent être nulles. Mais comme $A$ est diagonalisable, il est clair que ceci entraîne que $A=0$. Réciproquement, la matrice nulle vérifie bien ceci!

Il suffit de prouver que $0$ n'est pas une valeur propre de $A+iI_n$. Mais $A$ étant une matrice symétrique réelle, elle est diagonalisable sur $\mathbb R$ et admet donc uniquement des valeurs propres réelles, $\lambda_1,\dots,\lambda_n$ (éventuellement répétées plusieurs fois si la valeur propre est multiple). Donc les valeurs propres de $A+iI_n$ sont $\lambda_1+i,\dots,\lambda_n+i$. Ainsi, $0$ n'est pas valeur propre de $A+iI_n$ et cette matrice est inversible.

La matrice $A$ est symétrique réelle, elle est donc diagonalisable. Le calcul du polynôme caractéristique nous dit que $-3$ est valeur propre simple, et que $3$ est valeur propre double. Cherchons d'abord le sous-espace propre associé à $3$. La résolution de l'équation $AX=3X$ montre que l'espace propre associé est le plan vectoriel $x+y+z=0$. Une base de cet espace est donnée par le vecteurs $(1,-1,0)$ et $(1,0,-1)$. L'orthonormalisation de cette base donne la base orthonormalisée $(1/\sqrt 2,-1/\sqrt 2,0)$, $(1/\sqrt 6,1/\sqrt 6,-2/\sqrt 6)$.
Pour l'espace propre associé à -3, il y a possibilité d'aller plus vite. Comme on a affaire à une matrice symétrique, les espaces propres sont orthogonaux. Ici, l'espace propre associé à -3 ne peut-être que l'orthogonal du plan $x+y+z=0$. Un vecteur normal à ce plan étant le vecteur $(1,1,1)$, une base orthonormée de l'espace propre associée à -3 est le vecteur $(1/\sqrt 3,1/\sqrt 3,1/\sqrt 3)$.
Finalement, on trouve qu'une matrice $P$ qui convient est : $$P=\left( \begin{array}{ccc} 1/\sqrt 3&1/\sqrt 2&1/\sqrt 6\\ 1/\sqrt 3&-1/\sqrt 2&1/\sqrt 6\\ 1/\sqrt 3&0&-2/\sqrt 6\\ \end{array}\right).$$

La matrice est symétrique réelle, elle est donc diagonalisable dans une base orthonormée. Le calcul de son polynôme caractéristique montre que ses valeurs propres sont 3, 6 et 9. Une base de vecteurs propres associés est $ (2,2,-1), (-1,2,2), (2,-1,2)$. Ses vecteurs sont déjà orthogonaux (cela aurait le cas quelque soient les vecteurs propres choisis, car les espaces propres sont de dimension 1, et ils sont orthogonaux deux à deux). Pour obtenir une base orthonormale, il suffit de divisier chaque vecteur par sa norme. Une base orthonormale de vecteurs propres est donc : $$(2/3,2/3,-1/3), (-1/3,2/3,2/3), (2/3,-1/3,2/3).$$

Soit $(e_1,\dots,e_n)$ une base orthonormée de vecteurs propres associée aux valeurs propres $(\lambda_1,\dots,\lambda_n)$. Écrivons $x\in E$ sous la forme $x=x_1e_1+\dots x_n e_n$, de sorte que $$u(x)=\lambda_1 x_1 e_1+\dots+\lambda_n x_n e_n.$$ Alors on a $$\|x\|^2=x_1^2+\dots+x_n^2$$ et $$\langle u(x),x\rangle=\lambda_1x_1^2+\dots+\lambda_n x_n^2.$$ Puisque, pour tout $i=1,\dots,n$, on a $\lambda_1\leq\lambda_i\leq\lambda_n$, on a donc $$\lambda_1 \|x\|^2\leq \langle u(x),x\rangle\leq \lambda_n \|x\|^2.$$

Soit $(e_1,\dots,e_n)$ une base orthonormale de $E$ constituée de vecteurs propres pour $f$. Notons $(\lambda_1, \dots,\lambda_n)$ les valeurs propres associées. Pour $x=\sum_{i=1}^n x_ie_i$, on a $f(x)=\sum_{i=1}^n \lambda_ix_ie_i$, et donc $$\|f(x)\|^2=\sum_{i=1}^n |\lambda_i|^2 x_i^2\leq \rho(f)^2 \|x\|^2,$$ ce qui prouve que $\|f\|\leq\rho(f)$. D'autre part, il existe $k$ tel que $\rho(f)=|\lambda_k|$. On a alors $\|f(e_k)\|=|\lambda_k|=\rho(f)$, et comme $\|e_k\|=1$, on a $\rho(f)\leq\|f\|$.

Soit $u$ un tel endomorphisme, et soit $\lambda$ une valeur propre de $u$. Si $x$ est un vecteur propre associé, on a $\|u(x)\|=\|x\|$ et $\|u(x)\|=|\lambda| \|x\|$. On en déduit que $\lambda=\pm 1$. On a donc $\ker(u-Id)\oplus^\perp \ker(u+Id)=E$ et donc $u$ est une symétrie orthogonale. Réciproquement, toute symétrie orthogonale est un endomorphisme symétrique et orthogonal.

Soient $x,y\in E$. Pour démontrer que $u(x+y)=u(x)+u(y)$, il suffit de démontrer que le vecteur $u(x+y)-u(x)-u(y)$ est orthogonal à tous les vecteurs de l'espace. Prenons donc $z\in E$. Alors on a \begin{eqnarray*} \langle u(x+y)-u(x)-u(y),z\rangle&=&\langle u(x+y),z\rangle-\langle u(x),z\rangle-\langle u(y),z\rangle\\ &=&\langle x+y,u(z)\rangle-\langle x,u(z)\rangle-\langle y,u(z)\rangle\\ &=&0. \end{eqnarray*} Avec une méthode tout à fait similaire, on prouve que $u(\lambda x)=\lambda u(x)$ pour tout $\lambda\in\mathbb R$, et donc $u$ est bien linéaire.

On remarque d'abord que la matrice $A^T A$ est symétrique. Elle est donc diagonalisable à valeurs propres réelles. De plus, si $X$ est un vecteur propre associé à la valeur propre $\lambda$, alors on a $$A^T A X=\lambda X\implies X^T A^T A X=\lambda X^T X\implies (AX)^T AX=\lambda X^T X\implies \|AX\|^2=\lambda \|X\|^2.$$ Ainsi, $\lambda$, quotient de deux réels positifs, est un réel positif.

Le polynôme $P=X^4-2X^3+3X^2$ est un polynôme annulateur pour $S.$ Il se factorise en $P=X^2(X^2-2X+3)$. Or, le discriminant de $X^2-2X+3$ est $-8<0,$ et donc la seule racine de $P$ est $0$. Comme les valeurs propres des matrices sont toujours des racines des polynômes annulateurs, la seule valeur propre possible pour $S$ est $0$.
Mais d'autre part, $S$ est diagonalisable (dans une base orthonormée), et donc il existe $P\in O_n(\mathbb R)$ tel que $S=PDP^T$ avec $D$ diagonale constituée par les valeurs propres de $A,$ c'est-à-dire $D=0.$ Ainsi, $S=0.$

Il faut d'abord prouver que $\phi$ est une symétrie, c'est-à-dire que $\phi\circ\phi=Id$. Mais c'est clair, car $P(-(-X))=P(X)$. Il faut aussi démontrer que $\phi$ est une symétrie orthogonale, c'est-à-dire que $\phi$ conserve le produit scalaire, ou encore que $$\langle \phi (P),\phi(Q)\rangle=\langle P,Q\rangle$$ pour tous polynômes $P,Q\in E$. Mais, $$\langle \phi(P),\phi(Q)\rangle =\int_{-1}^1 P(-t)Q(-t)dt=\int_{-1}^1 P(t)Q(t)dt=\langle P,Q\rangle,$$ le seul argument utilisé étant le changement de variables $u=-t$.

Posons $F=\vect(a)$ et $G=a^\perp$. Soit $x\in E$, que l'on décompose en $x=g+\lambda a$, avec $g\in G$. On a alors : $$s_a(x)=x-2\frac{(a,\lambda a)}{(a,a)}a=\lambda a+g-2\lambda a=g-\lambda a.$$ Ceci prouve en particulier, à l'aide de la relation de Pythagore, que $\|x\|^2=\|s_a(x)\|^2=\|g\|^2+\lambda^2\|a\|^2$, et que l'endomorphisme est orthogonal. Le calcul précédent prouve en outre que $\ker(s_a-id)=G$ et $\ker(s_a+id)=\vect(a)$. Ainsi, on a $$\ker(s_a-id)\oplus^\perp \ker(s_a+id)=E.$$ $s_a$ est la symétrie orthogonale par rapport à l'hyperplan $a^\perp$.

On remarque que la matrice $A$ est symétrique et orthogonale. L'endomorphisme canoniquement associé est donc une symétrie orthogonale. Pour le déterminer complètement, il suffit de déterminer l'ensemble de ses points invariants. On résout donc l'équation $AX=X$, et on trouve que l'ensemble des points invariants est $F=\textrm{vect}(1,4,1)$. $A$ est donc la matrice, dans la base canonique, de la symétrie orthogonale par rapport à $F$, ou encore du retournement par rapport à $F$.

On vérifie que les colonnes de $A$ forment une base orthonormée. Ainsi, $f$ est un endomorphisme orthogonal. De plus, $\det(A)=1$. $f$ est donc une rotation. Cherchons son axe en cherchant ses points fixes. L'équation $AX=X$ donne que l'axe est la droite $\textrm{vect}(1,1,1)$. Posons $u=(1,1,1)$. Pour déterminer l'angle de cette rotation, que l'on note $\theta$, on remarque qu'en écrivant la matrice de $f$ sous forme réduite, on a $\textrm{Tr}(A)=1+2\cos\theta$. Or, $\textrm{Tr}(A)=2$, et donc $\cos(\theta)=\frac 12$, soit $\theta=\pm \frac{\pi}3$ modulo $2\pi$.
Pour conclure quant au signe de $\theta$, on peut remarquer que, posant $v=(1,-1,0)$, qui est orthogonal à $u$, alors la base $(u,v,f(v))$ est directe, ce qui signifie que $\theta\in ]0,\pi[$ modulo $2\pi$. On en déduit donc que $f$ est la rotation d'axe dirigé par $(1,1,1)$ et d'angle $\pi/3$.

$A$ va représenter une rotation si et seulement si ses vecteurs colonnes forment une base orthonormée directe de $\mathbb R^3$. Pour que la première colonne soit de norme 1, il faut et il suffit de $a=0$. Pour que la deuxième colonne soit orthogonale à la première, il faut et il suffit que $b=-\frac 1{\sqrt 3}$. Remarquons que dans ce cas la deuxième colonne est bien de norme 1. Pour déterminer $c,d,e$, plusieurs méthodes sont envisageables :

• La plus simple est d'utiliser le produit vectoriel. Si $(u,v)$ est une famille orthonormale, le seul vecteur $w$ tel que $(u,v,w)$ forme une base orthonormée directe est $w=u\wedge v$. On trouve alors facilement que $c=-\frac 1{\sqrt 6}$, $d=\frac 2{\sqrt 6}$ et $e=\frac 1{\sqrt 6}$.
• On écrit toutes les relations connues : l'orthogonalité de la première et de la troisième colonne donne $c+e=0$, celle de la deuxième et de la troisième donne $c+d-e=0$. On obtient alors $c=-e$ et $d=2e$. Sachant que $c^2+d^2+e^2=1$, ceci permet de déterminer $e$ au signe près. On calcule alors le déterminant de la matrice $A$, qui doit être égal à $1$, pour trouver le signe de $e$.

Il existe une base orthonormale $(u,v,w)$ de $E$ telle que la matrice de $f$ dans cette base orthonormale soit de la forme $$\left( \begin{array}{ccc} -1&0&0\\ 0&\cos\theta&-\sin\theta\\ 0&\sin\theta&\cos\theta \end{array} \right).$$ Notons $D=\textrm{vect}(u)$ de sorte que $D^\perp=\textrm{vect}(v,w)$. Soit $s$ la réflexion par rapport à $D^\perp$. Sa matrice dans la base $(u,v,w)$ est $$\left( \begin{array}{ccc} -1&0&0\\ 0&1&0\\ 0&0&1 \end{array} \right).$$ Ainsi, la matrice de $s\circ f$ est $$\left( \begin{array}{ccc} 1&0&0\\ 0&\cos\theta&-\sin\theta\\ 0&\sin\theta&\cos\theta \end{array} \right).$$ C'est bien la matrice d'une rotation $r$ d'axe $D$. Puisque $s^{-1}=s$, on a bien $$f=r\circ s=s\circ r$$ qui est donc la composée d'une rotation et d'une réflexion.

Soit $\lambda$ une valeur propre de $u$, de vecteur propre associé $x$. Alors on a $$\|x\|=\|u(x)\|=|\lambda|\times\|x\|.$$ Ainsi, on a $\lambda=\pm 1$. Ainsi, dans une base de vecteurs propres, la matrice de $u$ est constituée de $1$ et de $-1$ sur la diagonale. C'est bien la matrice d'une symétrie.