Systèmes non diagonalisables - Bibm@th.net
Enoncé 

Résoudre le système différentiel $X'=AX$ lorsque
$$
\begin{array}{lll}
\mathbf 1.\ A=\left(\begin{array}{ccc}
0&2&2\\
-1&2&2\\
-1&1&3
\end{array}\right)&\quad&
\mathbf 2.\ A=\left(\begin{array}{ccc}
-6&5&3\\
-8&7&4\\
-2&1&1
\end{array}\right)
\end{array}$$
Indication 

Rechercher les valeurs propres de la matrice, ses espaces propres.
La matrice n'est pas diagonalisable? Tant pis, on la trigonalise et on se ramène à résoudre un système triangulaire.
Corrigé 

- On calcule le polynôme caractéristique de $A$ qui est $(X-2)^2(X-1)$. On cherche ensuite un vecteur propre pour la valeur propre $1.$ On cherche ensuite le sous-espace propre associé à la valeur propre $2.$ Malheureusement, on trouve qu'il est de dimension $1,$ engendré par $$v_2=\begin{pmatrix}2\\1\\1\end{pmatrix}.$$ On cherche à trigonaliser $A$ de la façon la plus simple possible en cherchant un vecteur $v_3$ tel que $(A-2I_3)v_3=v_2.$ Posant $v_3=(x,y,z)$, on trouve le système $$\left\{ \begin{array}{rcl} -2x+2y+2z&=&2\\ -x+2z&=&1\\ -x+y+z&=&1 \end{array}\right.$$ dont une solution est $$v_3=\begin{pmatrix}-1\\0\\0\end{pmatrix}.$$ Posons alors $$P=\begin{pmatrix} 2&2&-1\\ 0&1&0\\ 1&1&0 \end{pmatrix}\textrm{, }T=\begin{pmatrix}1&0&0\\0&2&1\\0&0&2 \end{pmatrix}$$ et $Y=P^{-1}X$. On a alors l'équivalence $$X'=AX\iff Y'=TY.$$ Résolvons ce dernier système, qui s'écrit encore $$\left\{ \begin{array}{rcl} y_1'(t)&=&y_1(t)\\ y_2'(t)&=&2y_2(t)+y_3(t)\\ y_3'(t)&=&2y_3(t) \end{array}\right.$$ On trouve immédiatement qu'il existe deux constantes $a$ et $c$ telles que, pour tout $t\in\mathbb R,$ $$y_1(t)=ae^t\textrm{ et }y_3(t)=ce^{2t}.$$ L'équation portant sur $y_2$ s'écrit alors $$y_2'(t)=2y_2(t)+ce^{2t}.$$ Les solutions de l'équation homogène sont les fonctions qui s'écrivent $be^{2t},$ $b\in\mathbb R,$ tandis qu'on vérifie facilement qu'une solution particulière est la fonction $t\mapsto cte^{2t}$. Finalement, les solutions de $Y'=TY$ sont les fonctions $$t\mapsto \begin{pmatrix} ae^t\\ (ct+b)e^{2t}\\ ce^{2t} \end{pmatrix}, $$ $a,b,c\in\mathbb R.$ On retourne aux solutions de $X'=AX$ par la relation $X=PY,$ et on trouve les solutions $$t\mapsto \begin{pmatrix} (2ct+2b-c)e^{2t}+2ae^t\\ (ct+b)e^{2t}\\ ae^t+(ct+b)e^{2t} \end{pmatrix},$$ $a,b,c\in\mathbb R.$
- On reprend la même méthode. Le polynôme caractéristique de $A$ est $X(X-1)^2$. Un vecteur propre associé à la valeur propre $0$ est $v_1=\left(\begin{array}{c}1\\0\\2\end{array}\right)$ et donc la fonction constante
$t\mapsto \left(\begin{array}{c}1\\0\\2\end{array}\right)$ est une solution.
L'espace propre associé à la valeur propre $1$ est la droite vectorielle engendrée par $v_2=\begin{pmatrix} 1\\ 2\\-1\end{pmatrix}.$ En particulier, la
matrice $A$ n'est pas diagonalisable. On va la trigonaliser en cherchant un vecteur $v_3$ tel que $(A-I)v_3=v_2.$ On trouve $v_3=\begin{pmatrix} 0\\ -1\\2
\end{pmatrix}.$
On pose ensuite
$$P=\begin{pmatrix}
1&1&0\\
0&2&-1\\
2&-1&2
\end{pmatrix},\
T=\begin{pmatrix}
0&0&0\\
0&1&1\\
0&0&1
\end{pmatrix}$$
et $Y=P^{-1}X$. On résout le système $Y'=TY$ dont les solutions sont
$$t\mapsto
\begin{pmatrix}
a\\
(b+ct)e^t\\
ce^t
\end{pmatrix},$$
$a,b,c\in\mathbb R.$ On retourne à $X$ par la relation $X=PY$ et on trouve que les solutions du système $X'=AX$ sont les fonctions
$$t\mapsto \begin{pmatrix}
a+e^{t}(b+c+t(b+2c))\\
e^t(b+t(2b+4c))\\
2a+e^t(b+3c+t(-b-2c))
\end{pmatrix},$$
$a,b,c\in\mathbb R.$
On peut aussi utiliser la méthode suivante. On cherche une solution sous la forme $$X(t)=e^t(tV_2+V_1).$$ On a $X'(t)=AX(t)$ si et seulement si $$\left\{ \begin{array}{rcl} AV_2&=&V_2\\ AV_1&=&V_1+V_2\\ \end{array}\right.\iff \left\{ \begin{array}{rcl} V_2&=&(A-I)V_1\\ (A-I)^2V_1&=&0 \end{array}\right. $$ On cherche alors l'expression d'un élément $V_1$ de $\ker(A-I)^2$. Il est facile de vérifier que le noyau de $(A-I)^2$ est le plan d'équation $3X-2Y-Z=0$, dont une base est constituée des vecteurs $\left(\begin{array}{c}1\\1\\1\end{array}\right),\left(\begin{array}{c}1\\0\\3\end{array}\right).$ $V_1$ s'écrit donc $$V_1=\lambda\left(\begin{array}{c}1\\1\\1\end{array}\right)+\mu\left(\begin{array}{c}1\\0\\3\end{array}\right),$$ avec $\lambda,\mu$ des réels. On en déduit $$V_2=(A-I)V_1=(\lambda+2\mu)\left(\begin{array}{c}1\\2\\-1\end{array}\right).$$ Finalement, les solutions s'écrivent donc $$\nu\left(\begin{array}{c}1\\0\\2\end{array}\right)+e^t\left(\begin{array}{c}\lambda+\mu\\\lambda\\\lambda+3\mu\end{array}\right)+(\lambda+2\mu)te^t \left(\begin{array}{c}1\\2\\-1\end{array}\right),$$