Enoncé 
Donner les solutions réelles du système différentiel $X'=AX$ lorsque
$$\mathbf 1. A=\left(\begin{array}{ccc}
1&1&0\\
-1&2&1\\
1&0&1
\end{array}\right)\quad\quad\mathbf 2. A=\left(\begin{array}{ccc}
0&1&-1\\
1&4&-2\\
2&6&-3
\end{array}\right).
$$
Indication 
Chercher les valeurs propres : une est réelle, les deux autres sont complexes conjuguées. Résoudre le système sur $\mathbb C$ puis prendre la partie réelle.
Corrigé
- Les valeurs propres (complexes) de $A$ sont $2$, $1+i$ et $1-i$. Un vecteur propre associé
à 2 est donné par $V_2=(1,1,1)$. Pour $1+i$, un vecteur propre associé est $V_{1+i}=(i,-1,1)$. Puisque $A$ est une matrice réelle, on va trouver deux solutions réelles indépendantes en considérant $\Re e(V_{1+i}e^{it})$ et
$\Im m(V_{1+i}e^{it})$.
Un petit calcul donne
$$\Re e(V_{1+i}e^{(1+i)t})=e^t\begin{pmatrix}
-\sin(t)\\ -\cos(t)\\ \cos(t)
\end{pmatrix}
\quad\quad
\Im m(V_{1+i}e^{(1+i)t})=e^t\begin{pmatrix}
\cos(t)\\ -\sin(t)\\ \sin(t)
\end{pmatrix}.
$$
En conclusion, un triplet $(x_1(t),x_2(t),x_3(t))$ est solution du système ssi il existe
trois constantes $\alpha,\lambda$ et $\mu$ telles que
$$\left\{
\begin{array}{rcl}
x_1(t)=\alpha e^{2t}+\lambda e^t\cos (t)-\mu e^t \sin (t)\\
x_2(t)=\alpha e^{2t}-\lambda e^t\sin (t)-\mu e^t \cos (t)\\
x_3(t)=\alpha e^{2t}+\lambda e^t\sin (t)+\mu e^t \cos (t)\\
\end{array}\right.$$
- Les valeurs propres de la matrice sont $1$, $i$ et $-i$. Un vecteur propre associé à 1
est $V_1=\left(\begin{array}{c}1\\-3\\-4\end{array}\right)$.
Un vecteur propre associé à $i$ est $V_i=\left(\begin{array}{c}i\\1\\2\end{array}\right)$.
Bien entendu, la matrice étant réelle, un vecteur propre associé à $-i$ est $\overline{V_i}$.
Pour obtenir des solutions réelles, on peut considérer (toujours parce que la matrice $A$ est réelle)
$\Re e(V_i e^{it})$ et $\Im m (V_i e^{it})$. On trouve alors les solutions (indépendantes)
$$\left(\begin{array}{c}-\sin (t)\\\cos (t)\\2\cos (t)\end{array}\right)\textrm{ et }
\left(\begin{array}{c}\cos (t)\\\sin (t)\\2\sin (t)\end{array}\right).$$
La solution générale du système dans $\mathbb R$ est donc
$$\left(
\begin{array}{c}
\lambda e^{t}-\mu\sin (t)+\nu\cos (t)\\
-3\lambda e^t+\mu\cos (t)+\nu\sin (t)\\
-4\lambda e^t+2\mu\cos (t)+2\nu\sin (t)
\end{array}\right).$$
