Méthode de Newton-Raphson, et approximation de racine de 2 par la méthode d'Héron d'Alexandrie

De nombreux problèmes d'économie, de mathématiques ou de physique se concluent par la résolution d'une équation $f(x)=0$. Bien souvent, il n'est pas possible de résoudre exactement cette équation, et on cherche une valeur approchée de la solution (ou des solutions). Newton a proposé une méthode générale pour obtenir une telle approximation. L'idée est de remplacer la courbe représentative de la fonction par sa tangente.

On part d'un point $x_0$ de l'intervalle de définition de $f$, et on considère la tangente à la courbe représentative de $f$ en $(x_0,f(x_0))$. Soit $x_1$ l'abscisse de l'intersection de la tangente avec l'axe des abscisses. Puisque la tangente est proche de la courbe, on peut espérer que $x_1$ donne une meilleure estimation d'une solution de l'équation $f(x)=0$ que $x_0$. On recommence alors le procédé à partir de $x_1$, et on construit par récurrence une suite $(x_n)$ définie par :

Sous de bonnes hypothèses sur $f$, assez restrictives, $(x_n)$ converge vers la solution de $f(x)=0,$ et la convergence est très rapide : supergéométrique.
Voici un exemple d'énoncé que l'on peut obtenir:

Ex : Calcul de racine 2 par la méthode d'Héron d'Alexandrie

La première application de la méthode de Newton remonte à Héron d'Alexandrie, mathématicien grec du Ier siècle après JC. Elle permet le calcul de valeurs approchées de $\sqrt 2$, qui est l'unique solution de $x^2-2=0$ Avec $x_0=2$, la méthode de Newton donne la suite $$x_{n+1}=\frac 12\left(x_n+\frac 2{x_n}\right).$$ La figure dynamique suivante vous montre à quel point la convergence est rapide!

La méthode de Newton s'applique également très bien aux fonctions de plusieurs variables. Soit $\mathcal U\subset\mathbb R^d$ un ouvert, $\varphi:\mathcal U\to\mathbb R^d$ de classe $\mathcal C^2$ et $a\in\mathcal U$ tel que $\varphi(a)=0,$ $d_a\varphi$ est inversible. Par le théorème d'inversion locale, il existe un ouvert $V$ tel que $a\in V\subset\mathcal U$ tel que $\varphi_{|V}:V\to\varphi(V)$ soit un $\mathcal C^1$-difféomorphisme. On pose alors $$F(x)=x-(d_x\varphi)^{-1}(\varphi(x))$$ pour tout $x\in V.$ Alors, pour tout $x_0\in V,$ la suite récurrente donnée par la relation $x_{n+1}=F(x_n)$ est bien définie et converge quadratiquement vers $a.$

La méthode de Newton est parfois aussi appelée méthode de Newton-Raphson. En fait, Newton dévoile cette méthode dans Method of Fluxions, ouvrage publié en 1736 (après sa mort). Cette méthode était aussi décrite par Joseph Raphson dans Analysis Aequationum en 1690. Toutefois, il semble que la partie de Method of Fluxions qui nous concerne avait été en fait écrite en 1671. Cependant, Newton et Raphson ne l'appliquent qu'à des polynômes. Sa forme générale est due à Simpson, en 1740.