Il suffit de démontrer que la fonction admet des dérivées partielles en tout point de $\mathbb R^2$, et que ces dérivées partielles sont continues sur $\mathbb R^2$.
- D'une part, $f$ est clairement de classe $C^1$ sur $\mtr^2\backslash\{(0,0)\}$, et on a
$$\frac{\partial f}{\partial x}(x,y)=\frac{2xy^5}{(x^2+y^2)^2},\textrm{ et }\frac{\partial f}{\partial y}(x,y)=x^2y^2\frac{3x^2+y^2}{(x^2+y^2)^2}.$$
D'autre part, montrons que $f$ admet des dérivées partielles en $(0,0)$. On a en effet :
$$f(x,0)-f(0,0)=0,$$
ce qui prouve que $f$ admet une dérivée partielle par rapport à la première variable valant
$$\frac{\partial f}{\partial x}(0,0)=0.$$
De même pour la dérivée partielle par rapport à la seconde variable. Il reste à démontrer que ces dérivées partielles sont continues en $(0,0)$. Mais on a, pour $(x,y)\neq (0,0)$ :
$$\left|\frac{2xy^5}{(x^2+y^2)^2}\right|=2|xy|\left(\frac{y^2}{(x^2+y^2)}\right)^2\leq 2|xy|,$$
ce qui prouve que $\frac{\partial f}{\partial x}(x,y)$ tend vers $0=\frac{\partial f}{\partial x}(0,0)$ si $(x,y)$ tend vers $(0,0)$. De même,
puisque $2|xy|\leq x^2+y^2$, on a :
$$\left|\frac{\partial f}{\partial y}(x,y)\right|\leq \frac{1}{4}\left|3x^2+y^2\right|.$$
On a également continuité de la dérivée partielle par rapport à la seconde variable en $(0,0)$.
- On commence par étudier la continuité de $f$ en $(0,0)$ (même si ce n'est pas utile pour appliquer le théorème mentionné). On a
\begin{eqnarray*}
|f(x,y)-f(0,0)|&\leq&x^2y^2|\ln(x^2+y^2)|\\
&\leq&\frac 14(x^2+y^2)^2|\ln(x^2+y^2)|\\
&\leq&\frac 14(x^2+y^2)\times (x^2+y^2)|\ln(x^2+y^2)|.
\end{eqnarray*}
Du fait que $u\ln u$ tend vers 0 lorsque $u$ tend vers $0^+$, on en déduit que $f$ est continue en $(0,0)$. Ensuite, remarquons que $f$ admet une dérivée partielle
par rapport à la première variable ailleurs qu'en $(0,0)$ donnée par
$$\frac{\partial f}{\partial x}(x,y)=2xy^2\ln(x^2+y^2)+\frac{2x^3y^2}{x^2+y^2}.$$
Pour étudier l'existence d'une dérivée partielle par rapport à la première variable en $(0,0)$, on étudie le taux d'accroissement
$$\frac{f(t,0)-f(0,0)}t=0\to 0.$$
Donc $\frac{\partial f}{\partial x}(0,0)$ existe et vaut 0. On va maintenant prouver la continuité de $\frac{\partial f}{\partial x}$ en $(0,0)$.
Le même raisonnement que pour la continuité de $f$ (en utilisant par exemple $|x|\leq (x^2+y^2)^{1/2}$) prouve que
$2xy^2\ln(x^2+y^2)$ tend vers 0 si $(x,y)$ tend vers $(0,0)$. D'autre part,
$$\left|\frac{2x^3y^2}{x^2+y^2}\right|\leq x^2|y|$$
ce qui prouve également que $\frac{2x^3y^2}{x^2+y^2}$ tend vers $0$ lorsque $(x,y)$ tend vers $(0,0)$. Ainsi, $\frac{\partial f}{\partial x}$ est continue en $(0,0)$, et par suite sur $\mathbb R^2$. Enfin, par symétrie des variables $x$ et $y$, ce que l'on vient de démontrer est aussi valable pour les dérivées partielles par rapport à la deuxième variable. Ainsi, $f$ est $C^1$ sur $\mathbb R^2$.
