Groupe de Lie et Vè problème de Hilbert
Plaçons-nous dans l'espace, et considérons l'ensemble des rotations autour d'un axe. Cet ensemble est un groupe pour la composition des applications. On peut par ailleurs donner une représentation visuelle de ce groupe. Traçons un cercle dans un plan perpendiculaire à l'axe, et dont le centre est un point de l'axe. Fixons un point sur ce cercle, qu'on associe à la rotation d'angle nul. A tout rotation autour de l'axe, on associe alors l'image de l'élément fixé au départ par cette rotation. On a ainsi "transporté" la structure de groupe au cercle, lequel possède donc une structure topologique (c'est une courbe de l'espace), et une structure algébrique (c'est un groupe). La notion de groupe de Lie généralise cet exemple.
On appelle groupe de Lie une variété différentiable munie d'une structure de groupe, de façon à ce que les deux structures soient compatibles, c'est-à-dire de façon à ce que la multiplication et le passage à l'inverse soient des applications différentiables.
Le cinquième des problèmes que Hilbert soumit à la sagacité des mathématiciens en 1900 concernait les groupes de Lie : peut-on enlever l'hypothèse de "différentiabilité" dans la définition d'un groupe de Lie, et la remplacer par celle de "continuité". Une réponse a été apportée en 1953 par le théorème de Gleason-Montgomery-Zippin.