Propriété et espace de Baire
On dit qu'un espace topologique $X$ est un espace de Baire si toute intersection dénombrable d'ouverts denses dans $X$ est une partie dense. Par passage au complémentaire, il est équivalent de dire qu'une réunion dénombrable de fermés d'intérieur vide est un ensemble d'intérieur vide.
On appelle souvent $G_\delta$ une intersection dénombrable d'ouverts, et $F_\sigma$ une réunion dénombrable de fermés. Attention!!! Un $G_\delta$ n'est pas en général un ouvert, et un $F_\sigma$ n'est pas en général un fermé. Par exemple, dans $\mathbb R$, l'intervalle $[0,1[$ est à la fois un $G_\delta$ et un $F_\sigma$, puisque $$[0,1[=\bigcap_{n\geq 1} ]-1/n,1[=\bigcup_{n\geq 1}[0,1-1/n].$$
On dit qu'une partie $A$ d'un espace de Baire $X$ est un résiduel ou est comaigre si $A$ contient une intersection dénombrable d'ouverts denses. On dit que $A$ est un ensemble maigre, si son complémentaire est un résiduel, ce qui signifie que $A$ est contenu dans une réunion dénombrable de fermés d'intérieur vide.
On dit aussi parfois qu'une partie $A$ de $X$ est de première catégorie de Baire si c'est un ensemble maigre. Toutes les autres parties de $X$ sont dits de deuxième catégorie de Baire.
Le théorème suivant donne des exemples d'espaces de Baire :
- Tout espace métrique complet est un espace de Baire.
- Tout espace topologique localement compact est un espace de Baire.
- Tout ouvert d'un espace de Baire est de Baire (pour la topologie induite).
Autrement dit, dans un espace métrique complet, toute intersection dénombrable d'ouverts denses est dense. Ce théorème est parfois aussi appelé théorème des catégories. Il dit en effet que tout espace métrique complet n'est pas de première catégorie.
On dit aussi qu'un espace topologique $X$ est complètement de Baire si tout fermé de $X$ est de Baire. Pour les espaces localement compacts et les espaces métriques complets, cette propriété supplémentaire est automatique.
Le théorème de Baire a de nombreuses applications. Par exemple, en analyse fonctionnelle, il est à la base de la preuve des théorèmes de Banach-Steinhaus et de l'application ouverte. Il a aussi des conséquences très surprenantes. Par exemple, on peut prouver à l'aide du théorème de Baire que les fonctions continues nulle part dérivables, cette "plaie lamentable" dont se plaignait Hermite, sont denses dans l'ensemble des fonctions continues. On peut aussi démontrer qu'un espace de Banach n'admet pas de base algébrique dénombrable.