§ 9. Opérations des groupes de Lie compacts sur les variétés
Dans ce paragraphe, on désigne par X une variété réelle de classe (), séparée et localement de dimension finie.
1. Plongement d'une variété au voisinage d'une partie compacte
Lemme 1 01HE
Soient T et T' deux espaces topologiques, A et A' des parties compactes de T et T' respectivement, W un voisinage de A × A' dans T × T'. Il existe un voisinage ouvert U de A dans T et un voisinage ouvert U' de A' dans T' tels qu'on ait U × U' ⊂ W.
Soit ; il existe des ouverts de T et de T' tels que : en effet, on peut recouvrir la partie compacte de T × T' par un nombre fini d'ouverts contenus dans W, de la forme , avec ; il suffit de prendre et .
Puisque A est compact, il existe des points de A tels que ; posons et . On a alors , d'où le lemme.
Dans la suite de ce numéro, on désigne par Y une variété séparée de classe .
Proposition 1 01HF
Soient un morphisme de classe , A une partie compacte de X. Les conditions suivantes sont équivalentes :
(i) La restriction de à A est injective, et est une immersion en tout point de A ; (ii) il existe un voisinage ouvert U de A tel que induise un plongement de U dans Y.
Lorsque ces conditions sont réalisées, on dit que est un plongement au voisinage de A.
Démontrons que (i) entraîne (ii), l'implication opposée étant évidente. Sous l'hypothèse (i), il existe un ouvert V de X contenant A tel que la restriction de à V soit une immersion (VAR, R, 5.7.1). Notons l'ensemble des points (x, y) de V × V tels que , et la diagonale de V × V. Alors est une partie ouverte de : en effet, pour tout , il existe un voisinage de x tel que la restriction de à soit injective, c'est-à-dire que l'on ait .
Puisque Y est séparée, est fermé dans V × V ; par suite le complémentaire W de dans V × V est ouvert. Par hypothèse, W contient A × A ; le lemme 1 entraîne qu'il existe un ouvert U' de V contenant A tel que , c'est-à-dire que la restriction de à U' soit injective. De plus il existe un voisinage ouvert U de A dont l'adhérence est compacte et contenue dans U' (TG, I, p. 65, prop. 10). Alors induit un homéomorphisme de sur , et par suite de U sur ; il en résulte que la restriction de à U est un plongement (VAR, R, 5.8.3).
Proposition 2 01HG
Supposons la variété Y paracompacte ; soit A une partie de X, et soit un morphisme de classe qui induit un homéomorphisme de A sur , et qui est étale en tout point de A. Il existe alors un voisinage ouvert U de A tel que induise un isomorphisme de U sur une sous-variété ouverte de Y.
Quitte à restreindre X et Y, on peut supposer étale et surjectif. Notons l’homéomorphisme réciproque de . Puisque Y est métrisable (VAR, R, 5.1.6), admet un système fondamental de voisinages paracompacts ; d’après TG, XI, il existe alors un voisinage ouvert V de dans Y et une application continue , qui coïncide avec sur , telle que pour tout . De plus, est topologiquement étale, donc est un ouvert U contenant A. Alors induit un homéomorphisme de U sur V ; d’après VAR, R, 5.7.8, est un isomorphisme.
Dans la suite de ce numéro, on suppose .
Proposition 3 01HH
Soit A une partie compacte de X. L’ensemble des morphismes qui sont des plongements au voisinage de A est ouvert dans pour la topologie de la -convergence compacte (§ 6, no 4).
Il suffit évidemment de démontrer la proposition pour .
a) Montrons d’abord que la partie J de formée des morphismes qui sont des immersions en tout point de A est ouverte. Considérons l’application telle que (VAR, R, 12.1).
Par définition de la topologie de , l’application de dans est continue ; on déduit alors de TG, X, p. 28, th. 3 que est continue.
D’autre part, soit M l’ensemble des jets de dont l’application tangente (VAR, R, 12.3.4) est injective. L’ensemble M est ouvert dans : en effet, il suffit de vérifier cette assertion lorsque X est un ouvert d’un espace vectoriel de dimension finie, et Y un ouvert d’un espace de Banach F ; on est alors ramené (VAR, R, 12.3.1) à prouver que l’ensemble des applications linéaires continues injectives est ouvert dans , ce qui résulte de TS, III, § 2, no 7, prop. 16.
On conclut de ce qui précède que l’ensemble est ouvert dans , donc que son complémentaire est fermé. Puisque A est compact, la projection est un morphisme propre, donc fermé ; par conséquent l’ensemble J, qui est égal à , est ouvert dans .
b) Soit H le sous-ensemble de formé des éléments tels que . Il est clair que H contient , où désigne la diagonale du produit ; montrons que est fermé dans . Comme est le complémentaire dans J de l’image de H’ par la projection propre , cela entraînera la proposition.
La topologie de étant plus fine que la topologie de la convergence compacte, l’application de dans est continue (TG, X, p. 28, cor. 1); on en déduit que est fermé dans . Il suffit donc de montrer que est ouvert dans , autrement dit que pour tout et tout , il existe un voisinage de dans et un voisinage de dans tels que pour tout morphisme de , la restriction de à soit injective.
La proposition résulte donc du lemme suivant :
Lemme 2 01HI
Soient un point de , un morphisme de classe qui est une immersion en . Il existe un voisinage de dans et un voisinage de dans tels que pour tout , la restriction de à soit injective.
Soit un voisinage ouvert de , relativement compact, isomorphe à un espace vectoriel de dimension finie, et tel que soit contenu dans un domaine de carte . L’ensemble des tels que est ouvert dans , et l’application de restriction est continue ; on est donc ramené à démontrer le lemme pour et , autrement dit on peut supposer que est un espace vectoriel de dimension finie et un espace de Banach. Choisissons des normes sur et .
L’application linéaire est injective ; notons sa conorme (TS, III, § 2, n° 6), de sorte qu’on a par définition pour tout . Soit tel que , et soit une boule fermée de centre telle qu’on ait pour tout . Notons le sous-ensemble de formé des morphismes tels que pour tout ; il est ouvert par définition de la topologie de . Pour , posons . On a pour tout , et par conséquent quels que soient et dans (VAR, R, 2.2.3). On en déduit
Par suite la restriction de à est injective, d’où le lemme.
Proposition 4 01HJ
Soit une partie compacte de . Il existe un espace vectoriel de dimension finie et un morphisme () qui est un plongement au voisinage de .
Soit une famille finie de cartes de dont les domaines recouvrent . On convient d’étendre en une application de dans (encore notée ) en posant pour . Soit un recouvrement de par des ouverts de , tel que pour tout (l’existence d’un tel recouvrement résulte du cor. 1 de TG, IX, p. 48, appliqué à l’espace compact obtenu en adjoignant à un point à l’infini et au recouvrement de formé par les ouverts () et ). Pour tout , soit une fonction numérique de classe sur , égale à 1 en tout point de , et de support contenu dans (VAR, R, 5.3.6.).
Considérons l’application définie par
Pour tout , l’application est de classe (puisque ses restrictions à et au complémentaire du support de le sont), et sa restriction à est un plongement ; il en résulte que est un morphisme de classe et est une immersion en tout point de . Montrons que la restriction de à est injective. Soient deux points de tels que , et soit tel que . On a alors , donc , ce qui entraîne ; mais on a aussi , d’où puisque induit un plongement de dans .
On peut démontrer que toute variété séparée dénombrable à l’infini de dimension pure se plonge dans ; pour un résultat moins fort, cf. exercice 2.
2. Le théorème de plongement équivariant
Dans ce numéro, on suppose .
Lemme 3 01HK
Soit un groupe topologique compact opérant continûment sur un espace topologique ; soient une partie de , stable par , et un voisinage de . Il existe alors un voisinage ouvert de stable par et contenu dans .
Posons et . Alors est ouvert (TG, III, p. 28, cor. 1), stable par , et on a .
Théorème 1 01HL
Soient un groupe de Lie compact, une loi d’opération à gauche de classe de dans , et une partie compacte de . Il existe une représentation linéaire analytique de dans un espace vectoriel de dimension finie, un morphisme de classe , compatible avec les opérations de , et un voisinage ouvert de , stable par , tels que la restriction de à soit un plongement.
Remplaçant par la partie compacte , on se ramène au cas où est stable par .
Soit un espace vectoriel de dimension finie tel qu’il existe un élément de qui soit un plongement au voisinage de (no 1, prop. 4); l’ensemble des morphismes possédant cette propriété est donc un ouvert non vide de (no 1, prop. 3). Considérons la représentation linéaire continue du groupe compact dans l’espace (§ 6, no 4, lemme 4). D’après le théorème de Peter-Weyl (TS, à paraître), la réunion des sous-espaces de dimension finie, stables par , est dense dans ; il existe donc un élément de tel que les applications , pour , engendrent un sous-espace vectoriel de dimension finie de , évidemment stable pour l’action de .
Prenons alors pour l’espace , pour la représentation de dans déduite de l’action sur , et pour l’application qui à associe l’application linéaire de dans . C’est un morphisme de classe ; pour , on a (en notant l’automorphisme de ) :
Voir H. Whitney, The self-intersection of a smooth -manifold in -space, Ann. of Math., 45 (1944), 220-246.
Soit l’application linéaire ; on a , de sorte que est un plongement au voisinage de puisque en est un. Il existe donc un voisinage ouvert de tel que la restriction de à soit un plongement ; on peut choisir stable par d’après le lemme 3, d’où le théorème.
Corollaire 1 01HM
Supposons compacte. Il existe une représentation linéaire analytique de dans un espace vectoriel de dimension finie et un plongement tels que pour .
Corollaire 2 01HN
Soit un sous-groupe fermé de . Il existe une représentation linéaire analytique de dans un espace vectoriel de dimension finie et un point de fixateur .
Appliquons le cor. 1 à l’opération canonique de sur la variété compacte . On obtient alors une représentation linéaire analytique , et un plongement tels que . Soient la classe de , et son image. Pour tout , on a .
Corollaire 3 01HO
Supposons paracompacte. Il existe un espace hilbertien réel , une représentation unitaire continue de dans et un plongement de classe , tels qu’on ait pour tout et tout .
L’espace est localement compact (TG, III, p. 33, prop. 11). Ses composantes connexes sont les images des composantes connexes de , qui sont dénombrables à l’infini (TG, I, p. 70, th. 5) ; elles sont donc elles-mêmes dénombrables à l’infini, ce qui entraîne que est paracompact (loc. cit.). Il existe donc un recouvrement localement fini de par des ouverts relativement compacts, et un recouvrement tel que pour tout (TG, IX, p. 48, cor. 1) ; par image réciproque, on en déduit deux recouvrements localement finis et de par des ouverts relativement compacts stables par , tels que pour tout .
Pour tout , il existe une représentation de dans un espace vectoriel réel de dimension finie et un morphisme , compatible aux opérations de , dont la restriction à est un plongement (th. 1). Pour , soit une fonction numérique de classe sur , égale à 1 sur et à 0 en dehors de (VAR, R, 5.3.6).
Posons pour . La fonction est de classe , invariante par (§ 6, n° 4, cor. 2), égale à 1 sur et à 0 en dehors de . Munissons chaque d’un produit scalaire hilbertien invariant par (§ 1, n° 1), et de sa structure hilbertienne canonique ; soit l’espace somme hilbertienne de la famille , et soit la représentation de dans déduite des et de l’action triviale de sur .
C’est-à-dire (TS, à paraître) une représentation linéaire continue (INT, VIII, § 2, n° 1) telle que l’opérateur soit unitaire pour tout .
Pour , posons . Alors est un morphisme de classe de dans , compatible avec les opérations de ; on vérifie comme dans la démonstration de la prop. 4 (n° 1) que est un plongement, ce qui entraîne le corollaire.
3. Tubes et transversales
Lemme 4 01HP
Soient un groupe de Lie compact, une représentation continue (donc analytique) de dans un espace vectoriel réel de dimension finie, un voisinage de l’origine dans . Il existe un voisinage ouvert de l’origine , contenu dans , stable par , et un isomorphisme analytique , compatible aux opérations de , tel que et .
Choisissons un produit scalaire sur invariant par (§ 1, n° 1). Il existe un nombre réel tel que la boule ouverte de rayon soit contenue dans ; elle est évidemment stable par . Posons pour tout ; alors est une application analytique bijective de dans , compatible avec les opérations de , et son application réciproque est analytique. On a de plus et .
Proposition 5 01HQ
Soient un groupe de Lie compact, une loi d’opération à gauche de classe de dans , un point de fixe sous l’action de . Le groupe opère alors linéairement sur l’espace vectoriel ; il existe un plongement ouvert de classe , compatible avec les opérations de , tel que et que soit l’application identique de .
Soit une carte de en , telle que soit stable par (n° 2, lemme 3) et qu’on ait . Identifions à par , et posons
où est la mesure de Haar sur de masse totale 1.
Alors (§ 6, n° 4, cor. 1) est un morphisme de classe de dans , compatible avec les opérations de , tel que et . Il existe donc un ouvert contenant , et un voisinage ouvert de 0 dans , tels que induise un isomorphisme . Quitte à restreindre et , on peut supposer qu’ils sont stables par et qu’il existe un isomorphisme compatible aux opérations de (lemme 4). Il suffit alors de prendre .
Rappelons (VAR, R, 6.5.1) que si est un groupe de Lie, un sous-groupe de Lie de et une variété dans laquelle opère à gauche, on note le quotient de la variété produit par l’opération à droite de ; c’est une variété dans laquelle le groupe de Lie opère naturellement à gauche ; la projection est une fibration de fibre . Si de plus est un espace vectoriel de dimension finie sur lequel opère linéairement, est muni d'une structure naturelle de -fibré vectoriel de base (VAR, R, 7.10.2).
Soit un groupe de Lie opérant proprement sur la variété (TG, III, p. 27, déf. 1) de façon que la loi d'opération soit de classe . Pour tout point de , l'orbite de est alors une sous-variété fermée de , isomorphe à l'espace homogène de Lie , où est le fixateur de dans (cf. III, § 1, no 7, prop. 14, (ii), et TG, III, p. 29, prop. 4); celui-ci est un groupe de Lie compact (loc. cit.).
Proposition 6 01HR
Supposons la variété paracompacte; soient un point de , son fixateur.* Il existe une représentation linéaire analytique de dimension finie , et un plongement ouvert de classe , compatible avec les opérations de , qui applique la classe de sur .
Posons . Soit un sous-espace de , stable par , supplémentaire de dans (par exemple l'orthogonal de relativement à un produit scalaire sur invariant par ). Soit d'autre part un morphisme possédant les propriétés énoncées dans la prop. 5 (relativement à ). Considérons le morphisme défini par . Il induit par passage au quotient un morphisme de classe , compatible avec les opérations de , qui applique la classe de sur .
Montrons que est étale au point . On a
et il suffit donc de montrer que est submersif en , ou encore que est submersif en . Or, l'application tangente est égale à , où est l'application orbitale et l'injection canonique de dans ; comme on a , l'application est surjective, et est étale en .
Nous allons démontrer qu'il existe un voisinage ouvert de dans , stable par , tel que induise un isomorphisme de sur un ouvert de . Cela entraînera la proposition : en effet, l'image réciproque de dans est stable par , donc de la forme , où est un ouvert de contenant l'origine et stable par ; quitte à restreindre , on peut supposer qu'il existe un isomorphisme , compatible aux opérations de (lemme 4). Il est clair que le morphisme composé
satisfait aux conditions de l'énoncé.
La proposition résulte donc du lemme suivant :
Lemme 5 01HS
Soient une variété séparée de classe , munie d'une loi d'opération à gauche de classe , et un morphisme (de classe ) compatible avec les opérations de . Soient un point de , et . On suppose que est étale en , et que le fixateur de dans est égal au fixateur de . Il existe alors un voisinage ouvert de l'orbite , stable par , tel que induise un isomorphisme de sur un ouvert de .
Puisque est compatible avec les opérations de , il est étale en tout point de ; comme l’application canonique est un homéomorphisme, il en est de même de l’application de dans induite par . Il résulte donc de la prop. 2 du n° 1 qu’il existe un voisinage ouvert de dans tel que induise un plongement ouvert de dans .
Puisque opère proprement dans , il existe un voisinage ouvert de et une partie compacte de tels qu’on ait pour (TG, III, p. 31, prop. 7); on a en particulier . L’ensemble des points tels que est ouvert dans : en effet, est l’image du fermé par la projection propre . Posons ; c’est un ouvert de , contenant , et satisfaisant aux conditions suivantes : (i) , et en particulier ; (ii) .
Posons et considérons la restriction de à . C’est un morphisme étale, puisque tout point de est conjugué par à un point de . Montrons qu’il est injectif : soient dans et dans tels que . Posons ; on a , d’où d’après (ii). Mais et appartiennent à par (i); on a donc puisque la restriction de à est injective, d’où . Ainsi la restriction de à est injective, et par suite (VAR, R, 5.7.8) est un isomorphisme sur une sous-variété ouverte de , ce qui termine la démonstration.
Sous les conditions de la proposition 6, l’image de est un voisinage ouvert de l’orbite de , muni d’une structure de fibré vectoriel de base , pour laquelle la section nulle est l’orbite elle-même. Un tel voisinage s’appelle un tube linéaire (autour de l’orbite considérée). Pour chaque point , la fibre de cette fibration vectorielle est une sous-variété de , stable par le fixateur de , et telle que le morphisme de dans qui applique la classe de sur induise un isomorphisme de classe de sur . On dit que est la transversale en du tube . On remarquera que l’espace tangent en à est canoniquement isomorphe à et que c’est un supplémentaire de dans ; le fibré vectoriel de base est donc canoniquement isomorphe au fibré normal de dans (VAR, R, 8.1.3).
4. Types d’orbites
Soit un groupe topologique opérant continûment dans un espace topologique séparé . Pour chaque point de , notons le fixateur de dans , et supposons que l’application canonique soit un homéomorphisme; c’est le cas notamment dans les deux cas suivants : a) les topologies de et sont discrètes ; b) opère proprement dans (TG, III, p. 29, prop. 4), par exemple, est compact (TG, III, p. 28, prop. 2). Notons l’ensemble des classes de conjugaison de sous-groupes fermés de .
Pour tout , on appelle type de l’orbite de , ou parfois type de , la classe dans de ; deux points d’une même orbite ont même type d’orbite (A, I, p. 52, prop. 2); deux orbites sont de même type si et seulement si elles sont isomorphes comme -ensembles (A, I, p. 57, th. 1). Pour tout , on note l’ensemble des points de de type , c’est-à-dire la réunion des orbites de type ; c’est une partie stable de . Pour , on écrit aussi pour ; par exemple, est le sous-espace fermé de formé des points fixés par .
Munissons de la relation de préordre suivante
Soient et deux orbites de dans , et leurs types ; pour que , il faut et il suffit qu’il existe un -morphisme (nécessairement surjectif et continu) de dans .
Soient dans , et leurs types ; pour que , il faut et il suffit qu’il existe tel que .
Lemme 6 01HT
Soit un groupe de Lie.
a) Toute suite décroissante de sous-groupes compacts de est stationnaire.
b) Soient et deux sous-groupes compacts de , tels que et qu’il existe un isomorphisme (de groupes topologiques) de sur . On a alors .
c) Muni de la relation , l’ensemble est un ensemble ordonné noethérien (E, III, p. 51).
a) Soit une suite décroissante de sous-groupes compacts de ; ce sont des sous-groupes de Lie (III, § 8, n° 2, th. 2). La suite d’entiers est décroissante, donc stationnaire, et il existe un entier tel que les sous-groupes aient tous la même composante neutre pour . Alors la suite décroissante d’entiers positifs est stationnaire, donc on a pour assez grand.
b) Soit un isomorphisme de sur . La suite est une suite décroissante de sous-groupes compacts de , de sorte qu’on a pour assez grand, d’après a). Comme est un isomorphisme, ceci entraîne , d’où .
c) Soient tels que et . Il existe alors et tels que et . Soient et deux éléments de tels que et ; posons . On a
d’après b), ceci entraîne , donc et . L’ensemble est donc ordonné, et noethérien d’après a).
Théorème 2 01HU
Soit un groupe de Lie opérant proprement sur , de façon que la loi d’opération soit de classe . On suppose paracompacte.
a) L’application qui, à chaque point de , associe son type d’orbite, possède la propriété de semi-continuité suivante : soit et soit son type d’orbite ; il existe un voisinage ouvert stable de tel que, pour tout , le type de soit .
b) Pour tout , est une sous-variété de , la relation d'équivalence dans déduite de l'opération de est régulière (VAR, R, 5.9.5), et le morphisme est une fibration.
c) Supposons connexe. Alors l'ensemble des types d'orbite des éléments de possède un plus grand élément ; de plus, est une partie ouverte et dense de et est connexe.
Soient un point de et son type. Pour démontrer a) et b), on peut remplacer par un ouvert stable contenant , donc (prop. 6) supposer que est de la forme , où est l'espace d'une représentation linéaire analytique de dimension finie d'un sous-groupe compact de , le point étant l'image de par la projection canonique . Si et , alors si et seulement s'il existe avec c'est-à-dire si . On a donc ; en particulier , donc est conjugué à un sous-groupe de , ce qui prouve que le type de est , d'où a).
Par ailleurs, pour que soit de type , il faut et il suffit que soit conjugué à dans , ou encore que soit conjugué à dans ; d'après le lemme 6, b), cela signifie que , donc que est fixé par . Si est le sous-espace vectoriel de formé des éléments fixés par , il en résulte que s'identifie à , donc aussi à , d'où b).
Pour démontrer c), observons que l'hypothèse de connexité de entraîne que est pure de dimension finie : en effet, pour tout , notons l'ensemble des points tels que ; alors est ouvert et fermé dans , et stable par , de sorte que est égal à l'un des .
Démontrons maintenant c) par récurrence sur la dimension de , l'assertion étant évidente pour . Soit un élément maximal parmi les types d'orbite des points de (un tel élément existe d'après le lemme 6, c)). Nous allons prouver l'assertion suivante :
c') Pour toute partie de , ouverte et fermée dans et stable par , l'adhérence de dans est ouverte.
Cette assertion implique c). En effet, notons d'abord que est ouvert dans , d'après a); l'assertion entraîne que est ouvert et fermé dans , donc égal à puisqu'il est stable par et que est connexe. Soit une partie ouverte et fermée non vide de , stable par ; d'après , est ouverte et fermée dans et stable par , donc égale à ; ceci entraîne que est dense dans , donc égale à . Par conséquent toute partie ouverte et fermée non vide de est égale à , ce qui prouve que est connexe. Enfin puisque est dense dans , il résulte de a) que tout point de est de type ; autrement dit est le plus grand élément parmi les types d'orbite des points de .
Démontrons maintenant . On peut supposer non vide ; soit . Il s'agit de montrer que est un voisinage de . Pour cela on peut, comme ci-dessus, supposer , avec compact, étant l'image canonique de . Supposons d'abord que opère trivialement dans : alors s'identifie à , et
X_{(\tau)}/G = X/G est homéomorphe à W, donc connexe ; on a alors A/G = X/G, d’où A = X. Nous supposerons désormais que H n’opère pas trivialement sur W. Choisissons sur W un produit scalaire invariant par le groupe compact H ; soit S la sphère unité de W (ensemble des vecteurs de norme 1). Notons que S/H est connexe : en effet si dim(W) ≥ 2, S est connexe, et si dim(W) = 1, S est un espace à deux points sur lequel H opère de façon non triviale. Posons Y = G ×^H S ; c’est une sous-variété fermée de X, stable par G, de codimension 1, et Y/G, qui est homéomorphe à S/H, est connexe. En vertu de l’hypothèse de récurrence, il existe donc un type d’orbite θ maximal pour Y, l’ensemble Y_{(θ)} est ouvert et dense dans Y, et Y_{(θ)}/G est connexe.
Considérons l’action de R^*_+ sur X déduite par passage au quotient de la loi d’opération (λ, (g, w)) ↦ (g, λw) de R^*_+ sur G × W. Deux points de X conjugués par cette action ont même type d’orbite ; par conséquent X_{(θ)} contient R^*_+ Y_{(θ)}, qui est un ouvert dense de X. Or X_{(τ)} est ouvert d’après a), donc rencontre X_{(θ)}, de sorte qu’on a θ = τ.
D’autre part, l’homéomorphisme (λ, w) ↦ λw de R^*_+ × S dans W − {0} (TG, VI, p. 10, prop. 3) induit un homéomorphisme de R^*_+ × (S/H) dans (R^*_+ S)/H, donc aussi de R^*_+ × (Y/G) dans (R^*_+ Y)/G, et de R^*_+ × (Y_{(θ)}/G) dans (R^*_+ Y_{(θ)})/G. Ainsi (R^*_+ Y_{(θ)})/G est connexe, et X_{(τ)}/G, qui contient un sous-ensemble dense connexe, est lui-même connexe (TG, I, p. 81, prop. 1). Par suite A est égal à X_{(τ)}, donc est dense dans X, et A est un voisinage de x. Ceci termine la démonstration du théorème.
Avec les notations du th. 2, c), les points de X_{(τ)} sont dits principaux et leurs orbites principales. Si x est un point de X, et si G ×^{G_x} W est un tube linéaire de X autour de l’orbite de x, le point x est principal si et seulement si G_x opère trivialement dans W, c’est-à-dire si le tube est de la forme (G/G_x) × W.
Exemple 1 01HV
Soit G un groupe de Lie compact connexe, opérant sur lui-même par automorphismes intérieurs. Le fixateur d’un élément x de G n’est autre que le centralisateur Z(x) de x dans G ; il contient tout tore maximal contenant x. Il en résulte que le plus grand type d’orbite τ est la classe de conjugaison des tores maximaux de G. L’ouvert G_{(τ)} est l’ensemble des éléments très réguliers de G (§ 5, no 1, remarque). Supposons G simplement connexe. Alors G_{(τ)} est égal à l’ensemble G_r des éléments réguliers de G (§ 5, no 2, remarque 2) ; si A est une alcôve d’une sous-algèbre de Cartan t de g = L(G), l’application composée π : A ↦^{exp} G_r ↦ G_r/Int(G) est un isomorphisme de variétés analytiques. C’est en effet un homéomorphisme (§ 5, no 2, cor. 1 à la prop. 2) ; soit a ∈ A, posons t = exp a et identifions T_t(G) à g par la translation γ(t). L’application tangente T_a(π) s’identifie alors à l’application composée de l’injection canonique t → g et de l’application de passage au quotient g → g/Im(Ad t^{-1} − 1). Puisque t est régulier, T_a(π) est un isomorphisme, d’où le résultat annoncé (VAR, R, 5.7.8).
Exemple 2 01HW
Soient E un espace affine réel euclidien, un ensemble d’hyperplans de E, W le groupe de déplacements de E engendré par les réflexions orthogonales par rapport aux hyperplans de . On suppose que est stable par W et que le groupe W, muni de la topologie discrète, opère proprement dans E.
On peut appliquer ce qui précède à l’action de W sur E. Le fixateur d’un point x de E est le sous-groupe de W engendré par les réflexions par rapport aux hyperplans de contenant x (V, § 3, no 3, prop. 2). Par conséquent, le plus grand type d’orbite est la classe du sous-groupe , et est la réunion des chambres de E. On notera que dans ce cas le revêtement est trivial, et en particulier que n’est pas connexe si est non vide.
Exercices
See the exercises for § 9.