On peut supposer que \varphi(e) = 0. Soit U' = \varphi(U). Soit \psi : U' \to U l’application réciproque de \varphi. Soit V un voisinage ouvert symétrique de e tel que V^2 \subset U, et posons V' = \varphi(V). Définissons des applications \theta_1, \theta_2 de V' \times V' dans V' \times U' de la manière suivante:

On vérifie aussitôt que \theta_2(\theta_1(x, y)) = \theta_1(\theta_2(x, y)) = (x, y) pour x, y assez voisins de 0. D’autre part, \theta_1 et \theta_2 sont analytiques, donc strictement dérivables en (0, 0).

Par suite (VAR, R, 1.2.2) il existe un voisinage W' de 0 dans V' et des constantes $a > 0,\ b > 0$ telles que

quels que soient $x_1, x_2, y_1, y_2$ dans W'. Faisant $x_1 = x_2 = y_2$, il vient Pour $\delta > 0$, soit $N_\delta$ l’ensemble des couples $(x, y) \in W' \times W'$ tels que $\| x - y \| \leq \delta$. Les $N_\delta$ forment un système fondamental d’entourages dans $W'$. Posons $W = \psi(W')$. Soit $M_\delta$ l’ensemble des couples $(u, v) \in W \times W$ tels que $\| \varphi(uv^{-1}) \| \leq \delta$. Les $M_\delta$ forment un système fondamental d’entourages dans W pour la structure uniforme droite. Or la relation (2) prouve que donc W possède la propriété du lemme.

a) $m(e, x) = m(x, e) = x$ pour tout $x \in U$; b) On a $V \subset V, m(V \times V) \subset U$ et $m(m(x, y), z) = m(x, m(y, z))$ quels que soient $x, y, z$ dans V.

Alors il existe un voisinage ouvert W de e dans V et un automorphisme $\theta$ de la variété W, tels que $\theta(e) = e, \theta(\theta(x)) = x$ et $m(x, \theta(x)) = m(\theta(x), x) = e$ pour tout $x \in W$.

On a $m(e, y) = y$ pour tout $y \in U$, donc, d’après le théorème des fonctions implicites, il existe un voisinage ouvert $W_1$ de e dans V et une application $\theta_1$ de classe Cr de $W_1$ dans V tels que $\theta_1(e) = e, m(x, \theta_1(x)) = e$ pour tout $x \in W_1$. De même, il existe un voisinage ouvert $W_2$ de e dans V et une application $\theta_2$ de classe Cr de $W_2$ dans V tels que $\theta_2(e) = e, m(\theta_2(x), x) = e$ pour tout $x \in W_2$. Pour $x \in W_1 \cap W_2$, on a

Soit $\theta(x)$ la valeur commune de $\theta_1(x)$ et $\theta_2(x)$ pour $x \in W_1 \cap W_2$. Soit W l’ensemble des $x \in W_1 \cap W_2$ tels que $\theta(x) \in W_1 \cap W_2$. L’ensemble W est ouvert. Pour $x \in W$, on a donc $\theta(x) \in W$. On voit que $\theta | W$ définit un automorphisme de la variété W.

D’après le lemme 2, G est un voisinage de l’élément neutre. Pour tout $g \in G$, l’application $x \mapsto m(g, x)$ est un automorphisme de la variété X. Donc l’image de G par cette application est un voisinage de g, évidemment contenu dans G. Par suite, G est ouvert dans X. Il est clair que les conditions (GL₁) et (GL₂) sont vérifiées. La condition (GL₃) est vérifiée d’après le lemme 2.

Exemples de groupes de Lie.

1. Soit E un espace normable complet sur K. L’application $(x, y) \mapsto x - y$ de $E \times E$ dans E est linéaire continue, donc analytique. Donc E, muni de ses structures de groupe additif et de variété analytique, est un groupe de Lie. En particulier, K est un groupe de Lie.

2. Soit A une algèbre associative unifière normable complète sur K. La multiplication $(x, y) \mapsto xy$ de $A \times A$ dans A est bilinéaire continue, donc analytique. La prop. 3 montre que le groupe $A^*$ des éléments inversibles de A est ouvert dans A (ce qui résulte aussi de TG, IX, , prop. 13), et que $A^*$ est un groupe de Lie

Par exemple, soit E un espace normable complet sur K, et prenons $A = \mathscr{L}(E)$ (TG, IX, § 3, prop. 5). Alors $A^*$ est le groupe $\mathbf{GL}(E)$ des automorphismes de E. Ce groupe est donc muni canoniquement d’une structure de groupe de Lie sur K. Plus particulièrement, $\mathbf{GL}(n, K)$, muni de la structure de variété induite par celle de $\mathbf{M}_n(K)$, est un groupe de Lie. Pour $n = 1$, on voit que le groupe multiplicatif $K^*$ est un groupe de Lie pour la structure de variété induite par celle de K.

3. Soit G un groupe de Lie sur K. Soient $K' = \mathbf{R}$ ou $\mathbf{C}$ ou un corps ultramétrique complet non discret, et $\sigma$ un isomorphisme du corps valué $K'$ sur un sous-corps valué de K. Alors le groupe G, muni de la structure de $K'$-variété obtenue par restriction des scalaires, est un groupe de Lie sur $K'$, qui est dit déduit du groupe de Lie G par restriction des scalaires (de K à $K'$ au moyen de $\sigma$). Par exemple, tout groupe de Lie complexe est canoniquement muni d’une structure de groupe de Lie réel. Par exemple encore, à tout groupe de Lie complexe G est associé un groupe de Lie complexe appelé le conjugué de G, déduit de G au moyen de l’automorphisme $z \mapsto \bar{z}$ de $\mathbf{C}$.

La condition est évidemment nécessaire. Supposons-la vérifiée. Pour tout $x_0 \in G$, on a $f(x_0x) = f(x_0)f(x)$ quel que soit $x \in U$, donc $f|x_0U$ est analytique. Or les ensembles $x_0U$, pour $x_0 \in G$, forment un recouvrement ouvert de $G$.

Soient G un groupe de Lie, H un sous-groupe de Lie de G. Si L est un sous-groupe de Lie de H, L est un sous-groupe de Lie de G d’après VAR, R, 5.8.6. Soit M un sous-groupe de Lie de G tel que M ⊂ H. Alors M est un sous-groupe de Lie de H, car l’injection canonique de M dans H est évidemment une immersion. Soit k un sous-corps fermé non discret de K. On appelle k-sous-groupe de Lie de G un sous-groupe de Lie du k-groupe de Lie sous-jacent à G.

En effet, on a, pour $l, l'$ dans $L$ et $m, m'$ dans $M$,

d’où la proposition.

Si les conditions de la prop. 7 sont vérifiées, on dit que le groupe de Lie $S$ est le groupe de Lie produit semi-direct (externe) de $L$ par $M$ relatif à $\sigma$.

Il est clair que l’injection canonique de $L$ (resp. $M$) dans $S$ est un isomorphisme de $L$ (resp. $M$) sur un sous-groupe de Lie de $S$, que l’on identifie à $L$ (resp. $M$). L’application canonique de $S$ sur $L$ est un morphisme de groupes de Lie.

Réciproquement, soient $G$ un groupe de Lie, et $L, M$ deux sous-groupes de Lie tels que le groupe $G$ soit (algébriquement) produit semi-direct de $L$ par $M$ (A, I, p. 65). Posons $\sigma(l)m = lml^{-1}$ pour $l \in L$ et $m \in M$. Alors $\sigma$ vérifie la condition de la prop. 7. On peut donc former le groupe de Lie $S$ produit semi-direct de $L$ par $M$ relatif à $\sigma$. L’application $j : (m, l) \mapsto ml$ de $S$ sur $G$ est un isomorphisme de groupes, et est analytique. Si $j$ est un isomorphisme de groupes de Lie, on dit que le groupe de Lie G est produit semi-direct (interne) de $L$ par $M$, et l’on identifie $S$ et $G$. Pour tout $g \in G$, écrivons $g = p(g)q(g)$, où $p(g) \in M$ et $q(g) \in L$. Pour que le groupe de Lie $G$ soit produit semi-direct de $L$ par $M$, il faut et il suffit que l’une des applications $p : G \to M$ et $q : G \to L$ soit analytique, auquel cas toutes deux sont analytiques; ou encore, il faut et il suffit que $T_e(G)$ soit somme directe topologique de $T_e(M)$ et $T_e(L)$ (car, si cette condition est vérifiée, $j$ est étale en $e_S$).

On a $T_e(p) \circ T_e(s) = \mathrm{id}_{T_e(H)}$, donc $p$ (resp. $s$) est une submersion (resp. une immersion). D’après VAR, R, 5.10.5, N est un sous-groupe de Lie de G. D’autre part, s est un homéomorphisme de H sur $s(H)$, donc s est un isomorphisme de H sur un sous-groupe de Lie de G (VAR, R, 5.8.3). Enfin, pour tout $g \in G$, on a $g = (s \circ p)(g) . n$ avec un $n \in N$; comme $s \circ p$ est analytique, le groupe de Lie G est produit semi-direct de $s(H)$ par N.

(i) Si $\rho(x)$ est une immersion (resp. une submersion, une subimmersion) en $g_0$, alors, pour tout $g \in G$, $\rho(gx)$ est une immersion (resp. une submersion, une subimmersion).

(ii) Si $\rho(x)$ est de rang k en $g_0$, alors, pour tout $g \in G$, $\rho(gx)$ est de rang constant égal à k.

Cela résulte aussitôt des formules (4) et (5) puisque $T_g(\delta(g))$, $T_x(\tau(g))$, $T_g(\gamma(g^{-1}))$ sont des isomorphismes.

Cela résulte de la prop. 9 et de VAR, R, 5.10.6.

Observons que, si $\eta$ désigne l’application $(g, x) \mapsto gx$ de $G \times X$ dans X, on a, pour $g \in G$, $x \in X$, $u \in T_g(G)$, $v \in T_x(X)$,

c’est-à-dire

Alors la relation d’équivalence définie par G dans X est régulière (VAR, R, 5.9.5). Il existe sur l’ensemble quotient X/G une structure de variété et une seule telle que l’application canonique π : X → X/G soit une submersion. La topologie sous-jacente à cette structure de variété est la topologie quotient de celle de X; elle est séparée. Enfin, (X, G, X/G, π) est une fibration principale à gauche.¹

Soit θ l’application (g, x) ↦ (x, gx) de G × X dans X × X. Cette application est de classe C^r. Montrons que c’est une immersion. Pour u ∈ T_g(G) et v ∈ T_x(X), on a, d’après (6),

Mais T_g(ρ(x)) est injective d’après l’hypothèse b), donc T_{(g,x)}(θ) est injective. Son image est somme directe topologique du sous-espace H_{g,x} formé par les vecteurs (v, T_x(τ(g))v) pour v ∈ T_x(X), et du sous-espace I_{g,x} = {0} × T_g(ρ(x))(T_g(G)). D’après l’hypothèse b), T_g(ρ(x))(T_g(G)) admet un supplémentaire topologique J_{g,x} dans T_{gx}(X). Donc l’image de T_{(g,x)}(θ) admet le supplémentaire topologique {0} × J_{g,x}. On a donc bien prouvé que θ est une immersion de G × X dans X × X.

Comme G opère librement dans X, θ est injective. Soit C le graphe de la relation d’équivalence R définie par G dans X. Comme G opère proprement, θ est un homéomorphisme de G × X sur C (TG, I, § 10, prop. 2). D’après VAR, R, 5.8.3, C’est une sous-variété de X × X, et θ est un isomorphisme de la variété G × X sur la variété C. L’espace tangent T_{(x,gx)}(C) s’identifie à

Soient pr_1 et pr_2 les projections canoniques de X × X sur les deux facteurs. Il est immédiat que T_{(x,gx)}(pr_1) applique H_{g,x} sur T_x(X), et que le noyau de T_{(x,gx)}(pr_1) | T_{(x,gx)}(C) est I_{g,x}. Ainsi, pr_1 | C est une submersion de C sur X. D’après VAR, R, 5.9.5, R est régulière. Par définition, il existe donc sur l’ensemble quotient X/G une structure de variété et une seule telle que π soit une submersion. La topologie sous-jacente de X/G est la topologie quotient de celle de X (VAR, R, 5.9.4). Cette topologie est séparée (TG, III, § 4, prop. 3).

Pour tout b ∈ X/G, il existe un voisinage ouvert W de b et un morphisme σ : W → X tel que π ∘ σ = id_W (VAR, R, 5.9.1). Soit φ la bijection (g, w) ↦ gσ(w) de G × W sur π^{-1}(W). Elle est de classe C^r. On a π(gσ(w)) = w, et

¹ Les fibrations principales définies en VAR, R, 6.2.1, sont des fibrations principales à droite. La définition des fibrations principales à gauche s’en déduit de manière évidente.

θ⁻¹(σ(w), gσ(w)) = (g, σ(w)), donc la bijection réciproque de φ est de classe C⁰. Il est clair que φ(gg', w) = gφ(g', w) pour w ∈ W, g ∈ G, g' ∈ G. Donc (X, G, X/G, π) est une fibration principale à gauche.

C.Q.F.D.

(i) Il existe sur l’ensemble homogène X/G une structure de variété analytique et une seule telle que la projection canonique π de X sur X/G soit une submersion. La loi d’opération de X dans X/G est analytique. Pour tout x ∈ X, le noyau de Tₓ(π) se déduit de Tₑ(G) par Tₑ(γ(x)).

(ii) Si G est distingué dans X, X/G est un groupe de Lie pour sa structure de groupe et sa structure de variété définie en (i). L’application π est un morphisme de groupes de Lie.

D’après TG, III, , n° 1, Exemple 1, G opère proprement et librement dans X par translations à droite. Donc la première assertion de (i) résulte de la prop. 10 du n° 5. La deuxième résulte de la Remarque du n° 5. Puisque π est une submersion, le noyau de T_x(π) est l’espace tangent en x à

donc se déduit de T_e(G) par T_e(\gamma(x)).

Supposons G distingué. Soit m l’application (x, y) \mapsto xy^{-1} de (X/G) × (X/G) dans X/G. On a (m \circ (\pi \times \pi))(x, y) = \pi(xy^{-1}) quels que soient x, y dans X. Donc m \circ (\pi \times \pi) est analytique. Comme \pi \times \pi est une submersion surjective, m est analytique (VAR, R, 5.9.5), d’où (ii).

On dit que l’ensemble homogène X/G, muni de la structure de variété définie en (i), est l’espace homogène de Lie (à gauche) quotient de X par G. On définit de façon analogue l’espace homogène de Lie (à droite) G\setminus X. Quand G est distingué, le groupe de Lie X/G défini en (ii) s’appelle le groupe de Lie quotient de X par G.

(i) il existe y \in Y tel que \rho(y) soit une submersion surjective; (i') pour tout y \in Y, \rho(y) est une submersion surjective; (ii) il existe y \in Y tel que X_y soit un sous-groupe de Lie de X et que l’application canonique de X/X_y dans Y soit un isomorphisme de variétés; (ii') pour tout y \in Y, X_y est un sous-groupe de Lie de X, et l’application canonique de X/X_y dans Y est un isomorphisme de variétés; (iii) l’application (x, y) \mapsto (y, xy) de X \times Y dans Y \times Y est une submersion surjective.

Comme l’application canonique de X sur X/X_y est une submersion, les équivalences (i) \Leftrightarrow (ii), (i') \Leftrightarrow (ii') sont immédiates. On a (i) \Leftrightarrow (i') d’après la prop. 9 du n° 5. L’équivalence (i') \Leftrightarrow (iii) résulte de la formule (7) du n° 5.

Sous les conditions de la prop. 12, on dit que Y est un espace homogène de Lie (à gauche) pour X. On définit de manière analogue un espace homogène de Lie à droite pour X.

(i) La loi d’opération à gauche (h, x) ↦ hx de H dans X vérifie les conditions a) et b) de la prop. 10 (de sorte qu’on peut considérer les variétés quotients X/G et X/H).

(ii) La loi d’opération à gauche de G dans X définit par passage aux quotients une loi d’opération à gauche de classe C^r de G/H dans X/H; cette loi vérifie les conditions a) et b) de la prop. 10 (de sorte qu’on peut considérer la variété quotient (X/H)/(G/H)).

(iii) L’application canonique de X sur X/H définit par passage aux quotients une bijection de X/G sur (X/H)/(G/H). Cette bijection est un isomorphisme de variétés de classe C^r.

Il est clair que H opère librement dans X; il opère proprement d’après TG, III, § 4, n° 1, Exemple 1. Les applications orbitales de H dans X sont des immersions puisque l’injection canonique de H dans G est une immersion. Cela prouve (i).

La loi d’opération de G dans X définit évidemment, par passage aux quotients, une loi d’opération à gauche de G/H dans X/H. Cette loi est de classe C^r d’après VAR, R, 5.9.6. Soient g ∈ G et x ∈ X tels que (Hg)(Hx) = Hx; alors H(gx) = Hx, donc gx ∈ Hx et g ∈ H; cela prouve que G/H opère librement dans X/H. L’application θ : (g, x) ↦ (x, gx) de G × X dans X × X est fermée; d’autre part, on a θ(Hg × Hx) = Hx × H(gx); il en résulte aussitôt que l’application

de (G/H) × (X/H) dans (X/H) × (X/H) est fermée; comme en outre G/H opère librement dans X/H, le th. 1 c) de TG, I, § 10, n° 2 prouve que G/H opère proprement dans X/H.

Soient π l’application canonique de X sur X/H, σ l’application canonique de G sur G/H, x un élément de X et y = π(x).

Alors, π ∘ ρ(x) = ρ(y) ∘ σ, donc

Soit u ∈ T_e(G/H) tel que T_e(ρ(y))u = 0. Il existe v ∈ T_e(G) tel que u = T_e(σ)v. Alors (T_x(π)(T_e(ρ(x))v)) = 0, donc T_e(ρ(x))v est tangent à Hx (VAR, R, 5.10.5) et par suite de la forme T_e(ρ(x)|H)v' pour un v' ∈ T_e(H). Comme T_e(ρ(x)) est injective, on en déduit que v = v', d’où v ∈ T_e(H) et par suite u = 0. Ainsi, T_e(ρ(y)) est injective. L’image de T_e(ρ(y)) est égale à celle de T_x(π) ∘ T_e(ρ(x));

or l’image de $T_e(\rho(x))$ admet un supplémentaire topologique dans $T_x(X)$, et contient le noyau de $T_x(\pi)$. On voit donc que $\rho(y)$ est une immersion, ce qui achève de prouver (ii).

L’assertion (iii) résulte de ce qui précède, et de VAR, R, 5.9.7.

(i) $G_x$ est un sous-groupe de Lie, et $T_e(G_x) = \mathrm{Ker}\ T_e(\rho(x))$.

(ii) L’application canonique $i_x$ de l’espace homogène $G/G_x$ dans X est une immersion d’image $Gx$.

(iii) Si de plus l’orbite $Gx$ est localement fermée et si la topologie de G admet une base dénombrable, alors $Gx$ est une sous-variété de X, $i_x$ est un isomorphisme de la variété $G/G_x$ sur la variété $Gx$, et $T_x(Gx) = \mathrm{Im}\ T_e(\rho(x))$.

L’image réciproque de x par $\rho(x)$ est $G_x$. Comme $\rho(x)$ est une subimmersion, $G_x$ est une sous-variété, et, pour tout $g \in G$, l’espace tangent J à $gG_x = \rho(x)^{-1}(gx)$ en $g$ est $\mathrm{Ker}\ T_g(\rho(x))$ (VAR, R, 5.10.5), d’où (i). Soit $\pi : G \to G/G_x$ l’application canonique. On a $i_x \circ \pi = \rho(x)$. Comme $G/G_x$ est variété quotient de G, cette égalité prouve que $i_x$ est analytique. De plus, les noyaux de $T_g(\rho(x))$ et de $T_g(\pi)$ sont tous deux égaux à J. Donc $T_{\pi(g)}(i_x)$ est injective. L’image de $T_{\pi(g)}(i_x)$ est égale à l’image de $T_g(\rho(x))$, donc admet un supplémentaire topologique. Ceci prouve (ii).

Supposons $Gx$ localement fermée. Tout point de $Gx$ possède alors un voisinage dans $Gx$ qui est homéomorphe à un sous-espace fermé d’un espace métrique complet, donc qui est un espace de Baire. Donc $Gx$ est un espace de Baire (TG, IX, § 5, prop. 4). Si G est à base dénombrable, $i_x$ est donc un homéomorphisme de $G/G_x$ sur $Gx$ (TG, IX, § 5). Alors, d’après (ii) et VAR, R, 5.8.3, $i_x$ est un isomorphisme de la variété $G/G_x$ sur la variété $Gx$, et

Soit x ∈ X. L’orbite de x, égale à X, est fermée, et on peut donc appliquer la prop. 14 (iii).

Soient $g_0, x_0, U, M, N$ comme dans l’alinéa suivant la déf. 4. Alors l’application $(g, x) \mapsto \tau(\psi_{g,x})$ de $U$ dans $\mathscr{L}(\tau M, \tau N)$ est composée de l’application $(g, x) \mapsto \psi_{g,x}$ de $U$ dans $\mathscr{L}(M, N)$, et de l’application $f \mapsto \tau(f)$ de Isom$(M, N)$ dans Isom$(\tau M, \tau N)$; ces deux applications sont de classe $C^r$, donc il en est de même de leur composée, d’où la proposition.

Soit $\mathrm{pr}_1$ (resp. $\mathrm{pr}_2$) la projection canonique de $G \times X$ sur $G$ (resp. $X$), et soit $E_1$ (resp. $E_2$) l’image réciproque de $TG$ (resp. $TX$) relativement à $\mathrm{pr}_1$ (resp. $\mathrm{pr}_2$). Alors le fibré vectoriel $T(G \times X)$ est somme directe de $E_1$ et $E_2$. Soient $i : E_2 \to T(G \times X)$ et $q : T(G \times X) \to E_2$ les morphismes canoniques de fibrés vectoriels définis par cette décomposition en somme directe. Soit $\varphi$ l’application $(g, x) \mapsto (g, gx)$ de $G \times X$ dans $G \times X$. Alors l’application notée $\psi$ dans la déf. 4 (où l’on fait $E = TX$) n’est autre que $q \circ T(\varphi) \circ i$. Or $T(\varphi)$ est un $\varphi$-morphisme de fibrés vectoriels de classe $C^{r-1}$ (VAR, R, 8.1.2).

Cela résulte des prop. 15 et 16.

L’unicité de ce morphisme est évidente. Prouvons son existence. Soient $g$, $g'$ dans $G$ et $u \in E_0$ tels que $gu = g'u$. On a ${g'}^{-1}g \in G_0$ et ${g'}^{-1}gu = u$, donc ${g'}^{-1}gf(u) = f(u)$, c’est-à-dire $gf(u) = g'f(u)$. On définit donc une application $\varphi$ de $E$ dans $E'$ en posant $\varphi(gu) = gf(u)$. Il est clair que cette application prolonge $f$, et qu’elle est compatible avec les opérations de $G$. Montrons que $\varphi$ est un morphisme de fibrés vectoriels de classe $C^r$. Soit $x_1 \in X$. Il existe un voisinage ouvert $V$ de $x_1$ dans $X$ et une sous-variété $W$ de $G$, tels que l’application $g \mapsto gx_0$ soit un isomorphisme $\theta$ de classe $C^r$ de $W$ sur $V$. En diminuant $V$ et $W$, on peut supposer que:

1) $E \mid V$ (resp. $E' \mid V$) s’identifie à un fibré vectoriel trivial de fibre $M$ (resp. $M'$); 2) si l’on note $\psi_g$ (resp. $\psi'_g$) l’application $u \mapsto gu$ de $E_0$ (resp. $E'_0$) dans $E_{gx_0}$ (resp. $E'_{gx_0}$), alors les applications $g \mapsto \psi_g$ et $g \mapsto \psi_g^{-1}$ (resp. $g \mapsto \psi'_g$ et $g \mapsto {\psi'_g}^{-1}$) de $W$ dans $\mathscr{L}(E_0, M)$ et $\mathscr{L}(M, E_0)$ (resp. $\mathscr{L}(E'_0, M')$ et $\mathscr{L}(M', E'_0)$) sont de classe $C^r$.

Pour $x \in V$, soit $\varphi_x : M \to N$ la restriction de $\varphi$ à $E_x = M$. Alors $\varphi_x$ s’obtient en composant les applications suivantes: 1) l’application $(\psi_{\theta^{-1}x})^{-1}$ de $M$ dans $E_0$; 2) l’application $f$ de $E_0$ dans $E_0$; 3) l’application $\psi'_{\theta^{-1}x}$ de $E_0$ dans $M'$.

On voit donc que l’application $x \mapsto \varphi_x$ de $V$ dans $\mathscr{L}(M, M')$ est de classe $C^r$.