Bourbaki

§ 9. Commutateurs, centralisateurs, normalisateurs dans un groupe de Lie

Dans ce paragraphe, on suppose que K est de caractéristique zéro.

1. Commutateurs dans un groupe topologique

Soit G un groupe topologique. On définit les groupes D0‾G,D1‾G,D2‾G,…\overline{D^0}G, \overline{D^1}G, \overline{D^2}G, \ldots et C1‾G,C2‾G,C3‾G,…\overline{C^1}G, \overline{C^2}G, \overline{C^3}G, \ldots par les formules

D0‾G=G,Di+1‾G=(Di‾G,Di‾G) \overline{D^0}G = G, \quad \overline{D^{i+1}}G = (\overline{D^i}G, \overline{D^i}G)
C1‾G=G,Ci+1‾G=(G,Ci‾G). \overline{C^1}G = G, \quad \overline{C^{i+1}}G = (G, \overline{C^i}G).

Proposition 1

Soient G un groupe topologique, A et B des sous-groupes de G. On a (A‾,B‾)=(A‾,B‾),Di‾A=Di‾A,Ci‾A=Ci‾A(\overline{A}, \overline{B}) = (\overline{A}, \overline{B}), \overline{D^i}A = \overline{D^i}A, \overline{C^i}A = \overline{C^i}A.

Soit φ\varphi l’application continue (x,y)↦x−1y−1xy(x, y) \mapsto x^{-1}y^{-1}xy de G×GG \times G dans G. On a φ(A×B)⊂(A,B)\varphi(A \times B) \subset (A, B), donc φ(A‾×B‾)⊂(A‾,B‾)\varphi(\overline{A} \times \overline{B}) \subset (\overline{A}, \overline{B}), donc (A‾,B‾)⊂(A‾,B‾)(\overline{A}, \overline{B}) \subset (\overline{A}, \overline{B}); l’inclusion opposée est évidente, donc (A‾,B‾)=(A‾,B‾)(\overline{A}, \overline{B}) = (\overline{A}, \overline{B}). Il est clair que D0‾A=D0‾A\overline{D^0}A = \overline{D^0}A; admettant l’égalité Di‾A=Di‾A\overline{D^i}A = \overline{D^i}A, on en déduit

Di+1‾A=(Di‾A,Di‾A)=(Di‾A,Di‾A)=(Di‾A,Di‾A)=Di+1‾A \overline{D^{i+1}}A = (\overline{D^i}A, \overline{D^i}A) = (\overline{D^i}A, \overline{D^i}A) = (\overline{D^i}A, \overline{D^i}A) = \overline{D^{i+1}}A

donc Di‾A=Di‾A\overline{D^i}A = \overline{D^i}A pour tout ii. La démonstration de la formule Ci‾A=Ci‾A\overline{C^i}A = \overline{C^i}A est analogue.

Corollaire 1

Si G est séparé, les conditions suivantes sont équivalentes:

(i) G est résoluble (resp. nilpotent); (ii) on a Di‾G={e}\overline{D^i}G = \{e\} (resp. Ci‾G={e}\overline{C^i}G = \{e\}) pour i assez grand.

On a DiG⊂Di‾G,CiG⊂Ci‾GD^iG \subset \overline{D^i}G, C^iG \subset \overline{C^i}G, donc (ii) ⇒\Rightarrow (i). On a {e}={e}‾\{e\} = \overline{\{e\}}, donc (i) ⇒\Rightarrow (ii) d’après la prop. 1.

Corollaire 2

Soient G un groupe topologique séparé, A un sous-groupe de G. Pour que A soit résoluble (resp. nilpotent, commutatif), il faut et il suffit que A‾\overline{A} le soit.

Cela résulte aussitôt de la prop. 1.

Proposition 2

Soient G un groupe topologique, A et B des sous-groupes de G. Si A est connexe, (A, B) est connexe.

Pour y fixé dans B, l’ensemble M_y des (x, y) pour x ∈ A est connexe (car l’application x ↦ (x, y) de A dans G est continue). On a e ∈ M_y, donc la réunion R des M_y pour y ∈ B est connexe. Or (A, B) est le sous-groupe de G engendré par R, d’où la proposition.

2. Commutateurs dans un groupe de Lie

Proposition 3

Soient G un groupe de Lie de dimension finie, H_1 et H_2 des sous-groupes de G. Soient h_1, h_2 et h la sous-algèbre de Lie tangente en e à H_1, H_2 et (H_1, H_2) respectivement. Alors [h_1, h_2] ⊂ h.

Soient a ∈ h_1, b ∈ h_2. Il existe un voisinage ouvert I de 0 dans K, et des applications analytiques f_1, f_2 de I dans G telles que

f1(0)=f2(0)=e,f1(I)⊂H1,f2(I)⊂H2,(T0f1)1=a,(T0f2)1=b. f_1(0) = f_2(0) = e, f_1(I) \subset H_1, f_2(I) \subset H_2, (T_0 f_1)1 = a, (T_0 f_2)1 = b.
Posons
f(λ,μ)=(f1(λ),f2(μ))∈(H1,H2)pour λ,μ dans I. f(\lambda, \mu) = (f_1(\lambda), f_2(\mu)) \in (H_1, H_2) \quad \text{pour } \lambda, \mu \text{ dans } I.
Identifions un voisinage ouvert de e dans G à une partie ouverte de K' à l’aide d’une carte qui transforme e en 0. Alors L(G) s’identifie à K'. D’après le § 5, n° 2, prop. 1, le développement en série entière à l’origine de f(λ, μ) est
f(λ,μ)=λμ[a,b]+∑i≥1,j≥1,i+j≥3λiμjaij f(\lambda, \mu) = \lambda \mu [a, b] + \sum_{i \geq 1, j \geq 1, i+j \geq 3} \lambda^i \mu^j a_{ij}
où a_{ij} ∈ K' (les termes en λ^i ou en μ^j dans le développement de f(λ, μ) sont nuls parce que f(λ, 0) = f(0, μ) = 0). Fixons μ dans I. En faisant tendre λ vers 0, on voit que
μ[a,b]+∑j≥2μja1j∈h. \mu [a, b] + \sum_{j \geq 2} \mu^j a_{1j} \in h.
Cela étant vrai pour tout μ ∈ I, on en conclut que [a, b] ∈ h.

Remarque

Même si H_1 et H_2 sont des sous-groupes de Lie connexes de G, la sous-algèbre de Lie de L(G) engendrée par [h_1, h_2] est distincte de h en général.

Proposition 4

Soit G un groupe de Lie réel ou complexe de dimension finie. Soient A, B, C des sous-groupes intégraux de G tels que [L(A), L(C)] ⊂ L(C), [L(B), L(C)] ⊂ L(C). Si [L(A), L(B)] ⊂ L(C), on a (A, B) ⊂ C. Si [L(A), L(B)] = L(C), on a (A, B) = C.

Supposons [L(A), L(B)] ⊂ L(C). La somme L(A) + L(B) + L(C) est une sous-algèbre de Lie de L(G). En considérant le sous-groupe intégral de G d’algèbre de Lie L(A) + L(B) + L(C), on est ramené au cas où

L(A)+L(B)+L(C)=L(G) L(A) + L(B) + L(C) = L(G)

et où G est connexe. Alors L(C) est un idéal de L(G). Supposons d’abord G simplement connexe. Alors C est un sous-groupe de Lie distingué de G ( , n° 6, prop. 14). Soit φ le morphisme canonique de G sur G/C. Alors

[L(φ)(L(A)),L(φ)(L(B))]={0}, [L(\varphi)(L(A)), L(\varphi)(L(B))] = \{0\},

donc, φ(A) et φ(B) commutent d’après la formule de Hausdorff; par suite, (A, B) ⊂ C. Dans le cas général, soient G′ le revêtement universel de G, et A′, B′, C′ les sous-groupes intégraux de G′ tels que L(A′) = L(A), L(B′) = L(B), L(C′) = L(C). On a (A′, B′) ⊂ C′, et A, B, C sont les images canoniques de A′, B′, C′ dans G, d’où (A, B) ⊂ C. D’autre part, (A, B) est l’ensemble sous-jacent d’un sous-groupe intégral de G (§ 6, n° 2, cor. de la prop. 4), et son algèbre de Lie contient [L(A), L(B)] (prop. 3). Si [L(A), L(B)] = L(C), on a donc (A, B) ⊃ C, d’où (A, B) = C.

Corollaire

Soit G un groupe de Lie réel ou complexe, connexe, de dimension finie, d’algèbre de Lie g. Les sous-groupes D^iG (resp. C^iG) sont des sous-groupes intégraux d’algèbres de Lie D^ig (resp. C^ig). Si G est simplement connexe, ce sont des sous-groupes de Lie.

La première assertion résulte de la prop. 4 par récurrence sur i. La deuxième résulte de la première et du § 6, n° 6, prop. 14.

Proposition 5

Soient G un groupe de Lie réel ou complexe de dimension finie, A un sous-groupe intégral de G. On a D\overline{A} = DA. En particulier, A est un sous-groupe distingué de \overline{A}, et \overline{A}/A est commutatif.

Posons a = L(A). Soit G_1 l’ensemble des g ∈ G tels que

(Ad g)x≡x(modDa)pour tout x∈a.(\mathrm{Ad}\ g)x \equiv x \pmod{\mathscr{D}a} \quad \text{pour tout } x \in a.

Alors G_1 est un sous-groupe fermé de G. Si y ∈ a, on a exp y ∈ G_1, d’après le § 6, n° 4, cor. 3 (ii) de la prop. 10. Donc G_1 contient A et par suite \overline{A}. Ainsi, pour g ∈ \overline{A}, L(Int g) laisse stable a, et par suite Int g laisse stable A; plus précisément, L(Int g) définit l’automorphisme identique de a/\mathscr{D}a, donc Int g définit l’automorphisme identique de A/DA. Cela prouve que (\overline{A}, A) ⊂ DA. Pour la structure de groupe de Lie réel de G, \overline{A} est un sous-groupe de Lie (§ 8, n° 2, th. 2); soit b son algèbre de Lie. Soit G_2 l’ensemble des g ∈ G tels que

(Ad g)x≡x(modDa)pour tout x∈b.(\mathrm{Ad}\ g)x \equiv x \pmod{\mathscr{D}a} \quad \text{pour tout } x \in b.

D’après ce qui précède, on a G_2 ⊃ A, donc G_2 ⊃ \overline{A}. Par suite, pour g ∈ \overline{A}, Int g laisse stable DA et définit l’automorphisme identique de \overline{A}/DA. Donc DA ⊃ D\overline{A}.

Proposition 6

Supposons K ultramétrique. Soit G un groupe de Lie de dimension finie. Soient A, B, C des sous-groupes de Lie de G tels que [L(A), L(C)] ⊂ L(C), [L(B), L(C)] ⊂ L(C). Si [L(A), L(B)] ⊂ L(C), il existe des sous-groupes ouverts A′, B′ de A, B tels que (A′, B′) ⊂ C. Si [L(A), L(B)] = L(C), il existe des sous-groupes ouverts A′, B′, C′ de A, B, C tels que (A′, B′) = C.

Supposons [L(A),L(B)]⊂L(C)[\mathrm{L}(A), \mathrm{L}(B)] \subset \mathrm{L}(C). Comme dans la démonstration de la prop. 4, on se ramène au cas où L(C)\mathrm{L}(C) est un idéal de L(G)\mathrm{L}(G). Puis, en remplaçant GG par un sous-groupe ouvert, on se ramène au cas où CC est distingué dans GG (§ 7, no 1, prop. 2). Soit φ\varphi le morphisme canonique de GG sur G/CG/C. Alors

[L(φ)(L(A)),L(φ)(L(B))]={0}. [\mathrm{L}(\varphi)(\mathrm{L}(A)), \mathrm{L}(\varphi)(\mathrm{L}(B))] = \{0\}.
D’après la formule de Hausdorff, il existe des sous-groupes ouverts A′,B′A', B' de A,BA, B tels que φ(A′)\varphi(A') et φ(B′)\varphi(B') commutent, d’où (A′,B′)⊂C(A', B') \subset C. Supposons de plus
[L(A),L(B)]=L(C). [\mathrm{L}(A), \mathrm{L}(B)] = \mathrm{L}(C).
D’après la prop. 3, la sous-algèbre de Lie tangente en ee à (A′,B′)(A', B') contient L(C)\mathrm{L}(C). Donc (A′,B′)(A', B') contient un sous-groupuscule de Lie de GG d’algèbre de Lie L(C)\mathrm{L}(C). Par suite, (A′,B′)(A', B') est un sous-groupe ouvert de CC.

Corollaire

Supposons K ultramétrique. Soit G un groupe de Lie de dimension finie, d’algèbre de Lie g. Il existe un sous-groupe ouvert G0G_0 de G tel que, pour tout i, DiG0D^i G_0 (resp. CiG0C^i G_0) soit un sous-groupe de Lie de G d’algèbre de Lie Dig\mathscr{D}^i g (resp. Cig\mathscr{C}^i g).

a) D’après la prop. 3 appliquée par récurrence, pour tout sous-groupe ouvert G1G_1 de GG et pour tout ii, DiG1D^i G_1 contient un sous-groupuscule de Lie de GG d’algèbre de Lie Dig\mathscr{D}^i g.

b) Soit G′G' un sous-groupe ouvert de GG tel que, pour i≤ni \leq n, DiG′D^i G' soit un sous-groupe de Lie de GG d’algèbre de Lie Dig\mathscr{D}^i g. D’après la prop. 6, il existe des sous-groupes ouverts H1,H2H_1, H_2 de DnG′D^n G' tels que (H1,H2)(H_1, H_2) soit un sous-groupe de Lie d’algèbre de Lie Dn+1g\mathscr{D}^{n+1} g. Soit G′′G'' un sous-groupe ouvert de G′G' assez petit pour que DnG′′⊂H1∩H2D^n G'' \subset H_1 \cap H_2. Alors Dn+1G′′⊂(H1,H2)D^{n+1} G'' \subset (H_1, H_2). Les relations

D0G′′⊂D0G′,D1G′′⊂D1G′,…,DnG′′⊂DnG′,Dn+1G′′⊂(H1,H2) D^0 G'' \subset D^0 G', \quad D^1 G'' \subset D^1 G', \ldots, D^n G'' \subset D^n G', \quad D^{n+1} G'' \subset (H_1, H_2)
prouvent, compte tenu de a), que DiG′′D^i G'' est, pour i≤n+1i \leq n + 1, un sous-groupe de Lie de GG d’algèbre de Lie Dig\mathscr{D}^i g.

c) Il existe un entier pp tel que Dpg=Dp+1g=…\mathscr{D}^p g = \mathscr{D}^{p+1} g = \ldots. D’après ce qui précède, il existe un sous-groupe ouvert G0G_0 de GG tel que DiG0D^i G_0 soit, pour i≤pi \leq p, un sous-groupe de Lie de GG d’algèbre de Lie Dig\mathscr{D}^i g. Mais, compte tenu de a), la même assertion reste vraie pour i>pi > p puisque DpG0⊃DiG0D^p G_0 \supset D^i G_0 pour i>pi > p.

d) On raisonne de même pour les CiC^i.

3. Centralisateurs

Rappelons que deux éléments x,yx, y d’un groupe sont dits permutables si (x,y)=e(x, y) = e, ou (Int x)y=y(\mathrm{Int}\, x)y = y, ou (Int y)x=x(\mathrm{Int}\, y)x = x; et que deux éléments a,ba, b d’une algèbre de Lie sont dits permutables si [a,b]=0[a, b] = 0, ou (ad a).b=0(\mathrm{ad}\, a).b = 0, ou (ad b).a=0(\mathrm{ad}\, b).a = 0. Soient GG un groupe de Lie, x∈G,a∈L(G)x \in G, a \in \mathrm{L}(G); on dira que xx et aa sont permutables si (Ad x).a=a(\mathrm{Ad}\, x).a = a, c’est-à-dire si xa=axxa = ax dans T(G)\mathrm{T}(G).

Soient G un groupe de Lie, g son algèbre de Lie, A une partie de G, a une partie de g. On note ZG(A)Z_G(A) (resp. ZG(a)Z_G(a)) l’ensemble des éléments de G permutables à tous les éléments de A (resp. a). C’est un sous-groupe fermé de G. On note δg(A)\delta_g(A) (resp. δg(a)\delta_g(a)) l’ensemble des éléments de g permutables à tous les éléments de A (resp. a). C’est une sous-algèbre de Lie fermée de g.

Proposition 7

Soient G un groupe de Lie de dimension finie, g son algèbre de Lie, a une partie de g. Alors ZG(a)Z_G(a) est un sous-groupe de Lie de G d’algèbre de Lie δg(a)\delta_g(a).* Cela résulte du § 3, prop. 44 et cor. 2 de la prop. 39.

Proposition 8

Soient G un groupe de Lie réel ou complexe de dimension finie, g son algèbre de Lie, A une partie de G. Alors ZG(A)Z_G(A) est un sous-groupe de Lie de G d’algèbre de Lie δg(A)\delta_g(A).* Supposons A réduit à un point a. Alors ZG(A)Z_G(A) est l’ensemble des points fixes de Int a; donc ZG(A)Z_G(A) est un sous-groupe de Lie de G, et L(ZG(A))L(Z_G(A)) est l’ensemble des points fixes de Ad a, c’est-à-dire δg(A)\delta_g(A) (§3,n°8,§ 3, n° 8, cor. 1 de la prop. 29). Le cas général se déduit de là grâce au §6,n°2,§ 6, n° 2, cor. 3 de la prop. 1.

Proposition 9

Soient G un groupe de Lie réel ou complexe de dimension finie, g son algèbre de Lie, A un sous-groupe intégral de G, a = L(A). Alors ZG(A)=ZG(a)Z_G(A) = Z_G(a), δg(A)=δg(a)\delta_g(A) = \delta_g(a), et ZG(A)Z_G(A) est un sous-groupe de Lie de G d’algèbre de Lie δg(a)\delta_g(a).* Soit x∈Gx \in G. On a

x∈ZG(A)  ⟺  A⊂ZG({x})  ⟺  a⊂L(ZG({x}))(§6,cor. 2 de la prop. 3)  ⟺  a⊂δg({x})(prop. 8)  ⟺  x∈ZG(a), x \in Z_G(A) \iff A \subset Z_G(\{x\}) \\ \iff a \subset L(Z_G(\{x\})) \quad (§ 6, \text{cor. 2 de la prop. 3}) \\ \iff a \subset \delta_g(\{x\}) \quad (\text{prop. 8}) \\ \iff x \in Z_G(a),
donc ZG(A)=ZG(a)Z_G(A) = Z_G(a). Soit u∈gu \in g. On a
u∈δg(A)  ⟺  A⊂ZG({u})  ⟺  a⊂L(ZG({u}))(§6,cor. 2 de la prop. 3)  ⟺  a⊂δg1({u})(prop. 7)  ⟺  u∈δg(a), u \in \delta_g(A) \iff A \subset Z_G(\{u\}) \\ \iff a \subset L(Z_G(\{u\})) \quad (§ 6, \text{cor. 2 de la prop. 3}) \\ \iff a \subset \delta_g^1(\{u\}) \quad (\text{prop. 7}) \\ \iff u \in \delta_g(a),
donc δg(A)=δg(a)\delta_g(A) = \delta_g(a). La dernière assertion résulte alors de la prop. 7 ou de la prop. 8.

4. Normalisateurs

Soient G un groupe de Lie, g son algèbre de Lie, A une partie de G, a une partie de g. Dans cette section, on note NG(A)N_G(A) l’ensemble des g∈Gg \in G tels que gAg−1=AgAg^{-1} = A. C’est un sous-groupe de G, fermé si A est fermé. On note ng(a)n_g(a) l’ensemble des x∈gx \in g tels que [x,a]⊂a[x, a] \subset a (cf. chap. I, , no 4). C’est une sous-algèbre de gg, fermée si aa est fermée. On note NG(a)N_G(a) l’ensemble des g∈Gg \in G tels que gag−1=agag^{-1} = a

Proposition 10

Soient G un groupe de Lie de dimension finie, g son algèbre de Lie, a un sous-espace vectoriel de g. Alors NG(a)N_G(a) est un sous-groupe de Lie de G d’algèbre de Lie ng(a)n_g(a).

Cela résulte du § 3, prop. 44 et cor. 1 de la prop. 39.

Proposition 11

Soient G un groupe de Lie réel ou complexe de dimension finie, g son algèbre de Lie, A un sous-groupe intégral de G, et a=L(A)a = L(A). Alors NG(A)=NG(a)N_G(A) = N_G(a), et NG(A)N_G(A) est un sous-groupe de Lie de G, contenant A‾\overline{A}, d’algèbre de Lie ng(a)n_g(a).

L’égalité NG(A)=NG(a)N_G(A) = N_G(a) résulte du § 6, no 2, cor. 2 de la prop. 3. D’après la prop. 10, NG(A)N_G(A) est alors un sous-groupe de Lie de G d’algèbre de Lie ng(a)n_g(a). Donc NG(A)N_G(A) est fermé. Comme NG(A)⊃AN_G(A) \supset A, on a NG(A)⊃A‾N_G(A) \supset \overline{A}.

Corollaire

Si a=ng(a)a = n_g(a), A est un sous-groupe de Lie de G, et est la composante neutre de NG(A)N_G(A).

En effet, cette composante neutre est un sous-groupe de Lie d’algèbre de Lie ng(a)n_g(a) (prop. 11), donc est égal à A d’après le § 6, no 2, th. 2 (i).

5. Groupes de Lie nilpotents

Proposition 12

Soit G un groupe de Lie de dimension finie. Pour que L(G)L(G) soit nilpotente, il faut et il suffit que G possède un sous-groupe ouvert nilpotent.

Supposons que G possède un sous-groupe ouvert nilpotent G0G_0. D’après les cor. des prop. 4 et 6, no 2, on a CiL(G0)={0}C^i L(G_0) = \{0\} pour ii assez grand. Donc L(G0)=L(G)L(G_0) = L(G) est nilpotente.

Supposons L(G)L(G) nilpotente. Si K=RK = \mathbf{R} ou C\mathbf{C}, la composante neutre G0G_0 de G est nilpotente d’après le cor. de la prop. 4, no 2, et G0G_0 est ouvert dans G. Si K est ultramétrique, le cor. de la prop. 6, no 2, prouve qu’il existe un sous-groupe ouvert G1G_1 de G, un entier i>0i > 0, et un voisinage V de ee dans G tels que CiG1∩V={e}C^i G_1 \cap V = \{e\}. Alors, si G0G_0 est un sous-groupe assez petit de G1G_1, on a CiG0⊂VC^i G_0 \subset V, donc CiG0={e}C^i G_0 = \{e\}, et G0G_0 est nilpotent. C.Q.F.D.

Soit gg une algèbre de Lie nilpotente. La série de Hausdorff H(X,Y)H(X, Y) correspondant à gg n’a qu’un nombre fini de termes non nuls, et l’on sait (chap. II, § 6, no 5, Remarque 3) que la loi de composition (x,y)↦H(x,y)(x, y) \mapsto H(x, y) définit sur gg une structure de groupe. Supposons de plus gg normable complète. Il est clair que la loi HH est un polynôme-continu (VAR, R, Appendice). Donc gg, muni de la loi HH, est un groupe de Lie G, dit associé à gg. D’après le § 4, no 2, lemmes 2 et 3, on a

L(G) = g. L’application identique φ de g dans G est une application exponentielle de G, telle que φ(λx)φ(λ′x)=φ((λ+λ′)x)\varphi(\lambda x)\varphi(\lambda'x) = \varphi((\lambda + \lambda')x) quels que soient x∈g,λ∈K,λ′∈Kx \in g, \lambda \in K, \lambda' \in K. Toute sous-algèbre de Lie h\mathfrak{h} de g admettant un supplémentaire topologique est un sous-groupe de Lie H de G, et L(H)=hL(H) = \mathfrak{h}.

Proposition 13

Soit G un groupe de Lie nilpotent simplement connexe de dimension finie sur R\mathbf{R} ou C\mathbf{C}.

(i) exp⁡G\exp_G est un isomorphisme du groupe de Lie associé à L(G)L(G) sur G. (ii) Tout sous-groupe intégral de G est un sous-groupe de Lie simplement connexe de G.

Soit g=L(G)g = L(G), qui est nilpotente (prop. 12). Comme deux groupes de Lie simplement connexes sur R\mathbf{R} ou C\mathbf{C} qui ont même algèbre de Lie sont isomorphes (§6§ 6, n° 3, th. 3 (ii)), il suffit de prouver la proposition quand G est le groupe associé à g. Alors (i) et (ii) résultent de ce qu’on a dit avant la proposition.

Proposition 14

Soit G un groupe de Lie connexe de dimension finie sur R\mathbf{R} ou C\mathbf{C}.

(i) Si G est nilpotent, exp⁡G\exp_G est étale et surjective. (ii) Si K=CK = \mathbf{C} et si exp⁡G\exp_G est étale, alors G est nilpotent.

Soit G′ le revêtement universel de G. Soit φ\varphi le morphisme canonique de G′ sur G. On a exp⁡G=φ∘exp⁡G′\exp_G = \varphi \circ \exp_{G'} (§6§ 6, n° 4, prop. 10), donc (i) résulte de la prop. 13 (i).

Si K=CK = \mathbf{C} et si exp est étale, alors, pour tout x∈L(G)x \in L(G), ad xx n’a aucune valeur propre appartenant à 2iπ(Z−{0})2i\pi(\mathbf{Z} - \{0\}) (§6§ 6, n° 4, cor. de la prop. 12). Appliquant cela à λx\lambda x, où λ\lambda varie dans C\mathbf{C}, on en conclut que toutes les valeurs propres de ad xx sont nulles, donc que ad xx est nilpotent. Par suite, L(G)L(G) est nilpotente (chap. I, §4§ 4, cor. 1 du th. 1), donc G est nilpotent (prop. 12).

Proposition 15

Soient G un groupe de Lie nilpotent connexe de dimension finie sur R\mathbf{R} ou C\mathbf{C}, A un sous-groupe intégral de G. Alors ZG(A)Z_G(A) est le sous-groupe de Lie connexe de G d’algèbre de Lie δG(L(A))\delta_G(L(A)).

Compte tenu de la prop. 9 du n° 3 il suffit de prouver que ZG(A)Z_G(A) est connexe. Soit g∈ZG(A)g \in Z_G(A). Il existe un x∈L(G)x \in L(G) tel que g=exp⁡xg = \exp x (prop. 14). On a Ad g∣L(A)=1\mathrm{Ad}\ g|L(A) = 1 (n° 3, prop. 9), donc Ad gn∣L(A)=1\mathrm{Ad}\ g^n|L(A) = 1 pour tout n∈Zn \in \mathbf{Z}, donc exp⁡(ad nx)∣L(A)=1\exp (\mathrm{ad}\ nx)|L(A) = 1 pour tout n∈Zn \in \mathbf{Z}. Comme l’application λ↦exp⁡(ad λx)∣L(A)\lambda \mapsto \exp (\mathrm{ad}\ \lambda x)|L(A) de K dans L(L(A),L(G))\mathscr{L}(L(A), L(G)) est polynomiale, on a exp⁡(ad λx)∣L(A)=1\exp(\mathrm{ad}\ \lambda x)|L(A) = 1 pour tout λ∈K\lambda \in K, c’est-à-dire exp⁡(λx)∈ZG(A)\exp(\lambda x) \in Z_G(A) pour tout λ∈K\lambda \in K.

Proposition 16

Soient G un groupe de Lie nilpotent de dimension finie sur R\mathbf{R} ou C\mathbf{C}, A un sous-groupe intégral de G distinct de G. Alors NG(A)N_G(A) est un sous-groupe de Lie connexe de G distinct de A.

On a NG(A)≠AN_G(A) \neq A (A, I, §6§ 6, cor. 1 de la prop. 8). Compte tenu de la prop. 11 du n° 4, tout revient à prouver que NG(A)N_G(A) est connexe. Soit g∈NG(A)g \in N_G(A). Il existe un x∈L(G)x \in L(G) tel que g=exp⁡xg = \exp x (prop. 14). Soit E le sous-espace vectoriel de

L(\mathscr{L}(L(G))) formé des u∈L(L(G))u \in \mathscr{L}(L(G)) tels que u(L(A))⊂L(A)u(L(A)) \subset L(A). On a Ad gn∈Eg^n \in E, donc exp⁡(ad nx)∈E\exp(\mathrm{ad}\ nx) \in E, pour tout n∈Zn \in \mathbf{Z}. Donc exp⁡(ad λx)∈E\exp(\mathrm{ad}\ \lambda x) \in E pour tout λ∈K\lambda \in K, c’est-à-dire exp⁡(λx)∈NG(A)\exp(\lambda x) \in N_G(A) pour tout λ∈K\lambda \in K.

Proposition 17

Soient gg une algèbre de Lie nilpotente de dimension finie sur KK, (g0,g1,…,gn)(g_0, g_1, \ldots, g_n) une suite décroissante d’idéaux de gg tels que g0=g,gn={0},[g,g1]⊂gi+1g_0 = g, g_n = \{0\}, [g, g_1] \subset g_{i+1} pour 0≤i<n0 \leq i < n. Soient a1,a2,…,apa_1, a_2, \ldots, a_p des sous-espaces vectoriels de gg tels que chaque gig_i soit somme directe de ses intersections avec les aja_j. Munissons gg de la loi de composition de Hausdorff H\mathsf{H}. Soit φ\varphi l’application

(x1,x2,…,xp)↦x1Hx2H…Hxp (x_1, x_2, \ldots, x_p) \mapsto x_1 \mathsf{H} x_2 \mathsf{H} \ldots \mathsf{H} x_p

*de a1×a2×⋯×apa_1 \times a_2 \times \cdots \times a_p dans gg. (i) φ\varphi est une bijection de a1×a2×⋯×apa_1 \times a_2 \times \cdots \times a_p sur gg; (ii) φ\varphi et φ−1\varphi^{-1} sont des applications polynomiales; (iii) l’application (x,y)↦φ−1(φ(x)⋅φ(y)−1)(x, y) \mapsto \varphi^{-1}(\varphi(x) \cdot \varphi(y)^{-1}) de (a1×a2×⋯×ap)2(a_1 \times a_2 \times \cdots \times a_p)^2 dans a1×a2×⋯×apa_1 \times a_2 \times \cdots \times a_p est polynomiale.

La proposition est évidente pour dim⁡g=0\dim g = 0. Supposons dim⁡g>0\dim g > 0 et la proposition établie pour les dimensions <dim⁡g< \dim g. On peut supposer gn−1≠{0}g_{n-1} \neq \{0\}, et gn−1g_{n-1} est alors un idéal central non nul de gg. Il existe un indice jj tel que h=gn−1∩aj≠{0}\mathfrak{h} = g_{n-1} \cap a_j \neq \{0\}. Soient g′=g/hg' = g/\mathfrak{h}, θ\theta le morphisme canonique de gg sur g′g', gi′=θ(gi),ai′=θ(ai)g'_i = \theta(g_i), a'_i = \theta(a_i). Alors (g0′,g1′,…,gn′)(g'_0, g'_1, \ldots, g'_n) est une suite décroissante d’idéaux de g′g' tels que g0′=g′,gn′={0},[g′,gi′]⊂gi+1′g'_0 = g', g'_n = \{0\}, [g', g'_i] \subset g'_{i+1} pour 0≤i<n0 \leq i < n, et chaque gi′g'_i est somme directe de ses intersections avec les aj′a'_j. Soit φ′\varphi' l’application

(x1′,x2′,…,xp′)↦x1′Hx2′H…Hxp′ (x'_1, x'_2, \ldots, x'_p) \mapsto x'_1 \mathsf{H} x'_2 \mathsf{H} \ldots \mathsf{H} x'_p

*de a1′×a2′×⋯×ap′a'_1 \times a'_2 \times \cdots \times a'_p dans g′g'. D’après l’hypothèse de récurrence, φ′\varphi' est bijective et φ′,φ′−1\varphi', {\varphi'}^{-1} sont des applications polynomiales.

Soit x∈gx \in g. Posons

(1)

φ′−1(θ(x))=(x1′(x),x2′(x),…,xp′(x)). {\varphi'}^{-1}(\theta(x)) = (x'_1(x), x'_2(x), \ldots, x'_p(x)).
On a donc (2)
θ(x)=x1′(x)Hx2′(x)H…Hxp′(x). \theta(x) = x'_1(x) \mathsf{H} x'_2(x) \mathsf{H} \ldots \mathsf{H} x'_p(x).
Soit h1\mathfrak{h}_1 un sous-espace vectoriel supplémentaire de h\mathfrak{h} dans gg, somme des aka_k pour k≠jk \neq j et d’un supplémentaire de h\mathfrak{h} dans aja_j. Il existe une bijection η\eta de g′g' sur h1\mathfrak{h}_1 telle que θ∘η=Idg′\theta \circ \eta = \mathrm{Id}_{g'}. Posons, pour x∈gx \in g, (3)
ζ(x)=η(x1′(x))Hη(x2′(x))H…Hη(xp′(x))∈g. \zeta(x) = \eta(x'_1(x)) \mathsf{H} \eta(x'_2(x)) \mathsf{H} \ldots \mathsf{H} \eta(x'_p(x)) \in g.
(4)
y(x)=ζ(x)−1Hx=(−ζ(x))⋅x. y(x) = \zeta(x)^{-1} \mathsf{H} x = (-\zeta(x)) \cdot x.
D’après (2) et (3), on a θ(ζ(x))=θ(x)\theta(\zeta(x)) = \theta(x), donc y(x)∈hy(x) \in \mathfrak{h}. Posons enfin (5)
ψ(x)=(η(x1′(x)),…,η(xj′(x))+y(x),…,η(xp′(x)))∈a1×⋯×ap. \psi(x) = (\eta(x'_1(x)), \ldots, \eta(x'_j(x)) + y(x), \ldots, \eta(x'_p(x))) \in a_1 \times \cdots \times a_p.

Comme y(x)y(x) est central dans gg, on a

φ(ψ(x))=η(x1′(x))∘…∘η(xj′(x))∘…∘η(xp′(x))∘y(x) \varphi(\psi(x)) = \eta(x_1'(x)) \circ \ldots \circ \eta(x_j'(x)) \circ \ldots \circ \eta(x_p'(x)) \circ y(x)
=ζ(x)∘y(x)(d’apreˋs (3)) = \zeta(x) \circ y(x) \tag{d'après (3)}
=x.(d’apreˋs (4)) = x \tag{d'après (4)}.
Donc φ∘ψ=Idg\varphi \circ \psi = \mathrm{Id}_g. Soit maintenant (x1,x2,…,xp)∈a1×a2×⋯×ap(x_1, x_2, \ldots, x_p) \in a_1 \times a_2 \times \cdots \times a_p, et posons x=φ(x1,x2,…,xp)=x1∘x2∘…∘xpx = \varphi(x_1, x_2, \ldots, x_p) = x_1 \circ x_2 \circ \ldots \circ x_p. On a θ(x)=θ(x1)∘θ(x2)∘…∘θ(xp)\theta(x) = \theta(x_1) \circ \theta(x_2) \circ \ldots \circ \theta(x_p), donc xi′(x)=θ(xi)x_i'(x) = \theta(x_i) pour 1≤i≤p1 \leq i \leq p, et par suite
ζ(x)=x1∘x2∘…∘(ηθ(xj))∘…∘xp \zeta(x) = x_1 \circ x_2 \circ \ldots \circ (\eta \theta(x_j)) \circ \ldots \circ x_p
y(x)=xj−ηθ(xj). y(x) = x_j - \eta \theta(x_j).
Alors, d’après (5),
ψ(x)=(x1,…,ηθ(xj)+xj−ηθ(xj),…,xp)=(x1,x2,…,xp). \psi(x) = (x_1, \ldots, \eta \theta(x_j) + x_j - \eta \theta(x_j), \ldots, x_p) = (x_1, x_2, \ldots, x_p).
Donc ψ∘φ=Ida1×…×ap\psi \circ \varphi = \mathrm{Id}_{a_1 \times \ldots \times a_p}. Cela prouve (i). Comme la loi de Hausdorff est polynomiale, φ\varphi est polynomiale. D’après l’hypothèse de récurrence, φ′−1{\varphi'}^{-1} est polynomiale; d’après la formule (1), les fonctions xj′x_j' sont polynomiales, donc ζ\zeta est polynomiale (formule (3)), yy est polynomiale (formule (4)), ψ\psi est polynomiale (formule (5)). Cela prouve (ii). L’assertion (iii) résulte de (i) et (ii) et du fait que la loi de Hausdorff est polynomiale. C.Q.F.D.

Exemple de groupe de Lie nilpotent. — Soit G le sous-groupe trigonal strict inférieur de GL(n,K)\mathbf{GL}(n, K). C’est un sous-groupe de Lie de GL(n,K)\mathbf{GL}(n, K), et L(G)⊂gl(n,K)L(G) \subset \mathfrak{gl}(n, K) est l’algèbre de Lie des matrices triangulaires inférieures de diagonale nulle (§ 3, n° 10, prop. 36). D’après le chap. II, § 4, n° 6, Remarque, G est nilpotent. Supposons désormais que K=RK = \mathbf{R} ou C\mathbf{C}. Comme G est homéomorphe à Kn(n−1)/2K^{n(n-1)/2}, G est simplement connexe. L’application exponentielle de L(G)L(G) dans G n’est autre que l’application

u↦exp⁡u=∑k≥0ukk!=∑k=0n−1ukk! u \mapsto \exp u = \sum_{k \geq 0} \frac{u^k}{k!} = \sum_{k=0}^{n-1} \frac{u^k}{k!}
(§ 6, n° 4, Exemple). D’après la prop. 13, l’exponentielle est un isomorphisme de la variété L(G)L(G) sur la variété G. La prop. 17 du § 6, n° 9, fournit la bijection réciproque log. Munissons KnK^n d’une norme. D’après TS, I, § 4, n° 9, on a pour g∈Gg \in G et ∥g−1∥<1\|g - 1\| < 1,
log⁡g=∑k≥1(−1)k−1k(g−1)k \log g = \sum_{k \geq 1} \frac{(-1)^{k-1}}{k} (g - 1)^k
c’est-à-dire
log⁡g=∑k=1n−1(−1)k−1k(g−1)k.(6) \log g = \sum_{k=1}^{n-1} \frac{(-1)^{k-1}}{k} (g - 1)^k. \tag{6}
Mais les deux membres de (6) sont des fonctions analytiques de gg pour g∈Gg \in G, et sont donc égaux pour tout g∈Gg \in G.

Proposition 18

Soient k un corps commutatif, V un espace vectoriel de dimension finie > 0 sur k, G un sous-groupe de GL(V)\mathbf{GL}(V) dont les éléments sont unipotents.

(i) Il existe un élément non nul v de V tel que gv = v pour tout g ∈ G.

(ii) Il existe une base B de V telle que, pour tout g ∈ G, la matrice de g par rapport à B soit triangulaire inférieure et ait tous ses éléments diagonaux égaux à 1.

(iii) Le groupe G est nilpotent.

(a) Supposons d’abord que k soit algébriquement clos et que la représentation identique de G soit simple. Soient a, b dans G. Alors

Tr⁡(a(b−1))=Tr⁡(ab−1)−Tr⁡(a−1)=0−0=0 \operatorname{Tr}(a(b - 1)) = \operatorname{Tr}(ab - 1) - \operatorname{Tr}(a - 1) = 0 - 0 = 0

car ab−1ab - 1 et a−1a - 1 sont nilpotents. Comme le sous-espace vectoriel de L(V)\mathscr{L}(V) engendré par G est L(V)\mathscr{L}(V) (A, VIII, § 4, cor. 1 de la prop. 2), on a Tr⁡(u(b−1))=0\operatorname{Tr}(u(b - 1)) = 0 pour tout u∈L(V)u \in \mathscr{L}(V), donc b=1b = 1. Ainsi, G={1}G = \{1\}.

b) Passons au cas général. Soient k‾\overline{k} une clôture algébrique de k, V‾=V⊗kk‾\overline{V} = V \otimes_k \overline{k}, et G‾⊂GL(V‾)\overline{G} \subset \mathbf{GL}(\overline{V}) l’ensemble des a⊗1a \otimes 1 pour a∈Ga \in G. Soit W (resp. W’) l’ensemble des éléments de V (resp. V‾\overline{V}) invariants par G (resp. G‾\overline{G}). On a W′=W⊗kk‾W' = W \otimes_k \overline{k} car W=⋂g∈GKer⁡(g−1)W = \bigcap_{g \in G} \operatorname{Ker}(g - 1) et W′=⋂g∈GKer⁡(g−1)⊗1W' = \bigcap_{g \in G} \operatorname{Ker}(g - 1) \otimes 1. Si V1V_1 désigne un élément minimal dans l’ensemble des sous-espaces vectoriels non nuls de V‾\overline{V} stables par G‾\overline{G}, on a V1⊂W′V_1 \subset W' d’après la partie a) de la démonstration; donc W≠{0}W \neq \{0\}, ce qui prouve (i).

c) Par récurrence sur dim V, on déduit de (i) qu’il existe une suite croissante (V1,V2,…,Vn)(V_1, V_2, \ldots, V_n) de sous-espaces vectoriels de V stables par G tels que Vn=VV_n = V et que le groupe d’automorphismes de Vi/Vi−1V_i / V_{i-1} canoniquement déduit de G se réduit à {1}\{1\} pour tout i (on convient que Vr={0}V_r = \{0\} pour r≤0r \leq 0). Cela entraîne d’abord (ii) et par conséquent (iii) (chap. II, § 4, n° 6, Remarque).

Corollaire 1

Soit G un groupe de Lie réel ou complexe connexe de dimension finie. Pour que G soit nilpotent, il faut et il suffit que tout élément de Ad G soit unipotent.

Si tout élément de Ad G est unipotent, Ad G est nilpotent (prop. 18), donc G, qui est extension centrale de Ad G, est nilpotent. Si G est nilpotent, L(G) est nilpotente, donc ad x est nilpotent pour tout x∈L(G)x \in L(G), donc Ad⁡(exp⁡x)=exp⁡ad⁡x\operatorname{Ad}(\exp x) = \exp \operatorname{ad} x est unipotent; or tout élément de G est de la forme exp⁡x\exp x pour un x∈L(G)x \in L(G) (prop. 14).

Corollaire 2

Tout sous-groupe analytique de GL(n,K)\mathbf{GL}(n, K) formé d’éléments unipotents est un sous-groupe de Lie simplement connexe.

Cela résulte des prop. 13 (ii), 18 (ii), et du fait que le groupe trigonal strict inférieur est simplement connexe.

6. Groupes de Lie résolubles

Proposition 19

Soit G un groupe de Lie de dimension finie. Pour que L(G) soit résoluble, il faut et il suffit que G possède un sous-groupe ouvert résoluble. La démonstration est analogue à celle de la prop. 12 du n° 5.

Proposition 20

Soient G un groupe de Lie résoluble de dimension finie n sur R ou C, simplement connexe, et g = L(G). Soit (g_n, g_{n-1}, \ldots, g_0) une suite de sous-algèbres de g de dimensions n, n - 1, \ldots, 0, telle que g_{i-1} soit un idéal de g_i pour i = n, n - 1, \ldots, 1^1. Soit G_i le sous-groupe intégral de G correspondant à g_i. Soit x_i un vecteur de g_i n’appartenant pas à g_{i-1}. Soit \varphi_i l’application

(λ1,λ2,…,λi)↦(exp⁡λ1x1)(exp⁡λ2x2)…(exp⁡λixi)(\lambda_1, \lambda_2, \ldots, \lambda_i) \mapsto (\exp \lambda_1 x_1)(\exp \lambda_2 x_2)\ldots(\exp \lambda_i x_i)
de K^i dans G. Alors \varphi_n est un isomorphisme de variétés analytiques, et \varphi_i(K^i) = G_i pour tout i.

Pour n = 0, la proposition est évidente. Raisonnons par récurrence sur n. Soit H le sous-groupe intégral de G tel que L(H) = Kx_n. D’après le § 6, n° 6, cor. 1 de la prop. 14, H et G_{n-1} sont des sous-groupes de Lie simplement connexes de G, et, en tant que groupe de Lie, G est produit semi-direct de H par G_{n-1}. Donc \lambda \mapsto \exp (\lambda x_n) est un isomorphisme de K sur H, et, d’après l’hypothèse de récurrence, l’application

(λ1,λ2,…,λn−1)↦(exp⁡λ1x1)(exp⁡λ2x2)…(exp⁡λn−1xn−1)(\lambda_1, \lambda_2, \ldots, \lambda_{n-1}) \mapsto (\exp \lambda_1 x_1)(\exp \lambda_2 x_2)\ldots(\exp \lambda_{n-1} x_{n-1})
est un isomorphisme de la variété analytique K^{n-1} sur la variété analytique G_{n-1} qui transforme K^i \times \{0\} en G_i pour i = 1, 2, \ldots, n - 1. D’où la proposition.

Proposition 21

Soient G un groupe de Lie résoluble de dimension finie sur R ou C, simplement connexe, et M un sous-groupe intégral de G. Alors M est un sous-groupe de Lie de G, et est simplement connexe.

Reprenons les notations n, g, g_i, x_i, \varphi de la prop. 20, mais imposons aux x_i la condition supplémentaire suivante: soient i_p > i_{p-1} > \cdots > i_1 les entiers i tels que L(M) \cap g_i \neq L(M) \cap g_{i-1}; alors on prend x_{i_k} \in L(M) \cap g_{i_k} pour k = 1, 2, \ldots, p. Par récurrence sur n, on voit aisément que (x_{i_p}, x_{i_{p-1}}, \ldots, x_{i_1}) est une base de L(M). Soit N un groupe de Lie simplement connexe, tel qu’il existe un isomorphisme h de L(N) sur L(M). Soient y_p = h^{-1}(x_{i_p}), \ldots, y_1 = h^{-1}(x_{i_1}). D’après la prop. 20, l’application

(λ1,λ2,…,λp)↦(exp⁡λ1y1)(exp⁡λ2y2)…(exp⁡λpyp)(\lambda_1, \lambda_2, \ldots, \lambda_p) \mapsto (\exp \lambda_1 y_1)(\exp \lambda_2 y_2)\ldots(\exp \lambda_p y_p)
est un isomorphisme de la variété K^p sur la variété N. Il existe un morphisme \tau de

1 Une telle suite existe d’après le chap. I, § 5, prop. 2.

groupes de Lie de N dans G tel que h=L(τ)h = L(\tau), et on a τ(N)=M\tau(N) = M (§ 6, n° 2, cor. 1 de la prop. 1). Donc M est l’ensemble des éléments de G de la forme

τ((exp⁡λ1y1)…(exp⁡λpyp))=exp⁡(λ1L(τ)y1)…exp⁡(λpL(τ)yp)=exp⁡(λ1xi1)…exp⁡(λpxip). \tau((\exp \lambda_1 y_1) \ldots (\exp \lambda_p y_p)) = \exp(\lambda_1 L(\tau)y_1) \ldots \exp(\lambda_p L(\tau)y_p) = \exp(\lambda_1 x_{i_1}) \ldots \exp(\lambda_p x_{i_p}).
Ainsi, M=φ(T)M = \varphi(T) où T est un sous-espace vectoriel de KnK^n.

Proposition 22

On suppose K=RK = \mathbf{R} ou C\mathbf{C}. Soient V un espace vectoriel de dimension finie, G un sous-groupe résoluble connexe de GL(V)\mathbf{GL}(V). On suppose que la représentation identique de G est simple.* (i) Si K=RK = \mathbf{R}, on a dim⁡V≤2\dim V \leq 2 et G est commutatif. (ii) Si K=CK = \mathbf{C}, on a dim⁡V=1\dim V = 1. (i) Supposons K=RK = \mathbf{R}. Alors l’adhérence H de G dans GL(V)\mathbf{GL}(V) est un sous-groupe de Lie de GL(V)\mathbf{GL}(V), connexe, et résoluble (n° 1, cor. 2 de la prop. 1). Donc L(H)L(H) est résoluble (prop. 19). La représentation identique de L(G)L(G) est simple (§ 6, n° 5, cor. 2 de la prop. 13). Donc dim⁡V≤2\dim V \leq 2 et L(G)L(G) est commutative (chap. I, § 5, cor. 1 et 4 du th. 1). Donc G est commutatif. (ii) Supposons K=CK = \mathbf{C}. Soit W un élément minimal parmi les sous-espaces vectoriels réels non nuls de V stables par G. Le sous-espace vectoriel complexe de V engendré par W est égal à V puisque la représentation identique de G est simple. D’après (i), G∣WG|W est commutatif. Donc G est commutatif. Par suite, tout élément de G est une homothétie (A, VIII, § 4, cor. 1 de la prop. 2), de sorte que dim⁡V=1\dim V = 1.

Corollaire

Soient V un espace vectoriel complexe de dimension finie > 0, G un sous-groupe résoluble connexe de GL(V)\mathbf{GL}(V).* (i) Il existe un élément non nul v de V tel que gv ∈Cv\in \mathbf{C}v pour tout g∈Gg \in G. (ii) Il existe une base B de V tel que, pour tout g∈Gg \in G, la matrice de g par rapport à B soit triangulaire inférieure. Soit V1V_1 un élément minimal parmi les sous-espaces vectoriels non nuls de V stables par G. D’après la prop. 22 (ii), on a dim⁡V1=1\dim V_1 = 1. Cela prouve (i). Par récurrence sur dim⁡V\dim V, on déduit de là l’existence d’une suite croissante (V1,V2,…,Vn)(V_1, V_2, \ldots, V_n) de sous-espaces vectoriels de V stables par G tels que dim⁡Vi+1/Vi=1\dim V_{i+1}/V_i = 1 pour i<ni < n, et Vn=VV_n = V; d’où (ii).

7. Radical d’un groupe de Lie

Proposition 23

Soient G un groupe de Lie réel ou complexe de dimension finie, r le radical de L(G)L(G) (chap. I, § 5, déf. 2), n le plus grand idéal nilpotent de L(G)L(G) (chap. I, § 4, n° 4). Soit R (resp. N) le sous-groupe intégral de G d’algèbre de Lie r (resp. n). Alors R (resp. N) est un sous-groupe de Lie de G, résoluble (resp. nilpotent), invariant par tout automorphisme continu de G. Tout sous-groupe distingué connexe résoluble (resp. nilpotent) de G est contenu dans R (resp. N).

Le groupe R est résoluble (n° 6, prop. 19). Supposons K = R. Soit G' un sous-groupe distingué résoluble connexe de G. Alors G‾′\overline{G}' est un sous-groupe de Lie de G (§8,n°2,th.2§ 8, n° 2, th. 2), distingué résoluble (n° 1, cor. 2 de la prop. 1), connexe. Donc L(G‾′\overline{G}') est un idéal résoluble de L(G), d’où L(G‾′\overline{G}') ⊂r\subset r et G‾′⊂R\overline{G}' \subset R. En particulier, R‾⊂R\overline{R} \subset R, donc R est fermé et par suite est un sous-groupe de Lie de G. Supposons K = C. Soit H le groupe de Lie réel sous-jacent à G. Si r' est le radical de L(H), ir' est un idéal résoluble de L(H), d’où r′=ir′r' = i r'; on a donc r⊂r′⊂rr \subset r' \subset r, et, d’après ce qui précède, R est fermé dans H et par suite dans G; ainsi, R est un sous-groupe de Lie de G. Tout sous-groupe distingué résoluble connexe de G est un sous-groupe distingué résoluble connexe de H donc est contenu dans R. On a donc prouvé, pour K = C comme pour K = R, que R est le plus grand sous-groupe distingué résoluble connexe de G; par suite R est invariant par tout automorphisme continu de G. La démonstration dans le cas de N est entièrement analogue.

Définition 1

Soit G un groupe de Lie réel ou complexe de dimension finie. On appelle radical de G le plus grand sous-groupe distingué résoluble connexe de G.

Remarque

Même si G est connexe, il peut exister des sous-groupes distingués résolubles de G non contenus dans le radical de G.

Proposition 24

On suppose K = R ou C. Soient G_1, G_2 deux groupes de Lie connexes de dimension finie, R_1 et R_2 leurs radicaux, φ un morphisme surjectif de G_1 dans G_2. Alors φ(R1)=R2\varphi(R_1) = R_2.

D’après le § 3, n° 8, prop. 28, L(φ) est surjectif. Donc L(φ)(L(R_1)) = L(R_2) (chap. I, § 6, cor. 3 de la prop. 2). Soit i l’injection canonique de R_1 dans G_1. Alors l’image de φ ∘ i est R_2 (§ 6, n° 2, cor. 1 de la prop. 1).

Proposition 25

On suppose K = R ou C. Soient G_1, G_2 des groupes de Lie connexes de dimension finie, R_1 et R_2 leurs radicaux. Le radical de G1×G2G_1 \times G_2 est R1×R2R_1 \times R_2.

Cela résulte du chap. I, § 5, prop. 4.

8. Groupes de Lie semi-simples

Proposition 26

Soit G un groupe de Lie réel ou complexe connexe de dimension finie. Les conditions suivantes sont équivalentes: (i) L(G) est semi-simple; (ii) le radical de G est {e}; (iii) tout sous-groupe intégral commutatif distingué de G est égal à {e}. La condition (ii) signifie que le radical de L(G) est {0}, donc (i) ⇔ (ii) (chap. I, § 6, th. 1). L’équivalence de (i) et (iii) résulte du § 6, n° 6, prop. 14.

Définition 2

Un groupe de Lie réel ou complexe connexe est dit semi-simple s’il est de dimension finie et s’il vérifie les conditions de la prop. 26.

Remarque 1

Soit G un groupe de Lie réel ou complexe connexe de dimension finie. Si G n’est pas semi-simple, G possède un sous-groupe de Lie connexe G’ commutatif et invariant par tout automorphisme continu, tel que G’ ≠ {e}. En effet, soit n le plus grand idéal nilpotent de L(G) ; on a n ≠ {0}, et le sous-groupe analytique correspondant N est un sous-groupe de Lie invariant par tout automorphisme continu de G (no 7, prop. 23) ; le centre G’ de N possède les propriétés voulues.

Proposition 27

Soit G un groupe de Lie réel ou complexe connexe de dimension finie. Les conditions suivantes sont équivalentes : (i) L(G) est simple ; (ii) les seuls sous-groupes intégraux distingués de G sont {e} et G, et en outre G n’est pas commutatif. Cela résulte du § 6, no 6, prop. 14.

Définition 3

Un groupe de Lie réel ou complexe connexe est dit presque simple s’il est de dimension finie et s’il vérifie les conditions de la prop. 27.

Proposition 28

Soit G un groupe de Lie réel ou complexe simplement connexe. Les conditions suivantes sont équivalentes : (i) G est semi-simple ; (ii) G est isomorphe au produit d’un nombre fini de groupes presque simples. Si G est produit fini de groupes de Lie presque simples, L(G) est produit fini d’algèbres de Lie simples, donc est semi-simple. Si G est semi-simple, L(G) est isomorphe à un produit d’algèbres de Lie simples L₁, ..., Lₙ. Soit Gᵢ un groupe de Lie simplement connexe d’algèbre de Lie Lᵢ, donc presque simple. Alors G et G₁ × ... × Gₙ sont simplement connexes et ont des algèbres de Lie isomorphes, donc sont isomorphes.

Lemme 1

Soient G un groupe topologique connexe, Z son centre, Z’ un sous-groupe discret de Z. Alors le centre de G/Z’ est Z/Z’. Soit y un élément de G dont la classe modulo Z’ est un élément central de G/Z’. Soit φ l’application g ↦ gyg⁻¹y⁻¹ de G dans G. Alors φ(G) est connexe et contenu dans Z’, donc φ(G) = φ({e}) = {e}. Par suite, y ∈ Z.

Proposition 29

Soit G un groupe de Lie réel ou complexe connexe semi-simple. (i) G = (G, G). (ii) Le centre Z de G est discret. (iii) Le centre de G/Z est {e}.

L’assertion (i) résulte du cor. de la prop. 4, n° 2, et du chap. I, § 6, th. 1. L’assertion (ii) résulte du § 6, n° 4, cor. 4 de la prop. 10, et du chap. I, § 6, n° 1, Remarque 2. L’assertion (iii) résulte de (ii) et du lemme 1.

Proposition 30

(i) Soit gg une algèbre de Lie réelle ou complexe semi-simple. Alors Int gg est la composante neutre de Aut gg. (ii) Soit GG un groupe de Lie réel ou complexe connexe semi-simple. Le groupe adjoint de GG est la composante neutre de Aut L(G)L(G). Son centre est réduit à l’élément neutre. Toute dérivation de gg est intérieure (chap. I, § 6, cor. 3 de la prop. 1), donc L(Int g)=L(Aut g)L(\mathrm{Int}\,g) = L(\mathrm{Aut}\,g), ce qui prouve (i). La première assertion de (ii) résulte de (i). La seconde résulte de la prop. 29 (iii) et du § 6, n° 4, cor. 4 (ii) de la prop 10.

Remarque 2

Soient gg une algèbre de Lie semi-simple complexe, g0g_0 l’algèbre de Lie réelle sous-jacente. Alors Aut(g)(g) est ouvert dans Aut(g0)(g_0). En effet, Int (g0)⊂Aut (g)(g_0) \subset \mathrm{Aut}\,(g).

Proposition 31

Soient GG un groupe de Lie réel ou complexe de dimension finie simplement connexe, RR son radical. Il existe un sous-groupe de Lie simplement connexe semi-simple SS de GG tel que GG soit, en tant que groupe de Lie, produit semi-direct de SS par RR. Si S′S' est un sous-groupe intégral semi-simple de GG, il existe un xx dans le radical nilpotent de L(G)L(G) tel que (Ad exp⁡ x)(S′)⊂S(\mathrm{Ad}\,\exp\,x)(S') \subset S. Cela résulte du § 6, n° 6, cor. 1 de la prop. 14, et du chap. I, § 6, th. 5 et cor. 1.

Lemme 2

Soient GG un groupe (resp. un groupe topologique), G′G' un sous-groupe distingué de GG, VV un espace vectoriel de dimension finie sur un corps commutatif kk (resp. sur KK), ρ\rho une représentation linéaire (resp. une représentation linéaire continue) de GG dans VV, et ρ′=ρ∣G′\rho' = \rho|G'. (i) Si ρ\rho est semi-simple, ρ′\rho' est semi-simple. (ii) Si ρ′\rho' est semi-simple, et si toute kk-représentation linéaire (resp. toute KK-représentation linéaire continue) de dimension finie de G/G′G/G' (resp. G/G‾′G/\overline{G}') est semi-simple, alors ρ\rho est semi-simple. Supposons ρ\rho semi-simple, et prouvons que ρ′\rho' est semi-simple. Il suffit d’envisager le cas où ρ\rho est simple. Soit V′V' un sous-G′G'-module non nul minimal de VV. Pour tout g∈Gg \in G, on a ρ(G′)ρ(g)V′=ρ(g)ρ(G′)V′=ρ(g)V′\rho(G')\rho(g)V' = \rho(g)\rho(G')V' = \rho(g)V', autrement dit ρ(g)V′\rho(g)V' est stable par ρ(G′)\rho(G'); si V′′V'' est un sous-G′G'-module de ρ(g)V′\rho(g)V', alors ρ(g)−1V′′\rho(g)^{-1}V'' est un sous-G′G'-module de V′V', donc V′′V'' est égal à {0}\{0\} ou à ρ(g)V′\rho(g)V'. Ainsi, pour tout g∈Gg \in G, ρ(g)V′\rho(g)V' est un G′G'-module simple. Or ∑g∈Gρ(g)V′\sum_{g \in G} \rho(g)V' est un sous-GG-module non nul de VV, d’où V=∑g∈Gρ(g)V′V = \sum_{g \in G} \rho(g)V'. Donc ρ′\rho' est semi-simple. Supposons ρ′\rho' semi-simple. Soit WW un sous-GG-module non nul de VV. Comme ρ′\rho' est semi-simple, il existe un projecteur f0f_0 de VV sur WW commutant à ρ(G′)\rho(G'). Soit

E l’ensemble des f∈L(V,V)f \in \mathscr{L}(V, V) qui commutent à ρ(G′)\rho(G'), qui appliquent V dans W, et dont la restriction à W est une homothétie; pour f∈Ef \in E, notons α(f)\alpha(f) le rapport de l’homothétie f∣Wf|W. On a f0∈Ef_0 \in E et α(f0)=1\alpha(f_0) = 1. Il est clair que α\alpha est une forme linéaire sur E. Soit F = Ker α\alpha, qui est un hyperplan de E. Pour f∈Ef \in E et g∈Gg \in G, posons σ(g)f=ρ(g)∘f∘ρ(g)−1\sigma(g)f = \rho(g) \circ f \circ \rho(g)^{-1}; alors σ(g)f\sigma(g)f applique V dans W et sa restriction à W cst l’homothétie de rapport α(f)\alpha(f); si g′∈G′g' \in G', on a

σ(g)f∘ρ(g′)=ρ(g)∘f∘ρ(g)−1∘ρ(g′)=ρ(g)∘f∘ρ(g−1g′g)∘ρ(g−1)=ρ(g)∘ρ(g−1g′g)∘f∘ρ(g−1)=ρ(g′)∘ρ(g)∘f∘ρ(g−1)=ρ(g′)∘σ(g)f. \begin{align*} \sigma(g)f \circ \rho(g') &= \rho(g) \circ f \circ \rho(g)^{-1} \circ \rho(g') \\ &= \rho(g) \circ f \circ \rho(g^{-1}g'g) \circ \rho(g^{-1}) \\ &= \rho(g) \circ \rho(g^{-1}g'g) \circ f \circ \rho(g^{-1}) \\ &= \rho(g') \circ \rho(g) \circ f \circ \rho(g^{-1}) \\ &= \rho(g') \circ \sigma(g)f. \end{align*}

Donc σ(g)f∈E\sigma(g)f \in E. Par suite σ\sigma est une k-représentation linéaire (resp. une K-représentation linéaire continue) de G dans E laissant stable F. On a σ(g)=IdE\sigma(g) = \mathrm{Id}_E pour g∈G′g \in G', donc pour g∈G‾′g \in \overline{G}' dans le cas topologique. Supposons que toute représentation kk-linéaire (resp. toute représentation K-linéaire continue) de dimension finie de G/G′G/G' (resp. G/G‾′G/\overline{G}') soit semi-simple. Alors il existe dans E un supplémentaire de F stable pour G. Autrement dit, il existe un f∈Ef \in E tel que α(f)=1\alpha(f) = 1, invariant par G. Alors ff est un projecteur de V sur W, et, pour g∈Gg \in G, on a ρ(g)∘f∘ρ(g−1)=f\rho(g) \circ f \circ \rho(g^{-1}) = f, c’est-à-dire que ff commute à ρ(G)\rho(G). Ainsi, ρ\rho est semi-simple.

Théorème 1

Soient G un groupe de Lie réel ou complexe de dimension finie, G0G_0 sa composante neutre, R son radical, r le radical de L(G)L(G); on suppose que G/G0G/G_0 est fini. Soit ρ\rho une représentation linéaire analytique de G de dimension finie. Les conditions suivantes sont équivalentes: (i) ρ\rho est semi-simple; (ii) ρ∣G0\rho|G_0 est semi-simple; (iii) ρ∣R\rho|R est semi-simple; (iv) L(ρ)L(\rho) est semi-simple; (v) L(ρ)∣rL(\rho)|r est semi-simple. On a (i) ⇔\Leftrightarrow (ii) d’après le lemme 2 et INT, VII, § 3, prop. 1. On a (ii) ⇔\Leftrightarrow (iv) et (iii) ⇔\Leftrightarrow (v) d’après le § 6, n° 5, cor. 2 de la prop. 13. On a (iv) ⇔\Leftrightarrow (v) d’après le chap. I, § 6, th. 4.

Corollaire 1

Soient ρ,ρ1,ρ2\rho, \rho_1, \rho_2 des représentations linéaires analytiques semi-simples de dimension finie de G et n un entier ≥0\geq 0. Alors ρ1⊗ρ2,Tnρ,Snρ,∧nρ\rho_1 \otimes \rho_2, T^n \rho, S^n \rho, \wedge^n \rho (Appendice) sont semi-simples. La semi-simplicité de ρ1⊗ρ2\rho_1 \otimes \rho_2 résulte du th. 1, et du chap. I, § 6, cor. 1 du th. 4. La semi-simplicité de Tnρ,Snρ,∧nρT^n \rho, S^n \rho, \wedge^n \rho résulte de la semi-simplicité de ρ1⊗ρ2\rho_1 \otimes \rho_2.

Nous verrons plus tard que si kk est un corps commutatif de caractéristique 0, Γ\Gamma un groupe, ρ1\rho_1 et ρ2\rho_2 des kk-représentations linéaires semi-simples de dimension finie de Γ\Gamma, alors ρ1⊗ρ2\rho_1 \otimes \rho_2 est semi-simple.

Corollaire 2

Soient ρ\rho une représentation linéaire analytique semi-simple de dimension finie de GG dans un espace vectoriel VV, SS l’algèbre symétrique de VV, et SGS^G la sous-algèbre de SS formée des éléments invariants par (Sρ)(G)(S\rho)(G). Alors SGS^G est une algèbre de type fini.* Cela résulte du th. 1, du chap. I, § 6, th. 6 a), et de AC, V, § 1, th. 2.

Corollaire 3

Soient GG un groupe de Lie réel ou complexe, G0G_0 sa composante neutre. On suppose que G0G_0 est semi-simple et que G/G0G/G_0 est fini. Alors toute représentation linéaire analytique de dimension finie de GG est semi-simple.

Proposition 32

Soit GG un groupe de Lie réel connexe de dimension finie. On suppose L(G)L(G) réductive. Les conditions suivantes sont équivalentes*: (i) G/D1‾GG/\overline{D^1}G est compact; (ii) (resp. (ii')) toute représentation linéaire analytique de dimension finie de GG dans un espace vectoriel complexe (resp. réel) est semi-simple.

(i) ⇒\Rightarrow (ii') : Supposons G/D1‾GG/\overline{D^1}G compact. Alors toute représentation linéaire continue de G/D1‾GG/\overline{D^1}G dans un espace vectoriel réel de dimension finie est semi-simple (INT, VII, § 3, prop. 1). Soit ρ\rho une représentation linéaire analytique de dimension finie de GG dans un espace vectoriel réel. Alors ρ∣D1G\rho|D^1G est analytique, D1GD^1G est semi-simple (chap. I, § 6, prop. 5), donc ρ∣D1G\rho|D^1G est semi-simple (cor. 3 du th. 1). Donc ρ\rho est semi-simple (lemme 2).

On voit de même que (ii) ⇒\Rightarrow (i).

(ii') ⇒\Rightarrow (i) : supposons que G/D1‾GG/\overline{D^1}G soit non compact, donc isomorphe à un groupe de la forme Rp×Tq\mathbf{R}^p \times \mathbf{T}^q avec p>0p > 0 (§6§ 6, n° 4, prop. 11 (ii)). Il existe alors un morphisme surjectif de G/D1‾GG/\overline{D^1}G dans R\mathbf{R}, donc un morphisme surjectif ρ\rho de GG dans R\mathbf{R}. L’application

g↦σ(g)=(10ρ(g)1) g \mapsto \sigma(g) = \begin{pmatrix} 1 & 0 \\ \rho(g) & 1 \end{pmatrix}
est une représentation linéaire analytique de GG dans R2\mathbf{R}^2 qui n’est pas semi-simple, car le seul sous-espace vectoriel de dimension 1 de R2\mathbf{R}^2 stable par σ(G)\sigma(G) est R(0,1)\mathbf{R}(0, 1).

On voit de même que (ii) ⇒\Rightarrow (i).

Proposition 33

Soient GG un groupe de Lie complexe de dimension finie et dont le nombre de composantes connexes est fini, ρ\rho une représentation linéaire analytique de GG de dimension finie, G′G' un sous-groupe intégral du groupe de Lie réel GG tel que L(G′)L(G') engendre L(G)L(G) sur C\mathbf{C}. Alors, pour que ρ\rho soit semi-simple, il faut et il suffit que ρ∣G′\rho|G' soit semi-simple.* Soit ρ′=ρ∣G′\rho' = \rho|G'. Pour que ρ\rho (resp. ρ′\rho') soit semi-simple, il faut et il suffit que L(ρ)L(\rho) (resp. L(ρ′)L(\rho')) soit semi-simple (th. 1). Soit VV l’espace de ρ\rho. Pour qu’un sous-espace vectoriel de VV soit stable pour L(ρ)(L(G))L(\rho)(L(G)), il faut et il suffit qu’il soit stable pour L(ρ′)(L(G′))L(\rho')(L(G')). D’où la proposition.

Exercices

See the exercises for § 9.

Transcribed from the printed volume. Not translated.