§ 2. Systèmes de Tits
Dans ce paragraphe, les lettres G, B, N, S, T, W ont la signification indiquée au n° 1 ci-dessous.
1. Définition et premières propriétés
Soient G un groupe et B un sous-groupe de G. On fait opérer le groupe B×B sur G par la loi (b,b′).g=bgb′−1 pour b,b′∈B et g∈G. Les orbites de B×B dans G sont les ensembles BgB, pour g∈G, qu’on appelle doubles classes de G suivant B. Elles forment une partition de G ; l’ensemble quotient correspondant se note B\G/B. Si C et C’ sont deux doubles classes, CC’ est réunion de doubles classes.
Définition 1
On appelle système de Tits un quadruplet* (G,B,N,S), où G est un groupe, B et N deux sous-groupes de G et S une partie de N/(B \cap N), satisfaisant aux axiomes suivants :
(T1) L’ensemble B∪N engendre G et B∩N est un sous-groupe distingué de N. (T2) L’ensemble S engendre le groupe W=N/(B∩N) et se compose d’éléments d’ordre 2. (T3) On a sBw⊂BwB∪BswB pour s∈S et w∈W (*). (T4) Pour tout s∈S, on a sBs⊂B.
Le groupe W=N/(B∩N) est parfois appelé le groupe de Weyl du système de Tits (G,B,N,S).
Lemme 1
Soient s1,…,sq∈S et soit w∈W. On a
C(s1…sq)⋅C(w)⊂(i1,…,ip)⋃C(si1…sipw),
où (i1,…,ip) décrit l’ensemble des suites strictement croissantes d’entiers de l’intervalle [1,q].
On raisonne par récurrence sur q, le cas q=0 étant trivial. Si q⩾1, on a C(s1…sq)⋅C(w)⊂C(s1)⋅C(s2…sq)⋅C(w). D’après l’hypothèse de récurrence, C(s2…sq)⋅C(w) est contenu dans la réunion des C(sj1…sjpw), où
2≤j1<⋯<jp≤q. D’après (T3), l’ensemble
C(s1)⋅C(sj1…sjpw) est contenu dans la réunion de
C(s1sj1…sjpw) et de
C(sj1…sjpw). D’où le lemme.
2. Un exemple
Soient k un corps, n un entier ≥0, et soit (ei) la base canonique de kn. Soit G=GL(n,k), soit B le sous-groupe trigonal large supérieur de G (formé des matrices triangulaires supérieures), et soit N le sous-groupe de G formé des matrices n’ayant qu’un seul élément non nul dans chaque ligne et dans chaque colonne. Un élément de N permutte les droites kei; on en déduit un homomorphisme surjectif N→Sn dont le noyau est le sous-groupe T=B∩N des matrices diagonales; cela permet d’identifier W=N/T et Sn. On désigne par sj (1≤j≤n−1) l’élément de W correspondant à la transposition de j et j+1; soit S l’ensemble des sj. Le quadruplet (G,B,N,S) est un système de Tits. En effet :
L’axiome (T1) résulte du cor. 2 de la prop. 14 de Alg., chap. II, 3e éd., § 10, no 13.
L’axiome (T2) est démontré dans Alg., Chap. I, nouv. éd., Rectif. à la p. 97.
L’axiome (T4) est immédiat.
Reste à vérifier (T3), i.e.
sjBw⊂BwB∪BsjwBpour1≤j≤n−1,w∈W ou, ce qui revient au même : sjB⊂BB′∪BsjB′,avecB′=wBw−1. Soit Gj le sous-groupe de G formé des éléments laissant fixes les ei pour i=j,j+1 et laissant stable le plan engendré par ej et ej+1; ce groupe est isomorphe à GL(2,k). On vérifie que GjB=BGj. Comme sj∈Gj, on a sjB⊂BGj, et il suffit de prouver la formule Gj⊂(B∩Gj)(B′∩Gj)∪(B∩Gj)sj(B′∩Gj). Identifions Gj à GL(2,k); le groupe B∩Gj s’identifie au sous-groupe trigonal large supérieur B2 de GL(2,k); le groupe B′∩Gj s’identifie à B2 lorsque w(j)<w(j+1), et au sous-groupe trigonal large inférieur B2− sinon. Dans le premier cas, la formule à démontrer s’écrit GL(2,k)=B2∪B2sB2ouˋs=(0110);
n° 2.4.
elle résulte par exemple du fait que B2 est le stabilisateur d’un point dans l’action de GL(2,k) sur la droite projective P1(k), et opère transitiement sur le complémentaire de ce point. Dans le second cas, la formule à démontrer s’écrit
GL(2,k)=B2B2−∪B2sB2−;
comme B2−=sB2s, elle résulte de la précédente par multiplication à droite par s.
3. Décomposition de G en doubles classes
Théorème 1
On a G=BWB. L’application w↦C(w) est une bijection de W sur l’ensemble B\G/B des doubles classes de G suivant B.
Il est clair que BWB est stable par x↦x−1, et le lemme 1 montre qu’il est stable par produit. Comme il contient B et N, il est donc égal à G.
Il nous reste à prouver que C(w)=C(w′) si w=w′. Pour cela, nous démontrerons par récurrence sur l’entier q l’assertion suivante :
(A_q) Étant donnés w et w′ distincts dans W tels que ls(w)≥ls(w′)=q, on a C(w)=C(w′).
(Pour la définition de ls(w), voir § 1, n° 1.)
Cette assertion est évidente pour q=0, car on a alors w′=1 et w=1, d’où C(w′)=B et C(w)=B.
Supposons que q≥1 et que w,w′ vérifient les hypothèses de (A_q). Il existe s∈S tel que sw′ soit de longueur q−1. On a
(6)
ls(w)>ls(sw′) d’où
w=sw′. De plus, on a
sw=sw′; d’après la formule (3) du § 1, n° 1, on a
(7)
ls(sw)≥ls(w)−1≥ls(sw′)=q−1.
Vu l’hypothèse de récurrence, C(sw′) est distinct de C(w) et de C(sw); de la formule (2), on déduit
(8)
C(sw′)∩C(s)⋅C(w)=∅.
Comme on a par ailleurs C(sw′)⊂C(s)⋅C(w′), on a finalement C(w)=C(w′).
4. Relations avec les systèmes de Coxeter
Théorème 2
Le couple (W,S) est un système de Coxeter. De plus, pour s∈S et w∈W, les relations C(sw)=C(s)⋅C(w) et ls(sw)>ls(w) sont équivalentes.
Pour tout s∈S, soit Ps l’ensemble des éléments w∈W tels que
C(s)⋅C(w)=C(sw).
Nous allons vérifier que les Ps satisfont aux conditions (A'), (B') et (C) du , n° 7; les deux assertions du théorème résulteront alors de la prop. 6 du § 1, n° 7
La condition (A') est évidente.
Vérifions (B'). Si Ps et sPs avaient un élément commun w, on aurait w∈Ps et sw∈Ps d’où
C(s)⋅C(w)=C(sw),C(s)⋅C(sw)=C(w).
On en déduirait C(s)⋅C(s)⋅C(w)=C(w) et, d’après la formule (5), ceci entraînerait C(w)=C(sw), en contradiction avec le th. 1.
Vérifions (C). Soient s,s′∈S et w,w′∈W avec w′=ws′. On fait l’hypothèse que w∈Ps et w′∈/Ps, d’où
(9)
C(sw)=C(s)⋅C(w) (10)
C(w′)⊂C(s)⋅C(w′)
d’après (3).
De (9) et de la relation w=w′s′, on déduit
(11)
C(s)w′s′B=C(sw).
D’après la formule (2'), on a C(w′)C(s′)⊂C(w′)∪C(w′s′), d’où immédiatement
(12)
C(w′)s′B⊂C(ws′)∪C(w).
Comme C(w′) est réunion de classes à gauche gB et que l’on a
C(s)C(w′)=C(s)w′B,
la formule (10) montre que C(s)w′ rencontre C(w′) et a fortiori que C(s)w′s′B rencontre C(w′)s′B. Il résulte alors des formules (11) et (12) que la double classe C(sw) est égale à l’une des doubles classes C(ws′) et C(w); comme on a sw=w, le th. 1 permet de conclure que sw=ws′.
Corollaire 1
Soient* w1,…,wq∈W et soit w=w1…wq. *Si
ls(w)=ls(w1)+⋯+ls(wq),
on a
C(w)=C(w1)…C(wq).
En prenant des décompositions réduites des wi, on se ramène au cas d’une décomposition réduite
w=s1…sq,avec si∈S.
Si u=s2…sq, on a alors w=s1u et ls(s1u)>ls(u), d’où C(w)=C(s1)⋅C(u) d’après le théorème; la formule cherchée s’en déduit par récurrence sur q.
n° 2.5.
Corollaire 2
Soit w∈W et soit Tw la partie de W associée à w par le procédé du lemme 2 du § 1, n° 4. Si t∈Tw, on a
C(t)⊂C(w)⋅C(w−1). Si
t∈Tw, il existe par définition des éléments
w′,w′′∈W et
s∈S tels que
w=w′sw′′,ls(w)=ls(w′)+ls(w′′)+1ett=w′sw′−1. D’après le cor. 1, on a
C(w)⋅C(w−1)=C(w′)⋅C(s)⋅C(w′′)⋅C(w′′−1)⋅C(s)⋅C(w′−1). D’où :
C(w)⋅C(w−1)⊃C(w′)⋅C(s)⋅C(s)⋅C(w′−1). D’après (4), on a
C(s)⊂C(s)⋅C(s). D’où :
C(w)⋅C(w−1)⊃C(w′)⋅C(s)⋅C(w′−1)⊃C(t).
Corollaire 3
Soit w∈W et soit Hw le sous-groupe de G engendré par C(w)⋅C(w−1). Alors : a) Pour toute décomposition réduite (s1,…,sq) de w, on a
C(sj)⊂Hwpour1≤j≤q. b) Le groupe
Hw contient
C(w) et est engendré par
C(w). Démontrons a) par récurrence sur
j. Supposons que
C(sk) soit contenu dans
Hw pour
k<j. Soit
t=(s1…sj−1)sj(s1…sj−1)−1. L’élément
t appartient à la partie
Tw de
W définie dans le lemme 2 du § 1, n° 4. D’après le cor. 2, on a
C(t)⊂Hw, d’où
C(sj)⊂Hw. Comme
C(w)=C(s1)…C(sq), cf. cor. 1, on a
C(w)⊂Hw, d’où b).
Exemple
Le th. 2, appliqué au système de Tits décrit au n° 2, montre que le groupe symétrique Sn, muni de l’ensemble des transpositions d’éléments consécutifs, est un groupe de Coxeter.
5. Sous-groupes de G contenant B
Pour toute partie X de S, on note WX le sous-groupe de W engendré par X (cf. § 1, n° 8) et GX la réunion BWXB des doubles classes C(w), w∈WX. On a G∅=B, et GS=G.
Théorème 3
a) Pour toute partie X de S, l’ensemble GX est un sous-groupe de G, engendré par ⋃s∈XC(s). b) L’application X↦GX est une bijection de P(S) sur l’ensemble des sous-groupes de G contenant B.
c) Soit (Xi)i∈I une famille de parties de S. Si X=⋂i∈IXi, on a GX=⋂i∈IGXi.
d) Soient X et Y deux parties de S. On a GX⊂GY (resp. GX=GY) si et seulement si l’on a X⊂Y (resp. X=Y).
Il est clair que GX=(GX)−1; le lemme 1 du n° 1 montre que GX.GX⊂GX; d’où a), compte tenu du cor. 1 du th. 2.
L’injectivité de X↦GX résulte de celle de X↦WX (§ 1, n° 8, th. 2). Soit d’autre part H un sous-groupe de G contenant B. Soit U l’ensemble des w∈W tels que C(w)⊂H. On a H=BUB puisque H est réunion de doubles classes. Soit X=U∩S; montrons que H=GX. On a évidemment GX⊂H. D’autre part, soit u∈U, et soit (s1,…,sq) une décomposition réduite de u. Le cor. 3 du th. 2 entraîne C(sj)⊂H, d’où sj∈X pour 1≤j≤q. On a donc u∈WX, et comme H est réunion des C(u) pour u∈U, on a bien H⊂GX, ce qui achève de prouver (b).
Les assertions c) et d) résultent des propriétés analogues des groupes WX (§ 1, n° 8, th. 2).
Corollaire
L’ensemble S se compose des éléments w∈W tels que w=1 et que B∪C(w) soit un sous-groupe de G.
Les éléments w∈W tels que B∪C(w) soit un sous-groupe de G sont ceux pour lesquels il existe X⊂S avec WX={1,w}. Si de plus w=1, on a nécessairement Card(X)=1, i.e. w∈S.
Remarque 1). — Le corollaire ci-dessus montre que S est déterminé par (G,B,N); pour cette raison, on se permet parfois de dire que (G,B,N) est un système de Tits, ou encore que (B,N) est un système de Tits dans G.
Proposition 1
Soient X une partie de S, et N′ un sous-groupe de N dont l’image dans W soit égale à WX. Alors (GX,B,N′,X) est un système de Tits.
On a GX=BWXB=BN′B, ce qui prouve que GX est engendré par B∪N′. La vérification des axiomes (T1) à (T4) est alors immédiate.
Proposition 2
Soient X,Y⊂S et w∈W. On a
GXwGY=BWXwWYB.
Soient s1,…,sq∈X et t1,…,tq∈Y. Le lemme 1 montre que l’on a
C(s1…sq).C(w).C(t1…tq)⊂BWXwWYB,
d’où
GXwGY⊂BWXwWYB.
L’inclusion opposée est évidente.
Remarque 2). — Notons GX∣G/GY l’ensemble des parties de G de la forme GXgGY, g∈G; définissons de manière analogue WX∣W/WY. La proposition précédente montre que la bijection canonique w↦C(w) de W sur B∣G/B définit par passage au quotient une bijection WX∣W/WY→GX∣G/GY.
n° 2.6.
SYSTÈMES DE TITS
Proposition 3
Soient X⊂S et g∈G. La relation gBg−1⊂GX entraîne g∈GX.
Soit w∈W tel que g∈C(w). Comme B est un sous-groupe de GX, l’hypothèse gBg−1⊂GX entraîne C(w).C(w−1)⊂GX, d’où C(w)⊂GX d’après le cor. 3 du th. 2, et g appartient à GX.
6. Sous-groupes paraboliques
Définition 2
On dit qu’un sous-groupe de G est parabolique s’il contient un conjugué de B. Il est clair que tout sous-groupe qui contient un sous-groupe parabolique est parabolique.
Proposition 4
Soit P un sous-groupe de G. a) Pour que P soit parabolique, il faut et il suffit qu’il existe une partie X de S telle que P soit conjugué de GX (cf. n° 5 pour la définition de GX). b) Soient X,X′⊂S et g,g′∈G tels que P=gGXg−1=g′GX′g′−1. On a alors X=X′ et g′g−1∈P. L’assertion a) résulte du th. 3, b). Sous les hypothèses de b), on a
g−1g′Bg′−1g⊂g−1g′GX′g′−1g=GX, et la prop. 3 montre que
g−1g′∈GX. D’où
GX′=GX et
X′=X d’après le th. 3, b). Enfin, on a :
g′g−1=g.g−1g′.g−1∈gGXg−1, d’où b). Si le sous-groupe parabolique
P est conjugué de
GX, avec
X⊂S, on dit que
X est le type de
P.
Théorème 4
(i) Soient P1 et P2 deux sous-groupes paraboliques de G dont l’intersection est parabolique et soit g∈G tel que gP1g−1⊂P2. Alors g∈P2 et P1⊂P2. (ii) Deux sous-groupes paraboliques distincts dont l’intersection est parabolique ne sont pas conjugués. (iii) Soient Q1 et Q2 deux sous-groupes paraboliques de G contenus dans un sous-groupe Q de G. Tout g∈G tel que gQ1g−1=Q2 appartient à Q. (iv) Tout sous-groupe parabolique est son propre normalisateur (*). L’assertion (i) résulte des prop. 3 et 4, et entraîne (ii). Sous les hypothèses de (iii), on a gQ1g−1⊂Q, d’où g∈Q d’après (i). Enfin (iv) résulte de (iii) en prenant Q1=Q2=Q.
Proposition 5
Soient P1 et P2 deux sous-groupes paraboliques de G. Alors P1∩P2 contient un conjugué de T.
(*) Si H est un sous-groupe d’un groupe G, le normalisateur de H dans G est le sous-groupe NG(H) formé des éléments g de G tels que gHg−1=H. On dit que le sous-groupe H′ normalise H si l’on a H′⊂NG(H), auquel cas HH′=H′H est un sous-groupe de G, dans lequel H est distingué.
Quitte à transformer P1 et P2 par un automorphisme intérieur de G, on peut supposer que B⊂P1. Soit g∈G tel que gBg−1⊂P2. D’après le th. 1, il existe n∈N et b,b′∈B tels que g=bnb′. Comme T est distingué dans N, on a
P2⊃gBg−1=bnBn−1b−1⊃bnTn−1b−1=bTb−1 et
P1⊃B⊃bTb−1 d’où la proposition.
7. Théorème de simplicité
Lemme 2
Soit H un sous-groupe distingué de G. Il existe une partie X de S telle que BH=GX et tout élément de X commute à tout élément de S−X.
Puisque BH est un sous-groupe de G contenant B, il existe une unique partie X de S telle que BH=GX (th. 3).
Soient s1∈X et s2∈S−X; soient n1 et n2 des représentants respectifs de s1 et s2 dans N. On a n1∈GX=BH et il existe b∈B tel que bn1∈H. Comme H est distingué dans G, l’élément h=n2bn1n2−1 de G appartient à H. D’autre part
h∈C(s2)⋅C(s1)⋅C(s2). Si la longueur de
s2s1s2 est égale à 3, le cor. 1 du th. 2 entraîne
C(s2)⋅C(s1)⋅C(s2)=C(s2s1s2), d’où
h∈H∩C(s2s1s2). Puisque
H∩C(s2s1s2) est non vide, on a
s2s1s2∈WX. Comme
(s2,s1,s2) est une décomposition réduite, on en déduit
s2∈X, contrairement à l’hypothèse (
§1, no 8, cor. 1 de la prop. 7).
On a donc lS(s2s1s2)≤2; si lS(s1s2)=1, on a s1s2∈S, donc (s1s2)2=1, s1s2=s2s1. Si lS(s1s2)=2 la propriété (E) du §1, no 5 entraîne alors s2s1=s1s2, car s1=s2. C.Q.F.D.
Dans le th. 5 ci-dessous interviendra la propriété suivante d’un groupe U: (R) Pour tout sous-groupe distingué V de U, distinct de U, le groupe des commutateurs (cf. Alg., chap. I, §6, no 8) de U/V est distinct de U/V.
Tout groupe résoluble vérifie (R); en particulier tout groupe commutatif vérifie (R); il en est de même de tout groupe simple non commutatif. On peut montrer que le groupe symétrique Sn vérifie (R) pour tout n (cf. exerc. 29).
Théorème 5
Soit Z l’intersection des conjugués de B, soit U un sous-groupe de B et soit G1 le sous-groupe engendré par les conjugués de U dans G. On fait les hypothèses suivantes : (1) U est distingué dans B et B=UT. (2) U possède la propriété (R). (3) G1 est égal à son groupe des commutateurs. (4) Le système de Coxeter (W,S) est irréductible (cf. §1, no 9). Alors tout sous-groupe H de G normalisé par G1 est contenu dans Z ou contient G1.
Montrons d’abord que G=G1T. Le groupe G1T contient B, donc est son propre normalisateur (th. 4); comme N normalise G1 et T, il normalise aussi G1T, d’où N⊂G1T; puisque G est engendré par B et N, on a bien G=G1T.
Posons maintenant
G′=G1H,B′=B∩G′,N′=N∩G′,T′=T∩G′=B′∩N′etW′=N′/T′. On a
G=G′T puisque
G′ contient
G1, d’où
N=N′T. L’injection de
N′ dans
N définit donc, par passage aux quotients, un isomorphisme
α:W′→W. Soit
S′=α−1(S).
Montrons que (G′,B′,N′,S′) est un système de Tits. Comme G=BNB et B=TU=UT, on a G=UNU et, puisque U est un sous-groupe de G′, on en déduit G′=UN′U, d’où (T1) puisque U⊂B′. L’axiome (T2) est satisfait puisque α est un isomorphisme. Soit w∈W et soit w′=α−1(w) l’élément correspondant de W′. On a
BwB=BwB′=Bw′B′,puisqueB=B′T. On en conclut que
G′∩BwB=B′w′B′, ou encore que l’injection de
G′ dans
G définit par passage aux quotients une bijection de
B′\G′/B′ sur
B\G/B. L’axiome (T3) est alors immédiat. L’axiome (T4) résulte de
B=B′T.
Le sous-groupe H est distingué dans G′. D’après le lemme 2 appliqué à (G′,B′,N′,S′), il existe une partie X′ de S′ telle que B′H=GX′ et tout élément de S′−X′ commute à tout élément de X′. Vu l’hypothèse (4), deux cas seulement sont possibles :
a) X′=∅, i.e. B′H=B′, et H⊂B′⊂B. Si g∈G, on a g=g1t, avec g1∈G1,t∈T et H⊂g1Bg1−1 puisque G1 normalise H. D’où H⊂gBg−1; comme Z est l’intersection des gBg−1, on a H⊂Z.
b) X′=S′, i.e. B′H=G′; comme G=G′T, on a
G=B′HT=HB′T=HB. Comme
B normalise
U, tout conjugué de
U est de la forme
hUh−1, avec
h∈H. Un tel sous-groupe est contenu dans le groupe
UH, d’où
G1⊂UH, par définition de
G1. On a alors les isomorphismes
U/(U∩H)≃UH/H=G1H/H≃G1/(G1∩H). D’après l’hypothèse (3),
G1/(G1∩H) est égal à son groupe des commutateurs. L’hypothèse (2) montre alors que le groupe
U/(U∩H), isomorphe à
G1/(G1∩H), est réduit à l’élément neutre. D’où
G1∩H=G1 et
G1⊂H, ce qui achève la démonstration.
Corollaire
Sous les hypothèses du th. 5, le groupe G1/(G1∩Z) est simple non commutatif, ou réduit à l’élément neutre.
Le th. 5 montre que G1/(G1∩Z) est simple ou réduit à l’élément neutre; d’autre part l’hypothèse (3) entraîne qu’il est égal à son groupe des commutateurs; d’où le corollaire.
Exemple 1
Soient k un corps, n un entier ⩾0, G=GL(n,k), et soit (G,B,N,S) le système de Tits décrit au no 2. Soit U le groupe trigonal strict supérieur, i.e. le sous-groupe de B formé des matrices dont les éléments diagonaux sont égaux à 1. La condition (1) du th. 5 se vérifie immédiatement; il en est de même de (2) puisque U est résoluble; la condition (4) est vérifiée si n⩾2. On peut prouver (cf. Alg., Chap. II, 3e éd., § 10, exerc. 13) que (3) est vérifiée si n⩾3 ou si n=2 et Card(k)⩾4. Sous ces conditions, on en conclut que G1/(G1∩Z) est simple et que G1∩Z est le centre de G1 (cf. Remarque 2).
Lorsque k est commutatif, on a G1=SL(n,k), cf. Alg., Chap. III, 3e éd., § 8, no 9.
Exemple 2
Soit g une algèbre de Lie simple sur C, et soit G le groupe adjoint de g (cf. chap. III). On peut montrer, en utilisant le théorème 5, que G est simple non abélien.
Exercices
See the exercises for § 2.