Exercice 3, § 2

Soient G un groupe, B un sous-groupe de G et (C(w))_{w∈W} la famille des doubles classes de G suivant B. On dit que B est un sous-groupe de Tits de G s’il existe un sous-ensemble S de W tel que les conditions suivantes soient vérifiées : (1) la réunion des C(s) pour s ∈ S engendre G ; (2) pour tout s ∈ S, l’ensemble B ∪ C(s) est un sous-groupe de G et B est d’indice ≥ 3 dans B ∪ C(s) ; (3) pour tout s ∈ S et tout w ∈ W, il existe un élément w′ ∈ W tel que C(s).C(w) ⊂ C(w) ∪ C(w′). On suppose désormais que B est un sous-groupe de Tits de G et on se donne une partie S de W satisfaisant aux conditions (1), (2) et (3).

a) Montrer que C(s)^{-1} = C(s) et que C(s).C(s) = B ∪ C(s) pour tout s ∈ S. Montrer que, pour tout s ∈ S et tout w ∈ W, il existe un élément w'' ∈ W tel que C(w).C(s) ⊂ C(w) ∪ C(w'').

b) Pour w ∈ W, on appelle longueur de w et on note l(w) la borne inférieure des entiers n ≥ 0 tels qu’il existe s_1, ..., s_n ∈ S avec C(w) ⊂ C(s_1) ... C(s_n). Montrer que l(w) est fini pour tout w ∈ W.

Soient u, v ∈ W avec l(u) < l(v) et soit s ∈ S; montrer que si C(v) ⊂ C(u).C(s) (resp. C(v) ⊂ C(s).C(u)), alors on a C(v) = C(u).C(s) (resp. C(v) = C(s).C(u)) (on raisonnera par récurrence sur la longueur de u. Si C(v) ≠ C(u).C(s), on a C(u).C(s) = C(u) ∪ C(v). En utilisant l’hypothèse de récurrence, on montrera qu’il existe t ∈ S et w ∈ W tels que

Des relations C(v) ⊂ C(u).C(s) = C(t).C(w).C(s) et C(t).C(w) = C(u) ≠ C(v), on déduira l’existence d’un élément w′ ≠ w tel que C(w′) ⊂ C(w).C(s) et C(v) ⊂ C(t).C(w′), d’où l(w′) ≥ l(v) − 1 > l(u) − 1 = l(w). L’hypothèse de récurrence entraîne alors De plus, on a : et aussi d’où une contradiction puisque w ≠ u, v, w′.

c) Montrer que pour tout w ∈ W et tout s ∈ S, il existe un élément et un seul noté s.w (resp. w \* s) distinct de w tel que

(resp. $C(w * s) \subset C(w).C(s) \subset C(w) \cup C(w * s)$).

(On montrera par récurrence sur l(w) que C(s).C(w) ≠ C(w). Pour cela, on écrira

)

avec $t \in S,\ u \in W$ et $l(w) = l(u) + 1$. Si $C(s) . C(w) = C(w)$, on a

et en multipliant à droite par $C(t)$, on en tire $C(u) \cup C(w) = C(s) . C(u) \cup C(w)$. Comme $C(u) \neq C(s) . C(u)$ par l’hypothèse de récurrence, on a, d’après $b$,

d’où

ce qui est absurde).

$d$ ) Soit $s \in S$. Montrer que l’application $p_s : w \mapsto s.w$ (resp. $q_s : w \mapsto w * s$) est une permutation de $W$ et que $p_s^2 = \mathrm{Id}$ (resp. $q_s^2 = \mathrm{Id}$). Montrer que, pour $s, t \in S$, on a $p_s \circ q_t = q_t \circ p_s$ (on étudiera le produit $C(s) . C(w) . C(t)$ pour $w \in W$ et on montrera que $(s.w) * t \in \{w, s.w, w * t, s.(w * t)\}$; on montrera que $(s.w) * t \notin \{s.w, w * t\}$ et que si $(s.w) * t = w$, on a $s.w = w * t$ et $w = s.(w * t)$).

$e$ ) Montrer que le groupe de permutations $P$ (resp. $Q$) engendré par les $p_s$ (resp. $q_s$) pour $s \in S$, opère de manière simplement transitive sur $W$ (pour montrer que $P$ est transitif, on utilisera (2) et on raisonnera comme au lemme 1 du n° 1; pour montrer que $P$ est simplement transitif, on utilisera $d$). En déduire qu’il existe sur $W$ une structure de groupe et une seule telle que l’application $p \mapsto p(e)$ (où $e$ désigne l’élément de $W$ tel que $B = C(e)$) soit un isomorphisme de $P$ sur $W$. L’application $q \mapsto q(e)$ est alors aussi un isomorphisme; on a $s.w = w * s = sw$ pour tout $s \in S$ et tout $w \in W$ et $C(w)^{-1} = C(w^{-1})$.

$f$ ) Montrer que le couple $(W, S)$ est un système de Coxeter et généraliser les résultats du n° 4.

$g$ ) Soient $X$ une partie de $S$ et $W_X$ le sous-groupe de $W$ engendré par $X$. Montrer que l’ensemble $G_X$ réunion des $C(w)$ pour $w \in W_X$ est un sous-groupe de $G$ et que le th. 3 du n° 5 est encore vrai. Montrer que $B$ est un sous-groupe de Tits de $G_X$. Généraliser les prop. 2 et 3 du n° 5, la déf. 2, la prop. 4 et le th. 4 du n° 6. Montrer que $S$ est l’ensemble des $w \in W$ tels que $B \cup C(w)$ soit un sous-groupe de $G$ distinct de $B$. Le système de Coxeter $(W, S)$ et le groupe $W$ (qu’on appelle groupe de Weyl de $(G, B)$) ne dépendent donc que de $(G, B)$.

$h$ ) Soit $N$ un sous-groupe de $G$ tel que $B \cap N$ soit distingué dans $N$ et que toute double classe $C(w)$ suivant $B$ rencontre $N$ suivant une classe modulo $B \cap N$. Montrer que le groupe $N/(B \cap N)$ s’identifie à $W$ et que $(G, N, B, S)$ est un système de Tits.