§ 1. Groupes de Coxeter
Dans tout ce paragraphe, on désigne par W un groupe, noté multiplicativement, d’élément neutre 1, et par S un sous-ensemble générateur de W tel que S = S^{-1} et 1 \notin S. Tout élément de W est produit d’une suite finie d’éléments de S. À partir du n° 3, on suppose que tout élément de S est d’ordre 2.
1. Longueur et décompositions réduites
Définition 1
Soit w \in W. On appelle longueur de w (par rapport à S), et l’on note l_S(w) ou simplement l(w), le plus petit entier q \geq 0 tel que w soit produit d’une suite de q éléments de S. On appelle décomposition réduite de w (par rapport à S) toute suite s = (s_1, \ldots, s_q) d’éléments de S telle que w = s_1 \ldots s_q et q = l(w).
Ainsi 1 est l’unique élément de longueur 0 et S se compose des éléments de longueur 1.
Proposition 1
Soient w et w' dans W. On a les formules:
(1) \quad l(ww') \leq l(w) + l(w') (2) \quad l(w^{-1}) = l(w) (3) \quad |l(w) - l(w')| \leq l(ww'^{-1}).
Soient (s_1, \ldots, s_p) et (s'_1, \ldots, s'_q) des décompositions réduites de w et w' respectivement; on a donc l(w) = p et l(w') = q, et comme on a ww' = s_1 \ldots s_p s'_1 \ldots s'_q, on a l(ww') \leq p + q, d’où (1). Comme S = S^{-1} et w^{-1} = s_p^{-1} \ldots s_1^{-1}, on a l(w^{-1}) \leq p = l(w); remplaçant w par w^{-1}, on obtient l’inégalité opposée l(w) \leq l(w^{-1}), d’où (2). Remplaçant w par ww'^{-1} dans (1) et (2), on obtient les relations:
(4) \quad l(w) - l(w') \leq l(ww'^{-1}), (5) \quad l(ww'^{-1}) = l(w'w^{-1});
en échangeant w et w' dans (4), on obtient l(w') - l(w) \leq l(ww'^{-1}) d’après (5), d’où (3).
Corollaire
Soient s = (s_1, \ldots, s_p) et s' = (s'_1, \ldots, s'_q) deux suites d’éléments de S telles que w = s_1 \ldots s_p et w' = s'_1 \ldots s'_q. Si la suite (s_1, \ldots, s_p, s'_1, \ldots, s'_q) est une décomposition réduite de , alors est une décomposition réduite de et en est une de .
Par hypothèse, on a , et . D’après (1), on a donc et , d’où le corollaire.
Remarque
La formule définit une distance sur , invariante par les translations à droite, en vertu des formules (1) et (2).
2. Groupes diédraux
Définition 2
On appelle groupe diédral tout groupe engendré par deux éléments d’ordre 2, distincts.
Exemple
Soit le groupe multiplicatif , et soit un entier (resp. ). On fait opérer sur le groupe (resp. sur ) par , et l’on note le produit semi-direct correspondant de par (resp. de par ). Les éléments de sont donc les couples avec et (resp. ); la loi de groupe dans est donnée par la formule:
On note la classe de 1 modulo (resp. ) et l’on pose
on a alors et . Les formules
montrent que est un groupe diédral engendré par .
Proposition 2
On suppose que se compose de deux éléments distincts et d’ordre 2.
(i) Le sous-groupe de engendré par est distingué, et est produit semi-direct du sous-groupe et de . De plus, on a .
(ii) Soit l’ordre (fini ou non) de . On a et est d’ordre . Il existe un unique isomorphisme de sur tel que et .
(i) On a , d’où
pour tout entier . Comme est engendré par , donc par , le sous-groupe de est distingué. Par suite, TP est un sous-groupe de ; comme TP contient et , on a donc . Pour prouver (i), il suffit donc de montrer que l’on a . Si l’on avait , le groupe serait commutatif, d’où ; les seuls éléments de seraient 1 n° 1.3.
et , contrairement à l’hypothèse que contient au moins trois éléments, à savoir et .
(ii) Comme on a , on a , d’où . Comme est d’ordre et que l’on a , l’ordre de est . Si est fini (resp. infini), il existe un isomorphisme de (resp. ) sur appliquant sur ; il existe de plus un isomorphisme de sur appliquant — 1 sur . Le groupe est produit semi-direct de et ; d’après les formules (9) et , on déduit de et un isomorphisme de sur tel que et , d’où . L’unicité de résulte de ce que est engendré par .
Remarque
Considérons un groupe diédral d’ordre , engendré par deux éléments distincts et d’ordre 2. Désignons par (resp. ) la suite de longueur dont les termes de rang impair (resp. pair) sont égaux à et les termes de rang pair (resp. impair) à et soit (resp. ) le produit de la suite (resp. ). On a:
Si est une décomposition réduite (par rapport à ) d’un élément de , on a évidemment pour . Par suite, on a ou .
Si , les éléments et pour sont distincts. Par suite, les éléments () et () sont distincts et si est une décomposition réduite de (resp. ), on a nécessairement (resp. ). Il en résulte que et que l’ensemble des décompositions réduites d’éléments de est l’ensemble des et des . De plus, tout élément de possède une seule décomposition réduite.
Supposons maintenant fini. Si , on a et ; si , on a , . Par suite, ni ni ne sont des décompositions réduites dès que . On en déduit que chacun des éléments de est l’un des éléments et pour et . Ces éléments sont donc distincts et il en résulte comme plus haut que pour et que l’ensemble des décompositions réduites d’éléments de est l’ensemble des et des pour . Tout élément de distinct de possède une seule décomposition réduite; en possède deux.
3. Premières propriétés des groupes de Coxeter
Rappelons qu’à partir de maintenant, on suppose que les éléments de sont d’ordre 2.
Définition 3
On dit que est un système de Coxeter s’il satisfait à la condition suivante :
(C) Pour dans , soit l’ordre de ; soit l’ensemble des couples tels que soit fini. L’ensemble générateur et les relations pour dans forment une présentation (*) du groupe .
Lorsque est un système de Coxeter, on dit aussi, par abus de langage, que est un groupe de Coxeter.
Exemple 1
Soit un entier ou et soit un groupe défini par un ensemble générateur et les relations lorsque , lorsque est fini. Considérons d’autre part le groupe diédral (n° 2, Exemple) et les éléments et de définis par (7). Puisque et que lorsque est fini, il existe un homomorphisme et un seul de sur tel que et . Comme est d’ordre , il en résulte que est lui aussi d’ordre . Par suite, est un système de Coxeter, est un groupe diédral d’ordre et est un isomorphisme (prop. 2).
Par transport de structure, on en déduit que tout groupe diédral est un groupe de Coxeter.
Exemple 2
Soit le groupe symétrique de degré , avec . Soit la transposition de et pour , et soit . On peut montrer (§ 2, n° 4, Exemple et § 1, exerc. 4) que est un système de Coxeter.
Exemple 3
Pour la classification des groupes de Coxeter finis, cf. Chap. VI, § 4.
Remarque
Supposons que soit un système de Coxeter. Il existe un homomorphisme de dans le groupe caractérisé par pour tous . On dit que est la signature de ; elle est égale à . La formule se traduit donc par mod. 2.
Proposition 3
Supposons que soit un système de Coxeter. Pour que deux éléments et de soient conjugués (***) dans , il faut et il suffit que la condition suivante soit remplie: (I) Il existe une suite finie d’éléments de telle que et que soit d’ordre fini impair pour .
Soient et dans tels que soit d’ordre fini . D’après (9), on a , d’où
Pour tout dans , soit l’ensemble des satisfaisant à (I). Avec les hypothèses de (I), les éléments et sont conjugués pour d’après ce qui précède, donc tout élément de est conjugué de .
(*) Ceci signifie que satisfait à la propriété universelle suivante: étant donnés un groupe et une application de dans telle que pour dans , il existe un homomorphisme de dans prolongeant . Cet homomorphisme est unique car engendre . Une forme équivalente de cette définition est la suivante : soient un groupe, un homomorphisme de sur et une application de dans telle que et pour dans et que les (pour ) engendrent ; alors est injectif (donc un isomorphisme de sur ).
(**) Rappelons que deux éléments (resp. deux sous-ensembles) d’un groupe sont dits conjugués s’il existe un automorphisme intérieur de qui transforme l’un en l’autre.
n° 1.4.
Soit l’application de dans égale à 1 dans et à — 1 dans . Soient et dans tels que soit d’ordre fini ; on a si et sont tous deux dans ou dans ; dans les autres cas, on a , mais est pair; on a donc dans tous les cas. Comme est un système de Coxeter, il existe un homomorphisme de dans induisant sur . Soit un conjugué de ; comme appartient au noyau de , il en est de même de , d’où et finalement . C.Q.F.D.
4. Décompositions réduites dans un groupe de Coxeter
Supposons que soit un système de Coxeter. Soit l’ensemble des conjugués des éléments de dans . Pour toute suite finie d’éléments de , on note la suite d’éléments de définie par :
On a et . Pour tout élément , on note le nombre d’entiers tels que et . Enfin, on pose
Lemme 1
(i) *Soient et . Le nombre a la même valeur pour toutes les suites d’éléments de telles que .
(ii) Pour , soit l’application de dans lui-même définie par :
L’application est un homomorphisme de dans le groupe des permutations de .
Pour , définissons une application de dans lui-même par :
où est le symbole de Kronecker. On vérifie aussitôt que , ce qui montre que est une permutation de .
Soit une suite d’éléments de . Posons et . Nous allons montrer, par récurrence sur , que l’on a :
C’est évident pour . Si , posons et
En utilisant l’hypothèse de récurrence, on obtient :
Or et d’où la formule (14).
Soient alors , tels que soit d’ordre fini . Soit la suite d’éléments de définie par pour impair et pour pair. On a et la formule (11) entraîne :
Comme est d’ordre , les éléments sont distincts et l’on a pour . Pour tout , l’entier est donc égal à 0 ou à 2 et (14) montre que . Autrement dit, on a . D’après la définition même des systèmes de Coxeter, il existe donc un homomorphisme de dans le groupe des permutations de tel que soit donné par le second membre de (13). On a alors pour toute suite telle que et le lemme 1 résulte immédiatement de (14).
Lemme 2
Soient , et . Soit l’ensemble des éléments tels que . Pour que soit une décomposition réduite de , il faut et il suffit que les soient distincts; on a alors et .
On a évidemment ; en prenant réduite, on en déduit d’abord que . De plus, si les sont distincts, est égal à 1 ou 0 suivant que appartient ou non à . D’où et , ce qui entraîne que est réduite. Supposons enfin que l’on ait avec . On en tire , avec , d’où aussitôt
ce qui montre que n’est pas une décomposition réduite de .
Lemme 3
Soient et tels que . Pour toute suite d’éléments de avec , il existe un entier tel que et
Soient la longueur de et . D’après la Remarque du no 3, on a mod. 2; l’hypothèse et la relation
entraînent . Choisissons une décomposition réduite
n° 1.5.
de et posons et . Il est clair que est une décomposition réduite de et que l’on a ; les éléments étant distincts par le lemme 2, on a . Comme est le produit de la suite , on a mod. 2 d’après le lemme 1, d’où ; par suite, est égal à l’un des éléments de la suite , d’où le lemme.
Remarque
L’ensemble défini au lemme 2 se compose des éléments de la forme correspondant aux triplets tels que et .
5. La condition d’échange
On désigne sous le nom de « condition d’échange » l’assertion suivante sur :
(E). Soient et tels que . Pour toute décomposition réduite de , il existe un entier tel que et
On suppose dans ce numéro que satisfait à (E); d’après le lemme 3, il en est ainsi si est un système de Coxeter. Les résultats de ce numéro s’appliquent donc aux systèmes de Coxeter.
Proposition 4
Soient , et une décomposition réduite de . Deux cas seulement sont possibles:
a) et est une décomposition réduite de . b) et il existe un entier tel que , que
soit une décomposition réduite de et que la suite soit une décomposition réduite de .
Posons ; d’après la formule (3) du n° 1, on a
Nous distinguerons deux cas:
a) . On a donc et , donc
est une décomposition réduite de .
b) . D’après (E), il existe un entier tel que , satisfaisant à (16). On a alors , d’où
comme on a , on a nécessairement et est une décomposition réduite de .
Lemme 4
Soient de longueur , l’ensemble des décompositions réduites de , et une application de dans un ensemble . On suppose que l’on a si les éléments , de satisfont à l’une des hypothèses suivantes :
a) On a ou .
b) Il existe et dans tels que et pour impair et pair.
Alors est constante.
A) Soient ; posons . Nous allons montrer que si , on a et . On a en effet , donc est de longueur . D’après la prop. 4, il existe un entier tel que et que la suite appartienne à . On a d’après la condition a); si l’on avait , on aurait pour la même raison, d’où contrairement à l’hypothèse. On a donc , d’où et .
B) Soient et dans . Pour tout entier avec , définissons une suite de éléments de de la manière suivante :
Notons l’assertion « et ». D’après (A), on a pour , et n’est pas satisfaite d’après la condition b). Par suite, n’est pas satisfaite. Comme et , il en résulte que .
Proposition 5
Soient un monoïde (avec élément unité 1) et une application de dans . Pour dans , soit l’ordre de ; on pose
Si l’on a quels que soient dans , il existe une application de dans telle que
pour tout et toute décomposition réduite de .
Pour tout , soient l’ensemble des décompositions réduites de et l’application de dans définie par
n° 1.6.
Nous allons prouver par récurrence sur la longueur de que est constante, ce qui établira la prop. 5. Les cas étant triviaux, nous supposons et notre assertion prouvée pour les éléments avec . Soient de longueur et dans ; d’après le lemme 4, il suffit de prouver que l’on a dans les cas a) et b) dudit lemme.
a) La formule
pour et et l’hypothèse de récurrence montrent que l’on a si ou .
b) Supposons qu’il existe deux éléments et de tels que et pour impair et pair. Il suffit de traiter le cas . Les suites et sont alors deux décompositions réduites distinctes de dans le groupe diédral engendré par et . D’après la Remarque du n° 2, l’ordre de est nécessairement fini et l’on a, avec les notations de cette remarque, et . Par suite, on a et , d’où
6. Caractérisation des groupes de Coxeter
Théorème 1
Pour que soit un système de Coxeter, il faut et il suffit qu’il satisfasse à la condition d’échange (E) du n° 5.
Le lemme 3 du n° 4 montre que tout système de Coxeter satisfait à (E).
Réciproquement, supposons (E) vérifiée. Soient un groupe et une application de dans , telle que l’on ait chaque fois que et appartiennent à et que est d’ordre fini . D’après la prop. 5, il existe alors une application de dans telle que l’on ait:
chaque fois que est de longueur . Pour prouver que est un système de Coxeter, il suffit de prouver que est un homomorphisme, ce qui est conséquence de la formule
puisque engendre . D’après la prop. 4 du n° 5, deux cas seulement sont possibles :
a) : si est une décomposition réduite de , alors est une décomposition réduite de , d’où (21).
b) : posons ; on a et . D’après a), on a donc , d’où puisque l’on a .
7. Familles de partitions
Supposons que (W, S) soit un système de Coxeter. Pour tout s dans S, notons P_s l’ensemble des éléments w de W tels que . On a les propriétés suivantes :
(A) On a .
En effet, soit dans W et soit une décomposition réduite de w. On a , et est une décomposition réduite de , d’où et . On a donc .
(B) Pour tout s dans S, les ensembles et forment une partition de W.
Soient et . D’après la prop. 4 du n° 5, on doit distinguer deux cas : a) : on a alors . b) : posons d’où ; on a alors
(C) Soient s, s' dans S et w dans W. Si l’on a et , on a .
Soit q la longueur de w. De , on déduit ; de , on déduit et comme on a , on a finalement et .
Soient une décomposition réduite de w et ; alors est une décomposition réduite de l’élément de longueur . D’après la condition d’échange, il existe un entier j avec tel que
Réciproquement, on a le résultat suivant :
Proposition 6
Soit* une famille de parties de W satisfaisant à (C) et aux conditions suivantes :
(A') On a pour tout . (B') Les ensembles et sont disjoints pour tout . Alors, (W, S) est un système de Coxeter et se compose des éléments w de W tels que .
Soient et . De deux choses l’une : a) . Soient une décomposition réduite de w et
n° 1.8.
pour ; on pose aussi . Comme on a d’après (A’) et que n’est pas dans , il existe un entier avec tel que et que n’appartienne pas à . D’après (C), on a donc
On a donc prouvé la formule
qui entraîne et .
posons , d’où d’après (B’). D’après a), on a alors , c’est-à-dire .
La comparaison de a) et b) prouve que se compose des tels que . La condition d’échange résulte de ce qui a été vu en a), donc est un système de Coxeter (th. 1 du n° 6).
8. Sous-groupes des groupes de Coxeter
Dans ce numéro, on suppose que est un système de Coxeter. Pour toute partie de , on note le sous-groupe de engendré par .
Proposition 7
Soit dans . Il existe une partie de telle que l’on ait pour toute décomposition réduite de .
On note le monoïde formé des parties de avec la loi de composition ; l’élément neutre de est . On pose pour . Nous allons appliquer la prop. 5 du n° 5 à et ; on a pour dans si est fini, et il existe donc une application de dans telle que , c’est-à-dire pour tout et toute décomposition réduite de .
Corollaire 1
Pour toute partie de , le sous-groupe de se compose des éléments de tels que .
Si avec dans , on a ; on en déduit
La prop. 4 du n° 5 montre que l’on a pour et , d’où la formule
par récurrence sur la longueur de . D’après (23) et (24), l’ensemble des tels que est un sous-groupe de ; on a , d’où .
Corollaire 2
Pour toute partie de , on a .
Cela résulte du cor. 1 et de la formule pour dans .
Corollaire 3
L’ensemble S est un ensemble générateur minimal de W. Si X ⊂ S engendre W, on a W = W_X, d’où X = S ∩ W_X = S d’après le cor. 2.
Corollaire 4
Pour toute partie X de S et tout w dans W_X, la longueur de w par rapport à l’ensemble générateur X de W_X est égale à l_S(w). Soit (s_1, ..., s_q) une décomposition réduite de w considéré comme élément de W; on a w = s_1 ... s_q et s_j ∈ X pour 1 ≤ j ≤ q (cor. 1); par ailleurs, w ne peut être produit de q' < q éléments de X ⊂ S par définition de q = l_S(w).
Théorème 2
(i) Pour toute partie X de S, le couple (W_X, X) est un système de Coxeter. (ii) Soit (X_i)_{i ∈ I} une famille de parties de S. Si X = ⋂_{i ∈ I} X_i, on a W_X = ⋂_{i ∈ I} W_{X_i}. (iii) Soient X et X' deux parties de S. On a W_X ⊂ W_{X'} (resp. W_X = W_{X'}) si et seulement si l’on a X ⊂ X' (resp. X = X').
Tout élément de X est d’ordre 2 et X engendre W_X. Soient x ∈ X et w ∈ W_X avec l_X(xw) ≤ l_X(w) = q. D’après le cor. 4 de la prop. 7, on a donc
9. Matrices et graphes de Coxeter
Définition 4
Soit I un ensemble. On appelle matrice de Coxeter de type I toute matrice carrée symétrique M = (m_{ij})_{i,j ∈ I} dont les éléments sont des entiers ou +∞ satisfaisant aux relations: (25) pour tout ; (26) pour avec .
On appelle (par abus de langage) graphe de Coxeter de type I un couple formé d’un graphe Γ (*) ayant I comme ensemble de sommets et d’une application f de l’ensemble des arêtes de ce graphe dans l’ensemble formé de +∞ et des entiers ≥ 3. On dit que Γ est le graphe sous-jacent au graphe de Coxeter (Γ, f).
A toute matrice de Coxeter M de type I, on associe un graphe de Coxeter (Γ, f) de la manière suivante: le graphe Γ a pour ensemble de sommets I et pour ensemble d’arêtes les parties {i, j} de I telles que m_{i,j} ≥ 3, l’application f associe à l’arête {i, j} l’élément correspondant m_{ij} de M.
(*) Voir l’annexe pour la définition et les propriétés des graphes utilisées ici.
Il est clair que l’on obtient ainsi une bijection de l’ensemble des matrices de Coxeter de type I sur l’ensemble des graphes de Coxeter de type I.
Pour faciliter la lecture des raisonnements, on représente souvent un graphe de Coxeter de type I par la figure utilisée pour représenter son graphe sous-jacent, où l’on inscrit en outre à côté ou au-dessus de chaque arête {i, j} le nombre f({i, j}). On omet généralement d’inscrire ceux de ces nombres qui sont égaux à 3.
Si (W, S) est un système de Coxeter, la matrice , où est l’ordre de ss', est une matrice de Coxeter de type S, que l’on appelle la matrice de (W, S) : on a en effet puisque pour tout , et si puisque est alors . Le graphe de Coxeter () associé à s’appelle le graphe de Coxeter de (W, S). Remarquons que deux sommets s et s' de sont liés si et seulement si s et s' ne commutent pas. Par exemple, la matrice de Coxeter d’un groupe diédral d’ordre est et son graphe de Coxeter est représenté par
lorsque (ou
si ) et par
lorsque . *Le graphe de Coxeter du groupe symétrique est représenté par
On montrera plus tard (chap. V, § 4) que réciproquement toute matrice de Coxeter est la matrice d’un système de Coxeter.
On dit qu’un système de Coxeter (W, S) est irréductible si le graphe sous-jacent au graphe de Coxeter associé est connexe (Annexe, no 2) et non vide. Il revient au même de dire que S est non vide et qu’il n’existe pas de partition de S en deux ensembles S' et S'' distincts de S tels que tout élément de S' commute avec tout élément de S''. Plus généralement, soit la famille des composantes connexes de (Annexe, no 2) et soit l’ensemble des sommets de . Soit le sous-groupe de W engendré par (cf. no 8). Alors les sont des systèmes de Coxeter irréductibles (no 8, th. 2) qu’on appelle les composantes irréductibles de (W, S). De plus, le groupe W est produit direct restreint (*) des
(*) On dit qu’un groupe G est produit direct restreint d’une famille de sous-groupes si, pour toute partie finie J de I, le sous-groupe de G engendré par les pour est produit direct des pour , et si G est la réunion des . Il revient au même de dire que tout élément de commute avec tout élément de pour et que tout élément de G s’écrit d’une manière et d’une seule comme produit avec et sauf pour un nombre fini d’indices. Cette dernière condition équivaut à dire que G est engendré par la réunion des et que pour tout et toute partie finie telle que .
sous-groupes pour . Cela résulte en effet de la proposition plus générale suivante :
Proposition 8
Soit* une partition de S, telle que tout élément de Si commute avec tout élément de S_j pour i \neq j*. Pour tout i \in I, soit le sous-groupe engendré par Si*. Alors W est produit direct restreint de la famille .
Il est clair que pour tout , le sous-groupe engendré par la réunion des pour est aussi engendré par . On a donc
d’après le th. 2 du n° 8. Comme W est engendré par la réunion des , cela démontre la proposition.
Exercices
See the exercises for § 1.