§ 6. Transformation de Coxeter
Dans ce paragraphe, désigne un espace vectoriel réel de dimension finie et désigne un sous-groupe fini de , engendré par des réflexions, et essentiel (§ 3, n° 7). On munit d’un produit scalaire invariant par On note l’ensemble des hyperplans de tels que la réflexion orthogonale correspondante appartienne à .
1. Définition des transformations de Coxeter
Nous appellerons chambre ordonnée relative à le couple formé d’une chambre déterminée par et d’une bijection de sur l’ensemble des murs de (cf. § 3, n° 9, prop. 7).
Définition 1
On appelle transformation de Coxeter définie par une chambre ordonnée l’élément de .
Proposition 1
Toutes les transformations de Coxeter de sont conjuguées dans .
Comme permutte transitivement les chambres déterminées par (§ 3, n° 2, th. 1), tout revient à prouver ceci : soient une chambre ordonnée, et ; alors et sont conjugués dans W. Compte tenu du § 4, n° 8, prop. 8, ceci résultera aussitôt du lemme suivant:
Lemme 1
Soient X une forêt finie, x ↦ g_x une application de X dans un groupe Γ, telle que g_x et g_y commutent toutes les fois que x et y ne sont pas liés dans X. Soit T l’ensemble des ordres totaux sur X. Pour tout ξ ∈ T, soit p_ξ le produit dans Γ de la séquence (g_x)_{x ∈ X} définie par ξ. Les éléments p_ξ sont alors conjugués dans Γ.
1) Raisonnons par récurrence sur n = Card X. Le cas où n = 1 est immédiat, supposons n ≥ 2. Il existe dans X un sommet terminal a (chap. IV, Annexe, n° 3, prop. 2). Soit b ∈ X − {a} un sommet lié à a s’il en existe; si a n’est lié à aucun sommet de X − {a}, on prend b quelconque dans X − {a}. Dans tous les cas, g_a commute à g_x pour x ≠ b. Soit η ∈ T tel que a soit le plus grand élément de X et b le plus grand élément de X − {a}; soit ξ ∈ T, et prouvons que p_ξ, p_η sont conjugués.
2) Supposons d’abord que, pour ξ, a soit le plus grand élément de X et b le plus grand élément de X − {a}. Soit X’ le sous-graphe plein X − {a}, qui est une forêt. Définissons une application x ↦ g'_x de X’ dans Γ en posant g'_x = g_x si x ≠ b, g'_b = g_bg_a. Soient ξ’, η’ les restrictions de ξ, η à X’. L’hypothèse de récurrence est applicable, donc p_ξ’ et p_η’ sont conjugués. Mais il est clair que p_ξ’ = p_ξ, p_η’ = p_η, d’où le lemme dans ce cas.
3) Supposons que a soit le plus grand élément de X pour ξ. Soit X_1 (resp. X_2) l’ensemble des éléments de X − {a} strictement majorés (resp. minorés) par b; soit ξ_i la restriction de ξ à X_i. On a
et cet élément est conjugué de p_{ξ_1} p_{ξ_2} g_b g_a. On est donc ramené au cas 2).
4) Dans le cas général, soit X_3 (resp. X_4) l’ensemble des éléments de X strictement majorés (resp. minorés) par a; soit ξ_i la restriction de ξ à X_i. On a p_ξ = p_{ξ_3} g_a p_{ξ_4}, et cet élément est conjugué de p_{ξ_4} p_{ξ_3} g_a. On est donc ramené au cas 3).
Il résulte de la prop. 1 que toutes les transformations de Coxeter ont le même ordre h = h(W). Ce nombre s’appelle le nombre de Coxeter de W.
Remarque
Soient W_1, ..., W_m des groupes finis essentiels dans des espaces V_1, ..., V_m, engendrés par des réflexions. Soit C_f une chambre relative à W_f. Soit W le groupe W_1 × ... × W_m opérant dans V_1 × ... × V_m. Alors C_1 × ... × C_m est une chambre relative à W. Les transformations de Coxeter de W définies par C sont les produits c_1 c_2 ... c_m, où c_j est une transformation de Coxeter de W_f définie par C_f.
2. Valeurs propres d’une transformation de Coxeter. Exposants
Comme toutes les transformations de Coxeter sont conjuguées (n° 1, prop. 1), elles ont même polynôme caractéristique P(T). Soit h le nombre de Coxeter de W. On a
où sont des entiers tels que
Définition 2
Les entiers s’appellent les exposants de W.
Soient C une chambre déterminée par , ses murs, et posons . Notons le vecteur unitaire orthogonal à et situé du même côté de que C. D’après la prop. 2 de l’Annexe du chap. IV, on peut supposer les numérotés de telle manière que soient deux à deux orthogonaux, et que soient deux à deux orthogonaux. Alors est la symétrie orthogonale par rapport au sous-espace
est la symétrie orthogonale par rapport au sous-espace
et est une transformation de Coxeter. Comme est une base de V, V est somme directe de et .
On en déduit d’abord que l' . Car si est tel que , on a , donc est orthogonal à et , donc nul, d’où .
On a par suite
(1)
Le polynôme caractéristique de est à coefficients réels. Donc, pour tout , l’exposant de dans est égal à celui de . D’où
(2)
Ajoutant membre à membre les égalités (2), on obtient :
(3)
Lemme 2
Supposons W irréductible. Avec les notations précédentes, il existe deux vecteurs linéairement indépendants tels que : (i) le plan P engendré par est stable par et ; (ii) et sont les réflexions orthogonales par rapport à et ;
(iii) , et est l’ensemble des combinaisons linéaires de , à coefficients .
Soit la base de telle que . Alors est le cône simplicial ouvert déterminé par les (§ 3, no 9, prop. 7). Il est clair que est engendré par et par . Soit l’endomorphisme de tel que . Sa matrice par rapport à est . On a pour (§ 3, no 4, prop. 3). Puisque est irréductible, il n’existe pas de partition telle que pour et . Donc (§ 3, no 5, lemme 4) admet un vecteur propre à coordonnées toutes ; soit la valeur propre correspondante. Posons
et soit le plan engendré par et . Alors est l’ensemble des combinaisons linéaires de et à coefficients . La relation donne
Ainsi, est orthogonal à , c’est-à-dire à . Donc laisse stable le plan engendré par et , c’est-à-dire . De même, laisse stable . Comme et , et sont les réflexions par rapport à et .
Théorème 1
On suppose irréductible. Alors :
(i) . (ii) Card () = .
Conservons les notations précédentes. La restriction de à P est la rotation d’angle (§ 2, n° 5, cor. de la prop. 6). Comme est d’ordre , les éléments de W sont deux à deux distincts; les éléments , sont donc deux à deux distincts, et sont distincts des précédents car est une rotation et est une réflexion. L’ensemble
est le sous-groupe de W engendré par et , et induit dans P le groupe engendré par les réflexions orthogonales par rapport à . Le transformé de C par un élément de est disjoint de — C ou égal à — C. Donc le transformé de par un élément de est disjoint de — (P C) ou égal à — (P C). Donc, pour une orientation convenable de P, il existe un entier tel que (§ 2, n° 5, cor. de la prop. 7). Par ailleurs, les ensembles , pour , sont deux à deux disjoints; les ensembles , pour , sont donc deux à deux disjoints; ainsi, est d’ordre . D’où . En définitive, est une rotation d’angle , et admet par suite les valeurs propres , . Ceci prouve que , .
Les transformées de et par sont droites de P, et les points de sont transformés par des éléments de de points de . Donc un hyperplan de coupe nécessairement P suivant l’une des droites , et par suite est transformé, par une opération de , d’un hyperplan de contenant ou .
Or, tout qui contient est l’un des hyperplans . En effet, soit le vecteur unitaire orthogonal à H et situé du même côté de H que C. On a avec des tous (§ 3, n° 5, lemme 6, (i)). Or , donc
Supposons que deux des soient non nuls, par exemple et ; comme sont deux à deux orthogonaux, on aurait
et les coordonnées de ne seraient pas toutes de même signe, ce qui est absurde (loc. cit.). Donc est proportionnel à l’un des vecteurs , ce qui prouve notre assertion. De même, tout qui contient est l’un des hyperplans .
Le nombre d’éléments de contenant ou est donc . Si est pair, Card() est donc égal à . Si est impair, Card() est égal à n° 6.2.
Remarque
Conservons les notations de la démonstration précédente. Soient l’extension -linéaire de à , et la restriction de à . D’après l’étude de , admet un vecteur propre correspondant à la valeur propre , et ce vecteur propre n’appartient à aucun ensemble , où désigne une droite de (puisque n’est pas stable par ). Or, pour tout , on a vu que est une droite; donc .
Corollaire
Soit l’ensemble des vecteurs unitaires de orthogonaux à un élément de . Si est irréductible, on a, pour tout ,
Posons . Il est clair que est une forme quadratique positive invariante par , non dégénérée puisque les forment une base de . Comme est irréductible, il existe une constante telle que (§ 2, n° 1, prop. 1). Si est une base orthonormale de pour le produit scalaire , on a
D’où , ce qui prouve (4).
Proposition 2
Si est pair, l’unique élément de qui transforme en est .
Adoptons les notations de la démonstration du th. 1. Puisque est une rotation d’angle , transforme en , en , donc en . Or , donc la chambre est nécessairement .
Proposition 3
Supposons irréductible. Soient des éléments homogènes de l’algèbre symétrique , algébriquement indépendants sur et engendrant l’algèbre des éléments de invariants par (§ 5, n° 3, th. 3). Si est le degré de , les exposants de sont .
Posons , , et prolongeons le produit scalaire de en une forme hermitienne sur . Si est une transformation de Coxeter de W, il existe une base orthonormale de formée de vecteurs propres de (Alg., chap. IX, § 7, n° 3, prop. 4); on peut supposer en outre que, pour , correspond à la valeur propre de . Il est clair que s’identifie à l’algèbre , et l’on peut écrire , où est un polynôme homogène de degré dans . Posons , et . Rappelons (§ 5, n° 4, prop. 5) que est proportionnel au produit dans de vecteurs de donc chacun est orthogonal à un hyperplan de . Comme on peut supposer que pour tout (Remarque), les composantes sur de chacun des vecteurs sont , donc . La règle de développement d’un déterminant prouve alors l’existence d’une permutation de telle que pour tout . Comme est homogène de degré , le coefficient de dans est non nul. Or est invariant par , et
Ceci prouve que (mod. ). Or est un exposant (formule (2)). En permutant les , on peut donc supposer que (mod. ) pour tout . Comme et , on a avec entier . D’après le § 5, prop. 3, on voit que
Compte tenu de la formule (3) et du th. 1 (ii), on obtient , donc , pour tout et finalement pour tout .
Corollaire 1
Si* est la suite croissante des exposants de , l’ordre de est égal à . Ceci résulte des relations et du § 5, n° 3, cor. du th. 3.
Corollaire 2
Si* est une transformation de Coxeter de ,
sont des valeurs propres de multiplicité 1 de .
Dans le cas contraire, il existerait deux invariants homogènes de degré 2 non proportionnels dans , d’où deux formes quadratiques non proportionnelles sur invariantes par , contrairement au § 2, n° 1, prop. 1.
Corollaire 3
Pour que l’homothétie de rapport — 1 dans V appartienne à W, il faut et il suffit que tous les exposants de W soient impairs. Lorsqu’il en est ainsi, h est pair et l’on a pour toute transformation de Coxeter c de W.
La première assertion résulte du § 5, n° 3, prop. 4. Supposons les exposants de W impairs. Alors h est pair d’après la formule (2), et
donc puisque c est un automorphisme semi-simple de V (Alg., chap. IX, § 7, n° 3, prop. 4).
Exercices
Dans les exercices ci-dessous (exerc. 3 excepté), les hypothèses et notations sont celles du § 6.
See the exercises for § 6.