§ 3. Groupes de déplacements engendrés par des réflexions
Dans ce paragraphe, on désigne par un espace affine réel de dimension finie , par l’espace des translations de . On suppose muni d’un produit scalaire (c’est-à-dire une forme bilinéaire symétrique positive non dégénérée) noté . Pour , on pose . La fonction est une distance sur , qui définit la topologie de (§ 1).
On désigne par un ensemble d’hyperplans de et par le groupe de déplacements de l’espace euclidien engendré par les réflexions orthogonales par rapport aux hyperplans (§ 2, no 4). On suppose que les conditions suivantes sont satisfaites :
(D 1) Pour tout et tout , l’hyperplan appartient à ; (D 2) Le groupe muni de la topologie discrète opère proprement dans .
Comme est localement compact, il résulte de la Remarque du § 4, no 5 de Top. gén., chap. III, 3e éd., que la condition (D 2) équivaut à la condition suivante :
(D' 2) Quelles que soient les parties compactes et de , l’ensemble des tels que rencontre est fini.
1. Résultats préliminaires
Lemme 1
L’ensemble d’hyperplans* est localement fini.
Soit en effet une partie compacte de . Si un hyperplan rencontre , l’ensemble rencontre aussi , puisque tout point de est fixe par . L’ensemble des rencontrant est donc fini d’après (D' 2).
On peut donc appliquer à E et les définitions et résultats du . Nous appellerons simplement chambres, facettes, murs, etc. relatifs à W les chambres, facettes, murs, etc. définis dans E par . Un déplacement permutent entre elles les chambres, les facettes, les murs, etc
Lemme 2
Soit C une chambre.
(i) Pour tout , il existe un élément tel que . (ii) Pour toute chambre , il existe un élément tel que . (iii) Le groupe W est engendré par l’ensemble des réflexions orthogonales par rapport aux murs de C.
Soit l’ensemble des murs de C et soit le sous-groupe de W engendré par les réflexions par rapport aux murs de C. Démontrons (i) : soit et soit J l’orbite de par rapport au groupe . Il suffit de prouver que J rencontre .
Soit un point de C ; il existe une boule fermée B de centre rencontrant J ; comme B est compacte, la propriété (D’ 2) du n° 1 montre que est fini. Il existe donc un point de J tel que
(1)
On va prouver que l’on a . Pour cela, il suffit de montrer que si H est un mur de C, on a (cf. § 1, n° 4, prop. 9). Comme on a , on a d’où (fig. 1)
(2)
Figure 1
(ii) Soient une chambre et . D’après ce qu’on vient de démontrer, il existe tel que ; par suite, la chambre rencontre ; comme est réunion de et de facettes d’intérieur vide (§ 1, n° 2, prop. 3), on a .
(iii) On a à prouver et il suffit de prouver que l’on a pour tout . Or est le mur d’au moins une chambre (§ 1, n° 4, prop. 8); on a vu qu’il existe tel que ; par suite, il existe un mur H de C tel que , d’où .
2. Relation avec les systèmes de Coxeter
Théorème 1
Soient C une chambre et S l’ensemble des réflexions par rapport aux murs de C.
(i) Le couple (W, S) est un système de Coxeter. (ii) Soient w ∈ W et H un mur de C. La relation l(s_H w) > l(w) signifie que les chambres C et w(C) sont du même côté de H. (iii) Pour toute chambre C', il existe un unique élément w ∈ W tel que w(C) = C'. (iv) L’ensemble des hyperplans H tels que s_H ∈ W est égal à .
Tout élément de S est d’ordre 2 et le lemme 2 montre que S engendre W. Pour tout mur H de C, notons P_H l’ensemble des w ∈ W tels que les chambres C et w(C) (qui ne rencontrent pas H) soient du même côté de H. Nous allons vérifier les conditions (A'), (B') et (C) du chap. IV, § 1, no 7.
(A') 1 ∈ P_H : Trivial. (B') P_H est disjoint de s_H . P_H : En effet, w(C) et s_H w(C) sont de part et d’autre de H, donc si w(C) est du même côté de H que C, il n’en est pas de même de s_H w(C). (C) Soient w ∈ P_H et H' un mur de C tel que ws_{H'} ∉ P_H ; on a ws_{H'} = s_H w : Par hypothèse w(C) est du même côté de H que C, et ws_{H'}(C) est de l’autre côté de H. Donc ws_{H'}(C) et w(C) sont de part et d’autre de H ; les chambres s_{H'}(C) et C sont de part et d’autre de l’hyperplan w^{-1}(H). Soit a un point de la face de C de support H'. Le point a = s_{H'}(a) est adhérent aux deux chambres C et s_{H'}(C) qui sont respectivement contenues dans les deux demi-espaces ouverts limités par w^{-1}(H) ; on a donc a ∈ w^{-1}(H), d’où H' = w^{-1}(H). De là, on tire s_{H'} = w^{-1} s_H w, d’où ws_{H'} = s_H w.
Ceci étant, les assertions (i) et (ii) résultent de la prop. 6 du chap. IV, § 1, no 7. On a de plus (loc. cit., condition (A))
Le lemme 2 montre que W est transitif sur l’ensemble des chambres. De plus, si w ∈ W est tel que w(C) = C, on a w ∈ P_H pour tout mur H de C, d’où w = 1 par (3). Ceci établit (iii).
Soit enfin H un hyperplan tel que s_H ∈ W. Si l’on avait H ∉ , il existerait au moins une chambre C' rencontrant H (§ 1, no 3, prop. 7). Tout point de H ∩ C' est invariant par s_H, donc appartient aux chambres C' et s_H(C') ; on a donc C' = s_H(C') ce qui contredit (iii) puisque s_H ≠ 1.
Corollaire
Soit Σ un ensemble de réflexions engendrant W. Toute réflexion appartenant à W est conjuguée à un élément de Σ.
Soit ' l’ensemble des hyperplans de la forme w(H) avec w ∈ W et H ∈ tel que s_H ∈ Σ. Comme W est engendré par la famille (s_H)_{H \in '} et que ' est stable par W, on peut appliquer à ' au lieu de tous les résultats de ce no ; mais le th. 1, (iv) montre que toute réflexion de W est de la forme s_H avec H ∈ ', d’où le corollaire.
3. Domaine fondamental, stabilisateurs
Rappelons (Intégr., chap. VII, § 2, n° 10, déf. 2) qu’une partie D de E est appelée un domaine fondamental pour le groupe W si toute orbite de W dans E rencontre D en un point et un seul. Ceci équivaut à la conjonction des deux conditions :
a) Pour tout , il existe tel que .
b) Étant donnés et tels que , on a (mais on peut avoir ).
Nous allons démontrer les trois énoncés suivants :
Théorème 2
Pour toute chambre C, l’adhérence de C est un domaine fondamental pour W opérant dans E.
Proposition 1
Soient F une facette et C une chambre telles que . Soit . Les conditions suivantes sont équivalentes :
(i) rencontre F; (ii) ; (iii) ; (iv) laisse fixe au moins un point de F; (v) laisse fixe tout point de F; (vi) laisse fixe tout point de ; (vii) appartient au sous-groupe de W engendré par les réflexions par rapport aux murs de C contenant F.
Pour toute partie A de E, notons W(A) le sous-groupe de W formé des éléments laissant fixes tous les points de A.
Proposition 2
Soit A une partie non vide de E, soit l’ensemble des hyperplans contenant A, soit l’intersection des et soit F une facette de E, ouverte dans (§ 1, n° 3, prop. 7). On a , et est engendré par les réflexions par rapport aux hyperplans de .
Démontrons tout d’abord l’assertion suivante :
(I) Soient C une chambre, x et y deux points de et tel que . On a alors et appartient au sous-groupe , où est l’ensemble des murs de C contenant x.
Nous raisonnons par récurrence sur la longueur q de w (relativement à l’ensemble S des réflexions par rapport aux murs de C), le cas étant évident. Si , il existe un mur H de C et un élément tel que et . Puisque , les chambres C et sont de part et d’autre de H d’après le th. 1 du n° 2. On a donc , d’où . On a alors et l’hypothèse de récurrence entraîne et . De on déduit , d’où , ce qui termine la démonstration de (I).
Démonstration du théorème 2 : il résulte de (I) et du lemme 2.
Démonstration de la proposition 1 : on sait que deux facettes distinctes sont disjointes et ont des adhérences distinctes (§ 1, n° 2, cor. de la prop. 3). L’équivalence de (i), (ii) et (iii) en résulte. D’autre part, il est clair que
(vii) (vi) (v) (iv) (i)
et l’assertion (I) montre que (i) (vii).
Démonstration de la proposition 2 : soit le sous-espace affine de E engendré par A. On a évidemment . D’après la prop. 7 du § 1, n° 3, il existe un point n’appartenant à aucun hyperplan . Soit la facette contenant : elle est ouverte dans et la prop. 1 montre que
d’où . En remplaçant A par F, on a aussi
d’où la proposition.
Remarque 1
Il résulte du th. 2 que si C est une chambre et F une facette, il existe une facette F' et une seule contenue dans qui soit transformée de F par un élément de W.
Remarque 2
Il résulte des prop. 1 et 2 que pour toute partie non vide A de E, il existe un point tel que ; de plus, le groupe est un groupe de Coxeter (th. 1).
Remarque 3
Soient C une chambre de E et S l’ensemble des réflexions par rapport aux murs de C. Soit et soit une décomposition réduite de par rapport à S. Si est fixe par , on a pour tout : cela résulte de la prop. 1 ci-dessus et du cor. 1 de la prop. 7 du chap. IV, § 1.
4. Matrice et graphe de Coxeter de W
Soient C une chambre, l’ensemble des réflexions orthogonales par rapport aux murs de C et la matrice de Coxeter du système de Coxeter (W, S) (chap. IV, § 1, n° 9) : rappelons que est l’ordre (fini ou ) de l’élément de W (pour ). Si est une autre chambre, l’unique élément tel que définit une bijection
de S sur , et l’on a . Il en résulte que, si l’on fait opérer W sur l’ensemble X des couples (C, s), où C est une chambre et où , en posant , chaque orbite i de W dans X rencontre chacun des ensembles en un point et un seul, que l’on note . Soit alors I l’ensemble de ces orbites ; pour , le nombre est indépendant du choix de la chambre C. La matrice
M(W) = (m_{ij})_{i,j \in I} est une matrice de Coxeter que l’on appelle la matrice de Coxeter de W. Le graphe de Coxeter associé à M(W) (chap. IV, , no 9) est appelé le graphe de Coxeter de W
Soit C une chambre. Pour tout i \in I, on désigne par H_i(C) le mur de C tel que s_i(C) soit la réflexion par rapport à H_i(C) et par e_i(C) le vecteur unitaire orthogonal à H_i(C) et situé du même côté de H_i(C) que C. L’application i \mapsto H_i(C) est appelée la famille canoniquement indexée des murs de C.
Proposition 3
Soit C une chambre, et soient i, j \in I, avec i \neq j. Posons s_i = s_i(C), H_i = H_i(C), e_i = e_i(C) et définissons de même s_j, H_j et e_j.
(i) Si H_i et H_j sont parallèles, on a m_{ij} = \infty et e_i = -e_j.
(ii) Si H_i et H_j ne sont pas parallèles, alors m_{ij} est fini et on a :
(iii) On a (e_i|e_j) \leq 0.
Si H_i et H_j sont parallèles, s_i s_j est une translation (§ 2, no 4, prop. 5), d’où m_{ij} = \infty. De plus, on a ou bien e_i = e_j, ou bien e_i = -e_j. Or il existe un point a (resp. a’) adhérent à C et appartenant à H_i (resp. H_j), mais n’appartenant pas à H_j (resp. H_i). On a alors (a’ - a|e_i) > 0 et (a - a’|e_j) > 0, ce qui exclut le cas e_i = e_j et démontre (i).
Supposons maintenant que H_i et H_j ne soient pas parallèles. Choisissons une origine a \in H_i \cap H_j et identifions T et E par la bijection t \mapsto a + t. Soit V le plan orthogonal à H_i \cap H_j passant par a. Posons \Gamma = V \cap D_{H_i}(C) \cap D_{H_j}(C) (où D_H(C) désigne le demi-espace ouvert limité par H et contenant C (§ 1, no 1)) et soit D (resp. D’) la demi-droite de V portée par H_i \cap V (resp. H_j \cap V) et contenue dans l’adhérence de \Gamma. Pour une orientation convenable de V l’ensemble \Gamma est la réunion des demi-droites ouvertes \Delta de V telles que
Soit W’ le sous-groupe de W engendré par s_i et s_j. Pour tout w \in W’, les hyperplans w(H_i) et w(H_j) appartiennent à \mathscr{S}, contiennent H_i \cap H_j et ne rencontrent pas C. Il en résulte qu’ils ne rencontrent pas \Gamma (§ 1, no 5, prop. 10). Le cor. de la prop. 7 du § 2, no 5 entraîne alors (ii).
Enfin, l’assertion (iii) résulte immédiatement de (i) et (ii), puisque m_{ij} \geq 2 pour i \neq j.
Remarque
La formule (4) est en fait valable quels que soient i, j \in I : en effet, on a \pi/m_{ij} = 0 si m_{ij} = \infty, et si i = j, on a m_{ij} = 1 et (e_i|e_j) = 1.
5. Systèmes de vecteurs à produits scalaires négatifs
Lemme 3
Soit q une forme quadratique positive sur un espace vectoriel réel V et soit B la forme bilinéaire symétrique associée. Soient a_1, \ldots, a_n des éléments de V tels que B(a_i, a_j) \leq 0 pour i \neq j.
(i) Si sont des nombres réels tels que , on a
Lemme 4
Soit une matrice réelle carrée symétrique d’ordre telle que : a) on a pour ; b) il n’existe pas de partition de en deux ensembles non vides et tels que entraîne ; c) la forme quadratique sur est positive.
Alors : (i) Le noyau de est de dimension 0 ou 1. Si , est engendré par un vecteur dont toutes les coordonnées sont . (ii) La plus petite valeur propre de est de multiplicité 1 et un vecteur propre correspondant a toutes ses coordonnées , ou toutes ses coordonnées .
Comme est une forme quadratique positive, le noyau de est l’ensemble des vecteurs isotropes pour (Alg., chap. IX, § 7, no 1, cor. de la prop. 2). Soit la base canonique de . Si , le lemme 3 montre que l’on a aussi , d’où pour tout . Soit alors l’ensemble des tels que . Si , on a pour et pour , d’où pour et . L’hypothèse b) entraîne donc que ou bien , ou bien . Par suite, tout vecteur non nul de a toutes ses coordonnées . Si on avait , l’intersection de et de l’hyperplan d’équation serait de dimension , contrairement à ce que l’on vient de voir. En outre, ce qui précède montre que, si , alors contient un vecteur de coordonnées toutes . Ceci achève la démonstration de (i).
D’autre part, on sait que les valeurs propres de sont réelles (Alg., chap. IX, § 7, no 3, prop. 5) et positives puisque est positive. Soit la plus petite d’entre elles. La matrice est alors la matrice d’une forme positive dégénérée et les éléments non diagonaux de sont les mêmes que ceux de . Par suite, satisfait aux conditions et c) de l’énoncé. Comme le noyau de est le sous-espace propre de correspondant à la valeur propre , l’assertion (ii) résulte de (i).
Lemme 5
Soient des vecteurs engendrant tels que :* a) pour b) il n’existe pas de partition de en deux ensembles et non vides tels que pour et . Alors deux cas sont possibles : 1) est une base de 2) *il existe une famille de nombres réels tels que et toute famille de nombres réels tels que est proportionnelle à .
Posons . La matrice satisfait alors aux hypothèses du lemme 4 : les conditions a) et b) du lemme 4 sont les mêmes que les conditions a) et b) ci-dessus, et c) est satisfaite puisque . Le noyau de la forme quadratique sur , de matrice , est l’ensemble des tels que . Si , les sont linéairement indépendants et l’on est dans le cas 1). Si , le lemme 4 (i) montre que l’on est dans le cas 2).
Lemme 6
Soit une base de telle que pour .* (i) Si est tel que pour tout , on a pour tout . (ii) *Si et sont deux éléments de tels que et pour tout , on a . Si et pour tout , on a .
Plaçons-nous dans les hypothèses de (i) et supposons qu’il existe un tel que . Soit la forme linéaire sur définie par et
Les vecteurs — satisfont alors aux hypothèses du lemme 3 (ii) (en prenant pour la forme métrique de ). On en conclut qu’ils sont linéairement indépendants, ce qui est absurde. D’où (i). De plus, si et si , on a , de sorte que (ii) résulte immédiatement de (i).
6. Théorèmes de finitude
Lemme 7
Soit un ensemble de vecteurs unitaires de . S’il existe un nombre réel avec pour et , alors l’ensemble est fini.
Pour tels que , on a :
Or, la sphère unité S de T étant compacte, il existe un recouvrement fini de S par des ensembles de diamètre et chacun de ces ensembles contient au plus un point de A, d’où le lemme.
Notons l’automorphisme de T associé à l’application affine de E dans lui-même. On a
On définit ainsi un homomorphisme du groupe W dans le groupe orthogonal de T ; le noyau de est l’ensemble des translations appartenant à W.
Théorème 3
(i) L’ensemble des murs d’une chambre est fini. (ii) L’ensemble des directions des hyperplans appartenant à est fini. (iii) *Le groupe est fini.
L’assertion (i) résulte aussitôt de la prop. 3, (iii) et du lemme 7. Démontrons (ii). Soient C une chambre et l’ensemble de ses murs. Les facettes de (relativement à ) sont les mêmes que celles relativement à (, no 4, prop. 9). Puisque est fini, elles sont en nombre fini. Comme une facette ne rencontre qu’un nombre fini d’hyperplans appartenant à , l’ensemble des hyperplans appartenant à et rencontrant est fini, ainsi que l’ensemble des vecteurs unitaires de T orthogonaux à un hyperplan appartenant à et rencontrant . Par suite, il existe un nombre réel tel que pour et .
Soit alors A l’ensemble des vecteurs unitaires de T qui sont orthogonaux à un hyperplan appartenant à . Soient avec . Si et sont parallèles, on a et . Sinon, soit (resp. ) tel que (resp. ) soit orthogonal à (resp. ). On a , et si , il existe un élément tel que . Les vecteurs et appartiennent alors à , l’on a :
et l’ensemble A est fini d’après le lemme 7. D’où (ii).
Soit maintenant tel que pour tout . On a alors pour tout appartenant au sous-espace de T engendré par A. D’autre part, si est orthogonal à A, on a pour tout , d’où et finalement . Comme pour tout , on en déduit que est isomorphe à un groupe de permutations de l’ensemble fini A, d’où (iii).
Proposition 4
Soient C une chambre et un ensemble de murs de C. Soit le sous-groupe de W engendré par les réflexions orthogonales par rapport aux éléments de .
Pour , notons le vecteur unitaire orthogonal à situé du même côté que de . Les conditions suivantes sont équivalentes :
(i) Le groupe est fini. (ii) Il existe un point de invariant par tout élément de . (iii) Les hyperplans appartenant à ont une intersection non vide. (iv) La famille de vecteurs est libre dans .
Supposons que ait un cardinal fini . Pour tout point de , le point est invariant par , donc (i) entraîne (ii).
D’après la propriété (D 2) du début du § 3, le stabilisateur dans de tout point de est fini, donc (ii) entraîne (i).
Comme le groupe est engendré par l’ensemble des réflexions par rapport aux hyperplans appartenant à , les points fixes de sont les points de appartenant à tout hyperplan , d’où l’équivalence de (ii) et (iii).
Supposons qu’il existe un point de tel que pour tout et soit tel que . Puisque pour , tels que (prop. 3), et que pour tout , le lemme 3 (ii) entraîne que les pour sont linéairement indépendants. Par suite (iii) entraîne (iv).
Supposons enfin que la famille soit libre. Soit un point de . Pour tout hyperplan , il existe un nombre réel tel que se compose des points de avec . Puisque la famille est libre, il existe tel que pour tout , et le point de appartient à tous les hyperplans . Donc (iv) entraîne (iii).
Remarque 1
Comme est engendré par les réflexions par rapport aux murs de la chambre , la proposition précédente donne un critère pour que soit fini. Nous reviendrons sur cette question au n° 9.
Remarque 2
Soient un espace affine réel de dimension finie et un groupe d’automorphismes de . Pour tout , notons l’automorphisme de l’espace des translations de associé à . Supposons que l’image soit un sous-groupe fini de ; il existe alors sur un produit scalaire invariant par (Intégr., chap. VII, § 3, n° 1, prop. 1). Si de plus opère proprement sur lorsqu’on le munit de la topologie discrète et qu’il soit engendré par des réflexions, on peut donc appliquer à tous les résultats du présent paragraphe.
7. Décomposition de la représentation linéaire de dans
Soit l’ensemble des sommets du graphe de Coxeter de (n° 4) et soit une partie de telle qu’un sommet de et un sommet de ne soient jamais liés. Soient une chambre, la bijection canonique de sur l’ensemble des réflexions par rapport aux murs de , et soit le sous-groupe engendré par l’image . Il résulte alors du chap. IV, § 1, n° 9, prop. 8, que est produit direct des deux sous-groupes et . Soient une autre chambre et s' l’injection correspondante de I dans W. Nous avons vu (n° 4) que si transforme C en C', on a pour . Puisque est distingué dans W, il en résulte que pour tout . On en déduit que le sous-groupe ne dépend pas de C. Nous le noterons simplement dans ce qui suit.
La définition de s’étend évidemment à une partie J quelconque de I. Mais s’il existe un sommet de J et un sommet de I — J qui soient liés, alors n’est pas distingué et dépend du choix de la chambre C.
Soit le sous-espace de T formé des vecteurs invariants par tout élément de et soit le sous-espace orthogonal à . Puisque est un sous-groupe distingué de W, il est clair que est invariant par , donc aussi .
Proposition 5
Soient les ensembles de sommets des composantes connexes du graphe de Coxeter de W. Pour , posons
(i) Le groupe W est produit direct des sous-groupes ().
(ii) L’espace T est somme directe orthogonale des sous-espaces , qui sont stables par .
(iii) Pour tout q tel que , le sous-espace de T est formé des vecteurs invariants par ; il est somme directe des pour et .
(iv) Soit C une chambre. Le sous-espace (pour ) est engendré par les vecteurs pour (notations du n° 4).
(v) Les représentations de W dans les sous-espaces () sont absolument irréductibles, non triviales, et deux à deux non équivalentes.
L’assertion (i) résulte du chap. IV, § 1, n° 9. D’autre part, nous avons déjà vu que les sous-espaces sont invariants par , et il en est de même de . Soit C une chambre; comme est engendré par les réflexions pour , il est clair que est le sous-espace orthogonal aux pour , d’où (iv). Par ailleurs, si avec , on a puisque n’est pas une arête du graphe de Coxeter de W, d’où . On en déduit aussitôt (ii). L’assertion (iii) en résulte, puisque est l’orthogonal de .
Enfin, soit V un sous-espace de invariant par . Pour tout , ou bien on a , ou bien est orthogonal à V (, n° 2, prop. 3). Soit A (resp. B) l’ensemble des tels que (resp. orthogonal à V). On a évidemment pour et , et puisque est connexe, on en déduit, ou bien et , ou bien et . Par suite, la représentation de dans est irréductible, donc absolument irréductible (, n° 1, prop. 1). Elle est non triviale par définition même de . Enfin, la dernière assertion de (v) résulte aussitôt de (iii).
On dit que W est essentiel si le sous-espace T_0 des vecteurs de T invariants par U(W) est réduit à {0}; on dit que W est irréductible si la représentation U de W dans T est irréductible.
Corollaire
Supposons W ≠ {1}. Pour que W soit irréductible, il faut et il suffit qu’il soit essentiel et que son graphe de Coxeter soit connexe.
Remarque
Sous les hypothèses de la prop. 5, les sous-espaces T_p pour 0 ≤ p ≤ s sont les composantes isotypiques de la représentation linéaire U de W dans T (Alg., chap. VIII, § 3, no 4). Il en résulte (loc. cit., prop. 11) que tout sous-espace vectoriel V de T stable par W est somme directe des sous-espaces V ∩ T_p pour 0 ≤ p ≤ s; de plus (loc. cit., prop. 10) tout endomorphisme commutant aux opérateurs U(w) pour w ∈ W, laisse stable chacun des T_p pour 0 ≤ p ≤ s et y induit une homothétie pour 1 ≤ p ≤ s. En particulier, les formes bilinéaires Φ sur T invariantes par W sont les formes bilinéaires données par:
où Φ_0 est une forme bilinéaire sur T_0 et a_p (pour 1 ≤ p ≤ s) un nombre réel : en effet, une telle forme Φ s’écrit d’une manière et d’une seule (t, t') ↦ (A(t)|t'), où A est un endomorphisme de T commutant aux U(w) pour w ∈ W.
8. Décomposition de l’espace affine E en produit
Conservons les notations de la prop. 5. Pour 0 ≤ p ≤ s, soit E_p l’ensemble des orbites du groupe T'_p dans E, et soit φ_p l’application canonique de E sur E_p. Les opérations de T dans E passent au quotient ; en particulier, T_p opère sur E_p et on vérifie immédiatement (par exemple en prenant une origine dans E) que E_p est un espace affine admettant T_p comme espace des translations. Posons E' = E_0 × ... × E_s : c’est un espace affine ayant T = T_0 ⊕ ... ⊕ T_s comme espace des translations. Soit φ : E → E' l’application produit des φ_p; comme φ commute aux opérations de T, c’est une bijection et même un isomorphisme d’espaces affines. Dans ce qui suit, nous identifierons E et E' au moyen de φ ; l’application φ_p s’identifie alors à la projection canonique de E' sur E_p.
Comme W laisse stable T'_p, les opérations de W dans E passent au quotient et définissent une loi d’opération de W dans E_p (pour 0 ≤ p ≤ s), d’où par restriction une loi d’opération de W_p dans E_p (pour 1 ≤ p ≤ s). D’autre part, soit C une chambre, soit i ∈ I et soit p l’entier tel que i ∈ J_p. Pour tout x ∈ E, on a:
Comme e_i ∈ T'_q pour q ≠ p, on en déduit que
Par suite, si avec pour , on a :
quels que soient les pour . Autrement dit, la loi d’opération de dans n’est autre que la loi produit des lois d’opérations des dans les (en posant ). Il en résulte que opère fidèlement dans et qu’on peut identifier à un groupe de déplacements de l’espace euclidien (l’espace des translations de étant naturellement muni du produit scalaire induit par celui de ).
Proposition 6
(i) Le groupe est un groupe de déplacements de l’espace affine euclidien ; il est engendré par des réflexions; muni de la topologie discrète, il opère proprement dans ; il est irréductible.
(ii) Soit l’ensemble des hyperplans de tels que . L’ensemble se compose des hyperplans de la forme
avec et .
(iii) Toute chambre est de la forme , où pour chaque l’ensemble est une chambre définie dans par l’ensemble d’hyperplans ; de plus admet pour murs les hyperplans pour .
Soit une chambre. Posons , et pour (notations du no 4).
(i) Soit dans ; comme on a et que est somme directe des sous-espaces mutuellement orthogonaux , l’hyperplan de orthogonal à est de la forme où est l’hyperplan de orthogonal à . L’hyperplan affine de est de la forme , avec , et on a :
avec . Il est alors immédiat que opère dans par la réflexion associée à l’hyperplan de . Donc le groupe est un groupe de déplacements engendré par des réflexions dans ; la vérification du critère (D’ 2) de propreté est immédiate. Enfin, la prop. 5, (v) montre que est irréductible. On a prouvé (i).
(ii) D’après le cor. du th. 1, l’ensemble se compose des hyperplans de la forme pour dans et dans . Par ailleurs, si avec pour tout , les formules (5) et (6) entraînent
d’où immédiatement (ii).
(iii) Soit dans ; d’après la formule (6), le demi-espace ouvert limité par contenant est de la forme
9. Structure des chambres
Soient une chambre, l’ensemble des murs de et pour , soit le vecteur unitaire orthogonal à situé du même côté que de l’hyperplan .
Proposition 7
Supposons que le groupe soit essentiel et fini. Alors : (i) Il existe un unique point de invariant par . (ii) La famille est une base de . (iii) La chambre est le cône simplicial ouvert de sommet défini par la base de telle que .
(i) D’après la prop. 4 du no 6, il existe un point invariant par . Soit tel que soit invariant par . Pour tout , on a
(ii) Comme est essentiel, on a avec les notations du no 7, et la prop. 5, (iv) montre que la famille engendre l’espace vectoriel . L’existence d’un point de invariant par montre que la famille est libre (no 6, prop. 4).
(iii) Soit l’unique point de invariant par . Comme est une base de , et que le produit scalaire est une forme bilinéaire non dégénérée sur , il existe une base de et une seule telle que pour dans . Tout point de s’écrit de manière unique sous la forme avec et les réels. Pour que appartienne à , il faut et il suffit que, pour tout hyperplan , il soit du même côté de que , c’est-à-dire que soit strictement positif. D’où (iii).
Proposition 8
Supposons que le groupe W soit essentiel, irréductible et infini. Alors : (i) Aucun point de E n’est invariant par W. (ii) On a Card , et il existe des nombres réels tels que . Si les nombres réels sont tels que , il existe réel avec pour tout H dans . (iii) La chambre C est un simplexe ouvert.
L’assertion (i) résulte de la prop. 4. D’autre part, puisque W est essentiel, les vecteurs engendrent T. On a pour et (prop. 3) et, puisque W est irréductible, il n’existe pas de partition de en deux ensembles non vides et telle que et entraînent . On peut donc appliquer le lemme 5 du n° 5, et le cas 1) de ce lemme est exclu : en effet, les ne sont pas linéairement indépendants, puisque W n’a pas de point fixe. L’assertion (ii) en résulte.
Démontrons (iii). Numérotons les murs de C sous la forme et posons . D’après (ii), les vecteurs forment une base de T, donc les hyperplans ont un point en commun, et il existe une base de T telle que ; de plus, toujours d’après (ii), il existe des nombres réels tels que
Tout point de E s’écrit de manière unique sous la forme avec et réels. Pour que appartienne à C, il faut et il suffit qu’il soit du même côté de que pour ; ceci se traduit par les inégalités , et , ou encore par . Comme C est non vide, on a . Posons pour ; la chambre C se compose alors des points de E de la forme avec et , donc C est le simplexe ouvert de sommets .
Remarque 1
Identifions E à , et W à comme au n° 8. D’après la prop. 6, la chambre C s’identifie alors à
Remarque 2
Supposons W irréductible et essentiel. Si H et H’ sont deux murs de C, on a si et seulement si l’on a (prop. 3). D’après les prop. 7 et 8, ceci ne peut se produire que si et sont les seuls murs de et de dimension 1. Le seul cas où l’un des est infini est donc celui où est de dimension 1 et où le groupe est engendré par les réflexions associées à deux points distincts (cf. § 2, no 4).
Dans le cas général, la matrice de Coxeter associée à a ses éléments finis, sauf si l’un au moins des est du type précédent.
10. Points spéciaux
Soient l’ensemble des translations appartenant à et l’ensemble des tels que la translation appartienne à . Il est immédiat que est stable par et que est un sous-groupe distingué de . Comme opère proprement dans , il en est de même de , et on en déduit facilement que est un sous-groupe discret de . Pour tout point de , on notera le stabilisateur de dans .
Proposition 9
Soit . Les conditions suivantes sont équivalentes :
(i) On ; (ii) La restriction de l’homomorphisme à est un isomorphisme de sur ; (iii) Pour tout hyperplan , il existe un hyperplan parallèle à et tel que .
Il est clair que (i) (ii), puisque est le noyau de et que .
Admettons (i) et soit ; on a et il existe donc un vecteur tel que ; le vecteur est orthogonal à , et si on a pour tout (cf. § 2, no 4, prop. 5). Comme on a et , on a , d’où ; on a aussi , d’où . Donc (i) implique (iii).
Admettons (iii). Soit ; prenons comme dans (iii). Alors , d’où ; comme est parallèle à , l’élément de est une translation (§ 2, no 4, prop. 5), d’où ; on a alors . Comme est engendré par la famille , on a donc et (iii) implique (i).
Définition 1
On dit qu’un point de est spécial pour s’il satisfait aux conditions équivalentes de la prop. 9.
Il est clair que l’ensemble des points spéciaux de est stable par .
Proposition 10
Il existe un point spécial pour .
D’après la prop. 6 du no 8, on peut se limiter au cas où est essentiel.
Le groupe d’automorphismes de est fini (cf. no 6, th. 3) et est une réflexion orthogonale pour tout hyperplan ; de plus, est engendré par la famille . D’après la prop. 7 du n° 9, il existe une base de telle que le groupe soit engendré par l’ensemble des réflexions définies par
Lorsque est fini essentiel, il n’y a qu’un seul point spécial pour , à savoir l’unique point invariant par . La considération des points spéciaux est donc surtout intéressante quand est infini.
Proposition 11
Supposons essentiel. Soit un point spécial pour . Les chambres relatives à sont des cônes simpliciaux ouverts de sommet . Pour toute chambre relative à il existe une chambre et une seule relative à , contenue dans , et telle que . La réunion des pour est un voisinage fermé de dans . Tout mur de est un mur de . Si est infini irréductible, les murs de sont les murs de et un hyperplan affine non parallèle aux murs de .
Soit l’ensemble des qui contiennent . Le groupe est engendré par les pour (n° 3, prop. 2). Les chambres relatives à sont des cônes simpliciaux ouverts de sommet (n° 9, prop. 7). Soit une telle chambre et soit une boule ouverte non vide de centre ne rencontrant aucun élément de . Comme , il existe dans . On a pour tout , donc appartient à une chambre relative à . Comme on a , on a . L’ensemble ne rencontre aucun et est convexe, donc ; on a donc . Inversement, soit une chambre relative à contenue dans et telle que ; alors rencontre , et on a ; les chambres et , ayant un point commun, coïncident. Pour tout , on a , donc
Corollaire
Supposons W essentiel. (i) Si est spécial, il existe une chambre telle que soit un point extrémal de . (ii) Si est une chambre, il existe un point extrémal de qui est spécial. La première assertion résulte de la prop. 11. La seconde résulte de la première et du fait que W opère transitivement sur l’ensemble des chambres.
Par contre, un point extrémal de n’est pas nécessairement un point spécial pour W (cf. chap. VI, planche X, systèmes et ).
Remarque 1). — Supposons W essentiel, irréductible et infini et gardons les notations de la prop. 11. Puisque est un isomorphisme de sur , on voit que le graphe de Coxeter du groupe de déplacements (qui est engendré par les réflexions pour ) s’obtient à partir du graphe de Coxeter de W en supprimant le sommet correspondant à l’unique mur de qui n’est pas un mur de .
Proposition 12
Supposons W essentiel. Soit un point spécial, soit l’ensemble de ses transformés par le groupe de translations , et soit une chambre. Alors rencontre en un point et un seul; ce point est point extrémal de .
Il existe une chambre telle que soit point extrémal de (cor. de la prop. 11). Toute chambre est de la forme avec et puisque ; alors admet le point extrémal . D’autre part, ne peut contenir deux points distincts de puisque est un domaine fondamental pour W (n° 3, th. 2).
Remarque 2). — L’ensemble est contenu dans l’ensemble des points spéciaux. Il en est en général distinct (cf. chap. VI, § 2, n° 2 et planches I à VI).
Exercices
See the exercises for § 3.