Bourbaki

§ 3. Groupes de déplacements engendrés par des réflexions

Dans ce paragraphe, on désigne par EE un espace affine réel de dimension finie dd, par TT l’espace des translations de EE. On suppose TT muni d’un produit scalaire (c’est-à-dire une forme bilinéaire symétrique positive non dégénérée) noté (t∣t′)(t|t'). Pour t∈Tt \in T, on pose ∣∣t∣∣=(t∣t)1/2||t|| = (t|t)^{1/2}. La fonction d(x,y)=∣∣x−y∣∣d(x, y) = ||x - y|| est une distance sur EE, qui définit la topologie de EE (§ 1).

On désigne par S\mathfrak{S} un ensemble d’hyperplans de EE et par WW le groupe de déplacements de l’espace euclidien EE engendré par les réflexions orthogonales sHs_H par rapport aux hyperplans H∈SH \in \mathfrak{S} (§ 2, no 4). On suppose que les conditions suivantes sont satisfaites :

(D 1) Pour tout w∈Ww \in W et tout H∈SH \in \mathfrak{S}, l’hyperplan w(H)w(H) appartient à S\mathfrak{S}; (D 2) Le groupe WW muni de la topologie discrète opère proprement dans EE.

Comme EE est localement compact, il résulte de la Remarque du § 4, no 5 de Top. gén., chap. III, 3e éd., que la condition (D 2) équivaut à la condition suivante :

(D' 2) Quelles que soient les parties compactes KK et LL de EE, l’ensemble des w∈Ww \in W tels que w(K)w(K) rencontre LL est fini.

1. Résultats préliminaires

Lemme 1

L’ensemble d’hyperplans* S\mathfrak{S} est localement fini.

Soit en effet KK une partie compacte de EE. Si un hyperplan H∈SH \in \mathfrak{S} rencontre KK, l’ensemble sH(K)s_H(K) rencontre aussi KK, puisque tout point de K∩HK \cap H est fixe par sHs_H. L’ensemble des H∈SH \in \mathfrak{S} rencontrant KK est donc fini d’après (D' 2).

On peut donc appliquer à E et S\mathfrak{S} les définitions et résultats du . Nous appellerons simplement chambres, facettes, murs, etc. relatifs à W les chambres, facettes, murs, etc. définis dans E par S\mathfrak{S}. Un déplacement w∈Ww \in W permutent entre elles les chambres, les facettes, les murs, etc

Lemme 2

Soit C une chambre.

(i) Pour tout x∈Ex \in E, il existe un élément w∈Ww \in W tel que w(x)∈C‾w(x) \in \overline{C}. (ii) Pour toute chambre C′C', il existe un élément w∈Ww \in W tel que w(C′)=Cw(C') = C. (iii) Le groupe W est engendré par l’ensemble des réflexions orthogonales par rapport aux murs de C.

Soit M\mathfrak{M} l’ensemble des murs de C et soit WMW_{\mathfrak{M}} le sous-groupe de W engendré par les réflexions par rapport aux murs de C. Démontrons (i) : soit x∈Ex \in E et soit J l’orbite de xx par rapport au groupe WMW_{\mathfrak{M}}. Il suffit de prouver que J rencontre C‾\overline{C}.

Soit aa un point de C ; il existe une boule fermée B de centre aa rencontrant J ; comme B est compacte, la propriété (D’ 2) du n° 1 montre que B∩JB \cap J est fini. Il existe donc un point yy de J tel que

(1)

d(a,y)≤d(a,y′)pour tout y′ dans J. d(a, y) \leq d(a, y') \quad \text{pour tout } y' \text{ dans } J.

On va prouver que l’on a y∈C‾y \in \overline{C}. Pour cela, il suffit de montrer que si H est un mur de C, on a y∈DH(C)‾y \in \overline{D_H(C)} (cf. § 1, n° 4, prop. 9). Comme on a sH∈WMs_H \in W_{\mathfrak{M}}, on a sH(y)∈Js_H(y) \in J d’où (fig. 1)

(2)

d(a,y)2≤d(a,sH(y))2 d(a, y)^2 \leq d(a, s_H(y))^2
d’après (1). Il existe b∈Hb \in H et deux vecteurs tt et uu tels que a=b+ta = b + t et y=b+uy = b + u, le vecteur uu étant orthogonal à H ; on a alors sH(y)=b−us_H(y) = b - u, et (2) équivaut à (t−u∣t−u)≤(t+u∣t+u)(t - u|t - u) \leq (t + u|t + u), c’est-à-dire à (t∣u)≥0(t|u) \geq 0. Cette inégalité entraîne y∈DH(C)‾y \in \overline{D_H(C)}.

!Figure 1

Figure 1

(ii) Soient C′C' une chambre et a′∈C′a' \in C'. D’après ce qu’on vient de démontrer, il existe w∈WMw \in W_{\mathfrak{M}} tel que w−1(a′)∈C‾w^{-1}(a') \in \overline{C}; par suite, la chambre C′C' rencontre w(C)w(C); comme w(C)w(C) est réunion de w(C)w(C) et de facettes d’intérieur vide (§ 1, n° 2, prop. 3), on a C′=w(C)C' = w(C).

(iii) On a à prouver W=WMW = W_{\mathfrak{M}} et il suffit de prouver que l’on a sH′∈WMs_{H'} \in W_{\mathfrak{M}} pour tout H′∈SH' \in \mathfrak{S}. Or H′H' est le mur d’au moins une chambre C′C' (§ 1, n° 4, prop. 8); on a vu qu’il existe w∈WMw \in W_{\mathfrak{M}} tel que C′=w(C)C' = w(C); par suite, il existe un mur H de C tel que H′=w(H)H' = w(H), d’où sH′=w.sH.w−1∈WMs_{H'} = w.s_H.w^{-1} \in W_{\mathfrak{M}}.

2. Relation avec les systèmes de Coxeter

Théorème 1

Soient C une chambre et S l’ensemble des réflexions par rapport aux murs de C.

(i) Le couple (W, S) est un système de Coxeter. (ii) Soient w ∈ W et H un mur de C. La relation l(s_H w) > l(w) signifie que les chambres C et w(C) sont du même côté de H. (iii) Pour toute chambre C', il existe un unique élément w ∈ W tel que w(C) = C'. (iv) L’ensemble des hyperplans H tels que s_H ∈ W est égal à h\mathfrak{h}.

Tout élément de S est d’ordre 2 et le lemme 2 montre que S engendre W. Pour tout mur H de C, notons P_H l’ensemble des w ∈ W tels que les chambres C et w(C) (qui ne rencontrent pas H) soient du même côté de H. Nous allons vérifier les conditions (A'), (B') et (C) du chap. IV, § 1, no 7.

(A') 1 ∈ P_H : Trivial. (B') P_H est disjoint de s_H . P_H : En effet, w(C) et s_H w(C) sont de part et d’autre de H, donc si w(C) est du même côté de H que C, il n’en est pas de même de s_H w(C). (C) Soient w ∈ P_H et H' un mur de C tel que ws_{H'} ∉ P_H ; on a ws_{H'} = s_H w : Par hypothèse w(C) est du même côté de H que C, et ws_{H'}(C) est de l’autre côté de H. Donc ws_{H'}(C) et w(C) sont de part et d’autre de H ; les chambres s_{H'}(C) et C sont de part et d’autre de l’hyperplan w^{-1}(H). Soit a un point de la face de C de support H'. Le point a = s_{H'}(a) est adhérent aux deux chambres C et s_{H'}(C) qui sont respectivement contenues dans les deux demi-espaces ouverts limités par w^{-1}(H) ; on a donc a ∈ w^{-1}(H), d’où H' = w^{-1}(H). De là, on tire s_{H'} = w^{-1} s_H w, d’où ws_{H'} = s_H w.

Ceci étant, les assertions (i) et (ii) résultent de la prop. 6 du chap. IV, § 1, no 7. On a de plus (loc. cit., condition (A))

⋂H∈MPH={1}. \bigcap_{H \in \mathscr{M}} P_H = \{1\}.

Le lemme 2 montre que W est transitif sur l’ensemble des chambres. De plus, si w ∈ W est tel que w(C) = C, on a w ∈ P_H pour tout mur H de C, d’où w = 1 par (3). Ceci établit (iii).

Soit enfin H un hyperplan tel que s_H ∈ W. Si l’on avait H ∉ h\mathfrak{h}, il existerait au moins une chambre C' rencontrant H (§ 1, no 3, prop. 7). Tout point de H ∩ C' est invariant par s_H, donc appartient aux chambres C' et s_H(C') ; on a donc C' = s_H(C') ce qui contredit (iii) puisque s_H ≠ 1.

Corollaire

Soit Σ un ensemble de réflexions engendrant W. Toute réflexion appartenant à W est conjuguée à un élément de Σ.

Soit h\mathfrak{h}' l’ensemble des hyperplans de la forme w(H) avec w ∈ W et H ∈ h\mathfrak{h} tel que s_H ∈ Σ. Comme W est engendré par la famille (s_H)_{H \in h\mathfrak{h}'} et que h\mathfrak{h}' est stable par W, on peut appliquer à h\mathfrak{h}' au lieu de h\mathfrak{h} tous les résultats de ce no ; mais le th. 1, (iv) montre que toute réflexion de W est de la forme s_H avec H ∈ h\mathfrak{h}', d’où le corollaire.

3. Domaine fondamental, stabilisateurs

Rappelons (Intégr., chap. VII, § 2, n° 10, déf. 2) qu’une partie D de E est appelée un domaine fondamental pour le groupe W si toute orbite de W dans E rencontre D en un point et un seul. Ceci équivaut à la conjonction des deux conditions :

a) Pour tout x∈Ex \in E, il existe w∈Ww \in W tel que w(x)∈Dw(x) \in D.

b) Étant donnés x,y∈Dx, y \in D et w∈Ww \in W tels que y=w(x)y = w(x), on a y=xy = x (mais on peut avoir w≠1w \neq 1).

Nous allons démontrer les trois énoncés suivants :

Théorème 2

Pour toute chambre C, l’adhérence C‾\overline{C} de C est un domaine fondamental pour W opérant dans E.

Proposition 1

Soient F une facette et C une chambre telles que F⊂C‾F \subset \overline{C}. Soit w∈Ww \in W. Les conditions suivantes sont équivalentes :

(i) w(F)w(F) rencontre F; (ii) w(F)=Fw(F) = F; (iii) w(F‾)=F‾w(\overline{F}) = \overline{F}; (iv) ww laisse fixe au moins un point de F; (v) ww laisse fixe tout point de F; (vi) ww laisse fixe tout point de F‾\overline{F}; (vii) ww appartient au sous-groupe de W engendré par les réflexions par rapport aux murs de C contenant F.

Pour toute partie A de E, notons W(A) le sous-groupe de W formé des éléments laissant fixes tous les points de A.

Proposition 2

Soit A une partie non vide de E, soit HA\mathfrak{H}_A l’ensemble des hyperplans H∈HH \in \mathfrak{H} contenant A, soit A′A' l’intersection des H∈HAH \in \mathfrak{H}_A et soit F une facette de E, ouverte dans A′A' (§ 1, n° 3, prop. 7). On a W(A)=W(A′)=W(F)W(A) = W(A') = W(F), et W(A)W(A) est engendré par les réflexions par rapport aux hyperplans de HA\mathfrak{H}_A.

Démontrons tout d’abord l’assertion suivante :

(I) Soient C une chambre, x et y deux points de C‾\overline{C} et w∈Ww \in W tel que w(x)=yw(x) = y. On a alors x=yx = y et ww appartient au sous-groupe WNW_{\mathfrak{N}}, où N\mathfrak{N} est l’ensemble des murs de C contenant x.

Nous raisonnons par récurrence sur la longueur q de w (relativement à l’ensemble S des réflexions par rapport aux murs de C), le cas q=0q = 0 étant évident. Si q⩾1q \geqslant 1, il existe un mur H de C et un élément w′∈Ww' \in W tel que w=sHw′w = s_H w' et l(w′)=q−1l(w') = q - 1. Puisque l(sHw)<l(w)l(s_H w) < l(w), les chambres C et w(C)w(C) sont de part et d’autre de H d’après le th. 1 du n° 2. On a donc C‾∩w(C‾)⊂H\overline{C} \cap w(\overline{C}) \subset H, d’où y∈Hy \in H. On a alors y=w′(x)y = w'(x) et l’hypothèse de récurrence entraîne x=yx = y et w′∈WNw' \in W_{\mathfrak{N}}. De y∈Hy \in H on déduit H∈NH \in \mathfrak{N}, d’où w=sHw′∈WNw = s_H w' \in W_{\mathfrak{N}}, ce qui termine la démonstration de (I).

Démonstration du théorème 2 : il résulte de (I) et du lemme 2.

Démonstration de la proposition 1 : on sait que deux facettes distinctes sont disjointes et ont des adhérences distinctes (§ 1, n° 2, cor. de la prop. 3). L’équivalence de (i), (ii) et (iii) en résulte. D’autre part, il est clair que

(vii) ⟹\Longrightarrow (vi) ⟹\Longrightarrow (v) ⟹\Longrightarrow (iv) ⟹\Longrightarrow (i)

et l’assertion (I) montre que (i) ⟹\Longrightarrow (vii).

Démonstration de la proposition 2 : soit A′′A'' le sous-espace affine de E engendré par A. On a évidemment W(A)=W(A′′)W(A) = W(A''). D’après la prop. 7 du § 1, n° 3, il existe un point x∈A′′x \in A'' n’appartenant à aucun hyperplan H∈H−HAH \in \mathfrak{H} - \mathfrak{H}_A. Soit FxF_x la facette contenant xx : elle est ouverte dans A′′A'' et la prop. 1 montre que

W(Fx)⊂W(A′)⊂W(A)=W(A′′)⊂W({x})=W(Fx) W(F_x) \subset W(A') \subset W(A) = W(A'') \subset W(\{x\}) = W(F_x)

d’où W(A)=W(A′)=W(Fx)W(A) = W(A') = W(F_x). En remplaçant A par F, on a aussi

W(A)=W(F), W(A) = W(F),

d’où la proposition.

Remarque 1

Il résulte du th. 2 que si C est une chambre et F une facette, il existe une facette F' et une seule contenue dans C‾\overline{C} qui soit transformée de F par un élément de W.

Remarque 2

Il résulte des prop. 1 et 2 que pour toute partie non vide A de E, il existe un point a∈Ea \in E tel que W(A)=W({a})W(A) = W(\{a\}); de plus, le groupe W(A)W(A) est un groupe de Coxeter (th. 1).

Remarque 3

Soient C une chambre de E et S l’ensemble des réflexions par rapport aux murs de C. Soit w∈Ww \in W et soit (s1,…,sq)(s_1, \ldots, s_q) une décomposition réduite de ww par rapport à S. Si x∈C‾x \in \overline{C} est fixe par ww, on a sj(x)=xs_j(x) = x pour tout jj : cela résulte de la prop. 1 ci-dessus et du cor. 1 de la prop. 7 du chap. IV, § 1.

4. Matrice et graphe de Coxeter de W

Soient C une chambre, S=S(C)S = S(C) l’ensemble des réflexions orthogonales par rapport aux murs de C et M=(m(s,s′))M = (m(s, s')) la matrice de Coxeter du système de Coxeter (W, S) (chap. IV, § 1, n° 9) : rappelons que m(s,s′)m(s, s') est l’ordre (fini ou ∞\infty) de l’élément ss′ss' de W (pour s,s′∈Ss, s' \in S). Si C′C' est une autre chambre, l’unique élément w∈Ww \in W tel que w(C)=C′w(C) = C' définit une bijection

s↦f(s)=wsw−1 s \mapsto f(s) = ws w^{-1}

de S sur S′=S(C′)S' = S(C'), et l’on a m(f(s),f(s′))=m(s,s′)m(f(s), f(s')) = m(s, s'). Il en résulte que, si l’on fait opérer W sur l’ensemble X des couples (C, s), où C est une chambre et où s∈S(C)s \in S(C), en posant w.(C,s)=(w(C),wsw−1)w.(C, s) = (w(C), ws w^{-1}), chaque orbite i de W dans X rencontre chacun des ensembles {C}×S(C)\{C\} \times S(C) en un point et un seul, que l’on note (C,si(C))(C, s_i(C)). Soit alors I l’ensemble de ces orbites ; pour i,j∈Ii, j \in I, le nombre mij=m(si(C),sj(C))m_{ij} = m(s_i(C), s_j(C)) est indépendant du choix de la chambre C. La matrice

M(W) = (m_{ij})_{i,j \in I} est une matrice de Coxeter que l’on appelle la matrice de Coxeter de W. Le graphe de Coxeter associé à M(W) (chap. IV, , no 9) est appelé le graphe de Coxeter de W

Soit C une chambre. Pour tout i \in I, on désigne par H_i(C) le mur de C tel que s_i(C) soit la réflexion par rapport à H_i(C) et par e_i(C) le vecteur unitaire orthogonal à H_i(C) et situé du même côté de H_i(C) que C. L’application i \mapsto H_i(C) est appelée la famille canoniquement indexée des murs de C.

Proposition 3

Soit C une chambre, et soient i, j \in I, avec i \neq j. Posons s_i = s_i(C), H_i = H_i(C), e_i = e_i(C) et définissons de même s_j, H_j et e_j.

(i) Si H_i et H_j sont parallèles, on a m_{ij} = \infty et e_i = -e_j.

(ii) Si H_i et H_j ne sont pas parallèles, alors m_{ij} est fini et on a :

(ei∣ej)=−cos⁡(π/mij). (e_i|e_j) = -\cos(\pi/m_{ij}).

(iii) On a (e_i|e_j) \leq 0.

Si H_i et H_j sont parallèles, s_i s_j est une translation (§ 2, no 4, prop. 5), d’où m_{ij} = \infty. De plus, on a ou bien e_i = e_j, ou bien e_i = -e_j. Or il existe un point a (resp. a’) adhérent à C et appartenant à H_i (resp. H_j), mais n’appartenant pas à H_j (resp. H_i). On a alors (a’ - a|e_i) > 0 et (a - a’|e_j) > 0, ce qui exclut le cas e_i = e_j et démontre (i).

Supposons maintenant que H_i et H_j ne soient pas parallèles. Choisissons une origine a \in H_i \cap H_j et identifions T et E par la bijection t \mapsto a + t. Soit V le plan orthogonal à H_i \cap H_j passant par a. Posons \Gamma = V \cap D_{H_i}(C) \cap D_{H_j}(C) (où D_H(C) désigne le demi-espace ouvert limité par H et contenant C (§ 1, no 1)) et soit D (resp. D’) la demi-droite de V portée par H_i \cap V (resp. H_j \cap V) et contenue dans l’adhérence de \Gamma. Pour une orientation convenable de V l’ensemble \Gamma est la réunion des demi-droites ouvertes \Delta de V telles que

0<(D,Δ‾)<(D,D′‾). 0 < (\overline{D, \Delta}) < (\overline{D, D'}) .

Soit W’ le sous-groupe de W engendré par s_i et s_j. Pour tout w \in W’, les hyperplans w(H_i) et w(H_j) appartiennent à \mathscr{S}, contiennent H_i \cap H_j et ne rencontrent pas C. Il en résulte qu’ils ne rencontrent pas \Gamma (§ 1, no 5, prop. 10). Le cor. de la prop. 7 du § 2, no 5 entraîne alors (ii).

Enfin, l’assertion (iii) résulte immédiatement de (i) et (ii), puisque m_{ij} \geq 2 pour i \neq j.

Remarque

La formule (4) est en fait valable quels que soient i, j \in I : en effet, on a \pi/m_{ij} = 0 si m_{ij} = \infty, et si i = j, on a m_{ij} = 1 et (e_i|e_j) = 1.

5. Systèmes de vecteurs à produits scalaires négatifs

Lemme 3

Soit q une forme quadratique positive sur un espace vectoriel réel V et soit B la forme bilinéaire symétrique associée. Soient a_1, \ldots, a_n des éléments de V tels que B(a_i, a_j) \leq 0 pour i \neq j.

(i) Si c1,…,cnc_1, \ldots, c_n sont des nombres réels tels que q(∑iciai)=0q\left( \sum_i c_i a_i \right) = 0, on a

q(∑i∣ci∣⋅ai)=0. q\left( \sum_i |c_i| \cdot a_i \right) = 0.
(ii) Si qq est non dégénérée et s’il existe une forme linéaire ff sur VV telle que f(ai)>0f(a_i) > 0 pour tout ii, les vecteurs a1,…,ana_1, \ldots, a_n sont linéairement indépendants. La relation B(ai,aj)≤0B(a_i, a_j) \leq 0 pour i≠ji \neq j entraîne aussitôt
q(∑i∣ci∣⋅ai)≤q(∑iciai), q\left( \sum_i |c_i| \cdot a_i \right) \leq q\left( \sum_i c_i a_i \right),
d’où (i). Si qq est non dégénérée, la relation ∑iciai=0\sum_i c_i a_i = 0 entraîne donc
∑i∣ci∣⋅ai=0; \sum_i |c_i| \cdot a_i = 0;
pour toute forme linéaire ff sur VV, on en déduit ∑i∣ci∣⋅f(ai)=0\sum_i |c_i| \cdot f(a_i) = 0, d’où ci=0c_i = 0 pour tout ii, si de plus f(ai)>0f(a_i) > 0 pour tout ii. Cela démontre (ii).

Lemme 4

Soit Q=(qij)Q = (q_{ij}) une matrice réelle carrée symétrique d’ordre nn telle que : a) on a qij≤0q_{ij} \leq 0 pour i≠ji \neq j; b) il n’existe pas de partition de {1,2,…,n}\{1, 2, \ldots, n\} en deux ensembles non vides II et JJ tels que (i,j)∈I×J(i, j) \in I \times J entraîne qij=0q_{ij} = 0; c) la forme quadratique q(x1,…,xn)=∑i,jqijxixjq(x_1, \ldots, x_n) = \sum_{i,j} q_{ij} x_i x_j sur Rn\mathbf{R}^n est positive.

Alors : (i) Le noyau NN de qq est de dimension 0 ou 1. Si dim⁡N=1\dim N = 1, NN est engendré par un vecteur dont toutes les coordonnées sont >0> 0. (ii) La plus petite valeur propre de QQ est de multiplicité 1 et un vecteur propre correspondant a toutes ses coordonnées >0> 0, ou toutes ses coordonnées <0< 0.

Comme qq est une forme quadratique positive, le noyau NN de qq est l’ensemble des vecteurs isotropes pour qq (Alg., chap. IX, § 7, no 1, cor. de la prop. 2). Soit a1,…,ana_1, \ldots, a_n la base canonique de Rn\mathbf{R}^n. Si ∑iciai∈N\sum_i c_i a_i \in N, le lemme 3 montre que l’on a aussi ∑i∣ci∣⋅ai∈N\sum_i |c_i| \cdot a_i \in N, d’où ∑iqji∣ci∣=0\sum_i q_{ji}|c_i| = 0 pour tout jj. Soit alors II l’ensemble des ii tels que ci≠0c_i \neq 0. Si j∉Ij \notin I, on a qji∣ci∣≤0q_{ji}|c_i| \leq 0 pour i∈Ii \in I et qji∣ci∣=0q_{ji}|c_i| = 0 pour i∉Ii \notin I, d’où qji=0q_{ji} = 0 pour j∉Ij \notin I et i∈Ii \in I. L’hypothèse b) entraîne donc que ou bien I=∅I = \varnothing, ou bien I={1,…,n}I = \{1, \ldots, n\}. Par suite, tout vecteur non nul de NN a toutes ses coordonnées ≠0\neq 0. Si on avait dim⁡N≥2\dim N \geq 2, l’intersection de NN et de l’hyperplan d’équation xi=0x_i = 0 serait de dimension ≥1\geq 1, contrairement à ce que l’on vient de voir. En outre, ce qui précède montre que, si dim⁡N=1\dim N = 1, alors NN contient un vecteur de coordonnées toutes >0> 0. Ceci achève la démonstration de (i).

D’autre part, on sait que les valeurs propres de QQ sont réelles (Alg., chap. IX, § 7, no 3, prop. 5) et positives puisque qq est positive. Soit λ\lambda la plus petite d’entre elles. La matrice Q′=Q−λInQ' = Q - \lambda I_n est alors la matrice d’une forme positive dégénérée q′q' et les éléments non diagonaux de Q′Q' sont les mêmes que ceux de QQ. Par suite, Q′Q' satisfait aux conditions a),b)a), b) et c) de l’énoncé. Comme le noyau N′N' de q′q' est le sous-espace propre de QQ correspondant à la valeur propre λ\lambda, l’assertion (ii) résulte de (i).

Lemme 5

Soient e1,…,ene_1, \ldots, e_n des vecteurs engendrant TT tels que :* a) (ei∣ej)≤0(e_i|e_j) \leq 0 pour i≠j;i \neq j; b) il n’existe pas de partition de {1,…,n}\{1, \ldots, n\} en deux ensembles II et JJ non vides tels que (ei∣ej)=0(e_i|e_j) = 0 pour i∈Ii \in I et j∈Jj \in J. Alors deux cas sont possibles : 1) (e1,…,en)(e_1, \ldots, e_n) est une base de T;T; 2) n=dim⁡T+1;n = \dim T + 1; *il existe une famille (ci)1≤i≤n(c_i)_{1 \leq i \leq n} de nombres réels >0> 0 tels que ∑iciei=0,\sum_i c_i e_i = 0, et toute famille (ci′)1≤i≤n(c'_i)_{1 \leq i \leq n} de nombres réels tels que ∑ici′ei=0\sum_i c'_i e_i = 0 est proportionnelle à (ci)1≤i≤n(c_i)_{1 \leq i \leq n}.

Posons qij=(ei∣ej)q_{ij} = (e_i|e_j). La matrice Q=(qij)Q = (q_{ij}) satisfait alors aux hypothèses du lemme 4 : les conditions a) et b) du lemme 4 sont les mêmes que les conditions a) et b) ci-dessus, et c) est satisfaite puisque ∑i,jqijxixj=∑i∣∣xiei∣∣2\sum_{i,j} q_{ij} x_i x_j = \sum_i ||x_i e_i||^2. Le noyau NN de la forme quadratique qq sur Rn\mathbf{R}^n, de matrice QQ, est l’ensemble des (c1,…,cn)∈Rn(c_1, \ldots, c_n) \in \mathbf{R}^n tels que ∑iciei=0\sum_i c_i e_i = 0. Si N={0}N = \{0\}, les eie_i sont linéairement indépendants et l’on est dans le cas 1). Si dim⁡N>0\dim N > 0, le lemme 4 (i) montre que l’on est dans le cas 2).

Lemme 6

Soit (e1,…,en)(e_1, \ldots, e_n) une base de TT telle que (ei∣ej)≤0(e_i|e_j) \leq 0 pour i≠ji \neq j.* (i) Si x=∑iciei∈Tx = \sum_i c_i e_i \in T est tel que (x∣ei)≥0(x|e_i) \geq 0 pour tout ii, on a ci≥0c_i \geq 0 pour tout ii. (ii) *Si xx et yy sont deux éléments de TT tels que (x∣ei)≥0(x|e_i) \geq 0 et (y∣ei)≥0(y|e_i) \geq 0 pour tout ii, on a (x∣y)≥0(x|y) \geq 0. Si (x∣ei)>0(x|e_i) > 0 et (y∣ei)>0(y|e_i) > 0 pour tout ii, on a (x∣y)>0(x|y) > 0.

Plaçons-nous dans les hypothèses de (i) et supposons qu’il existe un ii tel que ci<0c_i < 0. Soit ff la forme linéaire sur TT définie par f(ei)=1f(e_i) = 1 et

f(ej)=−ci/(∑k=1n∣ck∣) f(e_j) = -c_i / (\sum_{k=1}^n |c_k|)
pour j≠ij \neq i.

Les vecteurs — x,e1,…,enx, e_1, \ldots, e_n satisfont alors aux hypothèses du lemme 3 (ii) (en prenant pour qq la forme métrique de TT). On en conclut qu’ils sont linéairement indépendants, ce qui est absurde. D’où (i). De plus, si x=∑iciei∈Tx = \sum_i c_i e_i \in T et si y∈Ty \in T, on a (x∣y)=∑ici(ei∣y)(x|y) = \sum_i c_i (e_i|y), de sorte que (ii) résulte immédiatement de (i).

6. Théorèmes de finitude

Lemme 7

Soit AA un ensemble de vecteurs unitaires de TT. S’il existe un nombre réel λ<1\lambda < 1 avec (a∣a′)≤λ(a|a') \leq \lambda pour a,a′∈Aa, a' \in A et a≠a′a \neq a', alors l’ensemble AA est fini.

Pour a,a′∈Aa, a' \in A tels que a≠a′a \neq a', on a :

∣∣a−a′∣∣2=2−2(a∣a′)≥2−2λ. ||a - a'||^2 = 2 - 2(a|a') \geq 2 - 2\lambda.

Or, la sphère unité S de T étant compacte, il existe un recouvrement fini de S par des ensembles de diamètre <(2−2λ)1/2< (2 - 2\lambda)^{1/2} et chacun de ces ensembles contient au plus un point de A, d’où le lemme.

Notons U(w)U(w) l’automorphisme de T associé à l’application affine w∙Ww \bullet W de E dans lui-même. On a

w(x+t)=w(x)+U(w).tpour t∈T et x∈E. w(x + t) = w(x) + U(w).t \quad \text{pour } t \in T \text{ et } x \in E.

On définit ainsi un homomorphisme UU du groupe W dans le groupe orthogonal de T ; le noyau de UU est l’ensemble des translations appartenant à W.

Théorème 3

(i) L’ensemble des murs d’une chambre est fini. (ii) L’ensemble des directions des hyperplans appartenant à H\mathfrak{H} est fini. (iii) *Le groupe U(W)U(W) est fini.

L’assertion (i) résulte aussitôt de la prop. 3, (iii) et du lemme 7. Démontrons (ii). Soient C une chambre et M\mathfrak{M} l’ensemble de ses murs. Les facettes de C‾\overline{C} (relativement à H\mathfrak{H}) sont les mêmes que celles relativement à M\mathfrak{M} (§1§ 1, no 4, prop. 9). Puisque M\mathfrak{M} est fini, elles sont en nombre fini. Comme une facette ne rencontre qu’un nombre fini d’hyperplans appartenant à H\mathfrak{H}, l’ensemble des hyperplans appartenant à H\mathfrak{H} et rencontrant C‾\overline{C} est fini, ainsi que l’ensemble A(C)A(C) des vecteurs unitaires de T orthogonaux à un hyperplan appartenant à H\mathfrak{H} et rencontrant C‾\overline{C}. Par suite, il existe un nombre réel λ<1\lambda < 1 tel que (a∣a′)≤λ(a|a') \leq \lambda pour a,a′∈A(C)a, a' \in A(C) et a≠a′a \neq a'.

Soit alors A l’ensemble des vecteurs unitaires de T qui sont orthogonaux à un hyperplan appartenant à H\mathfrak{H}. Soient a,a′∈Aa, a' \in A avec a≠a′a \neq a'. Si aa et a′a' sont parallèles, on a a=−a′a = -a' et (a∣a′)=−1(a|a') = -1. Sinon, soit H∈HH \in \mathfrak{H} (resp. H′∈HH' \in \mathfrak{H}) tel que aa (resp. a′a') soit orthogonal à HH (resp. H′H'). On a H∩H′≠∅H \cap H' \neq \emptyset, et si x∈H∩H′x \in H \cap H', il existe un élément w∈Ww \in W tel que x∈w(C‾)x \in w(\overline{C}). Les vecteurs U(w).aU(w).a et U(w).a′U(w).a' appartiennent alors à A(C)A(C), l’on a :

(a∣a′)=(U(w).a∣U(w).a′)≤λ (a|a') = (U(w).a|U(w).a') \leq \lambda

et l’ensemble A est fini d’après le lemme 7. D’où (ii).

Soit maintenant w∈Ww \in W tel que U(w).a=aU(w).a = a pour tout a∈Aa \in A. On a alors U(w).t=tU(w).t = t pour tout tt appartenant au sous-espace de T engendré par A. D’autre part, si t∈Tt \in T est orthogonal à A, on a U(sH).t=tU(s_H).t = t pour tout H∈HH \in \mathfrak{H}, d’où U(w).t=tU(w).t = t et finalement U(w)=1U(w) = 1. Comme U(w)(A)=AU(w)(A) = A pour tout w∈Ww \in W, on en déduit que U(W)U(W) est isomorphe à un groupe de permutations de l’ensemble fini A, d’où (iii).

Proposition 4

Soient C une chambre et N\mathfrak{N} un ensemble de murs de C. Soit WNW_{\mathfrak{N}} le sous-groupe de W engendré par les réflexions orthogonales par rapport aux éléments de N\mathfrak{N}.

Pour H∈NH \in \mathfrak{N}, notons eHe_H le vecteur unitaire orthogonal à HH situé du même côté que CC de HH. Les conditions suivantes sont équivalentes :

(i) Le groupe WNW_{\mathfrak{N}} est fini. (ii) Il existe un point de EE invariant par tout élément de WNW_{\mathfrak{N}}. (iii) Les hyperplans appartenant à N\mathfrak{N} ont une intersection non vide. (iv) La famille de vecteurs (eH)H∈N(e_H)_{H \in \mathfrak{N}} est libre dans TT.

Supposons que WNW_{\mathfrak{N}} ait un cardinal fini dd. Pour tout point aa de EE, le point b=∑w∈WNd−1⋅w(a)b = \sum_{w \in W_{\mathfrak{N}}} d^{-1} \cdot w(a) est invariant par WNW_{\mathfrak{N}}, donc (i) entraîne (ii).

D’après la propriété (D 2) du début du § 3, le stabilisateur dans WW de tout point de EE est fini, donc (ii) entraîne (i).

Comme le groupe WNW_{\mathfrak{N}} est engendré par l’ensemble des réflexions par rapport aux hyperplans appartenant à N\mathfrak{N}, les points fixes de WNW_{\mathfrak{N}} sont les points de EE appartenant à tout hyperplan H∈NH \in \mathfrak{N}, d’où l’équivalence de (ii) et (iii).

Supposons qu’il existe un point aa de EE tel que a∈Ha \in H pour tout H∈NH \in \mathfrak{N} et soit t∈Tt \in T tel que a+t∈Ca + t \in C. Puisque (eH∣eH′)≤0(e_H|e_{H'}) \leq 0 pour H,H′∈NH, H' \in \mathfrak{N}, tels que H≠H′H \neq H' (prop. 3), et que (t∣eH)>0(t|e_H) > 0 pour tout H∈NH \in \mathfrak{N}, le lemme 3 (ii) entraîne que les eHe_H pour H∈NH \in \mathfrak{N} sont linéairement indépendants. Par suite (iii) entraîne (iv).

Supposons enfin que la famille (eH)H∈N(e_H)_{H \in \mathfrak{N}} soit libre. Soit aa un point de EE. Pour tout hyperplan H∈NH \in \mathfrak{N}, il existe un nombre réel cHc_H tel que HH se compose des points a+ta + t de EE avec (t∣eH)=cH(t|e_H) = c_H. Puisque la famille (eH)(e_H) est libre, il existe t∈Tt \in T tel que (t∣eH)=cH(t|e_H) = c_H pour tout H∈NH \in \mathfrak{N}, et le point a+ta + t de EE appartient à tous les hyperplans H∈NH \in \mathfrak{N}. Donc (iv) entraîne (iii).

Remarque 1

Comme WW est engendré par les réflexions par rapport aux murs de la chambre CC, la proposition précédente donne un critère pour que WW soit fini. Nous reviendrons sur cette question au n° 9.

Remarque 2

Soient FF un espace affine réel de dimension finie et GG un groupe d’automorphismes de FF. Pour tout g∈Gg \in G, notons U(g)U(g) l’automorphisme de l’espace des translations VV de FF associé à gg. Supposons que l’image U(G)U(G) soit un sous-groupe fini de GL(V)\mathbf{GL}(V); il existe alors sur VV un produit scalaire invariant par U(G)U(G) (Intégr., chap. VII, § 3, n° 1, prop. 1). Si de plus GG opère proprement sur FF lorsqu’on le munit de la topologie discrète et qu’il soit engendré par des réflexions, on peut donc appliquer à GG tous les résultats du présent paragraphe.

7. Décomposition de la représentation linéaire de WW dans TT

Soit II l’ensemble des sommets du graphe de Coxeter de WW (n° 4) et soit JJ une partie de II telle qu’un sommet de JJ et un sommet de I−JI - J ne soient jamais liés. Soient CC une chambre, ss la bijection canonique de II sur l’ensemble des réflexions par rapport aux murs de CC, et soit WJ,CW_{J,C} le sous-groupe engendré par l’image s(J)s(J). Il résulte alors du chap. IV, § 1, n° 9, prop. 8, que WW est produit direct des deux sous-groupes WJ,CW_{J,C} et WI−J,CW_{I-J,C}. Soient C′C' une autre chambre et s' l’injection correspondante de I dans W. Nous avons vu (n° 4) que si w∈Ww \in W transforme C en C', on a s′(i)=ws(i)w−1s'(i) = ws(i)w^{-1} pour i∈Ii \in I. Puisque WJ,CW_{J,C} est distingué dans W, il en résulte que s′(i)∈WJ,Cs'(i) \in W_{J,C} pour tout i∈Ji \in J. On en déduit que le sous-groupe WJ,CW_{J,C} ne dépend pas de C. Nous le noterons simplement WJW_J dans ce qui suit.

La définition de WJ,CW_{J,C} s’étend évidemment à une partie J quelconque de I. Mais s’il existe un sommet de J et un sommet de I — J qui soient liés, alors WJ,CW_{J,C} n’est pas distingué et dépend du choix de la chambre C.

Soit TJ0T_J^0 le sous-espace de T formé des vecteurs invariants par tout élément de U(WJ)U(W_J) et soit TJT_J le sous-espace orthogonal à TJ0T_J^0. Puisque WJW_J est un sous-groupe distingué de W, il est clair que TJ0T_J^0 est invariant par U(W)U(W), donc aussi TJT_J.

Proposition 5

Soient J1,…,JsJ_1, \ldots, J_s les ensembles de sommets des composantes connexes du graphe de Coxeter de W. Pour 1≤p≤s1 \leq p \leq s, posons

Wp=WJp,Tp=TJp,Tp′=TJp0etT0=⋂1≤p≤sTp′. W_p = W_{J_p}, \quad T_p = T_{J_p}, \quad T'_p = T_{J_p}^0 \quad \text{et} \quad T_0 = \bigcap_{1 \leq p \leq s} T'_p.

(i) Le groupe W est produit direct des sous-groupes WpW_p (1≤p≤s1 \leq p \leq s).

(ii) L’espace T est somme directe orthogonale des sous-espaces T0,T1,…,TsT_0, T_1, \ldots, T_s, qui sont stables par U(W)U(W).

(iii) Pour tout q tel que 1≤q≤s1 \leq q \leq s, le sous-espace Tq′T'_q de T est formé des vecteurs invariants par U(Wq)U(W_q); il est somme directe des TpT_p pour 0≤p≤s0 \leq p \leq s et p≠qp \neq q.

(iv) Soit C une chambre. Le sous-espace TpT_p (pour 1≤p≤s1 \leq p \leq s) est engendré par les vecteurs ei(C)e_i(C) pour i∈Jpi \in J_p (notations du n° 4).

(v) Les représentations de W dans les sous-espaces TpT_p (1≤p≤s1 \leq p \leq s) sont absolument irréductibles, non triviales, et deux à deux non équivalentes.

L’assertion (i) résulte du chap. IV, § 1, n° 9. D’autre part, nous avons déjà vu que les sous-espaces TpT_p sont invariants par U(W)U(W), et il en est de même de T0T_0. Soit C une chambre; comme WpW_p est engendré par les réflexions si(C)s_i(C) pour i∈Jpi \in J_p, il est clair que Tp′T'_p est le sous-espace orthogonal aux ei(C)e_i(C) pour i∈Jpi \in J_p, d’où (iv). Par ailleurs, si i∈Jp,j∈Jqi \in J_p, j \in J_q avec p≠qp \neq q, on a mij=2m_{ij} = 2 puisque {i,j}\{i, j\} n’est pas une arête du graphe de Coxeter de W, d’où (ei∣ej)=0(e_i|e_j) = 0. On en déduit aussitôt (ii). L’assertion (iii) en résulte, puisque Tq′T'_q est l’orthogonal de TqT_q.

Enfin, soit V un sous-espace de TpT_p invariant par U(Wp)U(W_p). Pour tout i∈Jpi \in J_p, ou bien on a ei∈Ve_i \in V, ou bien eie_i est orthogonal à V (§2§ 2, n° 2, prop. 3). Soit A (resp. B) l’ensemble des i∈Jpi \in J_p tels que ei∈Ve_i \in V (resp. eie_i orthogonal à V). On a évidemment (ei∣ej)=0(e_i|e_j) = 0 pour i∈Ai \in A et j∈Bj \in B, et puisque JpJ_p est connexe, on en déduit, ou bien A=∅A = \emptyset et V={0}V = \{0\}, ou bien A=JpA = J_p et V=TpV = T_p. Par suite, la représentation de WpW_p dans TpT_p est irréductible, donc absolument irréductible (§2§ 2, n° 1, prop. 1). Elle est non triviale par définition même de TpT_p. Enfin, la dernière assertion de (v) résulte aussitôt de (iii).

On dit que W est essentiel si le sous-espace T_0 des vecteurs de T invariants par U(W) est réduit à {0}; on dit que W est irréductible si la représentation U de W dans T est irréductible.

Corollaire

Supposons W ≠ {1}. Pour que W soit irréductible, il faut et il suffit qu’il soit essentiel et que son graphe de Coxeter soit connexe.

Remarque

Sous les hypothèses de la prop. 5, les sous-espaces T_p pour 0 ≤ p ≤ s sont les composantes isotypiques de la représentation linéaire U de W dans T (Alg., chap. VIII, § 3, no 4). Il en résulte (loc. cit., prop. 11) que tout sous-espace vectoriel V de T stable par W est somme directe des sous-espaces V ∩ T_p pour 0 ≤ p ≤ s; de plus (loc. cit., prop. 10) tout endomorphisme commutant aux opérateurs U(w) pour w ∈ W, laisse stable chacun des T_p pour 0 ≤ p ≤ s et y induit une homothétie pour 1 ≤ p ≤ s. En particulier, les formes bilinéaires Φ sur T invariantes par W sont les formes bilinéaires données par:

Φ(∑ktk,∑ktk′)=Φ0(t0,t0′)+∑1≤p≤sap(tp∣tp′) \Phi(\sum_k t_k, \sum_k t'_k) = \Phi_0(t_0, t'_0) + \sum_{1 \leq p \leq s} a_p(t_p|t'_p)

où Φ_0 est une forme bilinéaire sur T_0 et a_p (pour 1 ≤ p ≤ s) un nombre réel : en effet, une telle forme Φ s’écrit d’une manière et d’une seule (t, t') ↦ (A(t)|t'), où A est un endomorphisme de T commutant aux U(w) pour w ∈ W.

8. Décomposition de l’espace affine E en produit

Conservons les notations de la prop. 5. Pour 0 ≤ p ≤ s, soit E_p l’ensemble des orbites du groupe T'_p dans E, et soit φ_p l’application canonique de E sur E_p. Les opérations de T dans E passent au quotient ; en particulier, T_p opère sur E_p et on vérifie immédiatement (par exemple en prenant une origine dans E) que E_p est un espace affine admettant T_p comme espace des translations. Posons E' = E_0 × ... × E_s : c’est un espace affine ayant T = T_0 ⊕ ... ⊕ T_s comme espace des translations. Soit φ : E → E' l’application produit des φ_p; comme φ commute aux opérations de T, c’est une bijection et même un isomorphisme d’espaces affines. Dans ce qui suit, nous identifierons E et E' au moyen de φ ; l’application φ_p s’identifie alors à la projection canonique de E' sur E_p.

Comme W laisse stable T'_p, les opérations de W dans E passent au quotient et définissent une loi d’opération de W dans E_p (pour 0 ≤ p ≤ s), d’où par restriction une loi d’opération de W_p dans E_p (pour 1 ≤ p ≤ s). D’autre part, soit C une chambre, soit i ∈ I et soit p l’entier tel que i ∈ J_p. Pour tout x ∈ E, on a:

si(C)(x)=x−λ.ei(C)avec λ∈R. s_i(C)(x) = x - \lambda . e_i(C) \quad \text{avec } \lambda \in \mathbf{R}.

Comme e_i ∈ T'_q pour q ≠ p, on en déduit que

φq(w(x))=φq(x)pour x∈E,w∈Wp,0≤q≤s et q≠p. \varphi_q(w(x)) = \varphi_q(x) \quad \text{pour } x \in E, w \in W_p, 0 \leq q \leq s \text{ et } q \neq p.

Par suite, si w=w1…ws∈Ww = w_1 \ldots w_s \in W avec wp∈Wpw_p \in W_p pour 1≤p≤s1 \leq p \leq s, on a :

w((x0,…,xs))=(x0,w1(x1),…,ws(xs)) w((x_0, \ldots, x_s)) = (x_0, w_1(x_1), \ldots, w_s(x_s))

quels que soient les xp∈Epx_p \in E_p pour 0≤p≤s0 \leq p \leq s. Autrement dit, la loi d’opération de WW dans E=E′E = E' n’est autre que la loi produit des lois d’opérations des WpW_p dans les EpE_p (en posant W0={1}W_0 = \{1\}). Il en résulte que WpW_p opère fidèlement dans EpE_p et qu’on peut identifier WpW_p à un groupe de déplacements de l’espace euclidien EpE_p (l’espace des translations TpT_p de EpE_p étant naturellement muni du produit scalaire induit par celui de TT).

Proposition 6

(i) Le groupe WpW_p est un groupe de déplacements de l’espace affine euclidien EpE_p; il est engendré par des réflexions; muni de la topologie discrète, il opère proprement dans EpE_p; il est irréductible.

(ii) Soit Hp\mathfrak{H}_p l’ensemble des hyperplans HH de EpE_p tels que sH∈Wps_H \in W_p. L’ensemble H\mathfrak{H} se compose des hyperplans de la forme

H=E0×E1×⋯×Ep−1×Hp×Ep+1×⋯×Es H = E_0 \times E_1 \times \cdots \times E_{p-1} \times H_p \times E_{p+1} \times \cdots \times E_s

avec p=1,…,sp = 1, \ldots, s et Hp∈HpH_p \in \mathfrak{H}_p.

(iii) Toute chambre CC est de la forme E0×C1×⋯×CsE_0 \times C_1 \times \cdots \times C_s, où pour chaque pp l’ensemble CpC_p est une chambre définie dans EpE_p par l’ensemble d’hyperplans Hp\mathfrak{H}_p; de plus CpC_p admet pour murs les hyperplans φp(Hi(C))\varphi_p(H_i(C)) pour i∈Jpi \in J_p.

Soit CC une chambre. Posons Hi=Hi(C)H_i = H_i(C), ei=ei(C)e_i = e_i(C) et si=si(C)s_i = s_i(C) pour i∈Ii \in I (notations du no 4).

(i) Soit ii dans JpJ_p; comme on a ei∈Tpe_i \in T_p et que TT est somme directe des sous-espaces mutuellement orthogonaux T0,T1,…,TsT_0, T_1, \ldots, T_s, l’hyperplan de TT orthogonal à eie_i est de la forme Li+Tp′L_i + T'_p où LiL_i est l’hyperplan de TpT_p orthogonal à eie_i. L’hyperplan affine HiH_i de EE est de la forme Li+Tp′+xL_i + T'_p + x, avec x∈Ex \in E, et on a :

Hi=E0×E1×⋯×Ep−1×Hi′×Ep+1×⋯×Es H_i = E_0 \times E_1 \times \cdots \times E_{p-1} \times H'_i \times E_{p+1} \times \cdots \times E_s

avec Hi′=Li+φp(x)=φp(Hi)H'_i = L_i + \varphi_p(x) = \varphi_p(H_i). Il est alors immédiat que sis_i opère dans EpE_p par la réflexion associée à l’hyperplan Hi′H'_i de EpE_p. Donc le groupe WpW_p est un groupe de déplacements engendré par des réflexions dans EpE_p; la vérification du critère (D’ 2) de propreté est immédiate. Enfin, la prop. 5, (v) montre que WpW_p est irréductible. On a prouvé (i).

(ii) D’après le cor. du th. 1, l’ensemble Hp\mathfrak{H}_p se compose des hyperplans de la forme wp(Hi′)w_p(H'_i) pour ii dans JpJ_p et wpw_p dans WpW_p. Par ailleurs, si w=w1…wsw = w_1 \ldots w_s avec wp∈Wpw_p \in W_p pour tout pp, les formules (5) et (6) entraînent

w(Hi)=E0×E1×⋯×Ep−1×wp(Hi′)×Ep+1×⋯×Es w(H_i) = E_0 \times E_1 \times \cdots \times E_{p-1} \times w_p(H'_i) \times E_{p+1} \times \cdots \times E_s

d’où immédiatement (ii).

(iii) Soit ii dans JpJ_p; d’après la formule (6), le demi-espace ouvert DiD_i limité par HiH_i contenant CC est de la forme

Di=E0×E1×⋯×Ep−1×Di′×Ep+1×⋯×Es D_i = E_0 \times E_1 \times \cdots \times E_{p-1} \times D'_i \times E_{p+1} \times \cdots \times E_s
où Di′D'_i est un demi-espace ouvert limité par Hi′H'_i dans EpE_p. Posons Cp=⋂i∈JpDi′C_p = \bigcap_{i \in J_p} D'_i; puisque l’on a C=⋂i∈IDiC = \bigcap_{i \in I} D_i, on en déduit immédiatement
C=E0×C1×⋯×Cs; C = E_0 \times C_1 \times \cdots \times C_s;
par suite aucun des ensembles CpC_p n’est vide, et comme CC ne rencontre aucun hyperplan appartenant à S\mathfrak{S}, l’ensemble CpC_p ne rencontre aucun hyperplan appartenant à Sp\mathfrak{S}_p. La prop. 5 du § 1, no 3 montre alors que CpC_p est l’une des chambres définies par Sp\mathfrak{S}_p dans EpE_p. En utilisant la prop. 4 du § 1, no 2, on voit facilement que les murs de CpC_p sont les hyperplans Hi′=φp(Hi)H'_i = \varphi_p(H_i) pour i∈Jpi \in J_p.

9. Structure des chambres

Soient CC une chambre, M\mathscr{M} l’ensemble des murs de CC et pour H∈MH \in \mathscr{M}, soit eHe_H le vecteur unitaire orthogonal à HH situé du même côté que CC de l’hyperplan HH.

Proposition 7

Supposons que le groupe WW soit essentiel et fini. Alors : (i) Il existe un unique point aa de EE invariant par WW. (ii) La famille (eH)H∈M(e_H)_{H \in \mathscr{M}} est une base de TT. (iii) La chambre CC est le cône simplicial ouvert de sommet aa défini par la base (eH′)H∈M(e'_H)_{H \in \mathscr{M}} de TT telle que (eH∣eH′′)=δHH′(e_H|e'_{H'}) = \delta_{HH'}.

(i) D’après la prop. 4 du no 6, il existe un point a∈Ea \in E invariant par WW. Soit t∈Tt \in T tel que t+at + a soit invariant par WW. Pour tout w∈Ww \in W, on a

U(w).t+a=w(t+a)=t+a, U(w).t + a = w(t + a) = t + a,
d’où U(w).t=tU(w).t = t; comme WW est essentiel, cela entraîne t=0t = 0, ce qui montre l’unicité de aa.

(ii) Comme WW est essentiel, on a T=T1T = T_1 avec les notations du no 7, et la prop. 5, (iv) montre que la famille (eH)H∈M(e_H)_{H \in \mathscr{M}} engendre l’espace vectoriel TT. L’existence d’un point de EE invariant par WW montre que la famille (eH)H∈M(e_H)_{H \in \mathscr{M}} est libre (no 6, prop. 4).

(iii) Soit aa l’unique point de EE invariant par WW. Comme (eH)H∈M(e_H)_{H \in \mathscr{M}} est une base de TT, et que le produit scalaire est une forme bilinéaire non dégénérée sur TT, il existe une base (eH′)H∈M(e'_H)_{H \in \mathscr{M}} de TT et une seule telle que (eH∣eH′′)=δHH′(e_H|e'_{H'}) = \delta_{HH'} pour H,H′H, H' dans M\mathscr{M}. Tout point xx de EE s’écrit de manière unique sous la forme x=t+ax = t + a avec t=∑H∈MξH⋅eH′t = \sum_{H \in \mathscr{M}} \xi_H \cdot e'_H et les ξH\xi_H réels. Pour que xx appartienne à CC, il faut et il suffit que, pour tout hyperplan H∈MH \in \mathscr{M}, il soit du même côté de HH que eHe_H, c’est-à-dire que (t∣eH)=ξH(t|e_H) = \xi_H soit strictement positif. D’où (iii).

Proposition 8

Supposons que le groupe W soit essentiel, irréductible et infini. Alors : (i) Aucun point de E n’est invariant par W. (ii) On a Card M=dim⁡T+1\mathfrak{M} = \dim T + 1, et il existe des nombres réels cH>0c_H > 0 tels que ∑H∈McH⋅eH=0\sum_{H \in \mathfrak{M}} c_H \cdot e_H = 0. Si les nombres réels cH′c'_H sont tels que ∑H∈McH′⋅eH=0\sum_{H \in \mathfrak{M}} c'_H \cdot e_H = 0, il existe ξ\xi réel avec cH′=ξcHc'_H = \xi c_H pour tout H dans M\mathfrak{M}. (iii) La chambre C est un simplexe ouvert.

L’assertion (i) résulte de la prop. 4. D’autre part, puisque W est essentiel, les vecteurs (eH)H∈M(e_H)_{H \in \mathfrak{M}} engendrent T. On a (eH∣eH′)≤0(e_H|e_{H'}) \leq 0 pour H,H′∈MH, H' \in \mathfrak{M} et H≠H′H \neq H' (prop. 3) et, puisque W est irréductible, il n’existe pas de partition de M\mathfrak{M} en deux ensembles non vides M′\mathfrak{M}' et M′′\mathfrak{M}'' telle que H′∈M′H' \in \mathfrak{M}' et H′′∈M′′H'' \in \mathfrak{M}'' entraînent (eH′∣eH′′)=0(e_{H'}|e_{H''}) = 0. On peut donc appliquer le lemme 5 du n° 5, et le cas 1) de ce lemme est exclu : en effet, les eHe_H ne sont pas linéairement indépendants, puisque W n’a pas de point fixe. L’assertion (ii) en résulte.

Démontrons (iii). Numérotons les murs de C sous la forme H0,H1,…,HdH_0, H_1, \ldots, H_d et posons tm=eHmt_m = e_{H_m}. D’après (ii), les vecteurs t1,…,tdt_1, \ldots, t_d forment une base de T, donc les hyperplans H1,…,HdH_1, \ldots, H_d ont un point a0a_0 en commun, et il existe une base (t1′,…,td′)(t'_1, \ldots, t'_d) de T telle que (tm∣tn′)=δmn(t_m|t'_n) = \delta_{mn}; de plus, toujours d’après (ii), il existe des nombres réels c1>0,…,cd>0c_1 > 0, \ldots, c_d > 0 tels que

t0=−(c1⋅t1+⋯+cd⋅td). t_0 = - (c_1 \cdot t_1 + \cdots + c_d \cdot t_d).
Comme le vecteur t0t_0 est orthogonal à l’hyperplan H0H_0, il existe un nombre réel cc tel que H0H_0 soit l’ensemble des points x=t+a0x = t + a_0 de E avec (t∣t0)=−c(t|t_0) = -c.

Tout point de E s’écrit de manière unique sous la forme x=t+a0x = t + a_0 avec t=ξ1⋅t1′+⋯+ξd⋅td′t = \xi_1 \cdot t'_1 + \cdots + \xi_d \cdot t'_d et ξ1,…,ξd\xi_1, \ldots, \xi_d réels. Pour que xx appartienne à C, il faut et il suffit qu’il soit du même côté de HmH_m que tmt_m pour 0≤m≤d0 \leq m \leq d; ceci se traduit par les inégalités (t∣t1)>0,…,(t∣td)>0(t|t_1) > 0, \ldots, (t|t_d) > 0, et (t∣t0)>−c(t|t_0) > -c, ou encore par ξ1>0,…,ξd>0,c1ξ1+⋯+cdξd<c\xi_1 > 0, \ldots, \xi_d > 0, c_1 \xi_1 + \cdots + c_d \xi_d < c. Comme C est non vide, on a c>0c > 0. Posons am=a0+ccm⋅tm′a_m = a_0 + \frac{c}{c_m} \cdot t'_m pour 1≤m≤d1 \leq m \leq d; la chambre C se compose alors des points de E de la forme a0+∑m=1dλm⋅(am−a0)a_0 + \sum_{m=1}^d \lambda_m \cdot (a_m - a_0) avec λ1>0,…,λd>0\lambda_1 > 0, \ldots, \lambda_d > 0 et λ1+⋯+λd<1\lambda_1 + \cdots + \lambda_d < 1, donc C est le simplexe ouvert de sommets a0,…,ada_0, \ldots, a_d.

Remarque 1

Identifions E à E0×E1×⋯×EsE_0 \times E_1 \times \cdots \times E_s, et W à W1×⋯×WsW_1 \times \cdots \times W_s comme au n° 8. D’après la prop. 6, la chambre C s’identifie alors à

E0×C1×⋯×Cs E_0 \times C_1 \times \cdots \times C_s
où CpC_p est une chambre dans EpE_p par rapport à l’ensemble Sp\mathfrak{S}_p d’hyperplans. D’après les prop. 7 et 8, chacune des chambres C1,…,CsC_1, \ldots, C_s est un cône simplicial ouvert ou un simplexe ouvert.

Remarque 2

Supposons W irréductible et essentiel. Si H et H’ sont deux murs de C, on a mHH′=+∞m_{HH'} = +\infty si et seulement si l’on a eH=−eH′e_H = -e_{H'} (prop. 3). D’après les prop. 7 et 8, ceci ne peut se produire que si HH et H′H' sont les seuls murs de CC et EE de dimension 1. Le seul cas où l’un des mHH′m_{HH'} est infini est donc celui où EE est de dimension 1 et où le groupe WW est engendré par les réflexions associées à deux points distincts (cf. § 2, no 4).

Dans le cas général, la matrice de Coxeter associée à WW a ses éléments finis, sauf si l’un au moins des E1,…,EsE_1, \ldots, E_s est du type précédent.

10. Points spéciaux

Soient LL l’ensemble des translations appartenant à WW et Λ\Lambda l’ensemble des t∈Tt \in T tels que la translation x↦t+xx \mapsto t + x appartienne à LL. Il est immédiat que Λ\Lambda est stable par U(W)U(W) et que LL est un sous-groupe distingué de WW. Comme WW opère proprement dans EE, il en est de même de LL, et on en déduit facilement que Λ\Lambda est un sous-groupe discret de TT. Pour tout point xx de EE, on notera WxW_x le stabilisateur de xx dans WW.

Proposition 9

Soit a∈Ea \in E. Les conditions suivantes sont équivalentes :

(i) On aa W=Wa.LW = W_a . L; (ii) La restriction de l’homomorphisme UU à WaW_a est un isomorphisme de WaW_a sur U(W)U(W); (iii) Pour tout hyperplan H∈SH \in \mathfrak{S}, il existe un hyperplan H′∈SH' \in \mathfrak{S} parallèle à HH et tel que a∈H′a \in H'.

Il est clair que (i)   ⟺  \iff (ii), puisque LL est le noyau de UU et que L∩Wa={1}L \cap W_a = \{1\}.

Admettons (i) et soit H∈SH \in \mathfrak{S}; on a sH∈Wa.Ls_H \in W_a . L et il existe donc un vecteur t∈Λt \in \Lambda tel que a=sH(a)+ta = s_H(a) + t; le vecteur tt est orthogonal à HH, et si H′=H+12tH' = H + \frac{1}{2} t on a sH′(x)=sH(x)+ts_{H'}(x) = s_H(x) + t pour tout x∈Ex \in E (cf. § 2, no 4, prop. 5). Comme on a t∈Λt \in \Lambda et sH∈Ws_H \in W, on a sH′∈Ws_{H'} \in W, d’où H′∈SH' \in \mathfrak{S}; on a aussi a=sH′(a)a = s_{H'}(a), d’où a∈H′a \in H'. Donc (i) implique (iii).

Admettons (iii). Soit H∈SH \in \mathfrak{S}; prenons H′H' comme dans (iii). Alors sH′(a)=as_{H'}(a) = a, d’où sH′∈Was_{H'} \in W_a; comme HH est parallèle à H′H', l’élément w=sH′sHw = s_{H'} s_H de WW est une translation (§ 2, no 4, prop. 5), d’où w∈Lw \in L; on a alors sH=sH′w∈Wa.Ls_H = s_{H'} w \in W_a . L. Comme WW est engendré par la famille (sH)H∈S(s_H)_{H \in \mathfrak{S}}, on a donc W=Wa.LW = W_a . L et (iii) implique (i).

Définition 1

On dit qu’un point aa de EE est spécial pour WW s’il satisfait aux conditions équivalentes de la prop. 9.

Il est clair que l’ensemble des points spéciaux de EE est stable par WW.

Proposition 10

Il existe un point spécial pour WW.

D’après la prop. 6 du no 8, on peut se limiter au cas où WW est essentiel.

Le groupe U(W)U(W) d’automorphismes de TT est fini (cf. no 6, th. 3) et U(sH)U(s_H) est une réflexion orthogonale pour tout hyperplan HH; de plus, U(W)U(W) est engendré par la famille (U(sH))H∈S(U(s_H))_{H \in \mathfrak{S}}. D’après la prop. 7 du n° 9, il existe une base (ei)i∈I(e_i)_{i \in I} de TT telle que le groupe U(W)U(W) soit engendré par l’ensemble des réflexions (si)i∈I(s_i)_{i \in I} définies par

si(t)=t−2(t∣ei)⋅ei. s_i(t) = t - 2(t|e_i) \cdot e_i.
Le cor. du th. 1 du n° 2 montre que toute réflexion s∈U(W)s \in U(W) est de la forme s=U(sH)s = U(s_H) avec H∈SH \in \mathfrak{S}. On peut donc trouver dans S\mathfrak{S} une famille d’hyperplans (Hi)i∈I(H_i)_{i \in I} tels que si=U(sHi)s_i = U(s_{H_i}) pour tout ii. Comme les vecteurs eie_i sont linéairement indépendants, il existe a∈Ea \in E tel que a∈Hia \in H_i pour tout i∈Ii \in I. On a sHi∈Was_{H_i} \in W_a, d’où U(W)=U(Wa)U(W) = U(W_a), c’est-à-dire W=WaW = W_a. L puisque LL est le noyau de UU. Donc aa est spécial.

Lorsque WW est fini essentiel, il n’y a qu’un seul point spécial pour WW, à savoir l’unique point invariant par WW. La considération des points spéciaux est donc surtout intéressante quand WW est infini.

Proposition 11

Supposons WW essentiel. Soit aa un point spécial pour WW. Les chambres relatives à WaW_a sont des cônes simpliciaux ouverts de sommet aa. Pour toute chambre C′C' relative à WaW_a il existe une chambre CC et une seule relative à WW, contenue dans C′C', et telle que a∈C‾a \in \overline{C}. La réunion des w′(C‾)w'(\overline{C}) pour w′∈Waw' \in W_a est un voisinage fermé de aa dans EE. Tout mur de C′C' est un mur de CC. Si WW est infini irréductible, les murs de CC sont les murs de C′C' et un hyperplan affine non parallèle aux murs de CC.

Soit S′\mathfrak{S}' l’ensemble des H∈SH \in \mathfrak{S} qui contiennent aa. Le groupe WaW_a est engendré par les sHs_H pour H∈S′H \in \mathfrak{S}' (n° 3, prop. 2). Les chambres relatives à WaW_a sont des cônes simpliciaux ouverts de sommet aa (n° 9, prop. 7). Soit C′C' une telle chambre et soit UU une boule ouverte non vide de centre aa ne rencontrant aucun élément de S−S′\mathfrak{S} - \mathfrak{S}'. Comme a∈C′‾a \in \overline{C'}, il existe bb dans U∩C′U \cap C'. On a b∉Hb \notin H pour tout H∈SH \in \mathfrak{S}, donc bb appartient à une chambre CC relative à S\mathfrak{S}. Comme on a S′⊂S\mathfrak{S}' \subset \mathfrak{S}, on a C⊂C′C \subset C'. L’ensemble U∩C′U \cap C' ne rencontre aucun H∈SH \in \mathfrak{S} et est convexe, donc U∩C′⊂CU \cap C' \subset C; on a donc a∈C‾a \in \overline{C}. Inversement, soit C1C_1 une chambre relative à WW contenue dans C′C' et telle que a∈C1‾a \in \overline{C_1}; alors C1C_1 rencontre UU, et on a U∩C1⊂U∩C′=U∩CU \cap C_1 \subset U \cap C' = U \cap C; les chambres CC et C1C_1, ayant un point commun, coïncident. Pour tout w′∈Waw' \in W_a, on a w′(U)=Uw'(U) = U, donc

U∩w′(C)=w′(U∩C)=w′(U∩C′)=U∩w′(C′); U \cap w'(C) = w'(U \cap C) = w'(U \cap C') = U \cap w'(C');
comme la réunion des w′(C′)w'(C') pour w′∈Waw' \in W_a est dense dans EE, la réunion des U∩w′(C′)=U∩w′(C)U \cap w'(C') = U \cap w'(C) est dense dans UU, et la réunion des w′(C‾)w'(\overline{C}) pour w′∈Waw' \in W_a contient donc UU. Enfin, si HH est un mur de C′C', il existe un point c∈U∩Hc \in U \cap H et un voisinage ouvert V⊂UV \subset U de cc tel que V∩C′V \cap C' soit l’intersection de VV et du demi-espace ouvert déterminé par HH contenant C′C'; comme V∩C′=V∩U∩C′=V∩U∩C=V∩CV \cap C' = V \cap U \cap C' = V \cap U \cap C = V \cap C, on voit que HH est un mur de CC. Si WW est infini irréductible, CC est un simplexe ouvert (n° 9, prop. 8), donc admet un mur de plus que le cône simplicial ouvert C′C'.

Corollaire

Supposons W essentiel. (i) Si a∈Ea \in E est spécial, il existe une chambre CC telle que aa soit un point extrémal de C‾\overline{C}. (ii) Si CC est une chambre, il existe un point extrémal de C‾\overline{C} qui est spécial. La première assertion résulte de la prop. 11. La seconde résulte de la première et du fait que W opère transitivement sur l’ensemble des chambres.

Par contre, un point extrémal de C‾\overline{C} n’est pas nécessairement un point spécial pour W (cf. chap. VI, planche X, systèmes B2B_2 et G2G_2).

Remarque 1). — Supposons W essentiel, irréductible et infini et gardons les notations de la prop. 11. Puisque UU est un isomorphisme de WaW_a sur U(W)U(W), on voit que le graphe de Coxeter du groupe de déplacements U(W)U(W) (qui est engendré par les réflexions U(sH)U(s_H) pour H∈gH \in \mathfrak{g}) s’obtient à partir du graphe de Coxeter de W en supprimant le sommet ii correspondant à l’unique mur de CC qui n’est pas un mur de C′C'.

Proposition 12

Supposons W essentiel. Soit aa un point spécial, soit L(a)L(a) l’ensemble de ses transformés par le groupe de translations LL, et soit CC une chambre. Alors C‾\overline{C} rencontre L(a)L(a) en un point et un seul; ce point est point extrémal de C‾\overline{C}.

Il existe une chambre C1C_1 telle que aa soit point extrémal de C‾1\overline{C}_1 (cor. de la prop. 11). Toute chambre est de la forme C=tw′(C1)C = tw'(C_1) avec w′∈Waw' \in W_a et t∈Lt \in L puisque W=Wa.LW = W_a . L; alors C‾\overline{C} admet le point extrémal tw′(a)=t(a)∈L(a)tw'(a) = t(a) \in L(a). D’autre part, C‾\overline{C} ne peut contenir deux points distincts de L(a)L(a) puisque C‾\overline{C} est un domaine fondamental pour W (n° 3, th. 2).

Remarque 2). — L’ensemble L(a)L(a) est contenu dans l’ensemble des points spéciaux. Il en est en général distinct (cf. chap. VI, § 2, n° 2 et planches I à VI).

Exercices

See the exercises for § 3.

Transcribed from the printed volume. Not translated.