Soit (W,S) un système de Coxeter, avec S fini. Pour toute partie H de W, on désigne par H(t) la série formelle à coefficients entiers définie par :
H(t)=w∈H∑tl(w).
a) On suppose que Card(S)=2. Montrer que
W(t)=(1+t−tm−tm+1)/(1−t)W(t)=(1+t)/(1−t)si W est d’ordre fini 2msi W est infini.
b) On suppose que W est fini. Soit w0 l’élément de plus grande longueur de W (exerc. 22) et soit m=l(w0). Montrer que l’on a :
W(t)=tmW(t−1)
(utiliser l’exerc. 22).
c) Soit X une partie de S. On note AX l’ensemble des éléments (X,∅)-réduits de W (exerc. 3) et WX le sous-groupe de W engendré par X. On sait (exerc. 3) qu’un élément w∈W appartient à AX si et seulement si l(xw)=l(w)+1 pour tout x∈X, que tout élément w∈W s’écrit de façon unique sous la forme w=uv avec u∈WX et v∈AX, et que l’on a alors l(w)=l(u)+l(v). En déduire la formule :
W(t)=WX(t)⋅AX(t).
d) On conserve les notations précédentes, et on note BX l’ensemble des w∈AX tels que l(sw)=l(w)−1 pour tout s∈S−X. Montrer que l’on a :
AX(t)=Y⊂Y⊂S∑BY(t).
En déduire que :
BX(t)=X⊂Y⊂S∑ε(Y−X)AY(t)avecε(Z)=(−1)Card(Z)
(utiliser l’exerc. 25).
e) On suppose W fini et l’on définit m et w0 comme dans b). Montrer que B∅={w0} et que :
tm=Y⊂S∑ε(Y)WY(t)W(t)
(utiliser c et d).
f) On suppose W infini. Montrer que B∅=∅ et que l’on a :
0=Y⊂S∑WY(t)ε(Y).
g) Montrer que la série formelle W(t) est une fonction rationnelle de t (utiliser f) et raisonner par récurrence sur Card(S)). Montrer que cette fonction rationnelle ne s’annule que pour des valeurs de t qui sont des racines de l’unité; montrer que 1/W(∞) est un entier. Montrer que l’on a W(t−1)1∈Z[[t]].