Exercice 12, § 4

On suppose que la forme $x.y = B_M(x, y)$ est \emph{non dégénérée} et que $W$ est \emph{infini}. On identifie $E$ à son dual $E^*$ au moyen de $B_M$; en particulier, on désigne par $(e_s^*)$ la base de $E$ duale de la base $(e_s)$, et par $C$ l’intérieur du cône simplicial $\overline{C}$ engendré par les $e_s^*$. Soit $G$ le groupe orthogonal de $B_M$, et soit $\mu$ une mesure de Haar sur $G$; le groupe $G$ est unimodulaire, et contient $W$. a) Montrer que, si $\nu(W|G) < \infty$ (où $\nu$ est une mesure invariante par $G$), la forme $B_M$ est de signature $(n-1, 1)$, avec

et que l’on a $x.x < 0$ pour tout $x \in C$. (Soit $x \in C$ tel que $x.x \neq 0$, et soit $L_x$ l’hyperplan orthogonal à $x$. Montrer, en utilisant l’exerc. 10, que la restriction de $B_M$ à $L_x$ est, soit positive, soit négative; le second cas entraînerait que la forme $B_M$ soit de signature $(1, n-1)$, et l’on montrera que c’est impossible. En déduire que $x.x \leq 0$ pour tout $x \in C$, d’où $x.x < 0$, puisque $C$ est ouvert.) b) Réciproquement, supposons $B_M$ de signature $(n-1, 1)$ et $x.x < 0$ pour tout $x \in C$ (auquel cas on dit que $W$, ou $(W, S)$, ou le graphe de Coxeter correspondant, est \emph{de type hyperbolique}). Soit $H$ l’ensemble des $x \in E$ tels que $x.x < 0$, et soit $H_+$ la composante connexe de $H$ contenant $C$. Montrer que $H$ est réunion disjointe de $H_+$ et de $H_- = -H_+$, et que $H_-$ est contenu dans le cône simplicial engendré par $(e_s)_{s \in S}$ (utiliser le fait que $H_-$ est le polaire de $H_+$). Montrer que $H_+$ et $H_-$ sont stables par $W$. c) On conserve les notations et hypothèses de b). Soit $f$ la forme linéaire sur $E$ définie par $f(e_s) = 1$ pour tout $s \in S$. Si $x \in H$, posons $\varphi(x) = f(x)^2/(x.x)$. Si $PH$ désigne l’image du cône $H$ dans l’espace projectif $P(E)$, la fonction $\varphi$ définit une fonction $\tilde{\varphi}$ sur $PH$. Montrer que l’application

EXERCICES

est propre. En déduire que, pour tout $x \in H_+$, les fonctions $w \mapsto \varphi(w.x)$ et $w \mapsto f(w.x)$ atteignent leur maximum pour une valeur $w_1$ de W (utiliser le fait que G opère proprement sur PH, cf. exerc. 11, et que W est discret dans G); montrer que ces propriétés équivalent à $w_1(x) \in \overline{C}$. En déduire que $\overline{C} \cap H_+$ est un domaine fondamental pour l’action de W dans $H_+$, et que l’image de ce domaine fondamental dans PH a une mesure finie pour la mesure invariante $\nu$ de PH (utiliser l’exerc. 11). En conclure que l’on a $\nu(W|G) < \infty$. Montrer que $W|G$ est compact si et seulement si $\overline{C}$ est contenu dans $H_+$, i.e. si $e_s^*.e_s^* < 0$ pour tout $s \in S$ (on dit alors que W, ou $(W, S)$, ou le graphe de Coxeter correspondant, est de type hyperbolique compact).