Exercice 11, § 4

Soit $H$ le sous-ensemble de $\mathbf{R}^n$ formé des points $x = (x_0, \ldots, x_{n-1})$ pour lesquels la forme

est $< 0$, et soit $PH$ l’image de $H$ dans l’espace projectif $P_{n-1}(\mathbf{R})$. Soit $G$ le groupe orthogonal de la forme $B$. a) Montrer que $PH$ est un espace homogène de $G$, que le stabilisateur d’un point de $PH$ est compact, et que $G$ opère proprement sur $PH$. b) Soient $\omega$ et $\Omega$ les formes différentielles sur $H$ définies par les formules : Montrer que $\Omega$ est l’image réciproque par la projection canonique $\pi : H \to PH$ d’une forme différentielle $\tilde{\Omega}$ sur $PH$. Montrer que la mesure positive $\nu$ associée à $\tilde{\Omega}$ (\emph{Var. diff. R}, 2e partie) est invariante par $G$, et que c’est la seule, à un facteur scalaire près. c) Soit $C$ un cône simplicial ouvert de sommet $0$ dans $\mathbf{R}^n$ (§ 1, no 6). On suppose $C$ contenu dans $H$, et on note $PC$ l’image de $C$ par $\pi : H \to PH$. Montrer que, si $n \geq 3$, on a $\nu(PC) < \infty$ (identifier $PH$ au sous-espace de $\mathbf{R}^{n-1}$ formé des $(x_1, \ldots, x_{n-1})$ tels que $\sum_{i=1}^{n-1} x_i^2 < 1$, et déterminer la mesure correspondant à $\nu$ sur ce sous-espace). Montrer que $PC$ est relativement compact dans $PH$ si et seulement si $\overline{C}$ est contenu dans $H$.