Exercice 11, § 3

Soient $G$ le groupe compact $O(n, \mathbf{R})$, $\lambda$ la mesure de Haar normalisée sur $G$. Pour $0 < k < n$, soit $H$ le sous-groupe fermé de $G$ laissant (globalement) invariant le sous-espace $\mathbf{R}^k$ de $\mathbf{R}^n$; l’espace homogène $G/H$, muni de sa topologie quotient, s’identifie canoniquement à la grassmannienne $E = G_{n-1, k-1}(\mathbf{R})$ (Top. gén., chap. VI, § 3, no 6) des sous-espaces vectoriels de $\mathbf{R}^n$ de dimension $k$. Il y a sur $E$ une mesure $\mu$ invariante par $G$, déterminée à une constante près. Pour tout sous-espace $P \in E$, soit $\sigma_P$ l’image de la mesure de Lebesgue de $\mathbf{R}^k$ par un $s \in G$ tel que $s.\mathbf{R}^k = P$ (indépendant de l’élément $s \in G$ vérifiant cette relation). Montrer que l’on peut choisir $\mu$ de façon que la propriété suivante soit vérifiée : pour toute fonction continue $f$ dans $\mathbf{R}^n$, à support compact, et tout $P \in E$, on pose $F(P) = \int_P f(x) d\sigma(x)$. Alors

(Si $P_0 = \mathbf{R}^k$, noter que l’on peut écrire $\int_E F(P) d\mu(P) = c \int_G F(s.P_0) d\lambda(s)$ pour une constante $c$ convenable, et d’autre part, avec les notations de l’exercice 8 ; utiliser enfin l’exerc. 8 b)).