Exercice 35, § 1

On note E un espace hilbertien réel de dimension finie $n$, S la sphère unité de E et $m$ l’unique mesure positive de norme 1 sur S invariante par le groupe des automorphismes de E. On considère S comme un espace métrique dans lequel la distance est définie par $d(x, y) = \operatorname{Arc}\cos \langle x|y \rangle$. Pour $x \in S$ et tout nombre réel $r \geqslant 0$, on note $B(x, r)$ l’ensemble des points $y$ de $S$ tels que $d(x, y) \leqslant r$; pour toute partie $A$ de $S$ et tout nombre réel $r \geqslant 0$, on note $A_r$ l’ensemble des points $x$ de $S$ tels que $d(x, A) \leqslant r$.

a) Etant données deux parties fermées $A$ et $B$ de $S$, on note $\delta(A, B)$ la borne inférieure de l’ensemble des nombres réels $r \geqslant 0$ tels que $A \subset B_r$ et $B \subset A_r$. Montrer que $\delta$ est une distance sur l’ensemble $\mathscr{F}$ des parties fermées de $S$, et que $\mathscr{F}$ est un espace métrique compact pour cette distance. Montrer que l’application $A \mapsto m(A)$ de $\mathscr{F}$ dans $\mathbf{R}$ est semi-continue supérieurement.

b) Soient $x_0$ un point de $S$, $H$ l’hyperplan de $E$ orthogonal à $x_0$, $x_1$ un point de $H$ et $\gamma$ l’arc de cercle joignant $x_0$ à $-x_0$ en passant par $x_1$, c’est-à-dire l’ensemble des points de $S$ de la forme $x_0 \sin \theta + x_1 \cos \theta$ avec $|\theta| \leqslant \pi/2$. Pour tout $y \in \gamma$, on pose $H_y = H + y$ et $S_y = S \cap H_y$; on note $m_y$ l’unique mesure positive de norme 1 sur $S_y$ invariante par le groupe des automorphismes de $E$ qui laissent fixe $x_0$.

Soit $A$ une partie fermée de $S$ et soit $\gamma'$ l’ensemble des points $y$ de $\gamma$ tels que $A \cap S_y$ soit non vide. Pour tout $y \in \gamma'$, il existe un unique nombre réel $r(y)$ tel que $0 \leqslant r(y) \leqslant \pi$ et que $m_y(A \cap S_y) = m_y(B(y, r(y)) \cap S_y)$; on note $s_{\gamma'}(A)$ la réunion des ensembles $B(y, r(y)) \cap S_y$ pour $y$ parcourant $\gamma'$. Prouver que $s_{\gamma'}(A)$ est fermé et que l’on a $m(A) = m((s_{\gamma'}(A)))$.

c) Pour toute partie fermée $A$ de $S$, on appelle rayon de $A$ la borne inférieure $r(A)$ de l’ensemble des nombres réels $r \geqslant 0$ pour lesquels il existe $x \in S$ avec $A \subset B(x, r)$. On note $M(A)$ l’ensemble des parties fermées $C$ de $S$ telles que $m(C) = m(A)$ et $m(C_\varepsilon) \leqslant m(A_\varepsilon)$ pour tout $\varepsilon > 0$. Montrer que les conditions suivantes sont équivalentes pour toute paire $(A, B)$ de parties fermées de $S$ :

(i) on a $m(A) = m(B)$ et $B$ est de la forme $B(x, r)$ avec $x \in S$ et $r \geqslant 0$; (ii) on a $B \in M(A)$ et $r(B) \leqslant r(C)$ pour toute partie $C$ de $A$ appartenant à $M(A)$. (Raisonnant par récurrence sur $n$, on déduira de b) que $s_{\gamma'}(A)$ appartient à $M(A)$ pour toute partie fermée $A$ de $S$; si $r > 0$ est tel que $A \subset B(x_1, r)$, montrer que tout point de la frontière de $B(x_1, r)$ dans $S$ qui appartient à $s_{\gamma'}(A)$ appartient aussi à $A$.)