Exercice 13, § 4

Soient $E$ un espace hilbertien, $G$ un sous-groupe du groupe des automorphismes de la structure d’espace hilbertien de $E$. Soit $E^G$ le sous-espace vectoriel fermé de $E$ constitué par les vecteurs invariants par $G$, et $p$ l’orthoprojecteur de $E$ sur $E^G$. a) Montrer que le supplémentaire orthogonal de $E^G$ dans $E$ est le sous-espace vectoriel fermé engendré par les vecteurs $s.x - x$, où $s$ parcourt $G$ et $x \in E$. b) Soit $H$ une partie de $E$ non vide convexe, fermée et stable par $G$. Montrer que la projection de 0 sur $H$ appartient à $E^G$. c) Supposons que $H$ soit l’enveloppe fermée convexe de l’orbite d’un point $x$ de $E$, et soit $a$ la projection de 0 sur $H$. Montrer que $a = p(x)$ et que $H \cap E^G$ est réduit au point $a$ (« th. de Birkhoff-Alaoglu »). (Noter que $x - a$ est contenu dans le supplémentaire orthogonal de $E^G$.) d) Supposons que $G$ soit engendré par un automorphisme $u$ de $E$. Montrer que l’on a

e) Supposons que $G$ soit l’image d’un homomorphisme $t \mapsto u_t$ de $\mathbf{R}$ dans le groupe des automorphismes de $E$, tel que pour tout $x \in E$, $t \mapsto u_t.x$ soit une application continue de $\mathbf{R}$ dans $E$. Montrer que l’on a $p(x) = \lim_{T \to \infty} \frac{1}{T} \int_0^T u_t.x \, dt$ pour tout $x \in E$. f) On suppose qu’il existe un élément $x \neq 0$ de $E$ et un nombre $\alpha$ tels que $0 < \alpha < 1$ et $\|s.x - x\| \leq \alpha \|x\|$ pour tout $s \in G$. Montrer que $E^G \neq \{0\}$ (utiliser c)).