Exercice 3, § 6

a) Pour tout intervalle $I \subset \mathbf{R}$, on désigne par $G(I)$ le groupe des homéomorphismes de $I$ sur lui-même. Montrer que pour deux intervalles $I, J$ de $\mathbf{R}$ non réduits à un point, $G(I)$ et $G(J)$ sont isomorphes. Dans $G(I)$, l’ensemble $F(I)$ des homéomorphismes croissants est un sous-groupe distingué d’indice 2.

b) On pose $G = G(\mathbf{R}), F = F(\mathbf{R})$. Pour tout $f \in G$, et tout $x \in \mathbf{R}$, on pose

Soit $T^+$ (resp. $T^-$) l’ensemble des $f \in F$ tels que $\sigma(x;f)$ soit constant et égal à 1 (resp. $-1$) dans $\mathbf{R}$; montrer que tout élément de $T^+$ (resp. $T^-$) est conjugué dans $F$ de la translation $x \mapsto x + 1$ (resp. $x \mapsto x - 1$). (Si $f \in T^+$, considérer la suite des $f^n(0)$ pour $n \in \mathbf{Z}$.)

c) On pose $T = T^+ \cup T^-$; montrer que tout élément $f \in F$ n’appartenant pas à $T$ est produit dans $F$ de deux éléments de $T$. (Écrire $f = f_1 f_2$ dans $F$, avec $f_1(x) = \sup(x, f(x))$ et $f_2(x) = \inf(x, f(x))$; si $g$ est la translation $x \mapsto x + 1, f_1 g$ et $g^{-1} f_2$ appartiennent à $T$.)

d) Pour que deux éléments $f, g$ soient conjugués dans $F$, il faut et il suffit qu’il existe $s \in F$ tel que $\sigma(x;f) = \sigma(s(x);g)$ pour tout $x \in \mathbf{R}$. (Considérer les composantes connexes $I_n$ de l’ensemble ouvert des $x$ tels que $\sigma(x;f) \neq 0$, observer que d’après a), $F(I_n)$ et $F$ sont isomorphes et utiliser b).) En particulier, si $[a, b]$ est un intervalle de $\mathbf{R}$ tel que

pour un $f \in F$, l’élément $f'$ de $F$ égal à $f$ pour $x \leq a$ ou $x \geq b$, et tel que pour $a < x < b$, où $0 < \varepsilon < 1$, est conjugué de $f$ dans $F$.

e) Soient $f$ un élément de $F$, $a, b, c, d$ quatre nombres réels tels que $a < c < b < d$ et $f(x) - x = 0$ pour $x = a, x = b, x = c, x = d$, $\sigma(x;f) = 1$ pour $a < x < c$ et pour $b < x < d$. Soient $a', b'$ deux nombres tels que $a \leq a' < c, b < b' \leq d$; on pose $J = (a, b)$, $J' = (a', b')$, et on désigne par $f_1$ la restriction de $f$ à $J$, qui est un élément de $F(J)$. Montrer qu’il existe un homéomorphisme croissant $s$ de $J$ sur $J'$ tel que l’élément $f_2 = s f_1 s^{-1}$ de $F(J')$ soit tel que $f_2(x) > f^{-1}(x)$ pour $a' < x < b'$ (utiliser d)).

f) Soient $f$ un élément de $F$, $[a, b]$ un intervalle de $\mathbf{R}$ tel que $f(x) - x = 0$ pour $x = a$ et $x = b$, $\sigma(x;f) = -1$ pour $x < a$ et $\sigma(x;f) = +1$ pour $x > b$. Montrer qu’il existe un élément $g$ de $F$, conjugué de $f$ dans $F$ et tel que $g(x) > f(x)$ pour tout $x \in \mathbf{R}$ (même méthode).

g) On désigne par $H^+$ (resp. $H^-$) le sous-groupe distingué de $F$ formé des $f \in F$ tels que $f(x) = x$ dans un voisinage de $+\infty$ (resp. de $-\infty$). Montrer que $H^+, H^-$ et $H = H^+ \cap H^-$ sont les seuls sous-groupes distingués de $F$ distincts de $F$ et de $\{e\}$. (Si $N$ est un sous-groupe distingué de $F$ distinct de $F$ et si $f \in N$ n’appartient pas à $H^+$, montrer qu’il existe dans $N$ un élément $g$ tel que l’ensemble des $x \in \mathbf{R}$ tels que $\sigma(x;g) = +1$ soit un intervalle $]a, +\infty]$ et que l’on ait $g(x) = x$ pour $x \leq a$. On utilisera pour cela les constructions de e) et f), ainsi que b) et c). Pour prouver que $H$ ne contient aucun sous-groupe distingué dans $F$ et distinct de $H$ et de $\{e\}$, considérer un élément $f \in H$ distinct de $e$; soient $a$ et $b$ les bornes inférieure et supérieure (finies par hypothèse) de l’ensemble des $x \in \mathbf{R}$ tels que $\sigma(x;f) \neq 0$. Observer alors que $F$ ($[a, b]$) est isomorphe à $F$ et utiliser le résultat précédent.)

h) Montrer que le groupe $H$ est simple. (Même méthode que pour prouver que $H$ ne contient pas de sous-groupes distingués non triviaux de $F$.)