Exercice 13, § 4

On munit $\mathbf{R}^n$ du produit scalaire usuel $((\xi_i), (\eta_i)) \mapsto \sum_{i=1}^n \xi_i \eta_i$. Soit $I(n)$ le groupe des transformations affines isométriques de $\mathbf{R}^n$. Il est canoniquement isomorphe au sous-groupe de Lie de $\mathbf{GL}(n+1, \mathbf{R})$ formé des matrices

où $U \in \mathbf{O}(n)$ et $x$ est un élément arbitraire de $\mathbf{R}^n$ (matrice de type $(n, 1)$). On peut identifier $I(n)$ au produit semi-direct de $\mathbf{O}(n)$ par $\mathbf{R}^n$ défini par l’injection canonique de $\mathbf{O}(n)$ dans $\mathbf{GL}(n, \mathbf{R})$ (la matrice $S$ se notant alors $(U, x)$). Soit $p : I(n) \to \mathbf{O}(n)$ la surjection canonique, de noyau $\mathbf{R}^n$.

a) Soit $\Gamma$ un sous-groupe discret de $I(n)$. On considère l’adhérence $\overline{p(\Gamma)}$ de $p(\Gamma)$ dans $\mathbf{O}(n)$. Montrer que sa composante neutre est commutative. (Soit $V$ un voisinage de $I$ dans $\mathbf{O}(n)$ ayant les propriétés de l’exerc. 11 d), et tel en outre que $\|U - I\| \leq \frac{1}{4}$ pour tout $U \in V$ (la norme sur $\mathrm{End}(\mathbf{R}^n)$ étant déduite de la norme euclidienne de $\mathbf{R}^n$). Raisonner par l’absurde en supposant qu’il existe $S_1 = (U_1, x_1), S_2 = (U_2, x_2)$ tels que $U_1, U_2$ appartiennent à $V$ et ne commutent pas. Montrer qu’on peut écrire $(S_1, S_2) = ((U_1, U_2), y)$ avec

Définir alors par récurrence les $S_k$ en posant $S_k = (S_1, S_{k-1})$ pour $k \geq 3$. Tenant compte du choix de $V$, montrer que cette suite a une infinité de termes distincts et est bornée dans $I(n)$, ce qui est absurde.)

b) On dit que $\Gamma$ est cristallographique si $I(n)/\Gamma$ est compact. Montrer que, s’il en est ainsi, pour tout $x \in \mathbf{R}^n$, le sous-espace affine $L$ de $\mathbf{R}^n$ engendré par $\Gamma x$ est égal à $\mathbf{R}^n$. (Dans le cas contraire, pour tout $y \in \mathbf{R}^n$, tous les points de $\Gamma y$ sont à la même distance de $L$, et, comme cette distance peut être arbitrairement grande, $I(n)/\Gamma$ n’est pas compact.)

c) Si $\Gamma$ est cristallographique commutatif, on a $\Gamma \subset \mathbf{R}^n$. (Si $S = (U, x) \in \Gamma$ est tel que le sous-espace vectoriel $V \subset \mathbf{R}^n$ formé des points invariants par $U$ ne soit pas égal à $\mathbf{R}^n$, et si on note $V^\perp$ le sous-espace orthogonal à $V$, alors, pour tout $S' = (U', x') \in \Gamma$, $U'$ laisse stables $V$ et $V^\perp$. D’autre part, $U | V^\perp$ n’ayant aucun point invariant non nul, montrer que cela permet de supposer, en changeant d’origine, que $x \in V$. Utilisant b), il existe $S' = (U', x') \in \Gamma$ tel que la projection orthogonale $y'$ de $x'$ sur $V^\perp$ soit $\neq 0$. En calculant $Sx'$ par la formule $S = S'S{S'}^{-1}$, en déduire que $U.y' = y'$ contrairement à la définition de $V$.)

d) Si $\Gamma$ est cristallographique, $\Gamma \cap \mathbf{R}^n$ est un groupe commutatif libre de rang $n$, et $\Gamma/(\Gamma \cap \mathbf{R}^n)$ est un groupe fini (théorème de Bieberbach). (Soit $W$ le sous-espace vectoriel de $\mathbf{R}^n$ engendré par $\Gamma \cap \mathbf{R}^n$. Le groupe compact $\overline{p(\Gamma)}$ n’a qu’un nombre fini de composantes connexes. Si $W = \{0\}$, $\Gamma$ contient, d’après a), un sous-groupe distingué commutatif d’indice fini $\Gamma_1$; $\Gamma_1$ est alors cristallographique, ce qui entraîne contradiction avec c). Donc $W \neq \{0\}$. Montrer que $p(\Gamma)$ laisse stable $W$ et que $p(\Gamma) | W$ est fini : sinon, il existerait une suite $(S_m)$ dans $\Gamma$ telle que si $S_m = (U_m, x_m)$, les $U_m$ soient deux à deux distincts et tendent vers $I$; former alors les $(I, a_j)S_m(I, a_j)^{-1}S_m^{-1}$ où $(a_j)$ est une base de $\Gamma \cap \mathbf{R}^n$, et obtenir une contradiction avec l’hypothèse que $\Gamma$ est discret. Enfin, pour voir que $W = \mathbf{R}^n$, montrer que dans le cas contraire l’action de $\Gamma$ sur $\mathbf{R}^n/W$ serait celle d’un groupe cristallographique ne contenant aucune translation $\neq 0$.)