(i) Tout endomorphisme de V commutant à $\rho(G)$ est une homothétie, et $\rho$ est absolument irréductible.

(ii) Supposons V de dimension finie. Soit B une forme bilinéaire non nulle sur V invariante par $\rho(G)$. Alors B est non dégénérée, symétrique ou antisymétrique, et toute forme bilinéaire sur V invariante par $\rho(G)$ est proportionnelle à B.

Soit u un endomorphisme de V commutant à $\rho(G)$. Soient par ailleurs g un élément de G tel que $\rho(g)$ soit une pseudo-réflexion, et D l’image de $1 - \rho(g)$. Comme D est de dimension 1 et que $u(D) \subset D$, il existe $\alpha$ dans K tel que $u - \alpha . 1$ s’annule sur D ; le noyau N de $u - \alpha . 1$ est alors un sous-espace vectoriel de V stable par $\rho(G)$, non nul puisqu’il contient D ; comme $\rho$ est irréductible, on a $N = V$ et $u = \alpha . 1$. La deuxième partie de (i) résulte de la première d’après Alg., chap. VIII, § 13, n° 4, cor. de la prop. 5.

Soit N (resp. N') le sous-espace de V formé des x tels que B(x, y) = 0 (resp. B(y, x) = 0) pour tout y dans V; comme B est invariante par ρ(G), les sous-espaces N et N' de V sont stables par ρ(G) et distincts de V puisque B ≠ 0. Puisque ρ est irréductible, on a N = N' = 0, et B est donc non dégénérée.

Comme V est de dimension finie, toute forme bilinéaire sur V est donnée par la formule

(3)

où u est un endomorphisme convenable de V. Si B' est invariante par ρ(G), l’endomorphisme u commute à ρ(G). Soient en effet x, y dans V et g dans G; comme B et B' sont invariantes par ρ(G), on a d’où $u(\rho(g)(x)) = \rho(g)(u(x))$ puisque B est non dégénérée. D’après (i), il existe α dans K avec $u = \alpha . 1$, d’où $B' = \alpha . B$.

Appliquons ceci en particulier à la forme bilinéaire $B'(x, y) = B(y, x)$; on a alors $B(y, x) = \alpha . B(x, y) = \alpha^2 . B(y, x)$ quels que soient x, y dans V, et comme B est non nulle, on a $\alpha^2 = 1$, d’où $\alpha = 1$ ou $\alpha = -1$. Donc B est symétrique ou antisymétrique.

(i) Si s est une réflexion, V est somme directe de l’hyperplan $V_s^+$ et de la droite $V_s$.

(ii) Réciproquement, supposons que V soit somme directe d’un hyperplan H et d’une droite D tels que $s(x) = x$ et $s(y) = -y$ pour $x \in H$ et $y \in D$. Alors s est une réflexion, et l’on a $H = V_s^+$ et $D = V_s^-$. Enfin, D est l’image de $1 - s$.

(i) Si s est une réflexion, $V_s^+$ est un hyperplan. Si x appartient à $V_s^+ \cap V_s^-$, on a $x = s(x) = -x$, d’où $x = 0$ puisque K est de caractéristique $\neq 2$. Enfin, pour tout x dans V, le vecteur $x' = s(x) + x$ (resp. $x'' = s(x) - x$) appartient à $V_s^+$ (resp. $V_s^-$) puisque $s^2 = 1$, et l’on a $2x = x' - x''$. Donc V est somme directe de $V_s^+$ et de $V_s^-$, et $V_s^-$ est nécessairement de dimension 1 puisque $V_s^+$ est un hyperplan.

(ii) Sous les hypothèses faites, tout élément de V s’écrit de manière unique sous la forme $v = x + y$ avec $x \in H$ et $y \in D$ et l’on a $s(v) = x - y$; l’assertion (ii) résulte immédiatement de là.

Soit s une réflexion dans V. La prop. 2, (i) montre qu’il existe une base $(e_1, \ldots, e_n)$ de V telle que $s(e_1) = e_1, \ldots, s(e_{n-1}) = e_{n-1}$ et $s(e_n) = -e_n$, d’où $\det s = -1$.

(i) Pour qu’un sous-espace $V'$ de V soit stable par s, il faut et il suffit que l’on ait $V_s^- \subset V'$ ou $V' \subset V_s^+$.

(ii) Pour qu’un endomorphisme u de V commute à s, il faut et il suffit que $V_s^+$ et $V_s^-$ soient stables par u.

(i) Si $V' \subset V_s^+$, on a $s(x) = x$ pour tout $x$ dans $V'$, d’où $s(V') \subset V'$. Supposons $V_s^- \subset V'$; pour tout $x$ dans $V'$, on a $s(x) - x \in V_s^- \subset V'$, d’où $s(x) \in V'$; on a encore $s(V') \subset V'$. Réciproquement, supposons que l’on ait $s(V') \subset V'$; si l’on a $V' \not\subset V_s^+$, il existe $x$ dans $V'$ avec $s(x) \neq x$; le vecteur non nul $a = s(x) - x$ appartient à la droite $V_s^-$, donc engendre cet espace; comme on a $a \in V'$, on a $V_s^- \subset V'$.

(ii) Supposons d’abord que $u$ commute à $s$. Si $x$ est un vecteur tel que $s(x) = \varepsilon \cdot x$ (où $\varepsilon = \pm 1$), on a $s(u(x)) = u(s(x)) = \varepsilon \cdot u(x)$, donc $V_s^+$ et $V_s^-$ sont stables par $u$. Réciproquement, supposons $V_s^+$ et $V_s^-$ stables par $u$; il est clair que $us - su$ est nul dans $V_s^+$ et dans $V_s^-$, et comme $V$ est somme directe de $V_s^+$ et $V_s^-$, on a $us - su = 0$.

Si l’on a $V_s^- \subset V_u^+$ et $V_u^- \subset V_s^+$, la prop. 3, (i) montre que $V_u^+$ et $V_u^-$ sont stables par $s$, d’où $su = us$ d’après la prop. 3, (ii).

Réciproquement, si l’on a $su = us$, le sous-espace $V_s^-$ est stable par $u$ d’après (ii); d’après (i), il y a donc deux cas possibles :

a) On a $V_u^- \subset V_s^-$: ces deux espaces étant de dimension 1 sont donc égaux, d’où $V_s^- \not\subset V_u^+$; comme $V_u^+$ est stable par $s$, on a donc $V_u^+ \subset V_s^+$, et ces deux hyperplans sont égaux. D’où $s = u$, ce qui est exclu.

b) On a $V_s^- \subset V_u^+$: l’image de $1 - s$ est donc contenue dans le noyau de $1 - u$, d’où $(1 - u)(1 - s) = 0$. Comme $u$ et $s$ commutent, on a aussi $(1 - s)(1 - u) = 0$, c’est-à-dire $V_u^- \subset V_s^+$.

(i) X est stable par s. (ii) $X^0$ est stable par s. (iii) H contient X ou $X^0$.

On a $V_s^+ = H$, et d’après ce qu’on a rappelé, $V_s^-$ est l’orthogonal $H^0$ de H par rapport à B. Pour que X soit stable par s, il faut et il suffit d’après la prop. 3, (i) que l’on ait $X \subset H$ ou $H^0 \subset X$; mais la relation $H^0 \subset X$ équivaut à $X^0 \subset H$ d’après Alg., chap. IX, § 1, n° 6, cor. 1 de la prop. 4. On a donc prouvé l’équivalence de (i) et (iii); celle de (ii) et (iii) s’en déduit en échangeant les rôles de X et $X^0$, car $(X^0)^0 = X$.

L’existence et l’unicité de $v$ sont immédiates. L’automorphisme de $V$ associé à $s_{H'} s_H$ est l’identité; donc $s_{H'} s_H$ est une translation. D’autre part, soit $a \in H'$; on a $a - v \in H$ et

ce qui montre que $s_{H'} s_H$ est la translation de vecteur $2v$.

En effet, d’après la prop. 2 du chap. IV, § 1, no 2, il suffit de vérifier que $s_{H'} s_H$ est d’ordre infini (resp. d’ordre $p$), ce qui est évident.

Soit $u$ une rotation transformant $\Delta$ en $\Delta'$. Comme $su$ est une transformation orthogonale de V de déterminant — 1, c’est une réflexion et l’on a donc $(su)^2 = 1$. Par suite, $u^{-1} = sus^{-1}$ transforme $s(\Delta)$ en $s(\Delta')$, d’où la proposition.

On sait que $s_D s_D$ est une rotation puisque son déterminant vaut 1. Soient $\Delta$ et $\Delta'$ des demi-droites d’origine 0 portées par D et D'. On a:

d’où le corollaire.

Soient maintenant $\Delta$ et $\Delta'$ deux demi-droites de V telles que

et soient $s$ et $s'$ les réflexions orthogonales par rapport aux droites D et D' contenant $\Delta$ et $\Delta'$. Soit $\theta$ la mesure principale de l’angle $(\overline{D}, \overline{D'})$. Si $\theta \in \pi \mathbf{Q}$, on désigne par $m$ le plus petit entier $\geq 1$ tel que $m\theta \in \pi \mathbf{Z}$. Si $\theta \notin \pi \mathbf{Q}$, on pose $m = \infty$. Soit W le groupe engendré par $s$ et $s'$.

Le cor. de la prop. 6 montre que $s's$ est d’ordre $m$, d’où la première assertion. Les éléments de W sont donc de la forme $(s's)^n = \rho_{2n\theta}$ ou $(s's)^n s = \rho_{2n\theta}s$; la dernière assertion en résulte, puisque $D' = \rho_\theta(D)$.

Si $m = \infty$, l’image de l’ensemble des $n\theta$ ($n \in \mathbf{Z}$) est dense dans $\mathbf{R}/2\pi \mathbf{Z}$ (Top. gén., chap. VII, § 1, cor. de la prop. 11); la réunion des transformées de D par les éléments de W est donc dense dans V et rencontre C. Si $m$ est fini et si $\theta = k\pi/m$, avec $1 < k < m$, les entiers $k$ et $m$ étant étrangers, il existe un entier $h$ tel que $hk \equiv 1 \bmod{m}$; on a alors $(\overline{D}, \rho_{h\theta}(\overline{D})) \equiv \pi/m$ (mod. $\pi$), et $\rho_{h\theta}(D)$ rencontre C. Ceci montre que la condition est nécessaire. La réciproque est immédiate.