Bourbaki

§ 4. Sous-espaces totalement isotropes. Théorème de Witt

Dans ce paragraphe on suppose, sauf mention expresse du contraire, que A est un corps. On désigne par Φ, soit une forme ε-hermitienne sur E (par rapport à l’antiautomorphisme involutif λ→λ‾\lambda \to \overline{\lambda} de A), soit la forme bilinéaire symétrique associée à une forme quadratique Q sur E (A étant supposé commutatif dans ce dernier cas).

1. Sous-espaces isotropes.

Définition 1

Etant donné un module E sur l’anneau A, un élément x de E est dit isotrope si Φ(x,x)=0\Phi(x, x) = 0. Un sous-module F de E est dit 1) isotrope s’il existe un élément x≠0x \neq 0 de F orthogonal à F ; 2) totalement isotrope si la restriction de Φ\Phi à F est nulle.

Lorsque le module E est muni d’une forme quadratique Q, on dira qu’un élément de E est isotrope (resp. qu’un sous-module de E est isotrope, ou totalement isotrope) si cet élément est isotrope (resp. si ce sous-module est isotrope, ou totalement isotrope) relativement à la forme bilinéaire associée à Q.

Un vecteur isotrope n’est autre qu’un vecteur orthogonal à lui-même. Dire qu’un sous-module F est isotrope signifie que F∩F0≠{0}F \cap F^0 \neq \{0\}, ou encore que la restriction de Φ\Phi à F est dégénérée ; un sous-module non isotrope G de E est donc un sous-module tel que la restriction de Φ\Phi à G est non dégénérée. Pour qu’un sous-module F de E soit totalement isotrope, il faut et il suffit que l’on ait F⊂F0F \subset F^0. Si F est un sous-module totalement isotrope de E, il en est de même de tout sous-module F′F' contenu dans F. La somme d’une famille de sous-modules totalement isotropes et orthogonaux deux à deux est un sous-module totalement isotrope. L’ensemble des sous-modules totalement isotropes de E, ordonné par inclusion, est évidemment inductif ; il en résulte que tout sous-module totalement isotrope est contenu dans un sous-module totalement isotrope maximal.

Proposition 1

On suppose que A est un corps. Soit F un sous-espace non isotrope de dimension finie de E ; alors E est somme directe de F et de F0F^0.

En effet, comme la restriction Φ′\Phi' de Φ\Phi à F est non dégénérée par hypothèse, l’application dΦ′d_{\Phi'} de F dans son dual F∗F^* associée à droite à Φ′\Phi' est injective, donc bijective puisque F et F∗F^* sont deux espaces de même dimension finie. Par suite, pour tout y∈Ey \in E, il existe un élément y0y_0 et un seul de F tel que l’on ait Φ(x,y)=Φ(x,y0)\Phi(x, y) = \Phi(x, y_0) pour tout x∈Fx \in F, c’est-à-dire y−y0∈F0y - y_0 \in F^0 ; ceci prouve que E est somme directe de F et F0F^0.

Corollaire

Si F est un sous-espace de dimension finie de E, et si Φ est non dégénérée, les conditions suivantes sont équivalentes :

a) F est non isotrope. b) F^0 est non isotrope. c) E est somme directe de F et F^0.

La prop. 1 montre en effet que a) implique c), et c) implique a) et b). Enfin, si F^0 est non isotrope, on a F ∩ F^0 ⊂ F^0 ∩ F^{00} = {0}; donc F est non isotrope, ce qui montre que b) implique a).

Définition 2

Soit Q une forme quadratique sur E. Un élément x de E est dit singulier (relativement à Q) si Q(x) = 0. Un sous-module F de E est dit : 1) singulier s’il existe un élément x ≠ 0 de F qui est singulier et orthogonal à F ; 2) totalement singulier si la restriction de Q à F est nulle.

Le noyau du module quadratique (E, Q) (§ 3, n° 4) est constitué par les éléments singuliers de E^0 ; pour qu’un sous-module F soit singulier, il faut et il suffit que son noyau soit ≠ {0}. Comme Φ(x, y) = Q(x + y) − Q(x) − Q(y), tout sous-module totalement singulier ≠ {0} est singulier. Comme Φ(x, x) = 2Q(x), tout vecteur singulier est isotrope et tout sous-module singulier (resp. totalement singulier) est isotrope (resp. totalement isotrope) ; la réciproque est vraie si A est un corps de caractéristique ≠ 2. Tout sous-module contenu dans un sous-module totalement singulier est lui-même totalement singulier. La somme d’une famille de sous-modules totalement singuliers et orthogonaux deux à deux est un sous-module totalement singulier. L’ensemble des sous-modules totalement singuliers de E, ordonné par inclusion, est inductif ; donc tout sous-module totalement singulier de E est contenu dans un sous-module totalement singulier maximal.

2. Décomposition de Witt.

Aux conventions déjà en vigueur depuis le début du présent paragraphe, nous ajouterons la suivante :

Bourbaki XXIV.

CONDITION (T). — Pour tout x∈Ex \in E, il existe α∈A\alpha \in A tel que Φ(x,x)=α+εαˉ\Phi(x, x) = \alpha + \varepsilon \bar{\alpha}.

Cette condition est toujours satisfaite lorsque Φ\Phi est alternée, ou lorsque ε=1\varepsilon = 1 et que AA est un corps de caractéristique ≠2\neq 2, en prenant alors α=12Φ(x,x)\alpha = \frac{1}{2} \Phi(x, x) (cf. exerc. 1 et 14).

Lemme 1

Soit Φ\Phi une forme ε\varepsilon-hermitienne vérifiant (T) (resp. la forme bilinéaire associée à une forme quadratique Q) sur EE, et soit F un sous-espace totalement isotrope (resp. totalement singulier) de EE, non réduit à 0. Pour tout x∈Ex \in E non orthogonal à F et tout α∈A\alpha \in A, il existe y∈Fy \in F tel que

Φ(x+y,x+y)=α+εαˉ(resp. Q(x+y)=α). \Phi(x + y, x + y) = \alpha + \varepsilon \bar{\alpha} \quad (\text{resp. } Q(x + y) = \alpha).

Posons en effet Φ(x,x)=β+εβˉ\Phi(x, x) = \beta + \varepsilon \bar{\beta} (resp. Q(x)=βQ(x) = \beta). Pour y∈Fy \in F on a alors Φ(x+y,x+y)=(β+Φ(x,y))+ε(β+Φ(x,y))\Phi(x + y, x + y) = (\beta + \Phi(x, y)) + \varepsilon (\beta + \Phi(x, y)) puisque Φ(y,y)=0\Phi(y, y) = 0 (resp. Q(x+y)=β+Φ(x,y)Q(x + y) = \beta + \Phi(x, y) puisque Q(y)=0Q(y) = 0). Comme xx n’est pas orthogonal à F, la fonction linéaire affine y→Φ(x,y)+βy \to \Phi(x, y) + \beta sur F n’est pas constante ; elle prend donc la valeur α\alpha pour un certain élément yy de F, qui répond ainsi à la question.

On appelle décomposition de Witt de E toute décomposition de E en somme directe de trois sous-espaces F, F', G tels que F et F' soient totalement isotropes (resp. totalement singuliers) et que G soit non isotrope et soit orthogonal à F+F′F + F'; si E est de dimension finie, la matrice de Φ\Phi par rapport à une base de E adaptée à une décomposition de Witt de E se met sous la forme

(0U0εU‾0000V) \begin{pmatrix} 0 & U & 0 \\ \varepsilon \overline{U} & 0 & 0 \\ 0 & 0 & V \end{pmatrix}

(1)

On dit que Φ\Phi est une forme neutre si elle est non dégénérée et si E est de dimension finie et est somme directe de deux sous-espaces totalement isotropes (resp. totalement singuliers). La somme directe de deux formes neutres est une forme neutre.

Proposition 2

Soit Φ\Phi une forme ε\varepsilon-hermitienne non dégénérée vérifiant (T) (resp. la forme bilinéaire associée à une forme quadratique non dégénérée Q), et soit F un sous-espace totalement isotrope (resp. totalement singulier) de dimension finie r.

a) Si F′F' est un sous-espace totalement isotrope de dimension r tel que F′∩F0={0}F' \cap F^0 = \{0\}, alors F+F′F + F' est non isotrope et, pour toute base (fi)(f_i) de F, il existe une base (fi′)(f'_i) de F′F' telle que Φ(fi,fj′)=δij\Phi(f_i, f'_j) = \delta_{ij} (indice de Kronecker) pour i,j=1,…,ri, j = 1, \ldots, r.

b) Si G est un sous-espace totalement isotrope (resp. totalement singulier) de dimension ≤r\leq r tel que G∩F0={0}G \cap F^0 = \{0\}, il existe un sous-espace totalement isotrope (resp. totalement singulier) F′⊃GF' \supset G de dimension r tel que F′∩F0={0}F' \cap F^0 = \{0\}.

Soit Ψ\Psi la restriction de Φ\Phi à F×F′F \times F'; pour x′∈F′x' \in F', la relation «Φ(x,x′)=0\Phi(x, x') = 0 pour tout x∈Fx \in F » entraîne x=0x = 0 puisque F′∩F0={0}F' \cap F^0 = \{0\}. L’assertion a) résulte alors du cor. de la prop. 6 du § 1, n° 6, à l’exception du fait que F+F′F + F' est non isotrope. Or le sous-espace H=(F+F′)∩(F+F′)0H = (F + F') \cap (F + F')^0 est égal à (F+F′)∩F0∩F′0(F + F') \cap F^0 \cap {F'}^0. Comme F⊂F0F \subset F^0, on a (F+F′)∩F0=F+(F′∩F0)=F(F + F') \cap F^0 = F + (F' \cap F^0) = F, d’où H=F∩F′0H = F \cap {F'}^0; donc H={0}H = \{0\} puisqu’on a vu que Ψ\Psi est non dégénérée. Ceci prouve bien que F+F′F + F' est non isotrope.

Pour démontrer b), nous procéderons par récurrence descendante sur s=dim⁡Gs = \dim G. Il nous suffit ainsi de prouver que, si s<rs < r, il existe un sous-espace totalement isotrope (resp. totalement singulier) G′G' contenant G, de dimension s+1s + 1, et tel que G′∩F0={0}G' \cap F^0 = \{0\}. Comme dim⁡G<dim⁡F\dim G < \dim F, la restriction de Φ\Phi à F×GF \times G est dégénérée, et comme G∩F0G \cap F^0 est nul, F∩G0F \cap G^0 est non nul. Si l’on avait alors G+F0⊃G0G + F^0 \supset G^0, on en déduirait, en prenant les sous-espaces orthogonaux et en remarquant que F=F00F = F^{00} et que G=G00G = G^{00} (§1§ 1, n° 6, cor. 1 de la prop. 4), que G0∩F⊂GG^0 \cap F \subset G, d’où

G0∩F⊂G∩F⊂G∩F0={0}, G^0 \cap F \subset G \cap F \subset G \cap F^0 = \{0\},

ce qui est impossible. Il existe alors un élément xx de G0G^0 tel que x∉G+F0x \notin G + F^0; comme F⊂F0F \subset F^0, on peut ajouter à xx un vecteur de G0∩FG^0 \cap F sans modifier ces propriétés; comme G0∩FG^0 \cap F est totalement isotrope (resp. totalement singulier) et ≠{0}\neq \{0\}, le lemme 1 montre qu’on peut choisir xx isotrope (resp. singulier).

Alors le sous espace G′=G+AxG' = G + Ax est de dimension s+1s + 1, et est totalement isotrope (resp. totalement singulier) ; de plus on a G′∩F0={0}G' \cap F^0 = \{0\} car, si y=z+axy = z + ax (z∈G, a∈Az \in G,\ a \in A) est dans F0F^0, on a a=0a = 0, car sinon x∈F0+Gx \in F^0 + G contrairement au choix de xx, d’où y=z∈G∩F0={0}y = z \in G \cap F^0 = \{0\} et y=0y = 0. Par conséquent le sous-espace G′G' répond à la question.

Corollaire 1

Si F est un sous-espace totalement isotrope (resp. totalement singulier) de dimension r, il existe un sous-espace totalement isotrope (resp. totalement singulier) F' de dimension r tel que F∩F′={0}F \cap F' = \{0\} et que F+F′F + F' soit non isotrope.

Il suffit de faire G={0}G = \{0\} dans la prop. 2, b).

Corollaire 2

Deux formes ε\varepsilon-hermitiennes neutres sur des espaces de même dimension sur A sont équivalentes.

Remarque

Dans les conditions du corollaire 1, E est somme directe de F+F′F + F' et de l’orthogonal de F+F′F + F'. On a donc une décomposition de Witt de E. D’après la prop. 2, a), il existe des bases de F et F’ telles que, dans la matrice (1) de Φ\Phi, le bloc UU soit la matrice unité 1r1_r.

Proposition 3

Soit Φ\Phi une forme ε\varepsilon-hermitienne non dégénérée vérifiant (T) (resp. la forme bilinéaire associée à une forme quadratique non dégénérée Q). Soient F1F_1 et F2F_2 deux sous-espaces totalement isotropes (resp. totalement singuliers) maximaux de E, l’un des deux étant de dimension finie. Posons F=F1∩F2F = F_1 \cap F_2. Soit Si (i=1,2)S_i \ (i = 1, 2) un supplémentaire de FF dans FiF_i; posons S=S1+S2S = S_1 + S_2. Il existe alors deux sous-espaces G et H de E tels que a) Les sous-espaces G+F,SG + F, S et H sont non isotropes et deux à deux orthogonaux ; b) E est somme directe de F, S, G et H ; c) Il n’y a aucun vecteur isotrope (resp. singulier) non nul dans H ; d) G est totalement isotrope (resp. totalement singulier). De plus F1F_1 et F2F_2 sont tous deux de dimensions finies et on a dim F1=dim⁡F2,dim⁡G=dim⁡F,dim⁡S1=dim⁡S2,codim⁡H=2dim⁡F1F_1 = \dim F_2, \dim G = \dim F, \dim S_1 = \dim S_2, \operatorname{codim} H = 2 \dim F_1.

Remarquons d’abord que, si NN est un sous-espace totalement isotrope (resp. totalement singulier) maximal, alors tout vecteur isotrope (resp. singulier) xx orthogonal à NN est un élément de NN, car sinon N+AxN + Ax contredirait le caractère maximal de NN. Donc si, pour i=1, 2, xii = 1,\ 2,\ x_i est un vecteur isotrope (resp. singulier) de Fi0F_i^0, on a xi∈Fix_i \in F_i. D’autre part, si yy est un élément de S1S_1 orthogonal à S2S_2, il est orthogonal à F1F_1 puisque F1F_1 est totalement isotrope, donc à FF, et par suite à F2=S2+FF_2 = S_2 + F. Comme yy est isotrope (resp. singulier) et qu’il est orthogonal à F2F_2, on a

y∈S1∩F2=S1∩F1∩F2=S1∩F={0}. y \in S_1 \cap F_2 = S_1 \cap F_1 \cap F_2 = S_1 \cap F = \{0\}.

On a donc S1∩S20={0}S_1 \cap S_2^0 = \{0\}, et de même S2∩S10={0}S_2 \cap S_1^0 = \{0\}. Comme l’un des deux sous-espaces F1,F2F_1, F_2, par exemple F1F_1, est de dimension finie, S1S_1 est de dimension finie, donc S10S_1^0 est de codimension finie (§1,n∘6,cor. 1 de la prop. 4§ 1, \mathrm{n}^\circ 6, \mathrm{cor.\ 1\ de\ la\ prop.\ 4}), et par conséquent S2S_2 est de dimension finie puisque S2∩S10={0}S_2 \cap S_1^0 = \{0\}; de plus ceci montre que l’on a dim⁡S2⩽codim⁡S10=dim⁡S1\dim S_2 \leqslant \operatorname{codim} S_1^0 = \dim S_1; de même dim⁡S1⩽dim⁡S2\dim S_1 \leqslant \dim S_2, d’où dim⁡S1=dim⁡S2\dim S_1 = \dim S_2. La prop. 2 a) montre alors que S=S1+S2S = S_1 + S_2 est non isotrope.

Ceci étant, l’orthogonal NN de SS est non isotrope (n∘1,cor. de la prop. 1\mathrm{n}^\circ 1, \mathrm{cor.\ de\ la\ prop.\ 1}) et contient FF; le cor. 1 de la prop. 2 montre donc qu’il existe un sous-espace GG totalement isotrope (resp. totalement singulier) de NN tel que dim⁡G=dim⁡F\dim G = \dim F, que G∩F={0}G \cap F = \{0\} et que G+FG + F soit non isotrope. Ainsi d) est vérifiée par GG. On satisfera alors à a) et b) en prenant pour HH l’orthogonal de G+FG + F dans NN. Quant à c), l’on remarque que, comme HH est orthogonal à F1=S1+FF_1 = S_1 + F, il n’y a aucun vecteur isotrope (resp. singulier) non nul dans HH en vertu de ce qui a été remarqué au début de la démonstration et du fait que H∩F1={0}H \cap F_1 = \{0\}. Enfin certaines des assertions relatives aux dimensions ont été démontrées en cours de route ; les autres s’en déduisent trivialement.

Corollaire 1

Les hypothèses étant celles de la prop. 3, deux sous-espaces totalement isotropes (resp. totalement singuliers) maximaux de dimensions finies ont même dimension. Pour tout sous-espace totalement isotrope (resp. totalement singulier) maximal F de dimension finie, il en existe un autre F' tel que F ∩ F' = {0}, et dans ces conditions F + F' est non isotrope.

Si F ∩ F' = {0}, on aura G = {0} avec les notations de la prop. 3, et F + F' sera non isotrope. Les autres assertions résultent trivialement de la prop. 3 et du cor. 1 de la prop. 2.

Corollaire 2

Soit Q une forme quadratique non dégénérée sur un espace vectoriel E de dimension finie n sur un corps algébriquement clos A ; il existe alors une base (e_i)_{1 \leq i \leq n} de E telle que

(2)

Q(∑i=1nxiei)=∑i=1νxixi+νsi n=2ν, Q(\sum_{i=1}^{n} x_i e_i) = \sum_{i=1}^{\nu} x_i x_{i+\nu} \qquad si\ n = 2\nu,

(3)

Q(∑i=1nxiei)=∑i=1νxixi+ν+x2ν+12si n=2ν+1. Q(\sum_{i=1}^{n} x_i e_i) = \sum_{i=1}^{\nu} x_i x_{i+\nu} + x_{2\nu+1}^2 \qquad si\ n = 2\nu + 1.

Soient en effet F_1 et F_2 deux sous-espaces totalement singuliers maximaux tels que F_1 ∩ F_2 = {0} (cor. 1) et soit q leur dimension. On a alors G = {0} avec les notations de la prop. 3. Prenant une base (e_i)_{1 \leq i \leq q} de F_1 et une base (e_i)_{q+1 \leq i \leq 2q} de F_2 telles que Φ(e_i, e_{j+q}) = δ_{ij} pour i, j = 1, ..., q (prop. 2 a)), on voit qu’il suffit de montrer que dim H ≤ 1. Or, si x ∈ H, y ∈ H et si x ≠ 0, l’équation Q(y - ax) = Q(y) - aΦ(x, y) + a^2 Q(x) = 0 a au moins une solution a_0 puisque Q(x) ≠ 0, et l’on a y = a_0 x puisque tout vecteur singulier de H est nul.

Définition 3

On suppose que E est de dimension finie et que Φ est une forme ε-hermitienne non dégénérée vérifiant (T) (resp. la forme bilinéaire associée à une forme quadratique non dégénérée Q). On appelle indice de Φ (resp. Q) la dimension commune des sous-espaces totalement isotropes (resp. totalement singuliers) maximaux de E.

Si n est la dimension de E et ν l’indice de Φ (resp. Q), la prop. 3 montre que l’on a

(4)

n≥2ν. n \geq 2\nu.

De plus, comme tout sous-espace totalement isotrope (resp. totalement singulier) est contenu dans un sous-espace totalement isotrope (resp. totalement singulier) maximal, les sous-espaces totalement isotropes (resp. totalement singuliers) qui sont maximaux sont ceux qui sont de dimension vv. L’assertion que Φ\Phi (resp. Q) est d’indice 0 signifie que tout vecteur isotrope (resp. singulier) de E est nul. Dans un espace de dimension paire nn, les formes neutres sont celles d’indice 12n\frac{1}{2}n; il n’y a pas de forme neutre dans un espace de dimension impaire. La prop. 3 montre que toute forme est somme directe d’une forme neutre et d’une forme d’indice 0.

Proposition 4

Soit Q une forme quadratique non dégénérée sur E telle qu’il existe un vecteur x≠0x \neq 0 de E tel que Q(x)=0Q(x) = 0. Pour tout élément a de A, il existe alors y∈Ey \in E tel que Q(y)=aQ(y) = a.

En effet, d’après le cor. 1 de la prop. 2, il existe un sous-espace G=F+F′G = F + F' (F,F′F, F': sous-espaces totalement singuliers de dimension 1) de E, de dimension 2, tel que la restriction de Q à G soit neutre. Si {e,e′}\{ e, e' \} (e∈F,e′∈F′e \in F, e' \in F') est une base de G, on a

Q(xe+x′e′)=bxx′(x∈A,x′∈A,b∈A,b≠0). Q(xe + x'e') = bxx' \quad (x \in A, x' \in A, b \in A, b \neq 0).
Il suffit ainsi de prendre pour yy le vecteur ae+b−1e′ae + b^{-1}e'.

3. Théorème de Witt.

Étant donnés deux espaces vectoriels E, E′E' sur A munis respectivement de deux formes sesquilinéaires Φ,Φ′\Phi, \Phi' (resp. de deux formes quadratiques Q, Q′Q'), on appelle homomorphisme métrique de E dans E′E' toute application linéaire uu de E dans E′E' telle que Φ′(u(x),u(y))=Φ(x,y)\Phi'(u(x), u(y)) = \Phi(x, y) (resp. Q′(u(x))=Q(x)Q'(u(x)) = Q(x)) pour x∈E,y∈Ex \in E, y \in E. Si E et E′E' ont même dimension finie et si Φ\Phi (resp. Q) est non dégénérée, tout homomorphisme métrique uu de E dans E′E' est un isomorphisme, car u(x)=0u(x) = 0 implique Φ(x,y)=0\Phi(x, y) = 0 pour tout y∈Ey \in E, donc x=0x = 0; ainsi uu est injectif, donc bijectif puisque E et E′E' ont même dimension finie.

Théorème 1 (Witt). — Soient E et E′E' deux espaces vectoriels de dimensions finies, munis respectivement de deux formes ε\varepsilon-hermitiennes non dégénérées Φ\Phi et Φ′\Phi' vérifiant la condition (T) du no 2 (resp. de deux formes quadratiques non dégénérées Q et Q'), et isomorphes pour ces structures. Etant donné un sous-espace quelconque F de E, tout homomorphisme métrique injectif de F dans E' se prolonge en un isomorphisme métrique de E sur E'.

En utilisant l’isomorphisme donné de E sur E', on voit qu’il suffit de montrer que tout homomorphisme métrique injectif u de F dans E se prolonge en un automorphisme métrique de E. Remarquons que si, pour i = 1, 2, F_i est un sous-espace de E et u_i un homomorphisme métrique de F_i dans E, tels que F_1 ∩ F_2 = {0} et que Φ(u_1(x_1), u_2(x_2)) = Φ(x_1, x_2) pour x_i ∈ F_i (i = 1, 2), alors l’homomorphisme ψ : x_1 + x_2 → u_1(x_1) + u_2(x_2) de F_1 + F_2 dans E qui prolonge u_1 et u_2 est métrique : en effet, quels que soient x_i, y_i dans F_i (i = 1, 2), le développement de chacune des expressions Φ(x_1 + x_2, y_1 + y_2) et Φ(u_1(x_1) + u_2(x_2), u_1(y_1) + u_2(y_2)) (resp. Q(x_1 + x_2) et Q(u_1(x_1) + u_2(x_2))) contient quatre (resp. trois) termes égaux chacun à chacun d’après les hypothèses faites. De plus, si u_1 et u_2 sont injectifs et si u_1(F_1) ∩ u_2(F_2) = {0}, alors ψ est injectif.

1) Démontrons d’abord le théorème de Witt dans le cas où l’ensemble des points invariants de u est un hyperplan U de F. L’ensemble des vecteurs de la forme u(x) − x avec x ∈ F est alors une droite D. Si F' est un sous-espace orthogonal à D tel que F' ∩ F = F' ∩ u(F) = {0}, on aura Φ(u(x), y) = Φ(x, y) pour x ∈ F et y ∈ F' ; notre remarque initiale s’applique donc à u et à l’application identique de F' dans E, montrant que u se prolonge à F + F' en laissant fixes les points de F' ; l’ensemble des vecteurs de la forme u(x) − x (x ∈ F + F') est encore la droite D. Or on a, pour x ∈ F, y ∈ F

(5) Φ(u(x),u(y)−y)=Φ(u(x),u(y))−Φ(u(x),y)=Φ(x−u(x),y)\Phi(u(x), u(y) - y) = \Phi(u(x), u(y)) - \Phi(u(x), y) = \Phi(x - u(x), y),

ce qui, lorsque x ∈ U (c’est-à-dire lorsque u(x) = x), montre que x ∈ D^0 ; autrement dit on a U ⊂ D^0. Nous distinguerons deux cas :

a) F⊄D0F \not\subset D^0. La formule (5) montre que u(F)u(F) n’est pas contenu dans D0D^0, donc F∩D0=u(F)∩D0=UF \cap D^0 = u(F) \cap D^0 = U. L’on peut alors prendre pour F' un supplémentaire de U dans D^0 ; comme F + F' contient l’hyperplan D^0 et en est distinct, on a F + F' = E, et on a trouvé dans ce cas le prolongement cherché de u à E.

b) F ⊂ D^0. La formule (5) montre que u(F) ⊂ D^0, et donc que

D ⊂ D^0 ; la droite D est donc isotrope (resp. singulière, car on a Q(u(x) − x) = Q(u(x)) − Φ(x, u(x)) + Q(x) = 2Q(x) − Φ(x, x) = 0 pour x ∈ F). Nous allons montrer que, dans ces conditions, il existe un sous-espace F' de D^0 qui est supplémentaire de F et de u(F) dans D^0. C’est immédiat si F = u(F). Sinon, soient x et y des vecteurs tels que x ∈ F, x ∉ U, y ∈ u(F), y ∉ U ; on a alors F = U + Ax, u(F) = U + Ay, et F ne contient pas x + y sinon y = (x + y) − x appartiendrait à F ∩ u(F) = U ; on voit de même que x + y n’appartient pas à u(F) ; ainsi la droite A(x + y) est supplémentaire de F et de u(F) dans le sous-espace F + u(F) ; il suffit alors de poser F' = A(x + y) + G où G est un supplémentaire de F + u(F) dans D^0. Ceci étant, on a F + F' = u(F) + F' = D^0, et, dans ce cas, ce qui a été dit au début de 1) montre qu’il existe un prolongement de u à l’hyperplan D^0 de E, et que D^0 est stable pour ce prolongement.

On est donc ramené au cas où F est l’hyperplan D^0 et où u est un automorphisme de F. Démontrons que, pour tout z ∈ E, il existe z' ∈ E tel que

(6)

Φ(u(x),z′)=Φ(x,z) \Phi(u(x), z') = \Phi(x, z)
pour tout x ∈ F ; en effet la forme linéaire x → Φ(u^{-1}(x), z) sur F est restriction d’une forme linéaire sur E, forme qui est du type x → Φ(x, z') puisque Φ est non dégénérée ; donc (6) est valable. De plus, si z ∉ F, il existe un vecteur z' ∈ E vérifiant (6) et tel que Φ(z', z') = Φ(z, z) (resp. Q(z') = Q(z)) : en effet la formule (6) reste valable si l’on ajoute à z' un élément u(y) − y (y ∈ F) de D puisque F = D^0, et le lemme 1 du no 2 permet de conclure puisque z n’est pas orthogonal à D. Notre remarque initiale montre alors qu’il existe un homomorphisme métrique ϕ de F + Az = E dans E qui prolonge u et qui transforme z en z'. Puisque Φ est non dégénérée, ϕ est l’automorphisme métrique de E cherché.

2) Dans le cas général, nous raisonnons par récurrence sur r = dim F. Le cas r = 0 est trivial. Soit alors r > 0, c’est-à-dire F ≠ {0}, et soit U un hyperplan de F. La restriction u_0 de u à U se prolonge, d’après l’hypothèse de récurrence, en un automorphisme métrique ϕ_0 de E. Si ϕ_0 prolonge u, le théorème est démontré. Sinon U est l’ensemble des éléments invariants, par v_0^{-1}u, et il existe , d’après 1), un automorphisme métrique v_1 de E prolongeant v_0^{-1}u. L’automorphisme v_0v_1 est alors le prolongement cherché de u. CQFD.

Corollaire 1

Soient, pour i = 1, 2, E_i un espace vectoriel de dimension finie, Φ_i une forme ε-hermitienne non dégénérée sur E_i vérifiant (T) (resp. Q_i une forme quadratique non dégénérée sur E_i), E'_i et E''_i deux sous-espaces orthogonaux de E_i dont E_i soit somme directe. Si les formes Φ_1 et Φ_2 (resp. Q_1 et Q_2) sont équivalentes, et si leurs restrictions à E'_1 et E'_2 sont équivalentes, il en est de même de leurs restrictions à E''_1 et E''_2.

En effet, soit u un isomorphisme métrique de E'_1 sur E'_2. D’après le th. 1, u se prolonge en un isomorphisme métrique ϕ de E_1 sur E_2. Comme Φ_i est non dégénérée, E''_i est l’orthogonal de E'_i dans E_i, donc ϕ applique E''_1 sur E''_2. CQFD.

Corollaire 2

Les hypothèses étant celles du th. 1, le groupe des automorphismes métriques de E permuté transitiivement les sous-espaces totalement isotropes (resp. totalement singuliers) de dimension donnée de E. De plus, si F est un sous-espace totalement isotrope (resp. totalement singulier) de E, toute application linéaire bijective de F sur F est induite par un automorphisme métrique de E.

Corollaire 3

Soit Q une forme quadratique non dégénérée sur un espace vectoriel E de dimension finie sur un corps algébriquement clos A. Le groupe des automorphismes métriques de E permuté transitiivement les sous-espaces non isotropes de dimension donnée de E.

Ceci résulte immédiatement du th. 1 et du cor. 2 de la prop. 3.

Exercices. — 1) a) Soient K un corps de caractéristique 2, J : ξ → ¯ξ un antiautomorphisme involutif de K, Z le centre de K. Montrer que si la restriction de J à Z n’est pas l’identité, tout élément μ de K tel que ¯μ = μ est de la forme λ + ¯λ (remarquer qu’il y a un élément ρ ≠ 0 dans Z qui s’écrit sous la forme ζ + ¯ζ, avec ζ ∈ Z) ; toute forme hermitienne sur un espace vectoriel sur K satisfait alors à la condition (T).

b) Donner des exemples de corps de caractéristique 2, admettant un antiautomorphisme involutif ξ → ¯ξ distinct de l’application identique, et pour lequel il y ait des éléments μ=μˉ\mu = \bar{\mu} qui ne sont pas de la forme λ+λˉ\lambda + \bar{\lambda} (cf. chap. VIII, § 11, exerc. 4).

2) Soient A un corps, E un espace vectoriel sur A, Φ\Phi (resp. Q) une forme ε\varepsilon-hermitienne non dégénérée sur E, vérifiant la condition (T) (resp. une forme quadratique non dégénérée sur E, Φ\Phi désignant alors la forme bilinéaire symétrique associée à Q).

a) Montrer que pour qu’un plan P⊂EP \subset E soit isotrope (resp. singulier) et non totalement isotrope (resp. non totalement singulier), il faut et il suffit qu’il ne contienne qu’une seule droite isotrope (resp. singulière) (cf. exerc. 14 e)).

b) On suppose que dim E⩾3E \geqslant 3, et qu’il existe dans E des vecteurs isotropes ≠0\neq 0. Montrer que si P est un plan non totalement isotrope dans E, il existe un sous-espace vectoriel non isotrope V⊂EV \subset E, de dimension 3, contenant des vecteurs isotropes ≠0\neq 0, et tel que P⊂VP \subset V.

3) Les hypothèses étant les mêmes que dans l’exerc. 2, montrer que si dim E⩾3E \geqslant 3, toute droite isotrope dans E est intersection de deux plans non isotropes.

4) Les hypothèses sont celles de l’exerc. 2, et on suppose en outre que E est de dimension finie.

a) Si l’indice ν\nu de Φ\Phi (resp. Q) est ⩾1\geqslant 1, montrer que pour tout vecteur isotrope (resp. singulier) a≠0a \neq 0 dans E, il existe une base (ei)(e_i) de E formée de vecteurs isotropes (resp. singuliers), telle que e1=ae_1 = a (cf. exerc. 14 e)).

b) Soient V, W deux sous-espaces totalement isotropes (resp. totalement singuliers) de même dimension r⩽νr \leqslant \nu; montrer qu’il existe deux sous-espaces totalement isotropes (resp. totalement singuliers) maximaux V1,W1V_1, W_1, tels que V⊂V1,W⊂W1V \subset V_1, W \subset W_1, et V1∩W1=V∩WV_1 \cap W_1 = V \cap W. (Si U=V∩WU = V \cap W, raisonner dans U0/UU^0/U).

c) Soient V, W, V1,W1V_1, W_1 quatre sous-espaces totalement isotropes (resp. totalement singuliers) de même dimension, tels que V+WV + W et V1+W1V_1 + W_1 soient non isotropes. Montrer qu’il existe un automorphisme métrique uu de E tel que u(V)=V1u(V) = V_1 et u(W)=W1u(W) = W_1.

d) Soient ff une forme linéaire sur E, α\alpha un élément de A de la forme λ+ελˉ\lambda + \varepsilon \bar{\lambda} (resp. un élément de Λ\Lambda). On considère la forme sesquilinéaire sur E

(x,y)→Φ1(x,y)=Φ(x,y)+f(x)αf(y)‾ (x, y) \to \Phi_1(x, y) = \Phi(x, y) + f(x)\overline{\alpha f(y)}

(resp. la forme quadratique

x→Q1(x)=Q(x)+α(f(x))2). x \to Q_1(x) = Q(x) + \alpha(f(x))^2).

Montrer que si Φ1\Phi_1 (resp. Q1Q_1) est non dégénérée et si ν1\nu_1 désigne son indice, on a ∣ν1−ν∣⩽1|\nu_1 - \nu| \leqslant 1.

5) a) Soient B un anneau, ξ→ξˉ\xi \to \bar{\xi} un antiautomorphisme involutif de B, ε\varepsilon un élément du centre de B tel que εεˉ=1\varepsilon \bar{\varepsilon} = 1. Montrer que si β\beta est un élément inversible de B tel que β+εβˉ≠0\beta + \varepsilon \bar{\beta} \neq 0, il existe un élément inversible μ≠1\mu \neq 1 dans B, tel que μ(β+εβˉ)μ=β+εβˉ\mu(\beta + \varepsilon \bar{\beta})\mu = \beta + \varepsilon \bar{\beta}. (Montrer qu’on peut prendre μ\mu tel que μβμˉ=β\mu \beta \bar{\mu} = \beta).

b) Soient A un corps, E un espace vectoriel sur A, Φ\Phi une forme sesquilinéaire ε\varepsilon-hermitienne non dégénérée sur EE, satisfaisant à (T). Montrer que si Φ\Phi n’est pas alternée, pour tout hyperplan non isotrope HH de EE, il existe un automorphisme métrique de EE, distinct de l’identité, laissant invariant tout élément de HH (utiliser aa).

6) Les hypothèses étant celles de l’exerc. 2, soit aa un vecteur isotrope ≠0\neq 0 dans EE (resp. un vecteur isotrope non singulier (on notera que de tels vecteurs n’existent que si AA est de caractéristique 2)). Soit λ∈A\lambda \in A tel que λ+ελˉ=0\lambda + \varepsilon \bar{\lambda} = 0 (resp. λ=(Q(a))−1\lambda = (Q(a))^{-1}) ; montrer que la transvection x→x+Φ(x,a)λax \to x + \Phi(x, a)\lambda a (chap. II, § 6, exerc. 7) est un automorphisme métrique de EE; réciproque.

7) Les hypothèses étant celles de l’exerc. 2, soit GG le groupe des automorphismes métriques de EE. Montrer que les seules bijections semi-linéaires de EE sur lui-même qui permutent avec tous les éléments de GG sont les homothéties de EE, sauf dans les trois cas suivants : dim E=2E = 2, GG est le groupe des automorphismes métriques correspondant à une forme quadratique d’indice 1 sur EE, et AA est l’un des trois corps F2,F3\mathbf{F}_2, \mathbf{F}_3 ou F4\mathbf{F}_4. (Utiliser les exerc. 5, 6 et 3 ; examiner à part le cas d’une forme quadratique sur un espace vectoriel de dimension 2).

*8) Soient AA un corps, EE un espace vectoriel de dimension finie >0> 0 sur AA, Φ\Phi une forme sesquilinéaire ε\varepsilon-hermitienne non dégénérée sur EE, satisfaisant à (T). Soit M(Φ)M(\Phi) le groupe des multiplicateurs des similitudes de EE pour Φ\Phi (§6,no 5§ 6, \mathrm{n}^o\ 5).

a) Soient V1,V2V_1, V_2 deux sous-espaces vectoriels de EE, de même dimension, et soient Φ1,Φ2\Phi_1, \Phi_2 les restrictions de Φ\Phi à V1,V2V_1, V_2 respectivement. Pour qu’il existe une similitude uu telle que u(V1)=V2u(V_1) = V_2, il faut et il suffit qu’il existe α∈M(Φ)\alpha \in M(\Phi) tel que Φ2\Phi_2 soit équivalente à αΦ1\alpha \Phi_1 (utiliser le th. de Witt).

b) Soit (F,F′,G)(F, F', G) une décomposition de Witt de EE (no 2\mathrm{n}^o\ 2), et soit Φ0\Phi_0 la restriction de Φ\Phi au sous-espace non isotrope GG. Montrer que l’on a M(Φ)=M(Φ0)M(\Phi) = M(\Phi_0) si G≠{0}G \neq \{0\}. (Utiliser le th. de Witt et la prop. 2 du no 2\mathrm{n}^o\ 2).

c) Montrer que si l’indice vv de Φ\Phi est tel que dim E=2vE = 2v, M(Φ)M(\Phi) est le groupe des éléments ζ≠0\zeta \neq 0 du centre de AA tels que ζˉ=ζ\bar{\zeta} = \zeta. Si dim E=2v+1E = 2v + 1, M(Φ)M(\Phi) est le groupe des éléments de la forme ρρˉ\rho \bar{\rho}, où ρ\rho parcourt le groupe multiplicatif des éléments ≠0\neq 0 du centre de AA (utiliser le th. de Witt). (Cf. § 10, exerc. 18).*

9) Soient AA un corps commutatif, EE un espace vectoriel sur AA, QQ une forme quadratique non dégénérée sur EE. On appelle similitude pour QQ tout automorphisme uu de EE tel qu’il existe un élément α≠0\alpha \neq 0 de AA pour lequel Q(u(x))=αQ(x)Q(u(x)) = \alpha Q(x) quel que soit x∈Ex \in E; uu est alors aussi une similitude pour la forme bilinéaire associée à QQ. En supposant la dimension de EE finie et >0> 0, énoncer et démontrer pour les similitudes relatives à QQ les analogues des résultats de l’exerc. 8.

*10) Soient AA un corps, EE un espace vectoriel sur AA de dimension >2> 2, Φ1\Phi_1 (resp. Φ2\Phi_2) une forme sesquilinéaire non dégénérée ε1\varepsilon_1-hermitienne (resp. ε2\varepsilon_2-hermitienne) sur EE pour un antiautomorphisme involutif J1J_1 (resp. J2J_2) de AA, vérifiant la condition (T). Montrer que si le groupe des automorphismes métriques de EE pour Φ1\Phi_1 est un sous-groupe du groupe des similitudes pour Φ2\Phi_2, il existe α∈A\alpha \in A tel que Φ2=Φ1α\Phi_2 = \Phi_1 \alpha (utiliser les exerc. 5 b) et 6).

Démontrer la propriété analogue lorsque A est supposé commutatif, et que Φ1\Phi_1 et Φ2\Phi_2 sont remplacées dans l’énoncé par deux formes quadratiques non dégénérées Q1,Q2Q_1, Q_2 sur E.*

11) Soient A un anneau, J un antiautomorphisme involutif de A, E un A-module admettant une base finie (ei)(e_i), Φ\Phi une forme ε\varepsilon-hermitienne non dégénérée sur E, R la matrice de Φ\Phi par rapport à (ei)(e_i); le groupe des automorphismes métriques de Φ\Phi s’identifie au groupe G des matrices inversibles U telles que tU.R.Uj=R^tU . R . U^j = R.

a) On suppose qu’il existe une matrice P telle que R=tP+εPjR = ^tP + \varepsilon P^j. Montrer que pour toute matrice S telle que tS+εSj=0^tS + \varepsilon S^j = 0, et que P+SP + S soit inversible, U=(tPj−εjS)−1(P+S)U = (^tP^j - \varepsilon^j S)^{-1}(P + S) appartient à G, et εI+U\varepsilon I + U est inversible. Réciproque (montrer que pour toute matrice U∈GU \in G telle que εI+U\varepsilon I + U soit inversible, on a

ε(εI+tU)−1R+εjR(εjI+Uj)−1=R. \varepsilon(\varepsilon I + ^tU)^{-1}R + \varepsilon^j R (\varepsilon^j I + U^j)^{-1} = R.

b) Montrer que la condition de a) est vérifiée lorsque Φ\Phi satisfait à la condition (T). Cas où dans A l’équation 2ξ=α2\xi = \alpha admet une solution et une seule pour tout α∈A\alpha \in A.

¶ 12) Soient A un corps commutatif, E un espace vectoriel de dimension finie n sur A, Φ\Phi une forme sesquilinéaire ε\varepsilon-hermitienne non dégénérée sur E.

a) Soit u un endomorphisme de E ; montrer que si les ri(1≤i≤m)r_i (1 \leq i \leq m) sont les invariants de similitude de u (chap. VII, § 5, no 1, déf. 1), les invariants de similitude de l’adjoint u∗u^* de u par rapport à Φ\Phi sont les polynômes rˉi(1≤i≤m)\bar{r}_i (1 \leq i \leq m), où rˉi\bar{r}_i se déduit de rir_i en appliquant à chaque coefficient l’automorphisme J (cf. chap. VII, § 5, exerc. 2). Pour tout polynôme unitaire irréductible p∈A[X]p \in A[X] divisant le polynôme minimal de u, soit Fk(u,p)F_k(u, p) le noyau de (p(u))k(p(u))^k dans E, et soit F(u,p)F(u, p) la réunion des Fk(u,p)F_k(u, p) pour tous les entiers k>0k > 0. Montrer que si p et q sont deux polynômes unitaires irréductibles distincts divisant le polynôme minimal de u, les sous-espaces F(u,p)F(u, p) et F(u∗,qˉ)F(u^*, \bar{q}) sont orthogonaux (utiliser l’identité de Bezout). Enfin, si G est un sous-espace vectoriel de E tel que u(G)⊂Gu(G) \subset G, on a u∗(G0)⊂G0u^*(G^0) \subset G^0.

b) On suppose que uu∗=u∗uuu^* = u^*u (cas où on dit que u est un endomorphisme normal pour Φ\Phi; cf. § 7, no 3); montrer que l’on a alors u∗(Fk(u,p))⊂Fk(u,p)u^*(F_k(u, p)) \subset F_k(u, p) pour tout k, et par suite u∗(F(u,p))⊂F(u,p)u^*(F(u, p)) \subset F(u, p). Si on pose G(p,qˉ)=F(u,p)∩F(u∗,qˉ)G(p, \bar{q}) = F(u, p) \cap F(u^*, \bar{q}), montrer que E est somme directe des sous-espaces G(p,qˉ)G(p, \bar{q}), et que G(p,qˉ)G(p, \bar{q}) et G(p1,qˉ1)G(p_1, \bar{q}_1) sont orthogonaux si p≠q1p \neq q_1 ou si p1≠qp_1 \neq q; en particulier G(p,qˉ)G(p, \bar{q}) est totalement isotrope si p≠qp \neq q. Montrer que G(p,pˉ)G(p, \bar{p}) est réduit à 0 ou non isotrope, et que si p≠qp \neq q, aucun vecteur non nul de G(p,qˉ)G(p, \bar{q}) n’est orthogonal à G(q,pˉ)G(q, \bar{p}) (utiliser le fait que Φ\Phi est non dégénérée); en déduire que si p≠qp \neq q, G(p,qˉ)G(p, \bar{q}) et G(q,pˉ)G(q, \bar{p}) sont des sous-espaces totalement isotropes de même dimension, et que G(p,qˉ)+G(q,pˉ)G(p, \bar{q}) + G(q, \bar{p}) est non isotrope.

c) On suppose que J n’est pas l’identité ou que A n’est pas de caractéristique 2, et que u∗=uu^* = u. Soit M\mathscr{M} l’ensemble des sous-espaces non isotropes M⊂G(p,pˉ)M \subset G(p, \bar{p}), stables pour u (donc sous-modules du A[X]A[X]-module EuE_u (chap. VII, § 5, no 1)). Montrer que si MM est un élément minimal de M\mathfrak{M}, MM est un sous-module indécomposable de EuE_u (chap. VII, § 4, no 7). (Supposer que MM soit somme directe d’un sous-module indécomposable M1M_1 et d’un sous-module M2≠{0}M_2 \neq \{0\}, les polynômes minimaux php^h et pkp^k des restrictions de uu à M1M_1 et M2M_2 respectivement étant tels que h≥kh \geq k. Remarquer alors que M1M_1 est nécessairement isotrope et que tout z≠0z \neq 0 dans M1M_1 tel que p(u).z=0p(u).z = 0 est orthogonal à M1M_1 (utiliser le fait que tout sous-module de M1M_1 est monogène) ; écrire que z=(p(u))h−1.xz = (p(u))^{h-1}.x et que zz n’est pas orthogonal à M2M_2, et en déduire qu’on a nécessairement k=hk = h. Montrer ensuite qu’il existe un sous-module indécomposable N2N_2 de M2M_2 tel que php^h soit le polynôme minimal de la restriction de uu à N2N_2, et que M1+N2M_1 + N_2 soit non isotrope ; en conclure que M2=N2M_2 = N_2. Enfin, si y∈M2y \in M_2 n’est pas orthogonal à zz, considérer le sous-module PP de MM engendré par w=x+λyw = x + \lambda y, où λ∈A\lambda \in \mathbf{A}, et montrer qu’on peut prendre λ\lambda tel que PP soit non isotrope, en prouvant qu’on a Φ((p(u))h−1.w,w)≠0\Phi((p(u))^{h-1}.w, w) \neq 0; ce qui aboutit à une contradiction).

d) Déduire de c) que G(p,p‾)G(p, \overline{p}) est somme directe de sous-modules indécomposables HiH_i, deux à deux orthogonaux. Si php^h est le polynôme minimal de la restriction de uu à HiH_i, et si dd est le degré de pp, montrer qu’il existe dans HiH_i un sous-espace totalement isotrope de dimension d.[h/2]d.[h/2]. Cas où EE ne contient aucun vecteur isotrope ≠0\neq 0 (cf. § 7, no 3).

e) Enoncer et démontrer les propriétés analogues à celles de c) et d) lorsqu’on a u∗=−uu^* = -u ou u∗u=1u^*u = 1.

f) Donner un exemple où n=4n = 4, Φ\Phi est symétrique et d’indice 2, p=p‾=X−1p = \overline{p} = X - 1, uu est normal, E=G(p,p‾)E = G(p, \overline{p}), mais EE n’est pas somme directe de sous-modules minimaux de M\mathfrak{M}, et où il existe un vecteur propre de uu qui n’est pas vecteur propre de u∗u^* (cf. § 7, no 3).

13) Les hypothèses sont celles de l’exerc. 2, et on suppose en outre que EE admette une base dénombrable (en)(e_n). Soit FF un sous-espace totalement isotrope (resp. totalement singulier) de EE tel que F00=FF^{00} = F; montrer qu’il existe un sous-espace totalement isotrope (resp. totalement singulier) F′F' tel que : 1∘ F∩F′={0}1^\circ \ F \cap F' = \{0\}; 2∘2^\circ il existe une base (am)m∈I(a_m)_{m \in I} de FF et une base (am′)m∈I(a'_m)_{m \in I} de F′F' (l’intervalle de N\mathbf{N} d’origine 0) telles que Φ(ai,aj′)=δij\Phi(a_i, a'_j) = \delta_{ij} pour tout couple d’indices ; 3∘3^\circ (F+F′)00=F+F′(F + F')^{00} = F + F' et EE est somme directe de F+F′F + F' et de G=(F+F′)0G = (F + F')^0. (Former par récurrence une suite croissante (Ln)(L_n) de sous-espaces non isotropes, de réunion EE, tels que dim⁡Ln+1−dim⁡Ln=2\dim L_{n+1} - \dim L_n = 2, et appliquer la prop. 2 du no 2 à chacun des LnL_n; pour former cette suite, on considérera, pour tout nn, le plus petit entier kk tel que ek∉Lne_k \notin L_n, et on utilisera l’exerc. 9 b) du § 1).

14) Soient AA un corps de caractéristique 2, EE un espace vectoriel de dimension finie nn sur AA, Φ\Phi une forme hermitienne non dégénérée sur EE, ne satisfaisant pas nécessairement à la condition (T).

a) Montrer que l’ensemble VV des x∈Ex \in E tels que Φ(x,x)\Phi(x, x) soit de la forme α+α‾\alpha + \overline{\alpha} est un sous-espace vectoriel de EE.

b) Soient V1=V∩V0V_1 = V \cap V^0, q=dim⁡V1q = \dim V_1, V2V_2 un supplémentaire de V1V_1 par rapport à VV, V3V_3 un supplémentaire de V1V_1 par rapport à V0V^0. Montrer qu’il existe une base (ei)1≤i≤2q(e_i)_{1 \leq i \leq 2q} de (V2+V3)0=V20∩V30(V_2 + V_3)^0 = V_2^0 \cap V_3^0 telle que les vecteurs e1,…,eqe_1, \ldots, e_q forment une base de V1V_1 et que l’on ait Φ(ei,eq+j)=δij\Phi(e_i, e_{q+j}) = \delta_{ij} pour 1≤i≤q,1≤j≤q1 \leq i \leq q, 1 \leq j \leq q.

c) Soit G(Φ)G(\Phi) le groupe des automorphismes métriques de EE (pour Φ\Phi). Montrer que pour tout u∈G(Φ)u \in G(\Phi), on a u(x)=xu(x) = x pour tout x∈V0x \in V^0.

d) Pour tout u∈G(Φ)u \in G(\Phi), on a u(V)=Vu(V) = V; soit uvu_v la restriction de uu à VV, et soit GvG_v le groupe formé par les uvu_v. Montrer que : 1o1^o le noyau de l’homomorphisme u→uvu \to u_v de G(Φ)G(\Phi) sur GvG_v est commutatif ; 2o2^o si Φ2\Phi_2 est la restriction de Φ\Phi à V2V_2 et G(Φ2)G(\Phi_2) le groupe des automorphismes métriques de V2V_2 pour Φ2\Phi_2, il existe un homomorphisme de GvG_v sur G(Φ2)G(\Phi_2) dont le noyau est commutatif (utiliser bb et cc).

e) On suppose que AA est commutatif et JJ est l’identité ; soient EE un espace vectoriel de dimension 3 sur AA, (ei)1≤i≤3(e_i)_{1 \leq i \leq 3} une base de EE, Φ\Phi la forme symétrique non dégénérée sur EE dont la matrice par rapport à (ei)(e_i) est

(100001010). \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0 \end{pmatrix}.

Montrer que tous les vecteurs isotropes dans EE sont contenus dans l’hyperplan engendré par e2e_2 et e3e_3 (cf. exerc. 4 a)). Donner un exemple de plan non isotrope mais ne contenant qu’une seule droite isotrope (cf. exerc. 2 a)). Montrer qu’il n’existe aucun automorphisme u∈G(Φ)u \in G(\Phi) tel que u(e1)=e1+e2u(e_1) = e_1 + e_2, bien que l’on ait Φ(e1,e1)=Φ(e1+e2,e1+e2)\Phi(e_1, e_1) = \Phi(e_1 + e_2, e_1 + e_2).

Transcribed from the printed volume. Not translated.