Soit $(a_i)$ une base du $k$-espace vectoriel $k'$. Si $v \in V \otimes_k k'$, $v$ se met de manière unique sous la forme $\sum v_i \otimes a_i$, où $(v_i)$ est une famille à support fini d’éléments de $V$. On a, pour tout $s \in S$,

Il s’ensuit que

ce qui entraîne la proposition.

(i) Soit $f : V \to W$ une application linéaire telle que $q(s)f(v) = f(r(s)v)$ pour $s \in S$ et $v \in V$. Alors, pour tout $\lambda \in P$, $f$ applique $V^\lambda(S)$ (resp. $V_\lambda(S)$) dans $W^\lambda(S)$ (resp. $W_\lambda(S)$).

(ii) Soit $B : V \times V' \to W$ une application bilinéaire telle que

pour $s \in S$, $v \in V$, $v' \in V'$. Alors, pour tous $\lambda, \mu \in P$, $B$ applique $V^\lambda(S) \times {V'}^\mu(S)$ (resp. $V_\lambda(S) \times V'_\mu(S)$) dans $W^{\lambda+\mu}(S)$ (resp. $W_{\lambda+\mu}(S)$).

(iii) Soit $B : V \times V' \to W$ une application bilinéaire telle que

pour $s \in S$, $v \in V$, $v' \in V'$. Alors, pour tous $\lambda, \mu \in P$, $B$ applique $V^\lambda(S) \times {V'}^\mu(S)$ (resp. $V_\lambda(S) \times V'_\mu(S)$) dans $W^{\lambda\mu}(S)$ (resp. $W_{\lambda\mu}(S)$).

Dans le cas (i), on a $(q(s) - \lambda(s))^nf(v) = f((r(s) - \lambda(s))^nv)$ pour $s \in S$ et $v \in V$, et l’on conclut aussitôt. Dans le cas (ii), on a

pour $s \in S$, $v \in V$, $v' \in V'$, d’où par récurrence sur $n$

On en déduit immédiatement les assertions de (ii). Dans le cas (iii), on a

pour $s \in S$, $v \in V$, $v' \in V'$, d’où par récurrence sur $n$

On en déduit immédiatement les assertions de (iii).

La seconde assertion est conséquence de la première; il suffit de prouver celle-ci. Distinguons plusieurs cas.

a) S est vide. L’assertion est triviale.

b) S est réduit à un élément s. Soient $\lambda_0, \lambda_1, \ldots, \lambda_n$ des éléments distincts de k. Pour $i = 0, 1, \ldots, n$, soit $v_i \in V^{\lambda_i}(s)$ et supposons que $v_0 = v_1 + \cdots + v_n$. Il s’agit de prouver que $v_0 = 0$. Pour $i = 0, \ldots, n$, il existe un entier $q_i > 0$ tel que $(r(s) - \lambda_i)^{q_i} v_i = 0$. Considérons les polynômes $P(X) = \prod_{i \geq 1} (X - \lambda_i)^{q_i}$ et $Q(X) = (X - \lambda_0)^{q_0}$. On a $Q(r(s))v_0 = 0$, et $P(r(s))v_0 = \sum_{i=1}^n P(r(s))v_i = 0$.

Comme P et Q sont premiers entre eux, l’identité de Bezout prouve que $v_0 = 0$.

c) S est fini non vide. Raisonnons par récurrence sur le cardinal de S. Soient $s \in S$ et $S' = S - \{s\}$. Soit $(v_\lambda)_{\lambda \in P}$ une famille à support fini d’éléments de V tels que $\sum_{\lambda \in P} v_\lambda = 0$ et $v_\lambda \in V^\lambda(S)$. Soit $\lambda_0 \in P$. Notons $P'$ l’ensemble des $\lambda \in P$ tels que $\lambda|S' = \lambda_0|S'$. D’après l’hypothèse de récurrence appliquée à $S'$, on a $\sum_{\lambda \in P'} v_\lambda = 0$.

Si $\lambda, \mu$ sont des éléments distincts de $P'$, on a $\lambda(s) \neq \mu(s)$. Comme la somme $\sum_{\alpha \in k} V^\alpha(s)$ est directe d’après b), et que $v_\lambda \in V^{\lambda(s)}(s)$, on a $v_\lambda = 0$ pour tout $\lambda \in P'$, et en particulier $v_{\lambda_0} = 0$, ce qu’il fallait démontrer.

d) Cas général. Soit $(v_\lambda)_{\lambda \in P}$ une famille à support fini d’éléments de V telle que $\sum_{\lambda \in P} v_\lambda = 0$ et $v_\lambda \in V^\lambda(S)$. Soit $P'$ l’ensemble fini des $\lambda \in P$ tels que $v_\lambda \neq 0$, et soit $S'$ une partie finie de S telle que les conditions $\lambda \in P', \mu \in P', \lambda|S' = \mu|S'$ entraînent $\lambda = \mu$. On a $v_\lambda \in V^{\lambda|S'}(S')$; appliquant c), on voit que $v_\lambda = 0$ pour $\lambda \in P'$, ce qui achève la démonstration.

Rappelons que, si $x \in \mathrm{End}(V)$, on note ad $x$ l’application $y \mapsto xy - yx = [x, y]$ de $\mathrm{End}(V)$ dans lui-même.

(i) Supposons V de dimension finie. Pour que x soit trigonalisable, il faut et il suffit que $V = \sum_{a \in k} V^a(x)$.

(ii) S’il existe un entier n tel que $(\mathrm{ad}\ x)^n y = 0$, chaque $V^a(x)$ est stable par y.

(iii) Supposons V de dimension finie. Si $V = \sum_{a \in k} V^a(x)$ et si chaque $V^a(x)$ est stable par y, il existe un entier n tel que $(\mathrm{ad}\ x)^n y = 0$.

La partie (i) résulte de A, VII, § 5, n° 2, prop. 3.

Soit E = End(V). Soit B l’application bilinéaire $(u, v) \mapsto u(v)$ de E $\times$ V dans V. Par définition de ad $x$, on a

pour $x \in E, u \in E, v \in V$. Faisons opérer $x$ sur $E$ par $\mathrm{ad}\,x$. D’après la prop. 2 (ii), on a $B(E^0(x), V^a(x)) \subset V^a(x)$ pour tout $a \in k$. Si $(\mathrm{ad}\,x)^n y = 0$, alors $y \in E^0(x)$, donc $y(V^a(x)) \subset V^a(x)$, ce qui prouve (ii).

Pour prouver (iii), on peut remplacer $V$ par $V^a(x)$, $x$ (resp. $y$) par sa restriction à $V^a(x)$. Quitte à remplacer $x$ par $x - a$, on peut donc supposer $x$ nilpotent. Alors $(\mathrm{ad}\,x)^{2\dim V - 1} = 0$ (I, § 4, n° 2), ce qui prouve (iii).

Si $V = \sum_{\lambda \in P} V^\lambda(S)$, on a $V = \sum_{a \in k} V^a(s)$ pour tout $s \in S$, et il résulte du lemme 1 que (ii) entraîne (i). Supposons la condition (i) vérifiée. Le lemme 1 et la formule (1) entraînent que chaque $V^\lambda(S)$ est stable par $r(S)$. Reste à prouver que $V = \sum_{\lambda \in P} V^\lambda(S)$. Nous raisonnons par récurrence sur $\dim V$. Distinguons deux cas. a) Pour tout $s \in S$, $r(s)$ admet une seule valeur propre $\lambda(s)$. Alors $V = V^{\lambda(s)}(S)$. b) Il existe $s \in S$ tel que $r(s)$ admette au moins deux valeurs propres distinctes. Alors $V$ est somme directe des $V^a(s)$ pour $a \in k$, et $\dim V^a(s) < \dim V$ pour tout $a$. Chaque $V^a(s)$ est stable par $r(S)$, et il suffit d’appliquer l’hypothèse de récurrence.

Soit $r' : S \to \mathrm{End}(V \otimes_k k')$ l’application définie par $r$. Si $s_1, s_2 \in S$, il existe un entier $n$ tel que $(\mathrm{ad}\,r(s_1))^n r(s_2) = 0$, d’où $(\mathrm{ad}\,r'(s_1))^n r'(s_2) = 0$. Il suffit alors d’appliquer le th. 1.

(ii) $V = V^0(S) \oplus V^+(S);$ (iii) tout sous-espace vectoriel W de V, stable par r(S) et tel que W^0(S) = 0, est contenu dans V^+(S); (iv) on a $\sum_{s \in S} r(s)V^+(S) = V^+(S).$ En outre, $V^+(S)$ est le seul sous-espace vectoriel de V possédant les propriétés (i) et (ii). Pour toute extension $k'$ de $k$, on a $(V \otimes_k k')^+(S) = V^+(S) \otimes_k k'$.

La dernière assertion est immédiate. Pour prouver les autres, on peut alors, compte tenu de la prop. 1, supposer $k$ algébriquement clos. On a, d’après le th. 1, $V = \sum_{\lambda \in P} V^\lambda(S)$, et les $V^\lambda(S)$ sont stables par $r(S)$. Si $s \in S$, le polynôme caractéristique de $r(s) | V^\lambda(S)$ est $(X - \lambda(s))^{dim\, V^\lambda(S)}$; il s’ensuit que $\bigcap_{i \geq 1} r(s)^i V^\lambda(s)$ est nul si $\lambda(s) = 0$ et égal à $V^\lambda(S)$ si $\lambda(s) \neq 0$; par conséquent (3)

ce qui prouve (i), (ii) et (iv). Si $W$ est un sous-espace vectoriel de $V$ stable par $r(S)$, on a $W = \sum_{\lambda \in P} W^\lambda(S)$ et $W^\lambda(S) = W \cap V^\lambda(S)$. Si $W^0(S) = 0$, on voit que $W \subset V^+(S)$, ce qui prouve (iii).

Soit $V'$ un sous-espace vectoriel de $V$ stable par $r(S)$ et tel que $V' \cap V^0(S) = 0$. On a ${V'}^0(S) = 0$, donc $V' \subset V^+(S)$ d’après (iii). Si de plus $V = V^0(S) + V'$, on voit que $V' = V^+(S)$.

On dit parfois que $(V^0(S), V^+(S))$ est la décomposition de Fitting de $V$, ou de l’application $r : S \to \mathrm{End}(V)$. Si $S$ est réduit à un seul élément $s$, on écrit $V^+(s)$ ou $V^+(r(s))$ au lieu de $V^+(\{s\})$. On a $V = V^0(s) \oplus V^+(s)$, $V^0(s)$ et $V^+(s)$ sont stables par $r(s)$, $r(s) | V^0(s)$ est nilpotent et $r(s) | V^+(s)$ est bijectif.

Grâce à la prop. 1, on se ramène au cas où $k$ est algébriquement clos. On a $V = \bigoplus_{\lambda \in P} V^\lambda(S)$, $V' = \bigoplus_{\lambda \in P} {V'}^\lambda(S)$ d’après le th. 1, et $V' = f(V) = \sum_{\lambda \in P} f(V^\lambda(S))$. Enfin, $f(V^\lambda(S)) \subset {V'}^\lambda(S)$ d’après la prop. 2 (i), d’où le corollaire.

(iii) Si V est muni d'une structure d'algèbre et si u est un automorphisme de V, alors $u_s$ et $1 + u_s^{-1}u_n$ sont des automorphismes de V.

Grâce à la prop. 1, on peut supposer k algébriquement clos, d'où

La composante semi-simple de $u|V^\lambda(u)$ est l'homothétie de rapport $\lambda$ dans $V^\lambda(u)$. Cela prouve (i).

Supposons désormais V muni d'une structure d'algèbre. Soient $x \in V^\lambda(u)$, $y \in V^\mu(u)$.

Si u est une dérivation de V, on a $xy \in V^{\lambda+\mu}(u)$ (prop. 2 (ii)), donc

Cela prouve que $u_s$ est une dérivation de V. Alors $u_n = u - u_s$ est aussi une dérivation de V.

Si u est un automorphisme de V, on a $\mathrm{Ker}(u_s) = V^0(u) = 0$, donc $u_s$ est bijectif. D'autre part, $xy \in V^{\lambda\mu}(u)$ (prop. 2 (iii)), donc

Cela prouve que $u_s$ est un automorphisme de V ; il en est de même de

Comme $V^\lambda(S)$ est stable par $r(S)$ (lemme 1 et formule (1) du n° 1), on peut supposer que $V = V^\lambda(S)$. Soit $n = \dim V$. Pour $s \in S$, on a alors

D'autre part, le développement du déterminant prouve que où $a_i : S \to k$ est une fonction polynomiale homogène de degré i. Ecrivons $n = qm$ où q est une puissance de l'exposant caractéristique de k et où $(q, m) = 1$. On a alors $(X - \lambda(s))^n = (X^q - \lambda(s)^q)^m$; d'où $-m \lambda(s)^q = a_q(s)$, ce qui entraîne le résultat.

La première égalité résulte de la prop. 1. Pour prouver la deuxième, on peut supposer V = V^0(S) d’où V' = V'^0(S). Soient (s_1, ..., s_m) une base de S et (e_1, ..., e_n) une base de V. Il existe des polynômes P_{ij}(X_1, ..., X_m) tels que

pour $1 \leq j \leq n$ et $a'_1, ..., a'_m \in k'$. Par hypothèse, on a $r'(s)^n = 0$ pour tout $s \in S$, c’est-à-dire $P_{ij}(a_1, ..., a_m) = 0$ pour $1 \leq i, j \leq n$ et $a_1, ..., a_m \in k$. Comme k est infini, on a donc $P_{ij} = 0$. Par suite, tout élément de $r'(S')$ est nilpotent et $V' = {V'}^0(S')$.

(i) La fonction $s \mapsto P(s)$ est polynomiale sur S. On a $\tilde{S} = \{ s \in S \mid P(s) \neq 0 \}$; c’est un ouvert de S pour la topologie de Zariski (App. I).

(ii) $\tilde{S}$ est non vide, et, pour tout $s \in \tilde{S}$, on a $V^+(s) = V^+(S)$.

Le fait que $s \mapsto P(s)$ soit polynomiale résulte de la linéarité de r. Si $s \in S$, on a $V^0(s) \supseteq V^0(S)$, avec égalité si et seulement si $r(s)$ définit un automorphisme de $V/V^0(S)$, d’où (i).

Soit maintenant $k'$ une clôture algébrique de k, et introduisons V', S', r' comme dans la prop. 6. Remarquons que S' vérifie la condition (PC) par prolongement de l’identité polynomiale $\operatorname{ad}(r(s_1))^{2 \dim V - 1} r(s_2) = 0$ valable pour $s_1, s_2 \in S$ (n° 1, remarque). Appliquant le th. 1, on en déduit une décomposition

avec $\lambda_i \neq 0$ pour $1 \leq i \leq m$. Pour $1 \leq i \leq m$, il existe une fonction polynomiale $P_i$ non nulle sur S' et un entier $q_i$ tels que $\lambda_i^{q_i} = P_i$ (prop. 5). Puisque k est infini, il existe $s \in S$ tel que $(P_1 ... P_m)(s) \neq 0$, cf. A, IV, § 2, n° 3, cor. 2 à la prop. 9. On a alors $\lambda_i(s) \neq 0$ pour tout $i$, d’où ${V'}^0(S') = {V'}^0(s)$ et par suite $V^0(S) = V^0(s)$ (prop. 6), ce qui montre que $\tilde{S} \neq \emptyset$. Si $s \in \tilde{S}$, le fait que $V^+(S)$ soit stable par $r(s)$ et supplémentaire de $V^0(s)$ dans V entraîne que $V^+(S) = V^+(s)$ (cor. 2 au th. 1).

(i) La somme $\sum_{\lambda \in P} L^\lambda(h)$ est directe.

(ii) Si $f : L \to M$ est un homomorphisme de $h$-modules, on a $f(L^\lambda(h)) \subset M^\lambda(h)$ pour tout $\lambda \in P$.

(iii) Si $f : L \times M \to N$ est une application bilinéaire $h$-invariante, on a

quels que soient $\lambda, \mu \in P$. Cela résulte des prop. 2 et 3.

(i) Chaque $M^\lambda(h)$ est un sous-$h$-module de $M$. Si, pour tout $x \in h$, $x_M$ est trigonalisable, alors $M = \sum_{\lambda \in P} M^\lambda(h)$.

(ii) Si $k$ est infini, il existe $x \in h$ tel que $M^0(x) = M^0(h)$.

(iii) Si $k$ est de caractéristique 0, et si $\lambda \in P$ est tel que $M^\lambda(h) \neq 0$, alors $\lambda$ est une forme linéaire sur $h$ nulle sur $[h, h]$, et $M_\lambda(h) \neq 0$.

(iv) Si $f : M \to N$ est un homomorphisme surjectif de $h$-modules de dimension finie, on a $f(M^\lambda(h)) = N^\lambda(h)$ pour tout $\lambda \in P$.

(v) Si $N$ est un $h$-module de dimension finie, et $B$ une forme bilinéaire sur $M \times N$ invariante par $h$, alors $M^\lambda(h)$ et $N^\mu(h)$ sont orthogonaux relativement à $B$ si $\lambda + \mu \neq 0$. Si, en outre, $B$ est non dégénérée, il en est de même de sa restriction à $M^\lambda(h) \times N^{-\lambda}(h)$ pour tout $\lambda \in P$.

La partie (i) résulte du n° 1, lemme 1 et th. 1. La partie (ii) résulte du n° 2, prop. 7. La partie (iv) résulte du n° 1, cor. 3 du th. 1. Prouvons (iii). On peut supposer que $M = M^\lambda(h)$. Alors, pour tout $x \in h$, on a $\lambda(x) = (\dim V)^{-1} \mathrm{Tr}(x_M)$; cela prouve que $\lambda$ est linéaire (ce qui résulte aussi de la prop. 5) et que $\lambda$ s’annule sur $[h, h]$. Considérons l’application $\rho : h \to \mathrm{End}_k(M)$ définie par

en vertu de ce qui précède, c’est une représentation de $h$ dans $M$, et $\rho(x)$ est nilpotent pour tout $x \in h$. D’après le th. d’Engel (I, § 4, n° 2, th. 1), il existe $m \neq 0$ dans $M$ tel que $\rho(x)m = 0$ pour tout $x \in h$, d’où $m \in M_\lambda(h)$.

La première assertion de (v) résulte du n° 1, prop. 2, (ii). Pour prouver la deuxième, on peut supposer $k$ algébriquement clos, vu la prop. 1 du n° 1; elle résulte alors de la première et du fait que $M = \sum_\lambda M^\lambda(h)$, $N = \sum_\mu N^\mu(h)$, cf. (i).