§ 4. Algèbres de Lie nilpotentes
On rappelle que K désigne désormais un corps commutatif. Dans toute la fin du chapitre, les algèbres de Lie sont supposées de dimension finie sur K.
1. Définition des algèbres de Lie nilpotentes
Définition 1
Une algèbre de Lie g est dite nilpotente s’il existe une suite finie décroissante d’idéaux de g, avec , , telle que pour .
Une algèbre de Lie commutative est nilpotente.
Proposition 1
Soit g une algèbre de Lie. Les conditions suivantes sont équivalentes : a) g est nilpotente ; b) pour k assez grand ; c) pour k assez grand ; d) il existe un entier k tel que quels que soient les éléments dans g ; e) il existe une suite décroissante d’idéaux de g, avec , , telle que et pour .
Si (resp. ), il est clair que la suite (resp. ) possède les propriétés de la définition 1, donc que g est nilpotente. Réciproquement, supposons qu’il existe une suite possédant les propriétés de la définition 1. On voit par récurrence sur i que et . Donc et . On a ainsi prouvé que les conditions a), b), c) sont équivalentes. D’autre part, est l’ensemble des combinaisons linéaires d’éléments de la forme
Corollaire 1
Le centre d’une algèbre de Lie nilpotente non nulle est non nul.
Corollaire 2
La forme de Killing d’une algèbre de Lie nilpotente est nulle.
En effet, quels que soient x et y dans une algèbre de Lie nilpotente, ad x \circ ad y est nilpotent, donc de trace nulle.
Proposition 2
Une sous-algèbre, une algèbre quotient, une extension centrale d’une algèbre de Lie nilpotente sont nilpotentes. Un produit fini d’algèbres de Lie nilpotentes est une algèbre de Lie nilpotente.
Soient g une algèbre de Lie, g' une sous-algèbre de g, h un idéal de g, \mathfrak{k} = g/h, et \varphi l’application canonique de g sur \mathfrak{k}. Si g est nilpotente, on a C^k g = \{0\} pour un entier k, donc C^k g' \subset C^k g = \{0\} et C^k \mathfrak{k} = \varphi(C^k g) = \{0\}, donc g' et \mathfrak{k} sont nilpotentes. Si \mathfrak{k} est nilpotente et h contenu dans le centre de g, on a C^k \mathfrak{k} = \{0\} pour un entier k, donc C^k g \subset h, et par suite C^{k+1} g \subset [h, g] = \{0\}, de sorte que g est nilpotente. Enfin, l’assertion relative aux produits résulte par exemple de l’assertion a) \Leftrightarrow d) de la prop. 1.
La définition 1 et la proposition 2 montrent que les algèbres de Lie nilpotentes sont exactement les algèbres obtenues à partir des algèbres de Lie commutatives par une suite d’extensions centrales.
Proposition 3
Soient g une algèbre de Lie nilpotente, h une sous-algèbre de g distincte de g. Le normalisateur de h dans g est distinct de h.
Soit k le plus grand entier tel que C^k g + h \neq h. Alors, [C^k g + h, h] \subset C^{k+1} g + h \subset h, donc le normalisateur de h dans g contient C^k g + h.
2. Le théorème d’Engel
Lemme 1
Soit V un espace vectoriel sur K. Si x est un endomorphisme nilpotent de V, l’application de dans est nilpotente.
En effet, si f désigne cette application, est une somme de termes de la forme avec . Si , on a donc pour tout .
Théorème 1 (Ergel)
Soient V un espace vectoriel sur K, et g une sous-algèbre de dimension finie de , dont les éléments sont des endomorphismes nilpotents de V. Si , il existe un dans V tel que pour tout .
La démonstration procède par récurrence sur la dimension n de g. Le théorème est évident si . Supposons-le vrai pour les algèbres de dimension < n.
Soit une sous-algèbre de Lie de g de dimension . Si , applique dans lui-même et définit par passage au quotient un endomorphisme de l’espace . D’après le lemme 1, est nilpotent, donc est nilpotent. En vertu de l’hypothèse de récurrence, il existe un élément non nul de qui est annulé par tous les . Autrement dit, il existe , tel que pour tout . Il en résulte que est un idéal dans une certaine sous-algèbre de dimension de g.
On en conclut (par itération à partir de ) que g possède un idéal de dimension . Soit . Faisons usage à nouveau de l’hypothèse de récurrence : les tels que pour tout forment un sous-espace vectoriel non nul U de V. Ce sous-espace est stable pour (§ 3, no 5, prop. 5). Puisque est un endomorphisme nilpotent de V, il existe un élément non nul de U qui est annulé par , donc par tout élément de g.
Corollaire 1
Pour qu’une algèbre de Lie g soit nilpotente, il faut et il suffit que, pour tout , soit nilpotent.
La condition est nécessaire (prop. 1). Supposons démontrée sa suffisance pour les algèbres de Lie de dimension < n (). Soit g une algèbre de Lie de dimension n telle que, pour tout , ad soit nilpotent. Le théorème 1, appliqué à l’ensemble des ad , prouve que le centre de est non nul. Alors, est extension centrale de l’algèbre de Lie , qui est nilpotente d’après notre hypothèse de récurrence. On conclut en appliquant la prop. 2.
Corollaire 2
Soient g une algèbre de Lie, h un idéal de g. On suppose que g/h est nilpotente et que, pour tout x \in g, la restriction à h de ad x est nilpotente. Alors g est nilpotente.
Soit x \in g. Comme g/h est nilpotente, il existe un entier k tel que (ad x)^k(g) \subset h. Par hypothèse, il existe un entier k' tel que (ad x)^{k'}(h) = \{0\}. Donc (ad x)^{k+k'} = \{0\}. Le cor. 2 est donc une conséquence du cor. 1.
Corollaire 3
Soient V un espace vectoriel, et g une sous-algèbre de dimension finie de gl(V) dont les éléments sont des endomorphismes nilpotents de V. Alors, g est une algèbre de Lie nilpotente.
Ceci résulte aussitôt du lemme 1 et du cor. 1.
Exemple
L’algèbre n(n, K) (§ 1, no 2, ex. 2, 3°) est nilpotente.
3. Le plus grand idéal de nilpotence d’une représentation
Lemme 2
Soient g une algèbre de Lie, a un idéal de g, M un g-module simple. Si, pour tout x \in a, x_M est nilpotent, alors x_M = 0 pour tout x \in a.
En effet, soit N le sous-espace de M formé des m \in M tels que x_M . m = 0 pour tout x \in a. D’après le th. 1, N \neq \{0\}. D’autre part, pour tout y \in g, N est stable pour y_M (§ 3, no 5, prop. 5). Donc N = M, ce qui prouve le lemme.
Lemme 3
Soient g une algèbre de Lie, a un idéal de g, M un g-module de dimension finie sur K et (M_i)_{0 \leq i \leq n} une suite de Jordan-Hölder du g-module M. Les conditions suivantes sont équivalentes :
a) pour tout x \in a, x_M est nilpotent ;
b) pour tout , est dans le radical de l’algèbre associative engendrée par 1 et les , où ; c) pour tout , on a
: comme est de dimension finie sur , le radical de est un idéal nilpotent (, chap. VIII, § 6, n° 4, th. 3), donc tout élément de ce radical est nilpotent.
: chaque () est un -module simple. Pour tout , l’endomorphisme (qui se déduit de par restriction à et passage au quotient) est nilpotent si la condition a) est satisfaite, donc nul d’après le lemme 2 ; autrement dit, .
: supposons satisfaite la condition c); soient et . On a (), donc ; ainsi est un nilidéal à gauche de , donc est contenu dans le radical de (, chap. VIII, § 6, n° 3, cor. 3 du th. 1).
Enfin, supposons satisfaites les conditions . Soient et . On vient de voir que est nilpotent, donc , ce qui prouve la dernière assertion du lemme.
Proposition 4
Soient une algèbre de Lie, un -module de dimension finie sur , l’algèbre associative engendrée par 1 et l’ensemble des ().
a) Les idéaux de , tels que soit nilpotent pour tout , sont tous contenus dans l’un d’eux, .
b) L’idéal est l’ensemble des tels que appartienne au radical de .
c) Soit une suite de Jordan-Hölder du -module ; alors est aussi l’ensemble des tels que pour tout .
d) est orthogonal à pour la forme bilinéaire associée à .
L’ensemble des tels que appartienne au radical de est évidemment un idéal de . La proposition résulte alors aussitôt du lemme 3.
Définition 2
L’idéal de la prop. 4 s’appelle le plus grand idéal de nilpotence pour le -module , ou le plus grand idéal de nilpotence de la représentation correspondante.
Il est clair que contient le noyau de cette représentation. Il lui est égal quand est semi-simple (prop. 4 c)), mais non en général. On prendra garde qu’un élément de tel que soit nilpotent n’appartient pas nécessairement à .
Notons par ailleurs qu’un cas particulier du lemme 3 fournit aussitôt le résultat suivant :
Proposition 5
Soient un espace vectoriel de dimension finie sur , et une sous-algèbre de Lie de dont les éléments sont des endomorphismes nilpotents de . Alors, il existe une suite décroissante de sous-espaces vectoriels de , de dimensions , tels que pour tout et tout .
4. Le plus grand idéal nilpotent d’une algèbre de Lie
Soient une algèbre de Lie, un idéal de . Pour que soit nilpotent, il faut et il suffit que, pour tout , soit nilpotent ; la condition, évidemment suffisante, est nécessaire, car, si est nilpotent, et si , est nilpotent et applique dans , donc est nilpotent. Ceci posé, la prop. 4, appliquée à la représentation adjointe de , fournit le résultat suivant :
Proposition 6
Soient une algèbre de Lie, la sous-algèbre associative de engendrée par 1 et les (). Soit le radical de . a) L’ensemble des tels que est le plus grand idéal nilpotent de . b) Il est orthogonal à pour la forme de Killing.
On prendra garde que peut avoir des idéaux nilpotents non nuls.
5. Extension du corps de base
Soient g une K-algèbre de Lie, K₁ une extension de K, et g' = g_{(K₁)}. Comme C^k g' = (C^k g)_{(K₁)}, g est nilpotente si et seulement si g' est nilpotente.
Soient M un g-module de dimension finie sur K, n le plus grand idéal de nilpotence pour M, et M' = M_{(K₁)}. Soit (M_i)_{0 \leq i \leq n} une suite de Jordan-Hölder du g-module M. On a x_M(M_i) \subset M_{i+1} pour tout i et tout x \in n, donc x'_M'((M_i)_{(K₁)}) \subset (M_{i+1})_{(K₁)} pour tout i et tout x' \in n_{(K₁)} ; donc x'_M' est nilpotent pour x' \in n_{(K₁)}, de sorte que n_{(K₁)} est contenu dans le plus grand idéal de nilpotence n' pour M'. Nous allons voir que, si K₁ est séparable sur K, alors n' = n_{(K₁)}. Soient E la K-algèbre associative engendrée par 1 et les x_M (x \in g), E' la K-algèbre associative engendrée par 1 et les x'_M' (x' \in g'), R et R' les radicaux de E et E'. L’algèbre E' s’identifie canoniquement à E_{(K₁)}. On a R' = R_{(K₁)} (Alg., chap. VIII, § 7, no 2, cor. 2 c) de la prop. 3). Ceci posé, soit y' \in n', et écrivons y' = \sum_{i=1}^n \lambda_i y_i, où les y_i sont dans g et où les \lambda_i \in K₁ sont linéairement indépendants sur K. On a y'_M' = \sum_{i=1}^n \lambda_i (y_i)_M', et y'_M' \in R' = R_{(K₁)}. Donc (y_i)_M \in R, et par suite y_i \in n pour tout i. On en conclut que y' \in n_{(K₁)}, d’où n' \subset n_{(K₁)}.
En particulier, si K₁ est séparable sur K, le plus grand idéal nilpotent de g_{(K₁)} se déduit de celui de g par extension de K à K₁ du corps de base.
Exercices
Les conventions du § 4 restent valables, sauf mention contraire.
See the exercises for § 4.