Exercice 8, § 3

Soient G un groupe de Lie réel connexe de dimension finie, M une variété de classe $C^\infty$ connexe de dimension finie; on se donne une loi d’opération à droite de classe $C^\infty$ de G dans M. Pour tout $x \in M$, soit $\rho(x)$ l’application orbitale correspondante. a) Pour que G opère transitivement dans M, il faut et il suffit que, pour tout $x \in M$, l’application $T_e(\rho(x))$ de L(G) dans $T_x(M)$ soit surjective. (Pour voir que la condition est suffisante, observer qu’alors toute G-orbite dans M est ouverte.) b) On suppose que G opère transitivement dans M. On identifie M à un espace homogène $H\backslash G$ où H est le stabilisateur d’un point $x_0$ de M. On dit que l’action de G dans M est imprimitive s’il existe une sous-variété fermée V de M de classe $C^\infty$, telle que $0 < \dim V < \dim M$ et pour laquelle toute transformée V.s (pour $s \in G$) est ou bien égale à V ou bien disjointe de V. Pour qu’il en soit ainsi, il faut et il suffit qu’il existe un sous-groupe de Lie L de G tel que H ⊂ L ⊂ G et $\dim(H) < \dim(L) < \dim(G)$. S’il n’en est pas ainsi, on dit que l’action de G dans M est primitive; il suffit pour cela qu’il n’existe pas de sous-algèbre de L(G) comprise entre L(G) et L(H), distincte de L(G) et L(H). c) Les hypothèses sont celles de b). Soit $\mathscr{L}$ l’image de L(G) par la loi d’opération infinitésimale associée à l’action de G. Soit $\mathfrak{E}$ l’algèbre des fonctions de classe $C^\infty$ sur M, m l’idéal maximal de $\mathscr{E}$ formé des fonctions de $\mathscr{E}$ s’annulant en $x_0$; on désigne par $\mathscr{L}_p$, pour $p = -1, 0, 1, 2, \ldots$ l’ensemble des $X \in \mathscr{L}$ tels que $\theta(X)f \in m^{p+1}$ pour toute $f \in \mathscr{E}$; on a $\mathscr{L}_{-1} = \mathscr{L}$, et $\mathscr{L}_0$ est l’image de $L(H)$ par la loi d’opération infinitésimale. Si $(U, \varphi, \mathbf{R}^n)$ est une carte de $M$ centrée en $x_0$, et si $X_1, \ldots, X_n$ sont les champs de vecteurs sur $U$ définis par la carte, les éléments de $\mathscr{L}_p$ sont les $a_1X_1 + \cdots + a_nX_n$ pour $a_1, \ldots, a_n$ dans $m^p|U$. Montrer que $[\mathscr{L}_p, \mathscr{L}_q] \subset \mathscr{L}_{p+q}$ (en convenant de poser $\mathscr{L}_{-2} = \mathscr{L}$). S’il existe $Y \in \mathscr{L}_p$ (pour $p \geqslant 0$) tel que $Y \notin \mathscr{L}_{p+1}$, il existe $X \in \mathscr{L}$ tel que $[Y, X] \notin \mathscr{L}_p$. Les $\mathscr{L}_p$ sont des sous-algèbres de Lie de $\mathscr{L}$. Pour $p \geqslant 0$, $\mathscr{L}_p$ est un idéal de $\mathscr{L}_0$. Soit $\rho$ la représentation linéaire canonique de $H$ dans $T_{x_0}(M)$. L’algèbre de Lie de $H/(Ker\ \rho)$ est isomorphe à $\mathscr{L}_0/\mathscr{L}_1$.

d) On suppose en outre que l’intersection des $\mathscr{L}_p$ est $\{0\}$. Alors il existe un plus grand indice $r$ tel que $\mathscr{L}_r \neq \{0\}$, et tous les $\mathscr{L}_j$ d’indices $\leqslant r$ sont distincts. Pour $p \geqslant 0$, on a

e) L’hypothèse de d) est satisfaite si $M$ est analytique et si $G$ opère analytiquement dans $M$.