Exercice 23, § 4

On conserve les hypothèses et notation de l’exercice précédent, et on suppose que H est un groupe de Lie réel semisimple et connexe.

Soit G un sous-groupe compact de H. On suppose qu’il existe un sous-groupe fermé connexe résoluble N de H tel que H = GN. (Pour tout groupe de Lie réel semisimple, cette condition est satisfaite lorsque G est un sous-groupe compact maximal de H ; voir par exemple INT, VII, p. 91, § 3, n$^o3$, prop. 7 lorsque G = SL($n,\mathbf{R}$)$.$)

Soient $\pi \in \widehat{G}$ et $e_{\pi}=$ dim($\pi$ )$\overline{\chi}_{\pi}$. Soit $\varrho$ la représentation irréductible de H donnée par la dernière question de l’exercice précédent ; on note E l’espace de $\varrho$.

a) Il existe un vecteur cyclique pour la restriction de $\varrho$ à G. (Utiliser le théorème de Lie, LIE, III, p. 241, cor., pour trouver un $x\in E$ non nul tel que $\mathbf{C}x$ est invariant par l’action de N.) La multiplicité de $\pi$ dans la restriction de $\varrho$ à G est au plus égale à dim($\pi$ ).

b) Soit $r$ l’entier $r$(dim($\pi$ )$^2$) défini dans l’exercice 22; l’identité

est valide pour toute famille $a_i=e_{\pi}*g_i*e_{\pi}$ d’éléments de l’algèbre $\mathscr{M}_c(H)$ des mesures à support compact sur H, où $g_i\in \mathscr{K}(H)$ pour $1\leqslant i\leqslant r$.

c) Soit $\varpi$ une représentation unitaire irréductible de H dans un espace hilbertien F. Soient $F_{\pi}$ la composante $\pi$-isotypique de la restriction de $\varpi$ à G et $p$ l’orthoprojecteur de F d’image $F_{\pi}$. Pour toute famille $(u_i)_{1\leqslant i\leqslant r}$ dans $\mathscr{L}(F_{\pi})$, on a

(utiliser l’exercice 1 de V, p. 486).

d) La multiplicité de $\pi$ dans la restriction de $\varpi$ à G est au plus égale à dim($\pi$ ). (Utiliser le résultat de l’exercice 22 de V, p. 510.)