Exercice 32, § 4

Soit G un groupe localement compact. On suppose qu’il existe un sous-groupe H de G qui est compact et ouvert dans G. On note $\mu$ l’unique mesure de Haar à gauche sur G telle que $\mu(H) = 1$ et $\varphi$ la fonction caractéristique de H.

a) Soit $\pi$ une représentation de carré intégrable de G dans un espace hilbertien complexe E. Montrer que l’endomorphisme $\pi (\varphi )$ est un endomorphisme de Hilbert–Schmidt.

b) L’espace $E^H$ est de dimension finie et vérifie

dim(E$^H$)$\leqslant \frac{1}{c(\pi)}$

où $c(\pi )$ est le degré formel de $\pi$ relatif à $\{e\}$. (Utiliser l’exercice 6 de V, p. 487.)

c) Un groupe discret et infini n’a pas de représentation de carré intégrable ; si $n\geqslant 2$ est un entier, le groupe $\mathbf{S}\mathbf{L}(n,\mathbf{Z})$ n’a pas de représentation de carré intégrable modulo le centre.