Exercice 28, § 4

Soient G un groupe localement compact et K un sous-groupe compact de G.

a) Le couple $(G,K)$ est une paire de Gelfand si et seulement si, pour toute représentation unitaire $\pi$ de G dans un espace hilbertien complexe E, la dimension de $E^K$ est au plus 1. (Pour démontrer que la condition est nécessaire, démontrer qu’une représentation irréductible d’une algèbre de Banach involutive et commutative dans un espace hilbertien est de dimension 1 ; pour démontrer qu’elle est suffisante, utiliser le cor. du th. 4 de V, p. 454 pour vérifier que les caractères de l’algèbre $\mathscr{H}(G,K)$ en séparent les points.)

b) On suppose que $(G,K)$ est une paire de Gelfand. Soit $\varphi \in \mathscr{H}(G,K)$. On suppose que $\varphi$ est une fonction de type positif et que $\varphi (e) = 1$. Montrer que $\varphi$ est une fonction K-sphérique si et seulement si $\varphi$ a une représentation hilbertienne $(\varrho , x)$ telle que $\varrho$ est irréductible.

c) On suppose que $(G,K)$ est une paire de Gelfand. L’ensemble des fonctions K-sphériques de type positif sur G est en bijection avec l’ensemble des représentations irréductibles $\pi \in \widehat{G}$ telles que $E^K_{\pi}$ n’est pas nul.