Exercice 26, § 4

On reprend les notations de l’exercice précédent. On note $\varphi_K$ la fonction caractéristique de K. a) Soit $\pi$ une représentation unitaire de G dans un espace hilbertien complexe E. La représentation de $\mathscr{M}_c(G)$ dans E définit par passage aux sous-espaces une représentation de l’algèbre $\mathscr{H}(G,K)$ dans l’espace $E^K$ des vecteurs K-invariants de E.

b) Si E admet un vecteur cyclique $x$ tel que $x\in E^K$, alors $\pi$ est irréductible. c) Supposons que $\pi$ est irréductible. Si l’espace $E^K$ n’est pas réduit à 0, la représentation de $\mathscr{H}(G,K)$ dans $E^K$ est irréductible.

d) Soit $\varphi$ une fonction de type positif sur G et soit $(\varrho , x)$ une réalisation hilbertienne cyclique de $\varphi$. On a $\varphi \in \mathscr{H}(G,K)$ si et seulement si $x\in E^K$.