Exercice 29, § 4

Soient G un groupe compact et K un sous-groupe fermé de G. On suppose que $(G,K)$ est une paire de Gelfand. On note $\nu$ (resp. $\mu$) la mesure de Haar normalisée sur G (resp. sur K).

Soit $\varphi$ une fonction K-sphérique sur G.

a) On note $E_{\varphi}$ le sous-espace de $\mathscr{C}(G)$ des fonctions de la forme $\alpha *\varphi$, où $\alpha$ est une mesure sur G à support fini. Pour tout $\psi \in \mathscr{H}(G,K)$, l’endomorphisme $v_{\psi}:f\mapsto f*\psi$ de $\mathscr{C}(G))$ est compact et $E_{\varphi}$ est contenu dans un espace propre de $v_{\psi}$.

b) L’espace $E_{\varphi}$ est de dimension finie. Il s’identifie à un sous-espace de vecteurs G-finis de la représentation régulière $\boldsymbol{\gamma }_G$ contenant $\varphi$.

c) L’espace des vecteurs K-invariants de $E_{\varphi}$ est de dimension 1 et la représentation de G dans $E_{\varphi}$ est irréductible.

d) Soient $(f_i)_{i\in I}$ une base orthonormale de $E_{\varphi}$ et $k: G\times G\rightarrow \mathbf{C}$ la fonction définie par

On a

pour tous $f\in E_{\varphi}$ et $x\in G$.

e) On a $k(x, y) =$ dim(E$_{\varphi}$)$\varphi (y^{-1}x)$ pour tout $(x, y)\in G\times G$.

f) La fonction $\varphi$ est de type positif.

g) Soit $\varphi$ une fonction K-sphérique sur G et soit $(\pi , x)$ une réalisation hilbertienne de $\varphi$. La représentation $\pi$ est irréductible ; on a

pour tout $x\in G$, et $\int_G|\varphi |^2d\nu =$ dim($\pi$ )$^{-1}$.