Exercice 17, § 4

Soit G un groupe compact et H un sous-groupe fermé de G. Soit $\varrho$ une représentation unitaire de H dans un espace hilbertien E de dimension finie. a) Soit $\pi \in \widehat{G}$. L’espace Hom$_G(\pi$, Ind$^G_H(\varrho ))$ est de dimension finie.

b) Pour tout $u\in$ Hom$_G(\pi$, Ind$^G_H(\varrho ))$, l’image de $u$ est contenue dans l’image de $\mathscr{C}(G; E)$ dans $L^2(G; E)$.

c) Il existe une application linéaire Φ de l’espace Hom$_G(\pi$, Ind$^G_H(\varrho ))$ dans l’espace Hom$_H$(Res$^G_H(\pi ), \varrho$ ) telle que, pour tout $u\in$ Hom$_G(\pi$, Ind$^G_H(\varrho ))$ et tout $x\in E_{\pi}, \Phi (u)(x)$ soit l’image en $e$ de la fonction continue représentant $u(x)$ d) L’application linéaire Φ est un isomorphisme.

e) Supposons que $\varrho$ est irréductible. La multiplicité de $\pi$ dans Ind$^G_H(\varrho )$ est égale à la multiplicité de $\varrho$ dans Res$^G_H(\pi )$ (« formule de réciprocité de Frobenius », cf. A, VIII, p. 392).