Exercice 30, § 4

Soit $n\in \mathbf{N}$. Notons G le sous-groupe du groupe affine $A(\mathbf{R}^n)$ de l’espace $\mathbf{R}^n$ formés des éléments $g\in A(\mathbf{R}^n)$ tels que l’application linéaire $g_0$ associée à $g$ appartient à $\mathbf{S}\mathbf{O}(\mathbf{R}^n)$; c’est un groupe de Lie réel (cf. A, II, p. 131 et LIE, III, p. 102, exemple). On note $g= (g_0, a)$ les éléments de G, avec $g_0\in \mathbf{S}\mathbf{O}(\mathbf{R}^n)$ et $a\in \mathbf{R}^n$.

a) La paire $(G,\mathbf{S}\mathbf{O}(\mathbf{R}^n))$ est une paire de Gelfand.

b) Soit $\varphi \in \mathscr{H}(G,\mathbf{S}\mathbf{O}(\mathbf{R}^n))$. Notons $f:\mathbf{R}^n\rightarrow \mathbf{C}$ la fonction définie par $f(r) =\varphi (1_{\mathbf{R}^N}, g(e_1))$. L’application $u:\varphi \mapsto f$ est un morphisme injectif d’algèbres complexes de $\mathscr{H}(G,K)$ dans $\mathscr{K}(\mathbf{R}^n)$; son image est le sous-espace de $\mathscr{K}(\mathbf{R}^n)$ formé des fonctions $f$ telles que $f(g_0(x)) =f(x)$ pour tout $g_0\in \mathbf{S}\mathbf{O}(\mathbf{R}^n)$ et tout $x\in \mathbf{R}^n$.

c) On note Δ le laplacien sur $\mathbf{R}^n$. Une fonction $\varphi \in \mathscr{K}(G)$ est une fonction sphérique si et seulement si la fonction $f=u(\varphi )$ est de classe $C^{\infty}$, vérifie $f(0) = 1$, et s’il existe $\lambda \in \mathbf{C}$ tel que $\Delta f=\lambda f$. (Utiliser le fait que $\Delta (f\circ g_0) = (\Delta f)\circ g_0$ pour tout $g_0\in \mathbf{S}\mathbf{O}(\mathbf{R}^n).$)