(10)

Choisissons pour tout $u \in \hat{G}$ une base orthonormale $B_u$ de $E_u$, et notons $(u_{ij}(g))$ la matrice de $u(g)$ dans cette base. La prop. 1 signifie aussi que la famille des fonctions $\sqrt{d(u)} \, u_{ij}$, pour $u$ dans $\hat{G}$ et $i, j$ dans $B_u$, est une base orthonormale de l'espace $L^2(G)$.

Si $f$ est une fonction intégrable sur $G$ telle que la famille $(f_u)$ soit uniformément sommable, alors la somme de cette famille est une fonction continue, qui coïncide presque partout avec $f$; en d'autres termes, si on suppose en outre $f$ continue, on a pour tout $h \in G$

(11)

Inversement, soit $A \in F(\hat{G})$; si la famille $(\mathscr{F}_u A)_{u \in \hat{G}}$ est uniformément sommable, alors la fonction

est une fonction continue sur $G$, dont $A$ est la cotransformée de Fourier.

Soit $f$ une fonction intégrable sur $G$, et soit $s \in G$. Notons $\gamma(s)\ f$ et $\delta(s)\ f$ les fonctions sur $G$ définies par $\gamma(s)\ f = \varepsilon_s * f,\quad \delta(s)\ f = f * \varepsilon_{s^{-1}}$, c'est-à-dire

(III, § 3, no 4 et INT, VII, § 1, no 1). On a

donc

et de même,

Lorsque $G$ est commutatif, $\hat{G}$ est l'ensemble sous-jacent au groupe dual de $G$ (TS, II, § 1, no 1), on a $d(u) = 1$ pour tout $u \in \hat{G}$, et on retrouve les définitions de la transformation de Fourier données en TS, II.

a) Les conditions suivantes sont équivalentes :

(i) Il existe un entier $n > 0$ tel que $\varphi(u) \preccurlyeq (\|\lambda(u)\| + 1)^n$ (resp. pour tout entier $n > 0$, on a $\varphi(u) \preccurlyeq (\|\lambda(u)\| + 1)^{-n}$).

(ii) Il existe un entier $n > 0$ tel que $\varphi(u) \preccurlyeq (\tilde{\Gamma}(u) + 1)^n$ (resp. pour tout entier $n > 0$, on a $\varphi(u) \preccurlyeq (\tilde{\Gamma}(u) + 1)^{-n}$).

b) Si $G$ est semi-simple, les conditions (i) et (ii) ci-dessus équivalent aussi à :

(iii) Il existe un entier $n > 0$ tel que $\varphi(u) \preccurlyeq d(u)^n$ (resp. pour tout entier $n > 0$, on a $\varphi(u) \preccurlyeq d(u)^{-n}$).

Notons d’abord que la condition (i) est évidemment indépendante de la norme choisie. On peut donc prendre pour norme celle qui est définie par la forme quadratique $Q_\Gamma$ associée à $\Gamma$ (§ 7, n° 6, prop. 4). On a alors

donc $\tilde{\Gamma}(u) + 1 \preccurlyeq (\|\lambda(u)\| + 1)^2 \preccurlyeq \tilde{\Gamma}(u) + 1$, d’où a).

Par ailleurs, si $G$ est semi-simple, on a (§ 7, n° 5, cor. 1 au th. 3)

donc $\|\lambda(u)\| + 1 \preccurlyeq d(u) \preccurlyeq (\|\lambda(u)\| + 1)^N$, d’où b).

Il résulte de la prop. 2 que la condition (i) est indépendante du tore maximal, de la chambre, et de la norme choisie, et que la condition (ii) est indépendante de l’élément de Casimir choisi. Une fonction $\varphi$ satisfaisant aux conditions (i) et (ii) est dite à croissance modérée (resp. à décroissance rapide). Le produit de deux fonctions à croissance modérée est à croissance modérée ; le produit d’une fonction à croissance modérée par une fonction à décroissance rapide est à décroissance rapide. Si $\varphi$ est à décroissance rapide, la famille $(\varphi(u))_{u \in \hat{G}}$ est sommable.

Puisque le produit de deux fonctions à croissance modérée est à croissance modérée, il suffit de le démontrer lorsque $t \in g$; dans ce cas l’assertion résulte de la remarque du § 7, no 6 et de l’inégalité

b) Soit $f$ une fonction intégrable sur $G$; pour que $f$ soit presque partout égale à une fonction indéfiniment dérivable, il faut et il suffit que la fonction $u \mapsto \|u(f)\|_{\infty}$ soit à décroissance rapide sur $\hat{G}$.

Soit $f$ une fonction indéfiniment dérivable sur $G$, et soit $\Gamma$ un élément de Casimir pour $G$; d’après la formule (14), on a pour tout entier $n \geq 0$

et par conséquent

la fonction $u \mapsto \|u(f)\|_{\infty}$ est donc bien à décroissance rapide.

Inversement, soit $A = (A_u)_{u \in \hat{G}}$ un élément de $F(\hat{G})$ tel que la fonction $u \mapsto \|A_u\|_{\infty}$ soit à décroissance rapide. Posons $f_u(g) = \langle u(g)|A_u \rangle$; la fonction $g \mapsto f_u(g)$ est analytique, donc indéfiniment dérivable. Pour tout $x \in g$, on a d’après III, § 3, no 7, prop. 27 :

Soit $t \in \mathrm{U}(G)$; d’après la formule précédente, on a

et par suite

La fonction $u \mapsto \sup_g |(L_t f_u)(g)|$ est donc à décroissance rapide, puisque $d(u)$ et $\|u(t)\|_{\infty}$ sont à croissance modérée (prop. 3) et $\|A_u\|_{\infty}$ à décroissance rapide ; la famille

(L_{t}f_{u})_{u\in\hat{G}} est donc uniformément sommable. On en déduit $^1$ que la somme de la famille $(f_{u})$ est une fonction indéfiniment dérivable sur $G$, dont la cotransformée de Fourier est $(A_{u})$, d'où le théorème.

Notons $\mathscr{S}(\hat{G})$ le sous-espace vectoriel de $L^{2}(\hat{G})$ formé des familles $A = (A_{u})_{u\in\hat{G}}$ telles que la fonction $u \mapsto \|A_{u}\|_{\infty}$ soit à décroissance rapide sur $\hat{G}$. Il résulte du théorème que les applications $\overline{\mathscr{F}} : f \mapsto (u(f))_{u\in\hat{G}}$ et $\mathscr{F} : A \mapsto \sum_{u\in\hat{G}} \langle u(g)|A_{u} \rangle$ induisent des isomorphismes réciproques entre les espaces vectoriels complexes $\mathscr{C}^{\infty}(G ; \mathbf{C})$ et $\mathscr{S}(\hat{G})$. Munissons l'espace $\mathscr{C}^{\infty}(G ; \mathbf{C})$ de la topologie de la $C^{\infty}$-convergence uniforme ($§ 6$, n° 4) qui peut être définie par la famille des semi-normes $f \mapsto \sup_{g\in G} |L_{t}f(g)|$ pour $t \in U(G)$, et l'espace $\mathscr{S}(\hat{G})$ de la topologie définie par la suite des semi-normes $p_{n} : A \mapsto \sup_{u\in\hat{G}} (\tilde{\Gamma}(u) + 1)^{n} \|A_{u}\|_{\infty}$. La formule (15) de la démonstration précédente entraîne que $\overline{\mathscr{F}}$ est continue. Soient $t \in U(G)$, $A = (A_{u})_{u\in\hat{G}}$ un élément de $\mathscr{S}(\hat{G})$; posons $f_{u}(g) = \langle u(g)|A_{u} \rangle$. Soit $p$ un entier tel que $\sum_{u\in\hat{G}} \tilde{\Gamma}(u)^{-p} = M < \infty$. D'après la démonstration précédente, il existe un entier positif $m$ tel qu'on ait, pour tout $g \in G$,

d'où $|(L_{t}\mathscr{F}(A))(g)| \leq mM_{p_{m}}(A)$; ceci prouve que $\mathscr{F}$ est continue. Par conséquent :

D’après la prop. 1 (n° 1), dire que $f$ est centrale signifie qu’on a $u(\gamma(s)\ f) = u(\delta(s^{-1})f)$ pour tout $s \in G$ et tout $u \in \hat{G}$; mais cela s’écrit aussi $u(s)\ u(f) = u(f)\ u(s)$ pour tout $s \in G$ et tout $u \in \hat{G}$ (formules (12) et (13)), d’où la première assertion de la prop. 4 (lemme de Schur). Si $u(f)$ est une homothétie, on a $u(f) = \lambda_u \varepsilon_u$ avec

Pour $f \in ZL^2(G)$, on a par conséquent

donc

avec

Inversement, si $\varphi$ est une fonction complexe de carré intégrable sur $\hat{G}$, alors l’élément $\left( \frac{\varphi(u)}{d(u)} \varepsilon_u \right)_{u \in \hat{G}}$ de $F(\hat{G})$ appartient à $L^2(\hat{G})$, et on a (formule (9))

donc

Notons que les formules (20) et (21) donnent en particulier pour $u, v$ dans $\hat{G}$

D’après le th. 1, b), la fonction $\overline{f}$ est indéfiniment dérivable si et seulement si la fonction $u \mapsto \| u(\overline{f}) \|_\infty$ est à décroissance rapide ; mais d’après (20), on a

d’où la première assertion, puisque les fonctions $d(u)$ et $\frac{1}{d(u)}$ sont à croissance modérée.

Supposons $f$ indéfiniment dérivable ; alors d’après le th. 1, a), on a pour tout $g \in G$,

Donc $f(g) = \sum_{u \in \hat{G}} \langle \overline{\chi}_u | f \rangle \overline{\chi}_u(g)$; mais, pour tout $u \in \hat{G}$, la représentation contragrédiente $u'$ de $u$ satisfait à $\overline{\chi}_u = \chi_{u'}$ et l’application $u \mapsto u'$ est une permutation de $\hat{G}$; on a donc aussi $f(g) = \sum_{u \in \hat{G}} \langle \chi_u | f \rangle \chi_u(g)$, d’où la proposition.

En effet, d’après le cor. 4 du § 7, n° 4, on a

1. On plonge $\mathrm{End}(E_u)$ dans le produit $F(\hat{G}) = \prod_{v \in \hat{G}} \mathrm{End}(E_v)$ en associant à tout $A \in \mathrm{End}(E_u)$ la famille $(A_v)_{v \in \hat{G}}$ telle que $A_u = A$ et $A_v = 0$ pour $v \neq u$.

Si $f|T$ est indéfiniment dérivable, $\varphi$ l’est aussi ; d’après la prop. 5, appliquée au groupe T, la fonction $\mu \mapsto \int_T \overline{\mu(t)}\, \varphi(t)\, dt$ sur $\hat{T} = X(T)$ est alors à décroissance rapide, et il en est de même de la fonction $u \mapsto \langle \chi_u | f \rangle$; la fonction $f$ est donc indéfiniment dérivable (prop. 5). La réciproque est évidente.