D’après INT, VIII, §3, n$^o3$, prop. 11, l’application $\mu\mapsto \chi (\mu)$ est un caractère de l’algèbre de Banach involutive $\mathscr{M}^1(G)$. De plus, on a :

et ce caractère est donc hermitien.

On a ainsi défini une application de $\widehat{G}$ dans $\mathsf{X}(\mathscr{M}^1(G))$ ; on la qualifiera de canonique.

Soit $\chi \in \widehat{G}$. La restriction de $\mu\mapsto \chi (\mu)$ à $L^1(G)$ est non nulle (cf. INT, VIII, §2, n$^o7$, prop. 10). Par restriction à la sous-algèbre de Banach involutive $L^1(G)$, on obtient donc une application de $\widehat{G}$ dans $\mathsf{X}(L^1(G))$, dite canonique. Elle associe à $\chi \in \widehat{G}$ le caractère hermitien

de $L^1(G)$.

Notons ev cette application canonique et, pour $\chi \in \widehat{G}$, notons ev$_{\chi}$ l’image du caractère $\chi$ par ev, c’est-à-dire le caractère hermitien $f\mapsto \chi (f)$ de $L^1(G)$. Considérée comme une application de $\widehat{G}$ dans le dual de $L^1(G)$, l’application ev est la composée de l’injection de $\widehat{G}$ dans $L^{\infty}(G)$, muni de la topologie faible $\sigma (L^{\infty}(G),L^1(G))$, et de l’injection de $L^{\infty}(G)$ dans le dual de $L^1(G)$, muni de la topologie de la convergence simple. Comme $\widehat{G}$ est une partie bornée de $L^{\infty}(G)$, la première application est continue d’après le théorème de Lebesgue (INT, IV, §3, n$^o7$, th. 6). La seconde est également continue, par définition. Ceci démontre que l’application ev est continue.

Si $\chi \in \widehat{G}$ et si $f\in L^1(G)$, on a ev$_{\chi}(\varepsilon_x*f) =\chi (x$)ev$_{\chi}(f)$. En prenant $f$ telle que ev$_{\chi}(f)\not= 0$, on en déduit que l’application ev est injective.

Soit $\zeta \in \mathsf{X}(L^1(G))$ et soit $f\in L^1(G)$ telle que $\zeta (f)\not= 0$. Définissons une application $\chi : G\rightarrow \mathbf{C}$ en posant, pour $x\in G$ :

On a $\chi (e) = 1$. Comme l’application $x\mapsto \varepsilon_x*f=\boldsymbol{\gamma }(x)(f)$ de G dans $L^1(G)$ est continue (INT, VIII, §2, n$^o5$, prop. 8), l’application $\chi$ est continue. Elle est bornée car, pour tout $x\in G$, on a

(th. 1 de I, p. 29 et INT, VIII, loc. cit.).

Soit maintenant $\mathfrak{B}$ une base du filtre des voisinages de $e$ formée de voisinages compacts. Pour tout $V\in \mathfrak{B}$, soit $g_V$ une fonction continue positive, nulle en dehors de V et d’intégrale égale à 1 (lemme 1 de II, p. 200). Pour toute fonction $h\in L^1(G)$, on a alors

$\varepsilon_x*h=$ lim$_{V,\mathfrak{B}}(\varepsilon_x*h)*g_V=$ lim$_{V,\mathfrak{B}}(\varepsilon_x*g_V*h)$,

dans $L^1(G)$, la limite étant prise suivant le filtre des sections de $\mathfrak{B}$ (INT, VIII, §4, n$^o7$, prop. 20). En particulier, comme $\zeta (\varepsilon_x*g_V*f) =$ $\zeta (\varepsilon_x*g_V)\zeta (f)$, on en déduit que

$\chi (x) =$ lim$_{V,\mathfrak{B}}\zeta (\varepsilon_x*g_V)$.

Pour tout $h\in L^1(G)$, on obtient

$\zeta (\varepsilon_x*h) =$ lim$_{V,\mathfrak{B}}\zeta (\varepsilon_x*g_V*h) =\zeta (h)$ lim$_{V,\mathfrak{B}}\zeta (\varepsilon_x*g_V) =\chi (x)\zeta (h)$.

Par suite, on a pour $x, y\in G$ :

ce qui démontre que $\chi$ est un homomorphisme de G dans $\mathbf{C}^*$. Comme $\chi$ est borné et continu, c’est un caractère unitaire de G. De plus, si $g\in L^1(G)$, on a

dans $L^1(G)$ (INT, VIII, §1, n$^o5$, prop. 7), d’où

$=\zeta (f)\int_G\chi (x)g(x)dx=$ ev$_{\chi}(g)\zeta (f)$ (INT, VI, §1, n$^o1$, prop. 1) ce qui montre que $\zeta =$ ev$_{\chi}$. Par suite, ev est surjective, donc bijective.

Montrons finalement que l’application réciproque ev$^{-1}$ est continue. Soit $\zeta \in \mathsf{X}(L^1(G))$. Soit $f\in L^1(G)$ une fonction telle que $\zeta (f)\not= 0$. L’ensemble W des $\xi \in \mathsf{X}(L^1(G))$ tels que $\xi (f)\not= 0$ est un voisinage ouvert de $\zeta$ dans $\mathsf{X}(L^1(G))$. Pour tout $\xi \in W$, ce qui précède montre que ev$^{-1}(\xi )$ est le caractère

Soit $\mathfrak{F}$ un filtre sur $W\subset \mathsf{X}(L^1(G))$ convergeant vers $\zeta$. Puisque l’ensemble $\mathsf{X}(L^1(G))$ est borné, donc équicontinu, dans $L^{\infty}(G)$, la structure uniforme de la convergence simple coïncide avec la structure uniforme de la convergence compacte (TG, X, p. 16, th. 1). Soit K une partie compacte de G. L’ensemble des $\varepsilon_x*f$ pour $x\in K$ est compact dans $L^1(G)$ (INT, VIII, §2, n$^o5$, prop. 8). On a donc

lim$_{\xi ,\mathfrak{F}}\xi (\varepsilon_x*f) =\zeta (\varepsilon_x*f)$

uniformément pour $x\in K$. On en déduit que

lim$_{\xi ,\mathfrak{F}}$ ev$^{-1}(\xi ) =$ ev$^{-1}(\zeta )$,

donc ev$^{-1}$ est continue en $\zeta$. Ceci achève la démonstration de la proposition.

Nous identifierons désormais un caractère unitaire $\chi$ de G au caractère $f\mapsto \int_Gf(x)\chi (x)dx$ de $L^1(G)$.

La première assertion résulte de la proposition 1 et du lemme 1 en restriction à $L^1(G)$. La seconde résulte de la première et du cor. de la prop. 20 de I, p. 124.

En effet, $\mathsf{X}(L^1(G))$ est localement compact (corollaire du théorème 1 de I, p. 29).

Nous identifierons $\widehat{G}$ avec $\mathsf{X}(L^1(G))$ et $\mathsf{X}$(Stell(G)). Pour $x\in G$ et $\chi \in \widehat{G}$, nous noterons $\langle \chi , x\rangle$ le nombre complexe $\chi (x)$, qui appartient à $\mathbf{U}$.

On dit que $x$ et $\chi$ sont orthogonaux si $\langle \chi , x\rangle = 1$. Soit A une partie de G (resp. de $\widehat{G}$); l’ensemble des éléments de $\widehat{G}$ (resp. de G) orthogonaux à A est un sous-groupe fermé de $\widehat{G}$ (resp. de G) qu’on appelle orthogonal de A et qu’on note $A^{\bot}$. L’orthogonal de G est réduit à $e$.

Pour $x\in G$, notons $\eta (x)$ l’application de $\widehat{G}$ dans $\mathbf{U}$ définie par $\chi \mapsto$ $\langle \chi , x\rangle$. Par définition de la multiplication dans $\widehat{G}$, l’application $\eta (x)$ est un homomorphisme de groupes. Elle est continue puisque l’application $(x, \chi )\mapsto \langle \chi , x\rangle$ de $G\times \widehat{G}$ dans $\mathbf{U}$ est continue (TG, X, p. 28, th. 3). Nous avons ainsi défini une application $\eta$, dite canonique, de G dans le groupe bidual $\widehat{\widehat{G}}$; c’est un homomorphisme de groupes. De plus, l’application $\eta$ est continue (TG, X, p. 28, th. 3). Nous démontrerons plus loin (II, p. 220, th. 2) que $\eta$ est un isomorphisme de groupes topologiques de G sur $\widehat{\widehat{G}}$.

Soient G et H des groupes localement compacts commutatifs, et $\varphi : G\rightarrow H$ un morphisme de groupes topologiques. Pour tout $\chi \in \widehat{H}$, l’application $\chi \circ \varphi$ est un caractère de G noté $\widehat{\varphi}(\chi )$. Cette définition se traduit par la formule

quels que soient $\chi \in \widehat{H}$ et $x\in G$. On en déduit que $\widehat{\varphi}$ est un morphisme du groupe topologique $\widehat{H}$ dans le groupe topologique $\widehat{G}$; on dit que $\widehat{\varphi}$ est le dual du morphisme $\varphi$.

Soient K un groupe localement compact commutatif et $\psi : H\rightarrow K$ un morphisme de groupes topologiques. La définition montre que $\widehat{\psi}\circ \varphi =\widehat{\varphi}\circ \widehat{\psi}$. Si $\varphi$ est l’application identique de G, alors $\widehat{\varphi}$ est l’application identique de $\widehat{G}$. En particulier, si $\varphi$ est un isomorphisme de groupes topologiques, il en est de même de $\widehat{\varphi}$, et $\widehat{\varphi}^{-1}$ est le dual de $\varphi^{-1}$.

Par définition, on a $\chi \in$ Ker($\widehat{f}$) si et seulement si la restriction de $\chi$ à l’image de $f$ est triviale.

Soit $m$ l’application produit de $\widehat{G}^n$ dans $\widehat{G}$, et pour tout $j$ tel que $1\leqslant j\leqslant n$, soit $\pi_j$ la projection de G sur $G_j$. Soit $\mu$ le morphisme de groupes topologiques $m\circ (\widehat{\pi}_j)_j$ de $\prod\widehat{G}_j$ dans $\widehat{G}$, de sorte que

L’application $\mu$ est continue, et on vérifie que $\mu$ et $(\widehat{\lambda}_j)$ sont des bijections réciproques l’une de l’autre. La proposition en résulte.

Soit $\mu\in \mathscr{M}^1(G)$. Pour tout $\chi \in \widehat{G}$, on a

donc la transformée de Fourier de $\mu$ est bornée. Similairement, on vérifie que $\overline{\mathscr{F}}(\mu)$ est bornée.

Si $\chi$ tend vers $\chi_0$ dans $\widehat{G}$, la fonction $\chi$ sur G tend vers $\chi_0$ uniformément sur tout compact en restant bornée par la fonction constante 1 qui appartient à $L^1(G, \mu)$. D’après le théorème de Lebesgue (INT, IV, §3, n$^o7$, th. 6), il en résulte que $\mathscr{F}(\mu)(\chi )$ tend vers $\mathscr{F}(\mu)(\chi_0)$. Donc $\mathscr{F}(\mu)$ est continue. Il en est de même de $\overline{\mathscr{F}}(\mu)$.

Pour tout $\chi \in \widehat{G}$, l’application $\mu\mapsto \chi (\mu) =\int\langle \chi , x\rangle d\mu(x)$ est un caractère hermitien de $\mathscr{M}^1(G)$ (lemme 1 de II, p. 202). Cela entraîne que $\mathscr{F}$ et $\overline{\mathscr{F}}$ sont des morphismes d’algèbres involutives de $\mathscr{M}^1(G)$ dans l’algèbre involutive des fonctions continues bornées sur $\widehat{G}$. L’inégalité (7) démontre que ces morphismes sont continus.

La transformation de Fourier de G (resp. la cotransformation de Fourier de G) est l’application $\mu\mapsto \mathscr{F}_G(\mu)$ (resp. l’application $\mu\mapsto$ $\overline{\mathscr{F}}_G(\mu)$) de $\mathscr{M}^1(G)$ dans $\mathscr{C}_b(\widehat{G})$.

Notons quelques formules utiles pour $\mu\in \mathscr{M}^1(G),x\in G$ et $\chi \in \widehat{G}:$

(10)

(en particulier $\mathscr{F}(\varepsilon_e) =\overline{\mathscr{F}}(\varepsilon_e) = 1$),

(11)

(12)

Les formules (8), (9), (10) et (11) découlent des définitions. Démontrons la première des formules (12), la seconde étant analogue. On a pour tout $\xi$ dans $\widehat{G}$ les égalités

Notons par ailleurs que pour tout $\chi \in \widehat{G}$ et toutes mesures $\mu$ et $\nu$ dans $\mathscr{M}^1(G)$, on a

puisque les deux membres de cette égalité sont des fonctions sur $\widehat{G}$ dont la valeur en $\xi \in \widehat{G}$ est

Soit H un groupe localement compact commutatif et soit $\varphi : G\rightarrow H$ un morphisme continu. Soit $\mu\in \mathscr{M}^1(G)$. La mesure image $\varphi (\mu)$ est définie (INT, V, §6, n$^o1$, remarque 1), et il vient $\mathscr{F}_H(\varphi (\mu)) =\mathscr{F}_G(\mu)\circ$ $\widehat{\varphi}($cf. INT, V, §6, n$^o4$, prop. 7).

Par restriction à la sous-algèbre $L^1(G)$ de $\mathscr{M}^1(G)$, on obtient la définition de la transformation de Fourier et de la cotransformation de Fourier sur $L^1(G)$. On a donc pour $f\in L^1(G)$ et $\chi \in \widehat{G}:$

En particulier, $\mathscr{F}_G(f) =\overline{\overline{\mathscr{F}}_G(\overline{f})}$. On a aussi

pour tout $f\in L^1(G)$ et tout $\chi \in \widehat{G}$.

Soient $\sigma$ un automorphisme de G et Δ le module de $\sigma$ (INT, VII, §1, n$^o4$, déf. 4). Pour $f\in L^1(G)$, on a

(cf. loc. cit., formule (31)).

Si l’on identifie $\widehat{G}$ et $\mathsf{X}(L^1(G))$ (prop. 1 de II, p. 202), la cotransformation de Fourier n’est autre que la transformation de Gelfand de l’algèbre de Banach $L^1(G)$ (I, p. 7, déf. 5).

La cotransformation de Fourier est un morphisme d’algèbres involutives de $L^1(G)$ dans l’algèbre des fonctions continues bornées sur $\widehat{G}$ (prop. 3). Comme elle s’identifie à la transformation de Gelfand, son image est contenue dans $\mathscr{C}_0(\widehat{G})$ (I, p. 37, prop. 5), et son noyau est le radical de $L^1(G)$ (prop. 8 de I, p. 38), qui est nul (cor. de la prop. 22 de I, p. 126).

Nous verrons ultérieurement (corollaire de la proposition 13 de II, p. 221) que la cotransformation de Fourier sur $\mathscr{M}^1(G)$ est également injective.

La cotransformation de Fourier se prolonge par continuité en un morphisme d’algèbres stellaires de Stell(G) dans $\mathscr{C}_0(\widehat{G})$. Si l’on identifie $\widehat{G}$ avec $\mathsf{X}$(Stell(G)) (cor. 1 de II, p. 204 et prop. 1 de II, p. 202), ce prolongement est la transformation de Gelfand de Stell(G). D’après le th. 1 de I, p. 108, c’est un isomorphisme. L’assertion concernant la transformation de Fourier en découle.

On notera toujours $\overline{\mathscr{F}}$ et $\mathscr{F}$ les isomorphismes de la prop. 5.

Puisque $L^1(G)$ est dense dans Stell(G), cela découle de la proposition 5.

Soit $\chi \in \widehat{G}$. Puisque $\varepsilon_y*dx=dx$ pour tout $y\in G$, on a

d’après la formule (11). Si $\chi \not= 1$, il existe $y\in G$ tel que $\langle \chi , y\rangle \not= 1$, donc $\mathscr{F}(dx)(\chi ) = 0$. Si $\chi = 1$, alors $\mathscr{F}(dx)(\chi ) =\int_Gdx= 1$ puisque la mesure $dx$ est normalisée.

Soit $f\in L^1(G)$. Pour tout $g\in L^2(G)$, on a $f*g\in L^1(G)$ (INT, VIII, §4, n$^o5$, prop. 12). Par conséquent, l’espace $L^1(G)\cap L^2(G)$ est un idéal de $L^1(G)$, et il en est de même de l’espace A(G). L’idéal A(G) est auto-adjoint.

Soient $f$ et $g$ dans $L^2(G)$. Le produit de convolution $f*g$ est alors la classe de la fonction continue donnée par

(INT, VIII, §4, n$^o5$, prop. 15). La seconde assertion en résulte.

Comme $\chi (f*g) = (\chi f)*(\chi g)$ pour $\chi \in \widehat{G},f\in L^1(G)$ et $g\in L^1(G)$ (INT, VIII, §3, n$^o1$, prop. 6), on a $\chi h\in A(G)$ pour tout $h\in A(G)$ et $\chi \in \widehat{G}$. Comme $\varepsilon_x*f=\boldsymbol{\gamma }(x)f$ et la représentation linéaire $\boldsymbol{\gamma }$ est isométrique sur $L^p(G)$ pour tout $p$ (INT, VIII, §2, n$^o5$, prop. 8), on a $\varepsilon_x*f\in A(G)$ pour tous $x\in G$ et $f\in A(G)$.

On note $\widehat{A}(G)$ l’image de A(G) par la transformation de Fourier. C’est un sous-espace de $\mathscr{C}_0(\widehat{G})$.

(i) Pour tout élément $\varphi$ d’un ensemble de $\mathfrak{B}$, on a $\|\varphi \|_1= 1$ et $\|\mathscr{F}(\varphi )\|_{\infty}\leqslant 1$ ;

(ii) On a

lim$_{\varphi ,\mathfrak{B}}\varphi \cdot dx=\varepsilon_e$

dans l’espace $\mathscr{C}'(G)$ des mesures à support compact sur G muni de la topologie de la convergence uniforme sur les parties compactes de $\mathscr{C}(G)$ ;

(iii) On a

lim$_{\varphi ,\mathfrak{B}}\mathscr{F}(\varphi ) = 1$

pour la topologie de la convergence compacte sur $\widehat{G}$;

(iv) Pour $p= 1$ ou $p= 2$, et pour tout $f\in L^p(G)$, on a $\varphi *f\in$ A(G) pour tout $\varphi$ appartenant à un ensemble de $\mathfrak{B}$ et

lim$_{\varphi ,\mathfrak{B}}\varphi *f=f$

dans $L^p(G)$.

Soit $K_0$ un voisinage compact fixé de $e$ dans G. Soit $\mathfrak{B}_0$ une base du filtre des voisinages de $e$ dans G formée de voisinages compacts symétriques contenus dans $K_0$ (cf. TG, III, p. 4). Pour K $\in \mathfrak{B}_0$, soit $X'_K$ l’ensemble des fonctions $\psi \in \mathscr{K}_+(G)$ telles que Supp$(\psi )\subset K$ et $\int\psi (x)dx= 1$ ; il est non vide (lemme 1 de II, p. 200). Soit $X_K$ l’ensemble des fonctions $\psi *\psi$ pour $\psi \in X'_K$. Il est non vide et contenu dans $A(G)\cap \mathscr{K}_+(G)$. L’ensemble $\mathfrak{B}$ dont les éléments sont les ensembles $X_K$ pour K variant dans $\mathfrak{B}_0$ est une base de filtre sur $A(G)\cap \mathscr{K}_+(G)$. Démontrons que $\mathfrak{B}$ vérifie les propriétés demandées.

Si $X\in \mathfrak{B}$ et $\varphi \in X$, on a $\|\varphi \|_1=\int_G\varphi (x)dx= 1$, donc $\|\mathscr{F}(\varphi )\|_{\infty}\leqslant 1$, ce qui établit la propriété (i).

La propriété (ii) résulte de INT, VIII, § 2, n$^o7$, corollaire 1 du lemme 4. Une partie compacte de $\widehat{G}$ est une partie compacte de $\mathscr{C}(G)$, donc (ii) entraîne lim$_{\varphi ,\mathfrak{B}}\mathscr{F}(\varphi ) = 1$ pour la topologie de la convergence

compacte sur $\widehat{G}$, c’est-à-dire (iii).

Finalement, soit $p= 1$ ou $p= 2$. Soit $f\in L^p(G)$. On a $\varphi *f\rightarrow f$ dans $L^p(G)$ selon le filtre $\mathfrak{B}$ (INT, VIII, §4, n$^o7$, prop. 20). De plus, pour tout K dans $\mathfrak{B}_0$ et $\varphi \in X_K$, il existe $\psi \in X'_K$ tel que $\varphi =\psi *\psi$, d’où $\varphi *f=\psi *(\psi *f)$. On a $\psi \in L^1(G)\cap L^2(G)$ et $\psi *f\in L^1(G)\cap L^2(G)$, donc $\varphi *f\in A(G)$.

L’assertion (iv) de la proposition fournit la première assertion. Puisque $L^1(G)$ est dense dans Stell(G), la seconde en résulte, et la dernière découle alors de la prop. 5 de II, p. 209.

Cela découle du corollaire précédent puisque, pour tout $\chi \in \widehat{G}$, l’application $f\mapsto \mathscr{F}(f)(\chi )$ est un caractère non nul de $L^1(G)$.

Rappelons que la représentation régulière gauche $\boldsymbol{\gamma }$ de Stell(G) sur $L^2(G)$ (cf. I, p. 125, n$^o13$) est notée $\boldsymbol{\gamma }(\varphi )f$ = $\varphi *f$ pour $\varphi \in$ Stell(G) et $f\in L^2(G)$.

De plus, pour tous $f$ et $g$ dans A(G), on a l’égalité

entre la mesure de densité $\mathscr{F}(f)$ par rapport à $\mu_g$ et la mesure de densité $\mathscr{F}(g)$ par rapport à $\mu_f$.

Soient $f,g$ des éléments de $L^1(G)\cap L^2(G)$. Pour tout $\varphi \in$ Stell(G), on a $\varphi *f\in L^2(G)$ et $\|\varphi *f\|_2\leqslant \|\varphi \|_*\|f\|_2($I, p. 126, formule (8)). De plus, on a $\varphi *(f*g) = (\varphi *f)*g($loc. cit., formule (9)). Cette dernière fonction appartient à l’adhérence $\mathscr{C}_0(G)$ de $\mathscr{K}(G)$ dans $\mathscr{C}(G)$ (INT, VIII, §4, n$^o5$, prop. 15). De plus, on a

Puisque les fonctions $f*g$ pour $f$ et $g$ dans $L^1(G)\cap L^2(G)$ engendrent A(G), on en déduit que $\varphi *f\in \mathscr{C}_0(G)$ pour tous $f\in A(G)$ et $\varphi \in$ Stell(G), et que l’application $\varphi \mapsto (\varphi *f)(e)$ est une forme linéaire continue sur Stell(G). Comme $\mathscr{F}$ est un isomorphisme de Stell(G) sur $\mathscr{C}_0(\widehat{G})$ (prop. 5 de II, p. 209), la première assertion en résulte.

Soient maintenant $f$ et $g$ dans A(G). Pour $\varphi \in L^1(G)$, on a

Comme $(\varphi *f)*g= (\varphi *g)*f$ et comme l’image de $L^1(G)$ par la transformation de Fourier est dense dans $\mathscr{C}_0(\widehat{G})$ (cor. de II, p. 210), on déduit de la formule (19) que la formule (18) est satisfaite pour tous $f$ et $g$ dans A(G).