b) Soient M et N des parties mesurables de $\widehat{G}$. On a $E_M= E_N$ si et seulement si M et N sont égales à un ensemble localement négligeable près;

c) Tout sous-espace de $L^2(G)$ stable par les applications $f\mapsto \varepsilon_x*f$ pour tout $x\in G$ est de la forme $E_M$ pour une partie mesurable M de $\widehat{G}$.

Ce résultat sera démontré ultérieurement (cf. V, à paraître).

Comme $\mathscr{K}(\widehat{G})$ est dense dans $L^2(\widehat{G})$ et que la transformation de Fourier de $L^2(G)$ est une isométrie sur $L^2(\widehat{G})$ (th. 1 de II, p. 215), le sous-espace V de $L^2(G)$ formé des $f\in L^2(G)$ telles que $\mathscr{F}_G(f)\in \mathscr{K}(\widehat{G})$ est dense dans $L^2(G)$.

Soit $g\in L^1(G)$. Il existe $g_1, g_2\in L^2(G)$ telles que $g=g_1g_2$ (on peut par exemple prendre $g_1=|g|^{1/2}$, et $g_2(x) = 0$ si $g(x) = 0,g_2(x) =$ $g(x)/g_1(x)$ sinon). On déduit donc de ce qui précède que $g$ est limite d’une suite de fonctions de la forme $h_1h_2$, où $h_1$ et $h_2$ appartiennent à V. Or $\mathscr{F}_G(h_1h_2) =\mathscr{F}_G(h_1)*\mathscr{F}_G(h_2)$ (II, p. 223, prop. 14), et $\mathscr{F}_G(h_1)*$ $\mathscr{F}_G(h_2)$ appartient à $\mathscr{K}(G)$. Le lemme en résulte.

Soit $\varepsilon >0$. Il existe une fonction $g\in L^1(G)$ telle que $\|f-f*g\|_1<$ $\varepsilon$ (prop. 8 de II, p. 211 (iv)). Soit $h\in L^1(G)$ tel que le support de $\overline{\mathscr{F}}_G(h)$ est compact et $\|f\|_1\|g-h\|_1< \varepsilon$ (lemme 1). On a

D’après l’hypothèse sur $f$, la fonction $\overline{\mathscr{F}}_G(f*h) =\overline{\mathscr{F}}_G(f)\overline{\mathscr{F}}_G(h)$ est à support compact disjoint de V(I), ce qui implique que $f*h\in I$ (remarque 2 ci-dessus). Comme $\varepsilon$ est arbitrairement petit, on a $f\in$ I = I.

Comme l’algèbre $L^1(G)$ est régulière (prop. 2 de II, p. 219) et sans radical (cor. de la prop. 22 de I, p. 126), et que l’ensemble des fonctions dont la cotransformée de Fourier est à support compact est dense dans $L^1(G)$ (lemme 1), le cor. 1 de I, p. 92 montre que l’idéal I est contenu dans un idéal maximal régulier de $L^1(G)$, c’est-à-dire dans le noyau d’un caractère $\widehat{y}$ de $L^1(G)$ (th. 2 de I, p. 30) ; on peut alors prendre $\widehat{x}=\widehat{y}^{-1}($cf. formule (8) de II, p. 207).

Corollaire 1 (Théorème taubérien de Wiener)

Soit $f\in L^1(G)$. Si la transformée de Fourier de $f$ ne s’annule pas, les fonctions $f*\varepsilon_x:g\mapsto f(gx^{-1})$, où $x$ parcourt G, forment un ensemble total dans $L^1(G)$ (EVT, I, p. 12, déf. 1).

Soit V le sous-espace vectoriel fermé de $L^1(G)$ engendré par les $f*\varepsilon_x$. D’après INT, VIII, §4, cor. de la prop. 20, l’espace V est un idéal fermé de $L^1(G)$. D’après le th. 1 on a $V = L^1(G)$.

a) Pour toute fonction $h\in L^1(G)$ telle que $\int_Gh(x)dx= 1$, la limite de $h*g$ suivant Φ est égale à $\alpha$;

b) Supposons de plus que $g$ soit lentement oscillante suivant Φ. Alors $g$ tend vers $\alpha$ suivant Φ.

En remplaçant $g$ par $g-\alpha$, on se ramène au cas où $\alpha = 0$. Soit I l’ensemble des fonctions $h\in L^1(G)$ telles que $h*g$ tende vers 0 suivant Φ. L’ensemble I est un sous-espace vectoriel de $L^1(G)$ invariant par translation. C’est un espace fermé. En effet, soit $h\in \overline{I}$. Pour toute fonction $h_0\in L^1(G)$ et tout $x\in G$, on a

Pour tout $\varepsilon >0$, il existe $h_0\in I$ telle que $\|h-h_0\|_1\|g\|_{\infty}< \varepsilon$. Soit $M\in$ Φ tel que $|(h_0*g)(x)|< \varepsilon$ pour tout $x\in M$. On a alors $|(h*g)(x)|<2\varepsilon$ pour tout $x\in M$, donc $h*g$ converge vers 0 suivant Φ. Cela montre que $h\in I$.

L’espace I est donc un idéal fermé de $L^1(G)$. On a $f\in I$ par hypothèse, donc $I = L^1(G)$ d’après le th. 1 puisque la transformée de Fourier de $f$ ne s’annule pas. Ceci implique a).

Plaçons-nous dans les hypothèses de b). Soit $\varepsilon >0$. Puisque $g$ est lentement oscillante suivant Φ, il existe $M\in \Phi$ et un voisinage compact V de $e$ tels que

$x\in M$ et $y\in V =\Rightarrow |g(y^{-1}x)-g(x)|\leqslant \varepsilon$.

Soient $\varphi$ la fonction caractéristique de V et $\mu=\int\varphi (x)dx$. Pour tout $x\in G$, on a

Donc pour tout $x\in M$, on a

Comme, d’après a), la limite de $\varphi *g$ selon Φ est nulle, on a lim sup$_{\Phi}|g|\leqslant \varepsilon$. Puisque $\varepsilon$ est arbitraire, on conclut que la limite de $g$ selon Φ est nulle, ce qui prouve b).

b) la fonction $\mathscr{F}_G(j)$ est égale à 1 au voisinage de l’élément neutre de $\widehat{G}$;

c) pour tout $x\in K$, on a $\|j-j*\varepsilon_x\|_1\leqslant \eta$.

L’ensemble $U_1$ des éléments $\widehat{x}\in \widehat{G}$ tels que

pour tout $x\in$ K est un voisinage de $e$ dans $\widehat{G}$. Soit U $\subset U_1$ un voisinage ouvert, symétrique, et intégrable pour la mesure de Haar $m=d\widehat{x}$ de $\widehat{G}$ duale de la mesure $dx$. Soit $V\subset U$ un voisinage compact symétrique de $e$ tel que $m(V)\geqslant \frac{1}{2}m(U)$. Notons $\varphi_U$ (resp. $\varphi_V$) la fonction caractéristique de U (resp. de V). Puisque $\varphi_U$ appartient à $L^2(G)$, il existe $u\in L^2(G)$ telle que $\varphi_U=\mathscr{F}_G(u)$ (th. 1 de II, p. 215). De même, il existe une fonction $v\in L^2(G)$ telle que $\varphi_V=\mathscr{F}_G(v)$. Nous allons montrer que la fonction $j=\frac{1}{m(V)}uv$ vérifie les propriétés demandées. On a $j\in L^1(G)$.

a) D’après le théorème de Plancherel et la condition $m(V)\geqslant \frac{1}{2}m(U)$, on a

b) Il existe un voisinage W de $e$ dans $\widehat{G}$ tel que WV $\subset U$ (TG, II, p. 31, prop. 4). Pour tout $\widehat{x}\in W$, on a $\widehat{x}V\subset U$, et la prop. 14 de II, p. 223 implique

puisque V est symétrique.

c) Si $x\in K$, on a

puisque $U\subset U_1$, et de même $\|v-v*\varepsilon_x\|^2_2\leqslant m(V)(\frac{\eta}{4})^2$. Donc

Soit $\chi$ un caractère de $L^1(G)$. Distinguons deux cas suivant que $\chi$ est nul ou non. Si $\chi$ est nul, il faut vérifier que pour toute fonction $f\in L^1(G)$, il existe une suite $(f_n)_{n\geqslant 1}$ dans $L^1(G)$ telle que $\mathscr{F}(f_n)$ s’annule hors d’une partie compacte de $\widehat{G}$ et telle que $f_n*f$ tende vers $f$ dans $L^1(G)$. L’existence d’une telle suite résulte du lemme 1 ci-dessus et de la prop. 8 de II, p. 211.

Supposons maintenant que $\chi$ est non nul, donc $\chi \in \mathsf{X}(L^1(G)) =\widehat{G}$ (prop. 1 de II, p. 202). Soit $f\in L^1(G)$ telle que $\mathscr{G}_{L^1(G)}(f)(\chi ) =$ $\overline{\mathscr{F}}(f)(\chi ) = 0$. Il s’agit de prouver l’existence d’une suite $(f_n)_{n\geqslant 1}$ dans $L^1(G)$ telle que $f*f_n$ converge vers $f$ dans $L^1(G)$ et telle que $\overline{\mathscr{F}}(f_n)$ s’annule au voisinage de $\chi$. On peut supposer que $\|f\|_1= 1$. Par translation dans $\widehat{G}$, on se ramène au cas où $\chi =e$.

Soit $K_n$ une partie compacte de G telle que

Soit $u_n\in L^1(G)$ une fonction $\geqslant 0$ telle que $\|u_n\|_1= 1$ et

(cf. prop. 8 de II, p. 211, (iii)). D’après le lemme$\surd$ 2, il existe une fonction $j_n$ dans $L^1(G)$ telle que $\|j_n\|_1\leqslant \overline{2}$, dont la cotransformée de Fourier vaut 1 au voisinage de $e$, et de plus telle que $\|j_n-j_n*\varepsilon_x\|_1\leqslant n^{-1}$ pour tout $x\in K_n$. On pose

Nous allons montrer que la suite $(f_n)_{n\geqslant 1}$ possède les propriétés requises. Tout d’abord, on a

donc la transformée de Fourier de $f_n$ s’annule au voisinage de $\chi =e$. D’autre part,

1

Or, pour presque tout $y\in G$, on a

puisque, par hypothèse, on a $\mathscr{F}(f)(e) =\int_Gf(x)dx= 0$. D’où

$G-K_n$

$1\int\int$ 5 $\leqslant |f(x)|dx+ 4|f(x)|dx\leqslant$.

$n_{K_n}G-K_{_n}n$

Finalement, $\|f*f_n-f\|_1\leqslant 6n^{-1}$ et donc $f*f_n$ converge dans $f$ dans $L^1(G)$, comme désiré.

Appliquant la prop. 5, on obtient alors le résultat suivant :

Pour un idéal fermé quelconque de $L^1(G)$, la conclusion du th. 2 est en général inexacte (cf. exerc. 12 de II, p. 314). Plus précisément, on peut montrer que, si G est non compact, il existe un idéal fermé de $L^1(G)$ qui n’est pas auto-adjoint (voir par exemple W. Rudin, Fourier analysis on groups, Interscience tracts in pure and applied mathematics, theorem 7.7.1.)

On a vu que $A(W) = V(W^{\circ})$. Comme $W\not= 0$, on a $W^{\circ}\not= L^1(G)$, et alors $V(W^{\circ})$ est non vide d’après le th. 1 de II, p. 252.

a) Quel que soit le voisinage U de A(W) dans $\widehat{G}$, toute fonction de W est limite faible de combinaisons linéaires de caractères appartenant à U ;

b) Si la frontière de A(W) ne contient aucun ensemble parfait non vide, toute fonction de W est limite faible de combinaisons linéaires de caractères appartenant à W.

Pour prouver a), il suffit par le théorème des bipolaires de montrer que si $f$ est une fonction de $L^1(G)$ orthogonale aux éléments de U, alors $f$ est orthogonale à W. Or, la cotransformée de Fourier $\overline{\mathscr{F}}(f)$ s’annule alors sur le voisinage U de $A(W) = V(W^{\circ})$, de sorte que la prop. 2 de II, p. 252 montre effectivement que $f\in W^{\circ}$. L’assertion b) s’établit de manière analogue, en employant le th. 2 de II, p. 257 au lieu de la prop. 2 de II, p. 252.