Soit X un espace localement compact sur lequel un groupe localement compact G opère à gauche continûment. Soit β une mesure positive sur X, quasi-invariante par G. Soit χ une fonction >0 sur G×X, mesurable pour toute mesure sur G×X, et telle que, pour tout s∈G, χ(s−1,.) soit une densité de γ(s)β par rapport à β:
(1)
γ(s)β=χ(s−1,.)⋅β,
ce qu'on peut écrire, avec les conventions du chap. VII, § 1, n° 1 :
(1')
dβ(sx)=χ(s,x)dβ(x).
Ces données resteront fixées dans les n°s 1, 2 et 3 (exception faite de la Remarque 2 du n° 2).
Rappelons (§ 2, n° 5) que, si χ est continue et si β est de support X, χ est alors un multiplicateur.
Soit f une fonction complexe localement β-intégrable sur X, et soit μ une mesure sur G. Pour tout s∈G, la mesure γ(s)(f.β) est de base β puisque β est quasi-invariante. Donc, si μ et f.β sont convolables, μ∗(f.β) est de base β (§ 3, n° 2, prop. 10).
Définition 1
Si μ et f.β sont convolables, on dit que μ et f sont convolables relativement à β. Toute densité de μ∗(f.β) par rapport à β s'appelle un produit de convolution de μ et f relativement à β et se note μ∗βf.
On omet β quand aucune confusion n'est possible. On définit de manière analogue la convolution pour plusieurs mesures sur G et une fonction sur X.
Les différents produits de convolution de μ et f sont égaux localement β-presque partout. Si β est de support X et s'il existe un produit de convolution de μ et β qui soit continu, ce dernier est déterminé de manière unique ; c'est lui qu'on appelle alors le produit de convolution de μ et f relativement à β.
Soit s∈G et soit f une fonction complexe localement β-intégrable sur X. Alors εs et f sont convolables, et on a
Or, la fonction (s,x)→F(s,x)χ(s,x) est à support compact et (μ⊗β)-mesurable. D’après le chap. V, § 8, n° 1, prop. 4, l’égalité précédente prouve que cette fonction est (μ⊗β)-intégrable et que
∫F(s,s−1x)dμ(s)dβ(x)=∫F(s,x)χ(s,x)dμ(s)dβ(x).
Ceci prouve à la fois les deux assertions du lemme 1.
Proposition 1
Soient μ une mesure sur G, f une fonction complexe localement β-intégrable sur X. Supposons que la fonction s→f(s−1x)χ(s−1,x) soit essentiellement μ-intégrable sauf pour un ensemble localement β-négligeable de valeurs de x, et que la fonction x→∫∣f(s−1x)∣χ(s−1,x)d∣μ∣(s), définie localement presque partout pour β, soit localement β-intégrable. Alors μ et f sont convolables.
On peut supposer f⩾0 et μ⩾0. Soit h∈K+(X). Il s’agit de prouver que la fonction (s,x)→h(sx) est essentiellement intégrable pour μ⊗(f.β)=(1⊗f).(μ⊗β) (chap. V, § 8, n° 3, prop. 6), c’est-à-dire que ∫∗h(sx)f(x)dμ(s)dβ(x)<+∞ (chap. V, § 5, n° 3, prop. 2); il suffira évidemment de prouver qu’il existe a>0 tel que pour toute partie compacte K de G, on ait
Or la fonction (s,x)→h(x)f(s−1x)φK(s)χ(s−1,x) est (μ⊗β)-mesurable (lemme 1) et à support compact. L’expression précédente est donc égale (chap. V, § 8, n° 1, prop. 4) à
∫∗h(x)dβ(x)∫∗f(s−1x)φK(s)χ(s−1,x)dμ(s)
≤(suph)∫S∗dβ(x)∫∗f(s−1x)χ(s−1,x)dμ(s)
en désignant par S le support de h. D'où la proposition.
Proposition 2
Soient μ une mesure sur G, f une fonction complexe localement β-intégrable sur X. On suppose vérifiée l'une des conditions suivantes : (i) f et χ sont continues ; (ii) G opère proprement dans X et f est nulle dans le complémentaire d'une réunion dénombrable d'ensembles compacts ; (iii) μ est portée par une réunion dénombrable d'ensembles compacts.
Si μ et f sont convolables, la fonction s→f(s−1x)χ(s−1,x) est essentiellement μ-intégrable sauf pour un ensemble localement β-négligeable de valeurs de x, et l'on a localement β-presque partout
Soit h∈H(X). Puisque μ et f sont convolables, la fonction (s,x)→h(sx)f(x) est essentiellement (μ⊗β)-intégrable. D'après le lemme 1, la fonction (s,x)→h(x)f(s−1x)χ(s−1,x) est essentiellement (μ⊗β)-intégrable. Sous les hypothèses (i) ou (ii) de l'énoncé, on en déduit que cette fonction est (μ⊗β)-intégrable ; car, dans le premier cas, elle est continue et on applique la prop. 2 du chap. V, § 2, no 1, et dans le second cas, elle est nulle hors d'une réunion dénombrable d'ensembles compacts, et on applique la prop. 3, loc. cit. D'après le théorème de Lebesgue-Fubini,
la fonction x→g(x)=∫f(s−1x)χ(s−1,x)dμ(s) étant en outre localement β-intégrable. On voit donc que
⟨h,μ∗(f.β)⟩=⟨h,g.β⟩
d'où g=μ∗βf.
Supposons maintenant μ portée par la réunion S d'une suite d'ensembles compacts. La fonction
(s,x)→h(x)f(s−1x)χ(s−1,x)φS(s)
est essentiellement (μ⊗β)-intégrable, et nulle hors d'une réunion dénombrable d'ensembles compacts, donc (μ⊗β)-intégrable. Comme μ=φS.μ, le raisonnement se termine comme précédemment.
Remarque
L'hypothèse (iii) de la prop. 2 est satisfaite notamment quand μ est bornée. En effet, pour tout n>0, il existe alors une partie compacte Kn de G telle que
∣μ∣(G−Kn)≤n1
(chap. IV, § 4, no 7), et μ est portée par la réunion des Kn. Plus généralement, soit ρ une fonction semi-continue inférieurement finie >0 sur G telle que ρ(st)≤ρ(s)ρ(t); si μ∈M∘, l'hypothèse (iii) est satisfaite; car ρ.μ est bornée, et μ est portée par les mêmes sous-ensembles que ρ.μ puisque, sur toute partie compacte de G, ρ est minorée par une constante >0.
2. Exemples de mesures et de fonctions convolables.
Dans les prop. 3 et 4, C′(G) et M(G) sont munis de la topologie de la convergence compacte dans C(G) et K(G) respectivement.
Proposition 3
Supposons χ continue. Soient μ∈C′(G) et f∈C(X). Alors :
(i) μ et f sont convolables relativement à β.
(ii) La formule (3) du n° 1 définit pour tout x∈X un produit de convolution μ∗βf qui est continu et n’est autre que l’élément γx(μ)f défini par la représentation continue γx de G dans C(X); de plus, l’application (μ,f)→μ∗βf est hypocontinue relativement aux parties équicontinues de C′(G) et aux parties compactes de C(X).
(iii) Si de plus f∈K(X) le produit μ∗βf de (ii) appartient à K(X) et l’application (μ,f)→μ∗βf est hypocontinue relativement aux parties équicontinues de C′(G) et aux parties compactes de K(X).
On sait que μ et f sont convolables (§ 3, n° 2, prop. 8 (i)). D’autre part, avec les notations du § 2, on a
γx(μ)f=∫(γx(s)f)dμ(s)∈C(X)
puisque C(X) est quasi-complet. En particulier, pour tout x∈X, on a
(γx(μ)f)(x)=∫(γx(s)f)(x)dμ(s).
Ceci, joint à la prop. 2, et au § 2, n° 6, prouve (ii). Enfin, si f∈K(X), μ∗(f.β) est à support compact (§ 3, n° 2, prop. 9), donc μ∗βf∈K(X). Considérons la représentation continue U de G dans le complété K(X)^ obtenue en prolongeant par continuité les opérateurs γx(s) continus dans K(X) (§ 2, n° 1, Remarque 3). Soit S le support de μ. Les fonctions γx(s)f, pour s∈S, ont leur support contenu dans un ensemble compact fixe K. L’ensemble K(X,K) est un sous-espace vectoriel complet de K(X). Donc U(μ)f∈K(X). On voit alors comme précédemment que U(μ)f=μ∗βf, et (iii) résulte encore du § 2, n° 6.
Proposition 4
Supposons que G opère proprement dans X et que χ soit continue. Soient μ∈M(G) et f∈K(X).
(i) μ et f sont convolables relativement à β.
(ii) La formule (3) du n° 1 définit pour tout x∈X un produit de convolution μ∗βf qui est continu.
(iii) L’application (μ,f)→μ∗βf de M(G)×K(X) dans C(X) est hypocontinue relativement aux parties bornées de M(G) et aux parties compactes de K(X) qui sont contenues dans un sous-espace K(X,L) (où L est une partie compacte variable de X).
On sait que μ et f sont convolables (§3, no 2, prop. 8 (ii)), et il est clair, que les intégrales figurant dans (3) existent pour tout x∈X. Soient K et L deux parties compactes de X. Il existe une partie compacte H de G telle que les relations x∈K et s−1x∈L entraînent s∈H; soit φ∈K+(G), telle que φ(s)=1 pour s∈H. On a, pour f∈K(X,L) et x∈K :
Par suite ∫f(s−1x)χ(s−1,x)dμ(s) est fonction continue de x et définit un produit de convolution μ∗βf∈C(X). De plus, l’application μ→φ⋅μ de M(G) dans C′(G) est continue pour les topologies de la convergence compacte. La prop. 3 (iii) entraîne donc que l’application (μ,f)→μ∗βf de M(G)×K(X,L) dans C(X) est, pour toute partie compacte L de X, hypocontinue relativement aux parties compactes de K(X,L). En particulier, l’application (μ,f)→μ∗βf de M(G)×K(X) dans C(X) est séparément continue. Comme K(X) est tonnelé, cette application est hypocontinue relativement aux parties bornées de M(G) (Esp. vect. top., chap. III, § 4, no 2, prop. 6).
Remarque 1
Sous les hypothèses de la prop. 4, l’application μ→μ∗βf de M+(G) dans C(X) est continue lorsqu’on munit M+(G) de la topologie vague, pour toute f∈K(X). En effet, soient K une partie compacte de X, S le support (compact) de f; comme G opère proprement dans X, l’ensemble des s∈G pour lesquels il existe x∈K tel que s−1x∈S est une partie compacte L de G (Top. gén., chap. III, 3e éd., § 4, no 5, th. 1). Soient ε un nombre >0, φ une fonction de K+(G) égale à 1 dans l’ensemble compact L, μ0 un élément de M+(G); l’ensemble W0 des mesures μ∈M+(G) telles que
∫φ(s)dμ(s)−∫φ(s)dμ0(s)≤ε
est un voisinage de μ0 dans M+(G). D'autre part, la fonction (s,x)→f(s−1x)χ(s−1,x) est uniformément continue dans L×K, donc il existe un nombre fini de points xi∈K (1≤i≤n) tels que pour tout x∈K, il existe un i pour lequel on ait
∣f(s−1x)χ(s−1,x)−f(s−1xi)χ(s−1,xi)∣≤ε
pour tout s∈L. Comme μ(L)≤∫φ(s)dμ0(s)+ε pour toute μ∈W0, on a aussi
pour 1≤i≤n. Il est clair que pour toute mesure μ∈W et tout x∈K, on a
∫f(s−1x)χ(s−1,x)dμ(s)−∫f(s−1x)χ(s−1,x)dμ0(s)≤
≤ε(2∫φ(s)dμ0(s)+2ε+1)
et comme ε est arbitraire, cela démontre notre assertion.
Proposition 5
Supposons χ continue et chaque fonction χ(s,.) bornée.* (i) La fonction s→ρ(s)=supx∈Xχ(s−1,x) sur G est semi-continue inférieurement >0 et vérifie ρ(st)≤ρ(s)ρ(t) quels que soient s,t dans G. (ii) Soient μ∈M∘(G) et f∈L∞(X,β). Alors μ et f sont convolables et μ∗βf est donné localement presque partout par la formule (3) du n° 1. On a μ∗βf∈L∞(X,β), et ∥μ∗βf∥∞≤∥μ∥ρ∥f∥∞.
(iii) Si de plus f∈C∞(X) (resp. K(X)), la formule (3) du n° 1 définit pour tout x un produit de convolution μ∗βf qui appartient à C∞(X) (resp. K(X)).
(iv) Si f∈K(X), alors le produit de convolution μ∗βf défini par (3) n’est autre que l’élément γx(μ)f défini par la représentation continue γx de G dans K(X).
L’identité χ(st,x)=χ(s,tx)χ(t,x) entraîne aussitôt que ρ(st)≤ρ(s)ρ(t). D’autre part, ρ est semi-continue inférieurement comme enveloppe supérieure de fonctions continues.
Soit μ∈Mo(G). D’après la prop. 1 du n° 1, μ et 1 sont convolables ; la prop. 2 montre que (∣μ∣∗β1)(x)≤∫Gρ(s)d∣μ∣(s) localement β-presque partout. Donc, si f est β-mesurable et si ∣f∣≤1, μ et f sont convolables et N∞(μ∗βf)≤∫ρ(s)d∣μ∣(s).
De plus, μ∗βf est donné localement presque partout par la formule (3) du n° 1, car la condition (iii) de la prop. 2 du n° 1 est satisfaite. Ceci entraîne (ii).
Supposons f continue et bornée par 1 en valeur absolue. Il est clair que les intégrales figurant dans (3) existent pour tout x∈X. Montrons qu’elles dépendent continûment de x. On peut supposer μ≥0. Soient x0∈X et ε>0. Soit K une partie compacte de G telle que ∫G−Kρ(s)dμ(s)≤ε. Il existe un voisinage V de x0 dans X tel que x∈V implique
∣f(s−1x)χ(s−1,x)−f(s−1x0)χ(s−1,x0)∣≤ε/μ(K)
pour s∈K. Alors, pour x∈V, on a
∫f(s−1x)χ(s−1,x)dμ(s)−∫f(s−1x0)χ(s−1,x0)dμ(s)
≤2∫G−Kρ(s)dμ(s)+∫Kμ(K)εdμ(s)≤3ε
d'où notre assertion. Supposons de plus f∈K(X). Soit H une partie compacte de X telle que ∣f(y)∣≤ε pour y∈/H. Soit x∈/KH. On a s−1x∈/H pour s∈K, donc
Enfin, si f∈K(X), comme εx∈M1(X) pour tout x∈X, on a
(γx(μ)f)(x)=∫(γx(s)f)(x)dμ(x)
donc γx(μ)f est le produit de convolution μ∗βf défini par (3).
Proposition 6
Supposons χ continue et chaque fonction χ(s,.) bornée. Soit ρ(s)=supx∈Xχ(s−1,x). Soient p et q deux exposants conjugués (1≤p<+∞). Soient μ∈Mp1/q(G) et f∈Lp(X,β). Alors :
(i) μ et f sont convolables ; (ii) le produit de convolution μ∗βf est donné localement β-presque partout par la formule (3), et est égal localement β-presque partout à une fonction g∈Lp(X,β) telle que ∥g∥p≤∥μ∥p1/q∥f∥p; (iii) g est égal à l'élément γx(μ)f défini par la représentation continue γx de G dans Lp(X,β).
On a
∫∗∥γx(s)f∥pd∣μ∣(s)≤(∫∗ρ(s)1/qd∣μ∣(s))∥f∥p<+∞
d'après le § 2, n° 5, formule (5). D'autre part, l'application s→γx(s)f de G dans Lp(X,β) est continue (§ 2, prop. 9). Donc cette application est μ-intégrable. Soit
g=∫G(γx(s)f)dμ(s)∈Lp(X,β).
On a ∥g∥p≤(∫ρ1/q(s)d∣μ∣(s))∥f∥p. Appliquant les remarques précédentes à ∣f∣, on voit que l’application s→εs∗∣f∣ de G dans Lp(X,β) est μ-intégrable, donc que, pour toute h∈H(X), l’application s→⟨h,εs∗(∣f∣.β)⟩ est μ-intégrable. La prop. 7 du § 1, n° 5, prouve alors que μ et f.β sont convolables. En outre,
∫Xg(x)h(x)dβ(x)=∫Gdμ(s)∫X(γx(s)f)(x)h(x)dβ(x)
=∫G⟨h,εs∗(f.β)⟩dμ(s)
et cette dernière intégrale est égale à ⟨h,μ∗(f.β)⟩ d’après la prop. 7 du § 1, n° 5. On voit donc que g est un produit de convolution de μ et f. Ce produit de convolution est donné localement β-presque partout par (3) d’après la prop. 2 et la Remarque qui la suit.
Par abus de notation, c’est souvent l’une des fonctions g de l’énoncé qu’on note μ∗βf, ce qui permet d’écrire
∥μ∗βf∥p≤∥μ∥ρ1/q∥f∥p.
Si X est dénombrable à l’infini, cette manière d’écrire est d’ailleurs entièrement justifiée.
Corollaire
Sous les hypothèses de la prop. 6, l’application (μ,f)→μ∗βf définit sur Lp(X,β) une structure de module à gauche sur Mρ1/q(G) (1≤p≤+∞).
Ceci résulte des prop. 5 et 6 et de l’associativité du produit de convolution.
Remarque 2
Soit X un espace localement compact sur lequel un groupe localement compact G opère à droite continûment par (x,s)→xs. Soit β une mesure positive sur X. Soit χ une fonction >0 sur G×X, mesurable pour toute mesure sur G×X, et telle que, pour tout s∈G, on ait δ(s)β=χ(s,.).β. Soit f une fonction localement β-intégrable sur X et soit μ une mesure sur G. Si f.β et μ sont convolables (pour l’application (x,s)→xs de X×G dans X), (f.β)∗μ est de base β. On dit alors que f et μ sont convolables relativement à β; toute densité de (f.β)∗μ par rapport à β s'appelle un produit de convolution de f et μ relativement à β et se note f∗βμ ou simplement f∗μ.
Soit G0 le groupe opposé à G. Par (s,x)→xs, G0 opère à gauche continûment dans X. Dire que f et μ sont convolables au sens précédent équivaut à dire que μ et f sont convolables pour G0 opérant à gauche dans X; et les produits de convolution f∗βμ ne sont autres que les produits de convolution μ∗βf pour G0 opérant à gauche dans X. D'autre part, on a, pour s∈G0, γ(s)β=χ(s−1,.)⋅β. Les résultats des n°s 1 et 2 se traduisent alors immédiatement en résultats concernant les produits f∗βμ. En particulier :
1) Si s∈G et si f est localement β-intégrable, f et εs sont convolables, et l'on a
(f∗εs)(x)=χ(s−1,x)f(xs−1)
2) Si f et μ sont convolables et si l'une des conditions (i), (ii), (iii) de la prop. 2 est remplie, alors f∗βμ est donnée localement β-presque partout par
(f∗βμ)(x)=∫Gf(xs−1)χ(s−1,x)dμ(s).
Nous laissons au lecteur le soin de traduire les autres énoncés. On notera que, si χ est continue, on a
χ(ts,x)=χ(s,xt)χ(t,x)(x∈X;s,t dans G).
3. Convolution et transposition.
Revenons aux hypothèses et aux notations du début du n° 1, mais supposons de plus que β soit relativement invariante de multiplicateurχ; χ est donc une fonction continue sur G.
Proposition 7
Soient f une fonction localement β-intégrable sur X, ν une mesure sur X et μ une mesure sur G. On suppose que :
(i) μ et f sont convolables et la formule (3) du n° 1 définit localement β-presque partout un produit de convolution μ∗βf.
(ii) χ.μ~ et ν sont convolables.
(iii) La fonction g(s,x)=f(s−1x)χ(s−1) est (μ⊗ν)-intégrable. Alors f est essentiellement intégrable pour (χ.μ~)∗ν, la fonction μ∗βf définie par (3) est ν-intégrable et l’on a
ν(μ∗βf)=((χ.μ~)∗ν)(f).
Puisque g(s,x) est intégrable pour μ⊗ν, la fonction f(sx) est essentiellement intégrable pour (χ.μ~)⊗ν et f est essentiellement intégrable pour (χ.μ~)∗ν. D’après le théorème de Lebesgue-Fubini, μ∗βf=∫g(s,x)dμ(s) est ν-intégrable et l’on a
On peut prendre f∈C(X), ν∈C′(X) et μ∈C′(G) d’après la prop. 3, et le cor. de la prop. 5 du § 1, n° 4. La formule (7) signifie alors que l’endomorphisme ν→(χ.μ~)∗ν de C′(X) est le transposé de l’endomorphisme f→μ∗f de C(X).
Exemple 2
On peut prendre f∈K(X), ν∈M(X) et μ∈C′(G) d’après la prop. 3, la prop. 8 du § 3, n° 2, et la remarque que le support de la fonction continue g(s,x) rencontre le support de μ⊗ν suivant un ensemble compact. La formule (7) signifie alors que l’endomorphisme ν→(χ.μ~)∗ν de M(X) est le transposé de l’endomorphisme f→μ∗f de K(X).
Exemple 3
Si G opère proprement dans X, on peut prendre f∈K(X), ν∈C′(X) et μ∈M(G) d’après la prop. 4, la prop. 8 du § 3, n° 2, et la même remarque que dans l’Exemple 2.
Proposition 8
Soient f et g deux fonctions localement β-intégrables sur X et soit μ∈M(G). On suppose que :
(i) μ et f sont convolables et la formule (3) du n° 1 définit localement β-presque partout un produit de convolution μ∗βf.
(ii) χ⋅μ~ et g sont convolables et la formule (3) du no 1 (où on remplace μ par χ⋅μ~ et f par g) définit localement β-presque partout un produit de convolution (χ⋅μ~)∗βg.
(iii) Il existe une fonction ψ sur G, localement μ-presque partout égale à 1, telle que la fonction h(s,x)=g(x)f(s−1x)χ(s−1)ψ(s) soit (μ⊗β)-intégrable.
Alors les fonctions g(x)((μ∗βf)(x)) et f(x)(((χ⋅μ~)∗βg)(x)) sont essentiellement β-intégrables, et l’on a
localement β-presque partout. Ceci montre que la fonction x→g(x)((μ∗βf)(x)) est essentiellement β-intégrable et que
I=∫g(x)((μ∗βf)(x))dβ(x).
D’autre part, le lemme 1 montre que la fonction (s,x)→g(sx)f(x)χ(s−1)ψ(s) est intégrable pour (χ⋅μ)⊗β. Donc la fonction (s,x)→g(s−1x)f(x)ψ(s−1) est intégrable pour μ~⊗β et l’on a
Mais ψ~⋅μ~=μ~ et par suite ∫g(s−1x)ψ(s−1)dμ~(s)=((χ⋅μ~)∗βg)(x) localement β-presque partout. Ceci montre que la fonction x→f(x)(((χ⋅μ~)∗βg)(x)) est essentiellement β-intégrable et que
I=∫f(x)(((χ⋅μ~)∗βg)(x))dβ(x).
Ceci démontre la proposition.
Exemple 4
On peut prendre f∈C(X),g∈K(X) et μ∈C′(G) (avec ψ=1).
Exemple 5
Si G opère proprement sur X, on peut prendre f∈K(X),g∈K(X) et μ∈M(G) (avec ψ=1).
Exemple 6
On peut prendre f∈Lp(X,β),g∈Lq(X,β) et μ∈Mo(G) avec 1≤p<+∞,p1+q1=1,ρ=χ−1/q. Les conditions (i) et (ii) sont satisfaites d'après les prop. 5 et 6. Démontrons (iii). On a vu que μ était portée par un ensemble S réunion dénombrable d'ensembles compacts. On prendra pour ψ la fonction caractéristique de S. La fonction h est (μ⊗β)-mesurable : en effet la fonction (s,x)→g(x)χ(s−1)ψ(s) l'est, ainsi que la fonction (s,x)→f(s−1x) d'après le lemme 1. De plus, g étant nulle hors d'une réunion dénombrable d'ensembles β-intégrables, h est nulle hors d'une réunion dénombrable d'ensembles (μ⊗β)-intégrables. On a alors (chap. V, § 8, no 1, prop. 4):
Mais comme g (resp. ψ) est nulle hors d'une réunion dénombrable d'ensembles intégrables, les intégrales supérieures du second membre de (9) sont égales aux intégrales supérieures essentielles (chap. V, § 2, no 1, prop. 3). Or (chap. V, § 5, no 3, prop. 2) on a
puisque μ=ψ⋅μ. D'après la prop. 6, cette dernière intégrale est finie et égale à (∣μ∣∗β∣f∣)(x) localement β-presque partout. On a donc
J=∫∗∣g(x)∣(∣μ∣∗β∣f∣)(x)dβ(x)
et J est finie puisque g∈Lq et ∣μ∣∗β∣f∣∈Lp (prop. 6). Donc h est (μ⊗β)-intégrable.
La formule (8) signifie alors que l'endomorphisme
g→(χ⋅μ~)∗g
de Lq(X,β) est, pour μ∈Mp(G), le transposé de l'endomorphisme f→μ∗f de Lp(X,β).
4. Convolution d'une mesure et d'une fonction sur un groupe
Soit G un groupe localement compact. Fixons dans les nos 4 et 5 une mesure positive β=0 sur G, relativement invariante ; soient χ et χ′ ses multiplicateurs à gauche et à droite (rappelons que χ′=χΔG). Si μ est une mesure sur G et f une fonction localement β-intégrable sur G, la convolabilité de μ et f et les produits μ∗f (resp. la convolabilité de f et μ et les produits f∗μ) se définissent en considérant G comme opérant sur lui-même à gauche (resp. à droite) par translations. Explicitons dans cette situation quelques-uns des résultats précédents :
1) Soient μ une mesure sur G, f une fonction complexe localement β-intégrable sur X. On suppose vérifiée l'une des conditions suivantes : (i) f est continue ; (ii) f est nulle dans le complémentaire d'une réunion dénombrable d'ensembles compacts ; (iii) μ est portée par une réunion dénombrable d'ensembles compacts.
Si μ et f sont convolables, on a localement β-presque partout
(μ∗f)(x)=∫Gf(s−1x)χ(s−1)dμ(s).
Si f et μ sont convolables, on a localement β-presque partout
(f∗μ)(x)=∫Gf(xs−1)χ′(s−1)dμ(s).
2) Soient p et q deux exposants conjugués (1≤p≤+∞). Si μ∈Mχ−1/q(G) et f∈Lp(G,β), μ et f sont convolables, et μ∗f est égale localement β-presque partout à une fonction de Lp(G,β); on a (avec un abus de notations déjà signalé)
∥μ∗f∥p≤∥μ∥χ−1/q∥f∥p.
Si μ∈Mχ′−1/q(G) et f∈Lp(G,β), f et μ sont convolables, et f∗μ est égale localement β-presque partout à une fonction de Lp(G,β); on a ∥f∗μ∥p≤∥μ∥χ′−1/q∥f∥p.
3) Les applications (μ,f)→μ∗f,(f,μ)→f∗μ définissent sur Lp(G,β) des structures de module à gauche sur Mχ−1/q(G) et de module à droite sur Mχ′−1/q(G). Les deux lois externes sur Lp(G,β) sont permutables d’après l’associativité de la convolution.
4) Si μ∗f est continue et donnée en tout point par (10), on a
(μ∗f)(e)=∫f(s−1)χ(s−1)dμ(s).
Si f∗μ est continue et donnée en tout point par (11), on a
(f∗μ)(e)=∫f(s−1)χ′(s−1)dμ(s).
5. Convolution des fonctions sur un groupe.
On conserve les notations G,β,χ,χ′ du n° 4.
Rappelons que, si f est une fonction complexe sur G, la propriété d’être localement β-intégrable est indépendante du choix de β. Soit L(G) l’ensemble des fonctions possédant cette propriété. Si f∈L(G), g∈L(G), la relation
« f.β et g.β sont convolables »
est indépendante du choix de β (§3, n° 1, prop. 6). Nous dirons alors que f et g sont convolables. D’après le n° 1, (f.β)∗(g.β) est de la forme h.β avec h∈L, h étant déterminée aux ensembles localement β-négligeables près. On posera h=f∗βg et on dira que h est un produit de convolution de f et g relativement à β. (On omet β quand aucune confusion n’est possible). Si β est remplacée par ψ.β, ψ étant une représentation continue de G dans R+∗, h ne change pas (§3, n° 1, prop. 6) ; si β est remplacée par aβ (a∈R+∗), h est remplacée par ah. On définit de manière analogue le produit de convolution de plusieurs fonctions sur G.
Si l’une des convolées de f et g est continue, elle est déterminée de manière unique puisque le support de β est G. On l’appelle alors le produit de convolution de f et g relativement à β.
Il est clair que
f∗βg=(f.β)∗βg=f∗β(g.β).
Proposition 9
Soient f,g dans L(G). Supposons que la fonction s→g(s−1x)f(s)χ(s−1) soit essentiellement β-intégrable sauf pour un ensemble localement β-négligeable de valeurs de x, et que la fonction x→∫∣g(s−1x)f(s)∣χ(s−1)dβ(s), définie localement β-presque partout, soit localement β-intégrable. Alors f et g sont convolables.
Ceci résulte de la prop. 1 du n° 1.
Proposition 10
Soient f,g dans L(G). On suppose que l’une de ces deux fonctions est continue ou nulle dans le complémentaire d’une réunion dénombrable d’ensembles compacts. Si f* et g sont convolables, la fonction f∗g est donnée localement β-presque partout par
(f∗g)(x)=∫Gg(s−1x)f(s)χ(s−1)dβ(s)
=∫Gf(xs−1)g(s)χ′(s−1)dβ(s)
Ceci résulte de la prop. 2 du n° 1, et des remarques du n° 4.
En particulier, si f∗g est continue et donnée en tout point par (15), on a
Plus particulièrement encore, si β est une mesure de Haar à gauche et à droite, si f∗g et g∗f sont continues et données en tout point par (15) et la formule analogue pour g∗f, on a
(f∗g)(e)=(g∗f)(e)=∫f(s)g(s−1)dβ(s).
Proposition 11
Soient f,g dans L(G). On suppose que l'une des fonctions f,g est continue et que l'une des fonctions f,g est à support compact. Alors f et g sont convolables. La formule (15) définit pour tout x∈G un produit f∗g qui est continu. Si f∈H(G) et g∈H(G), on a f∗g∈H(G).
Ceci résulte des prop. 3 et 4 du n° 2.
Proposition 12
Soient p et q deux exposants conjugués (1≤p≤+∞). Si fχ−1/q∈L1(G,β) et g∈Lp(G,β), f et g sont convolables, f∗g est égale localement β-presque partout à une fonction de Lp(G,β), et on a
∥f∗g∥p≤∥fχ−1/q∥1∥g∥p.
Si f∈Lp(G,β) et gχ′−1/q∈L1(G,β)f et g sont convolables, f∗g est égale localement β-presque partout à une fonction de Lp(G,β), et on a
∥f∗g∥p≤∥f∥p∥gχ′−1/q∥1.
Ceci résulte des prop. 5 et 6 du n° 2 et des remarques du n° 4.
Proposition 13
Si fχ−1∈L1(G,β) et g∈K(G), ou si f∈K(G) et gχ′−1∈L1(G,β), f et g sont convolables, et (15) définit pour tout x∈G un produit f∗g qui appartient à K(G).
Cela résulte de la prop. 5 du n° 2 et des remarques du n° 4.
Proposition 14
Si fχ−1∈L1(G,β) et g∈L∞(G,β), la formule (15) définit pour tout x∈G un produit f∗g qui est borné et uniformément continu pour la structure uniforme droite de G.
On sait déjà que f∗g appartient à L∞(G,β) (n° 2, prop. 5) ; en outre on a (f∗g)(x)=∫f(xs−1)g(s)dν(s), en posant ν=χ′−1.β; ν est une mesure de Haar à droite. Donc
et la dernière intégrale est arbitrairement petite pourvu que x′x−1 soit dans un voisinage convenable de e (§ 2, n° 5, prop. 8).
Proposition 15
Soient p et q deux exposants conjugués (1<p<+∞). Supposons β invariante à gauche. Soient f∈Lp(G,β), g∈Lq(G,β~). Alors f et g sont convolables. La formule (15) définit, pour tout x∈G, un produit f∗g qui appartient à K(G), et qui est tel que ∥f∗g∥∞≤∥f∥p∥g~∥q.
En effet, on a g~∈Lq(G,β), donc la fonction s→g(s−1x)f(s) est β-intégrable pour tout x∈G. En outre,
donc f et g sont convolables (prop. 9). On voit en même temps que (15) définit pour tout x un produit f∗g tel que
∣(f∗g)(x)∣≤∥f∥p∥g~∥q.
Pour f,g dans K(G), on a f∗g∈K(G) (prop. 11) ; donc, pour f∈Lp(G,β) et g∈Lq(G,βˉ), le produit f∗g fourni par (15) est limite uniforme de fonctions de K(G), donc appartient à K(G).
Corollaire
Soient f∈L2(G,β), g∈L2(G,β). Alors f et g sont convolables. L'une des convolées f∗g appartient à K(G) et sa valeur en e est ∫Gf(s)g(s)dβ(s).
Il suffit de faire p=q=2 dans la prop. 15 et d'appliquer (16).
On ne suppose plus β invariante à gauche. Soit ρ une fonction >0 finie semi-continue inférieurement sur G telle que ρ(st)≤ρ(s)ρ(t) quels que soient s,t dans G. On note Lρ(G,β) l'ensemble des classes de fonctions complexes sur G intégrables pour ρ.β. Par l'application f→f.β, Lρ(G,β) s'identifie à l'ensemble des éléments de Mρ(G) qui sont de base β (ensemble qui est indépendant du choix de β). Si on pose
∥f∥ρ=∫G∣f(s)∣ρ(s)dβ(s)
pour f∈Lρ(G,β), cette identification est compatible avec les normes, donc Lρ(G,β) apparaît comme une sous-algèbre normée complète de Mρ(G). C'est même un idéal bilatère de Mρ(G) d'après la prop. 10 du § 3, no 2. (Pour ρ=1, on retrouve une des assertions du no 4). En particulier, L1(G,β) s'identifie à un idéal bilatère fermé de M1(G).
Proposition 16
Soit U une représentation continue de G dans un espace de Banach E. Posons ρ(s)=∥U(s)∥ pour tout s∈G. Pour toute f∈Lρ(G,β), posons U(f)=U(f.β). Alors f→U(f) est une représentation linéaire de l'algèbre Lρ(G,β) dans E, telle que ∥U(f)∥≤∥f∥ρ.
Ceci résulte du § 2, no 6, et du § 3, no 3, prop. 11.
6. Applications.
Proposition 17
Soient G un groupe localement compact, A une partie de G, mesurable et non localement négligeable pour une mesure de Haar. Alors A.A^{-1} est un voisinage de e.
Soit β une mesure de Haar à gauche. Il existe une partie compacte K de G telle que B = A ∩ K soit intégrable de mesure > 0 pour β. Appliquons le cor. de la prop. 15 avec f=g=φB. La fonction F=φB∗φ~B est continue et > 0 en e. Donc il existe un voisinage V de e tel que F(x)>0 pour x∈V. Or
F(x)=∫φB(s)φB(x−1s)dβ(s)=β(B∩xB).
Donc, pour x∈V, on a B∩xB=∅, d'où x∈B.B−1. Donc V⊂B.B−1⊂A.A−1.
Corollaire 1
Soit H un sous-groupe de G mesurable pour une mesure de Haar β. Alors H est, soit ouvert, soit localement β-négligeable.
Car H=H.H−1, donc, si H n'est pas localement β-négligeable, H contient un voisinage de e (prop. 17) et est par suite ouvert (Top. Gén., chap. III, 3e éd., § 2, no 1, cor. de la prop. 4).
Corollaire 2
Soit L une partie de G stable pour la multiplication et dont le complémentaire est localement négligeable pour une mesure de Haar β. Alors L=G.
En effet, L−1 et L∩L−1 sont de complémentaires localement β-négligeables. Or L∩L−1 est un sous-groupe, donc est ouvert (cor. 1) et par suite fermé. Donc G−(L∩L−1), qui est ouvert et localement β-négligeable, est vide. Donc G=L∩L−1.
Proposition 18
Soient G un groupe localement compact, Γ un ensemble muni d'une multiplication (u,v)→uv et d'une topologie séparée telles que : 1) la topologie de Γ est invariante par les translations ; 2) la restriction de la multiplication à toute partie compacte de Γ est continue.
Soit f:G→Γ une application de G dans Γ telle que f(xy)=f(x)f(y) pour x,y dans G, et mesurable pour une mesure de Haar β de G. Alors f est continue.
Posons g(x)=f(x−1) pour x∈G. Comme f et g sont β-mesurables, il existe une partie compacte K non β-négligeable de G telle que les restrictions de f et g à K soient continues. L’application (x,y)→f(xy−1)=f(x)g(y) de K×K dans Γ est continue parce que la multiplication de Γ est continue sur f(K)×g(K); or cette application s’écrit φ∘ψ, où ψ est l’application (x,y)→xy−1 de K×K sur K.K−1, et où φ est la restriction de f à K.K−1. Soit R la relation d’équivalence définie sur K×K par ψ. L’application ψ′ de (K×K)/R sur K.K−1 déduite de ψ par passage au quotient est continue, donc (K×K)/R est séparé et ψ′ est un homéomorphisme. Comme φ∘ψ est continue, on voit que la restriction de f à K.K−1 est continue. Or K.K−1 est un voisinage de e (prop. 17), donc f est continue en e. Pour tout x0∈G, on a f(x0x)=f(x0)f(x), donc f est continue en x0 parce que la topologie de Γ est invariante par translations.
Corollaire 1
Soient G un groupe localement compact, β une mesure de Haar de G, E un espace localement convexe tonnelé séparé, U une représentation linéaire de G dans E, telle que U(s)∈L(E;E) pour tout s∈G, β-mesurable quand on munit L(E;E) de la topologie de la convergence simple. Alors U est une représentation linéaire continue.
Soit Γ le groupe des automorphismes de E, muni de la topologie de la convergence simple. Cette topologie est séparée et invariante par translations. Soit K une partie compacte de Γ. Alors K est bornée dans L(E;E) muni de la topologie de la convergence simple, donc équicontinue (Esp.vect.top., chap. III, § 3, n° 6, th. 2); donc l’application (u,v)→v∘u de K×K dans L(E;E) est continue (loc.cit., § 4, cor. 1 de la prop. 9). Donc, pour tout x∈E, l’application s→U(s)x de G dans E est continue (prop. 18). Comme E est tonnelé, U est continue (§2,n°1,prop.1).
Corollaire 2
Soient G un groupe localement compact, β une mesure de Haar sur G, E un espace de Banach de type dénombrable, U une représentation linéaire de G dans E, telle que U(s)∈L(E;E) pour tout s∈G. Soit (am) une suite totale dans E, et soit (an′) une suite partout dense dans la boule unité B' du dual E' de E, munie de la topologie faible. On suppose que les fonctions s→⟨U(s)am,an′⟩ sur G sont β-mesurables. Alors U est une représentation linéaire continue.
Montrons d’abord que pour tout z′∈E′, les fonctions numériques
s→⟨U(s)am,z′⟩
sont β-mesurables ; on peut se borner au cas où ∥z′∥≤1, et comme B' est métrisable pour la topologie faible (Esp. vect. top., chap. IV, § 5, n° 1, prop. 2), il existe une suite (ank′) extraite de (an′) et qui converge faiblement vers z′; la fonction
s→⟨U(s)am,z′⟩
est donc limite d’une suite de fonctions β-mesurables d’où notre assertion. On en conclut que l’application s→U(s)am de G dans E est β-mesurable pour tout m (chap. IV, § 5, n° 5, prop. 10). D’autre part, il existe une suite (bm) d’éléments de E, combinaisons linéaires des ai, qui est partout dense dans la boule unité de E. Pour tout s∈G, on a ∥U(s)∥=supm∥U(s)bm∥, donc s→∥U(s)∥ est mesurable. Soit K une partie compacte de G et soit ε>0. Il existe une partie compacte K0 de K telle que β(K−K0)≤ε et que les restrictions à K0 des fonctions s→U(s)am et s→∥U(s)∥ soient continues. Alors les U(s) pour s∈K0 sont équicontinus et la topologie de la convergence simple induit sur U(K0) la topologie de la convergence simple dans l’ensemble des am (Esp. vect. top., chap. III, § 3, n° 5, prop. 5). Par suite l’application s→U(s) de K0 dans Ls(E;E) est continue. Il suffit alors d’appliquer le cor. 1.
7. Régularisation.
Proposition 19
Soient G un groupe localement compact, β une mesure positive =0 relativement invariante sur G, B une base du filtre des voisinages de e dans G, formée de voisinages compacts. Pour tout V∈B, soit fV une fonction continue ⩾0 sur G, de support contenu dans V, et telle que ∫fVdβ=1.
Alors, si μ est une mesure sur G, on a, dans M(G) muni de la topologie de la convergence compacte sur K(G),
μ=Vlim(μ∗fV)⋅β=Vlim(fV∗μ)⋅β
la limite étant prise suivant le filtre des sections de B.
Pour la topologie de la convergence compacte sur C(G), fV⋅β tend vers εe suivant le filtre des sections de B (§2, no 7, cor. 1 du lemme 4). Donc μ=limVμ∗(fV⋅β)=limV(fV⋅β)∗μ dans M(G) muni de la topologie de la convergence compacte sur K(G) (§3, no 3, cor. de la prop. 12).
Remarque 1
On voit donc que toute mesure sur G est limite de mesures admettant une densité continue par rapport à toute mesure de Haar (pour la topologie indiquée dans la prop. 19 et afortiori pour la topologie vague).
Remarque 2
Si G est métrisable, on peut prendre pour B une suite (Vn) de voisinages. Alors μ est limite de la suite des mesures (μ∗fVn)⋅β à densités continues. *Si G est un groupe de Lie réel, on peut prendre les fVn indéfiniment différentiables ; nous verrons plus tard qu’alors les densités μ∗fVn sont indéfiniment différentiables.
Proposition 20
On conserve les hypothèses et les notations de la prop. 19. Soient p∈[1,+∞], et g∈Lp(G,β). On a
g=Vlimg∗βfV=VlimfV∗βg
au sens de la norme Np, la limite étant prise suivant le filtre des sections de B.
Il suffit d’appliquer la prop. 6 (iii), et le §2, no 7, cor. 3 du lemme 4.
Remarque 3
D’après la prop. 15, les fonctions g∗fV, fV∗g appartiennent à K(G).
Corollaire
Soit W un sous-espace vectoriel fermé de L1(G,β). Pour que W soit un idéal à gauche (resp. à droite) de L1(G,β), il faut et il suffit que W soit invariant par les translations à gauche (resp. à droite) de G.
Supposons que W soit un idéal à gauche. Soient s∈G et g∈W. On a εs∗g=limνfν∗(εs∗g)=limν(fν∗εs)∗g, et (fν∗εs)∗g∈W, donc εs∗g∈W, donc γ(s)g∈W. Réciproquement, si W est invariant par les translations à gauche, on a μ∗βg∈W pour μ∈M1(G) et g∈W, donc W est a fortiori un idéal à gauche de L1(G,β). On raisonne de même pour les idéaux à droite.
Exemple
On prend G=R. Définissons une fonction Fn∈K(R) par
Fn(x)=(1−x2)nsi x∈[−1,1]
Fn(x)=0si x∈/[−1,1].
Soient An=∫−1+1Fn(x)dx, et Gn=An−1Fn. Il est immédiat que les mesures Gn(x)dx satisfont aux conditions du § 2, no 7, cor. 1 du lemme 4. Soit μ une mesure sur R dont le support soit contenu dans (−1/2,1/2). On a
(μ∗Gn)(x)=∫RGn(x−y)dμ(y)
=An−1∫−1/21/2Fn(x−y)dμ(y)
Si −21≤x≤21, on a alors
(μ∗Gn)(x)=An−1∫−1/21/2[1−(x−y)2]ndμ(y)
donc μ∗Gn coïncide dans (−1/2,1/2) avec un polynôme. En particulier, si f est une fonction continue à support contenu dans (−1/2,1/2), f∗Gn coïncide dans (−1/2,1/2) avec un polynôme ; par ailleurs, d’après la prop. 5 (iv), et le § 2, no 7, cor. 3 du lemme 4, f∗Gn converge uniformément vers f. *Si f est de classe Cr, les dérivées Ds(f∗Gn) tendent uniformément vers Dsf pour 0≤s≤r.∗