Exercice 11, § 3

Soit G un groupe localement compact ; sur $\mathscr{M}^1(G)$, désignons par $\mathscr{T}_I$ la topologie $\sigma(\mathscr{M}^1(G), \mathscr{K}(G))$, par $\mathscr{T}_{III}$ la topologie $\sigma(\mathscr{M}^1(G), C^\infty(G))$, et notons $\mathscr{M}_I, \mathscr{M}_{III}$ l’espace $\mathscr{M}^1(G)$ muni respectivement de $\mathscr{T}_I$ et $\mathscr{T}_{III}$.

a) Soient A une partie bornée de $\mathscr{M}_I$, B une partie relativement compacte de $\mathscr{M}_{III}$. Montrer que la restriction à $A \times B$ de l’application $(\mu, \nu) \to \mu * \nu$ de $\mathscr{M}_I \times \mathscr{M}_{III}$ dans $\mathscr{M}_I$ est continue (utiliser l’exerc. 10 pour se ramener à évaluer une intégrale $\int \int f(st) d\mu(s) d\nu(t)$ lorsque $f(st) = \sum_i u_i(s)v_i(t)$, avec $u_i$ et $v_i$ dans $\mathscr{K}(G)$).

b) Donner un exemple où G est compact (et par suite $\mathscr{T}_I = \mathscr{T}_{III}$) montrant que $(\mu, \nu) \to \mu * \nu$, considérée comme application de $\mathscr{M}_I \times \mathscr{M}_{III}$ dans $\mathscr{M}_I$, n’est pas hypocontinue relativement aux parties relativement compactes de $\mathscr{M}_I$ ni relativement aux parties relativement compactes de $\mathscr{M}_{III}$ (cf. exerc. 6).

c) Soient A, B deux parties relativement compactes de $\mathscr{M}_{III}$. Montrer que la restriction à $A \times B$ de l’application $(\mu, \nu) \to \mu * \nu$ de $\mathscr{M}_{III} \times \mathscr{M}_{III}$ dans $\mathscr{M}_{III}$ est continue (même méthode que dans a)).

d) On désigne par E le sous-espace de $\mathbf{R}^G$ formé des combinaisons linéaires de fonctions caractéristiques de parties ouvertes de G, par $\mathscr{T}_{IV}$ la topologie $\sigma(\mathscr{M}^1(G), E)$, par $\mathscr{M}_{IV}$ l’espace $\mathscr{M}^1(G)$ muni de $\mathscr{T}_{IV}$. On rappelle que les topologies induites par $\mathscr{T}_{III}$ et $\mathscr{T}_{IV}$ sur une partie bornée de $\mathscr{M}^1(G)$ formée de mesures positives, sont en général distinctes (chap. V, § 5, exerc. 18 c)). On rappelle aussi que les parties compactes de $\mathscr{M}_{IV}$ sont les mêmes que celles de $\mathscr{M}^1(G)$ pour la topologie affaiblie $\sigma(\mathscr{M}^1(G), (\mathscr{M}^1(G))')$ sur l’espace de Banach $\mathscr{M}^1(G)$ (chap. VI, § 2, exerc. 12). Montrer que si A, B sont deux parties relativement compactes de $\mathscr{M}_{IV}$, la restriction à $A \times B$ de l’application $(\mu, \nu) \to \mu * \nu$ de $\mathscr{M}_{IV} \times \mathscr{M}_{IV}$ dans $\mathscr{M}_{IV}$ est continue. (Se borner au cas où A et B sont compacts, et commencer par prouver qu’alors l’image de $A \times B$ par l’application précédente est compacte pour $\sigma(\mathscr{M}^1(G), (\mathscr{M}^1(G))')$; on appliquera pour cela les th. d’Eberlein et de Šmulian (Esp. vect. top., chap. IV, § 2, exerc. 15 et 13), et on se ramènera ainsi à prouver que si $(\mu_n), (\nu_n)$ sont deux suites qui convergent vers 0 dans $\mathscr{M}_{IV}$, il en est de même de la suite $(\mu_n * \nu_n)$; utiliser la prop. 12 et l’exerc. 17 du chap. V, § 5. Pour prouver enfin que $(\mu, \nu) \to \mu * \nu$ est continue pour $\mathscr{T}_{IV}$, utiliser c) et le fait que $\mathscr{T}_{III}$ est moins fine que $\mathscr{T}_{IV}$.

e) On prend $G = \mathbf{R}^2$; soient $a, b$ les vecteurs de la base canonique de $G$ sur $\mathbf{R}$, $\rho_n$ la mesure sur $I = [0, \pi]$ dans $\mathbf{R}$ ayant pour densité par rapport à la mesure de Lebesgue la fonction $\sin(2^n x)$, $\mu_n$ la mesure $\rho_n \otimes \varepsilon_0$ sur $\mathbf{R} \times \mathbf{R}$; soit d'autre part $\nu_n = \varepsilon_{b/2^n} - \varepsilon_0$ sur $G$. Montrer que la suite $(\mu_n)$ tend vers 0 dans $\mathscr{M}_{IV}$ et que la suite $(\nu_n)$ tend vers 0 dans $\mathscr{M}_{III}$, mais que la suite $(\mu_n * \nu_n)$ ne tend pas vers 0 dans $\mathscr{M}_{IV}$ (cf. chap. V, § 5, exerc. 18).

f) Donner un exemple où $G$ est compact et où $(\mu, \nu) \to \mu * \nu$ considérée comme application de $\mathscr{M}_{IV} \times \mathscr{M}_{IV}$ dans $\mathscr{M}_{IV}$, n'est pas hypocontinue relativement aux parties compactes de $\mathscr{M}_{IV}$ (même méthode que dans l'exerc. 6, en observant que pour un $f \in E$ donné il y a des parties compactes $H \subset \mathscr{M}_{IV}$ telles que l'ensemble des fonctions $t \to \int f(st)d\mu(t)$, où $\mu$ parcourt $H$, soit de rang infini sur $\mathbf{R}$).