Dans le reste de ce paragraphe, nous noterons $\Gamma$ l’ensemble des mesures positives $\neq 0$ sur $G$ vérifiant les conditions du lemme 1, et pour tout $\alpha \in \Gamma$, nous noterons $H_\alpha$ le sous-groupe fermé de $G$, support de $\alpha$.

En effet, si $\varphi \in \mathscr{K}_+(X)$ est une fonction de support contenu dans V et telle que $\int \varphi(x) d\alpha_0(x) > 0$, il existe par définition un ensemble $M \in \Phi$ tel que $\int \varphi(x) d\alpha(x) > 0$ pour toute $\alpha \in M$, ce qui entraîne $V \cap S_\alpha \neq \varnothing$.

Remplaçant au besoin $\Phi$ par un filtre plus fin, on peut supposer que s est valeur limite de $\xi \to t_\xi$ suivant $\Phi$; en vertu du lemme 1, on a $\delta(t_\xi)\alpha(\xi) = \alpha(\xi)$ pour tout $\xi \in E$, et la conclusion résulte de la continuité de l’application $(u, \lambda) \to \delta(u)\lambda$ dans $G \times \mathscr{M}_+(G)$ (§ 3, no 3, prop. 13).

Pour prouver la prop. 1, il suffit, en vertu du lemme 1, de montrer que, si un filtre $\Psi$ sur $\Gamma$ converge vaguement vers une mesure $\alpha_0 \neq 0$ et si s appartient au support de $\alpha_0$, on a $\delta(s)\alpha_0 = \alpha_0$. Or, pour tout voisinage V de s dans G, il existe $M \in \Psi$ tel que, pour toute $\alpha \in M$, on ait $V \cap H_\alpha \neq \varnothing$, en vertu du lemme 2. Pour tout voisinage V de s et toute $\alpha \in \Gamma$, soit alors $t_{V,\alpha}$ un point de $V \cap H_\alpha$ si $V \cap H_\alpha \neq \varnothing$, un point quelconque de $H_\alpha$ dans le cas contraire ; si $\Theta$ est le filtre des sections du filtre des voisinages de s, $\Phi$ le filtre produit $\Theta \times \Psi$, s est valeur d’adhérence de $(V, \alpha) \to t_{V,\alpha}$ suivant $\Phi$ d’après ce qui précède. Comme d’autre part l’application $(V, \alpha) \to \alpha$ a pour valeur limite $\alpha_0$ suivant $\Phi$, la proposition résulte du lemme 3.

L’ensemble $\Gamma_\varphi$ est l’intersection de $\Gamma$ et de l’hyperplan de $\mathscr{M}(G)$ formé des $\alpha$ telles que $\int \varphi(x)d\alpha(x) = 1$; comme cet hyperplan est vaguement fermé dans $\mathscr{M}(G)$ et ne contient pas 0, il résulte de la prop. 1 que $\Gamma_\varphi$ est vaguement fermé dans $\mathscr{M}(G)$. Il suffit donc de montrer que, pour toute partie compacte K de G, on a $\sup_{\alpha \in \Gamma_\varphi} \alpha(K) < +\infty$ (chap. III, § 2, n° 7, prop. 9).

Or, soit U le voisinage ouvert de e dans G défini par l’inégalité $\varphi(x) > \varphi(e)/2$; comme $1 = \int \varphi(x)d\alpha(x) \geq \int_U \varphi(x)d\alpha(x)$ pour $\alpha \in \Gamma_\varphi$, on voit que, si l’on pose $c = 2/\varphi(e)$, on a $\alpha(U) \leq c$ pour toute $\alpha \in \Gamma_\varphi$. Soit V un voisinage ouvert symétrique de e dans G tel que $V^2 \subset U$; montrons que l’on a $\alpha(Vx) \leq c$ pour tout $x \in G$ et toute $\alpha \in \Gamma_\varphi$. En effet, cette relation est triviale si $Vx$ ne rencontre pas le support $H_\alpha$ de $\alpha$; si par contre il existe un $h \in Vx \cap H_\alpha$, on a $h = vx$ pour un $v \in V$, d’où

et comme $\delta(h)\alpha = \alpha$, il vient $\alpha(Vx) \leq \alpha(Uh) = \alpha(U) \leq c$. Soit alors $(x_i)_{1 \leq i \leq n}$ une suite de points de K telle que les $Vx_i$ forment un recouvrement de K ; il résulte de ce qui précède que $\alpha(K) \leq \sum_{i=1}^n \alpha(Vx_i) \leq nc$ pour toute $\alpha \in \Gamma_\varphi$; C.Q.F.D.

Comme l’application $\alpha \to \langle \varphi, \alpha \rangle$ est vaguement continue, il suffit de remarquer que l’on a $\langle \varphi, \alpha \rangle \neq 0$ pour toute mesure $\alpha \in \Gamma$, puisque e appartient au support $H_\alpha$ de $\alpha$ et que $\varphi(e) > 0$.

Pour toute $\alpha \in \Gamma^0$ et toute fonction $f \in \mathscr{K}(G)$, posons

où le produit de convolution est pris relativement à la mesure de Haar à droite $\mu$ et où l’on utilise le fait que $\tilde{\alpha} = \alpha$ (§ 4, n° 4, formule (11)). On sait (chap. VII, § 2, n° 1, prop. 2), que l’application $f \to f_\alpha$ de $\mathscr{K}_+(G)$ dans $\mathscr{K}_+(Q_\alpha)$ est surjective ; on a donc, en vertu de (2),

où l’on pose

(3) $\|f_\alpha\| = \sup_{\dot{x} \in Q_\alpha} |f_\alpha(\dot{x})| = \sup_{x \in G} |(f * \alpha)(x)|.$

Pour établir la proposition, il suffira de montrer que, pour $f \in \mathscr{H}_+(G)$ donnée, l’application $\alpha \to \|f_\alpha\|$ est vaguement continue. Or, soit K le support de $f$; la fonction $f * \alpha$ a son support contenu dans $KH_\alpha$ et est invariante à droite par $H_\alpha$; par suite

La conclusion résulte donc de ce que l’application $\alpha \to f * \alpha$ de $\mathscr{M}_+(G)$ muni de la topologie vague, dans $\mathscr{C}(G)$, muni de la topologie de la convergence compacte, est continue (§ 4, n° 2, Remarque 1).

Rappelons que si, pour une mesure $\alpha \in \Gamma^0$, $\|\mu_\alpha\|$ est finie, G est nécessairement unimodulaire (chap. VII, § 2, n° 6, cor. 3 du th. 3).

Pour toute mesure $\alpha \in \Gamma^0(g)$, rappelons (chap. VII, § 2, n° 3, prop. 5) que la fonction

est définie $\mu_\alpha$-presque partout sur $Q_\alpha$, est $\mu_\alpha$-intégrable, et que l’on a

(4) $\int_G g(x)d\mu(x) = \int_{Q_\alpha} g_\alpha(\dot{x})d\mu_\alpha(\dot{x}).$

En vertu de la prop. 4, il suffit de démontrer que, dans $\Gamma^0(g)$, $\alpha \to \|\mu_\alpha\|$ est semi-continue supérieurement. Une mesure $\alpha \in \Gamma^0(g)$ étant fixée, soit K une partie compacte de G. Il existe sur $Q_\alpha$ une fonction continue à support compact, prenant ses valeurs dans $(0, 1)$, égale à 1 dans l’ensemble compact $\pi_\alpha(K)$; comme l’application $f \to f_\alpha$ de $\mathscr{K}_+(G)$ dans $\mathscr{K}_+(Q_\alpha)$ est surjective (chap. VII, § 2, no 1, prop. 2), on voit qu’il existe une fonction $f \in \mathscr{K}_+(G)$ telle que l’on ait

Comme $\beta \to f * \beta$ est une application continue de $\mathscr{M}_+(G)$, muni de la topologie vague, dans $\mathscr{C}(G)$ muni de la topologie de la convergence compacte ($§ 4$, no 2, Remarque 1), on voit que, pour tout $\varepsilon > 0$, l’ensemble $U_\varepsilon$ des $\beta \in \Gamma^0(g)$ telles que l’on ait

est un voisinage ouvert de $\alpha$ dans $\Gamma^0(g)$; pour toute $\beta \in U_\varepsilon$, on a alors en vertu de la formule (2)

Le nombre $\varepsilon > 0$ étant donné, choisissons une fonction $h \in \mathscr{K}_+(G)$ telle que $\int_G |g(x) - h(x)|d\mu(x) \leq \varepsilon$, et prenons dans ce qui précède $K = \operatorname{Supp}(h)$. Pour tout $\beta \in \Gamma^0(g)$, on a par hypothèse $g_\beta(\dot{x}) \geq 1$ presque partout (pour $\mu_\beta$) dans $Q_\beta$, donc

en vertu de (4); comme $h$ est nulle en dehors de $K$, et $a$ fortiori en dehors de $KH_\beta$, il vient

en combinant ce résultat avec (5), on voit que l’on a

dès que $\beta \in U_\varepsilon$, ce qui termine la démonstration.

En effet, soit $g \in \mathscr{K}_+(G)$ une fonction telle que $g(x) \geq 1/c$ pour $x \in KV$. Pour tout $x \in K$, on a

$\alpha$ vérifiant les conditions de l’énoncé ; comme en outre $\pi_\alpha(K) = Q_x$ on a $\alpha \in \Gamma^0(g)$, d’où le corollaire.

En effet, pour $a \in A$ et $\alpha \in N_A$, on a

et comme $\pi_\alpha(A) = Q_\alpha$, on a $N_A \subset \Gamma^0(\varphi_A)$, et le corollaire résulte donc de la prop. 5.

(i) L’ensemble $\Sigma^0$ des sous-groupes fermés unimodulaires de $G$ est fermé dans $\Sigma$ (donc compact).

(ii) Si $G$ est engendré par un voisinage compact de $e$, l’ensemble $\Sigma_c^0$ des sous-groupes fermés unimodulaires $H$ de $G$ tels que l’espace quotient $G/H$ soit compact, est ouvert dans $\Sigma^0$ (donc localement compact).

(iii) Pour tout voisinage ouvert relativement compact $U$ de $e$ dans $G$, l’ensemble $D_U$ des sous-groupes discrets $H$ de $G$ tels que $H \cap U = \{e\}$ est fermé dans $\Gamma^0$ (donc compact).

Il résulte de la prop. 3 du no 1 que $\Sigma$ est homéomorphe à $\Gamma_\varphi$, donc compact en vertu de la prop. 2 du no 1. On a noté en outre au début du no 2 que l’ensemble $\Gamma^0$ des mesures $\alpha \in \Gamma$ telles que $H_\alpha$ soit unimodulaire est fermé dans $\Gamma$; comme $\Gamma^0$ est stable par les homothéties de rapport $> 0$, l’image $\Sigma^0$ de $\Gamma^0$ dans $\Sigma$ est une partie fermée de $\Sigma$, ce qui prouve (i).

La propriété (ii) sera conséquence de la proposition suivante :

Avec les notations de la prop. 5 du no 2, on a, pour $g \in \mathscr{K}_+(G)$

En effet, si $K$ est le support de $g$, la relation $\int g(xs)d\alpha(s) \geqslant 1$ pour tout $x \in G$ entraîne $KH_\alpha = G$, l’intégrale étant évidemment nulle dans le complémentaire de $KH_\alpha$, donc $G/H_\alpha = \pi_\alpha(K)$ est compact. Etant donnée une mesure $\alpha \in \Gamma_c^0$, il suffira donc de définir une fonction $g \in \mathscr{K}_+(G)$ telle que $\Gamma^0(g)$ soit un voisinage de $\alpha$ dans $\Gamma^0$. Puisque $G/H_\alpha$ est compact et que l’application canonique $f \to f_\alpha$ de $\mathscr{K}_+(G)$ dans $\mathscr{K}_+(G/H_\alpha)$ est surjective (chap. VII, § 2, n° 2, Remarque), il existe une fonction $g \in \mathscr{K}_+(G)$ telle que $\int g(xs)d\alpha(s) = 2$ pour tout $x \in G$. Soient K le support (compact) de $g$, L un voisinage compact symétrique de e dans G engendrant G ; l’application $\beta \to g * \beta$ de $\mathscr{M}_+(G)$ dans $\mathscr{C}(G)$ étant vaguement continue ($§ 4$, n° 2, Remarque 1), il existe un voisinage W de $\alpha$ dans $\Gamma^0$ tel que l’on ait

pour toute $\beta \in W$ et tout $x \in LK$. Le premier membre de (7) étant nul en dehors de $KH_\beta$, la relation $\beta \in W$ implique

d’où l’on déduit, par récurrence sur $n$, $L^nK \subset KH_\beta$ pour tout entier $n > 0$; comme L engendre G, on a donc $G = KH_\beta$ pour toute mesure $\beta \in W$, ce qui prouve que $W \subset \Gamma_c^0$. D’autre part, le premier membre de (7) étant invariant à droite par $H_\beta$, l’inégalité (7) est aussi valable pour $x \in LKH_\beta = G$; donc $W \subset \Gamma^0(g)$, ce qui démontre la proposition.

Enfin, (iii) sera conséquence de la proposition suivante :

Comme $D_U$ est l’image de $N_U$ par l’application continue canonique $\Gamma \to \Sigma$, l’assertion (iii) du th. 1 résultera aussitôt de la prop. 7, $a$.

Pour démontrer la prop. 7, notons que $N_U$ peut être définie comme la partie de $\Gamma^0$ formée des $\alpha$ telles que l’on ait à la fois

Or, si $A$ est compact (resp. ouvert relativement compact) dans $G$, l’application $\alpha \to \alpha(A)$ de $\mathscr{M}_+(G)$ dans $\mathbf{R}$ est semi-continue supérieurement (resp. inférieurement) pour la topologie vague (chap. IV, § 1, no 1, prop. 4 et § 4, no 4, Remarque) ; on voit donc que $N_U$ est une partie fermée de $\Gamma^0$. De plus, soit $\varphi \in \mathscr{K}_+(G)$ une fonction telle que $\varphi(e) = 1$ et $\varphi(x) = 0$ dans $G - U$; il est clair que $\int \varphi(x) d\alpha(x) = 1$ pour toute $\alpha \in N_U$; la prop. 2 du no 1 montre donc que $N_U$ est un ensemble compact, ce qui démontre a). Soit d’autre part $V$ un voisinage ouvert relativement compact de $e$ dans $G$ tel que $\overline{V} \subset U$, et soit $\varphi \in \mathscr{K}_+(G)$, de support contenu dans $U$ et telle que $\varphi(x) = 1$ dans $V$. On a $\alpha(\varphi) = 1$ pour $\alpha \in N_U$, et il existe donc un voisinage $W$ de $\alpha$ dans $N$ tel que l’on ait $\beta(\varphi) < 2$ pour $\beta \in W$; il est clair alors que l’on a $W \subset N_V$, donc $N_V$ est un voisinage de $N_U$. Comme les $N_U$ recouvrent $N$, cela démontre b). Enfin, toute partie compacte $M$ de $N$ est contenue dans une réunion finie d’ensembles $N_{U_i}$ ($1 \leqslant i \leqslant n$) et comme $\bigcup_i N_{U_i} \subset N_U$, où $U = \bigcap_i U_i$, cela démontre c).

(L) Il existe un voisinage de e dans G qui ne contient aucun sous-groupe fini de G non réduit à e. Alors on a les propriétés suivantes : (i) L’ensemble D des sous-groupes discrets de G est localement fermé dans Σ (ce qui équivaut à dire qu’il est localement compact). (ii) Pour qu’une partie fermée A de D soit compacte, il faut et il suffit qu’il existe un voisinage U de e dans G tel que H ∩ U = {e} pour tout sous-groupe H ∈ A. (iii) Si en outre G est engendré par un voisinage compact de e, l’ensemble D_c des sous-groupes discrets H de G tels que G/H soit compact est localement fermé dans Σ (donc localement compact). On a D_c = D ∩ Σ_c^0, donc (iii) est conséquence de (i) et du th. 1, (ii) du n° 3. Avec les notations du n° 3, prop. 7, il suffit, pour démontrer (i) et (ii), de prouver que :

Il nous suffira de montrer que l’on a, pour $\beta \in W$,

(8)

Supposons en effet ce point établi : alors, pour $x$ et $y$ dans $V \cap H_\beta$, on a $xy^{-1} \in V^2 \cap H_\beta$; mais, en vertu de (8), cela entraîne $xy^{-1} \in V \cap H_\beta$; autrement dit, $V \cap H_\beta$ est un sous-groupe de G, qui est évidemment discret et compact, donc fini ; mais en vertu du choix de $V_0$, cela entraîne bien $V \cap H_\beta = \{e\}$.

Raisonnons par l’absurde et supposons donc qu’il existe un point $z$ de $V^2 - V$ appartenant à $H_\beta$; en vertu du choix de U et V, on a $\psi(sz^{-1}) + \psi(s) \leq \varphi(s)$ dans G, la relation $z \notin U^2$ entraînant $Uz \cap U = \varnothing$. Comme

on en déduit $2\beta(\psi) \leq \beta(\varphi) \leq \alpha(\varphi) + \varepsilon$; mais on a aussi et par construction $\alpha(\varphi) = \alpha(\psi) = \alpha(\{e\})$. On arrive ainsi à une contradiction dès que $\varepsilon < \alpha(\{e\})/3$. C.Q.F.D.

En termes imagés, on dit qu’un groupe G vérifiant la condition (L) n’a pas de sous-groupes finis arbitrairement petits. On peut montrer que tout groupe de Lie vérifie la condition (L); mais cette condition n’est pas caractéristique des groupes de Lie; par exemple le groupe multiplicatif des entiers $p$-adiques congrus à 1 mod. $p$ satisfait à (L).

(i) Il existe un voisinage ouvert U de e dans G tel que H_α ∩ U = {e} pour toute α ∈ A.

(ii) Il existe une constante k telle que μ_α(G/H_α) ≤ k pour toute α ∈ A.

Si A ⊂ N_c est relativement compacte dans N_c, elle l’est a fortiori dans N et la nécessité des conditions (i) et (ii) résulte donc du n° 3, prop. 6 et 7 (sans supposer G commutatif). Réciproquement, supposons que A ⊂ N_c vérifie ces conditions ; si A est l’adhérence de A dans N, Ā est compacte en vertu du n° 3, prop. 7 ; en outre, comme α → ||μ_α|| est semi-continue inférieurement dans Γ^0 pour la topologie vague (n° 2, prop. 4), la condition (ii) implique que l’on a aussi ||μ_α|| ≤ k pour toute α ∈ Ā. Or, puisque G est commutatif, μ_α = μ/α est une mesure de Haar sur le groupe G/H_α, et G/H_α est donc compact pour toute α ∈ Ā (chap. VII, § 1, n° 2, prop. 2). Cela signifie que Ā ⊂ N_c, donc A est relativement compacte dans N_c.

(i) Il existe un voisinage ouvert U de e dans G tel que H ∩ U = {e} pour tout H ∈ A.

(ii) Il existe une constante k telle que v(H) ≤ k pour tout H ∈ A.

Compte tenu de la prop. 9, cela résulte aussitôt de ce que D_c est l’image de N_c par la bijection canonique de N sur D, et de ce que, moyennant les hypothèses faites, cette bijection est un homéomorphisme (n° 4, prop. 8).