Bourbaki

§ 2. Représentations linéaires des groupes.

1. Représentations linéaires continues.

Soient GG un groupe topologique, EE un espace localement convexe, UU une représentation linéaire de GG dans EE.

Définition 1

(i) On dit que UU est séparément continue si, pour tout s∈Gs \in G, U(s)U(s) est un endomorphisme continu de EE, et si, pour tout x∈Ex \in E, l’application s→U(s)xs \to U(s)x de GG dans EE est continue.

(ii) On dit que UU est continue si (s,x)→U(s)x(s, x) \to U(s)x est une application continue de G×EG \times E dans EE.

(iii) On dit que U est équicontinue si elle est continue et si l’ensemble des endomorphismes U(s), où s parcourt G, est équicontinu.

Remarque 1

Dire que U est séparément continue signifie que s → U(s) est une application continue de G dans l’espace L(E;E)\mathscr{L}(E; E) des endomorphismes continus de E, muni de la topologie de la convergence simple.

Remarque 2

Dire que U est continue équivaut à l’ensemble des trois conditions suivantes :

a) pour tout s ∈ G, U(s) est continu ; b) il existe un voisinage V de e tel que U(V) soit équicontinu ; c) il existe un ensemble total D dans E tel que, pour tout x ∈ D, l’application s → U(s)x soit continue.

Ces conditions sont évidemment nécessaires. Réciproquement, supposons les conditions a), b), c) satisfaites. Sur U(V), la topologie de la convergence simple est identique à la topologie de la convergence simple dans D (Esp. vect. top., chap. III, § 3, no 5, prop. 5). Donc l’application (s, x) → U(s)x de V × E dans E est continue (Top. gén., chap. X, 2e éd., § 2, no 1, cor. 3 de la prop. 1). Comme U(s0s)x=U(s0)(U(s)x)U(s_0 s)x = U(s_0)(U(s)x) quels que soient s0∈G,s∈G,x∈Es_0 \in G, s \in G, x \in E, on voit que U est continue.

Lorsque G est localement compact, les conditions a) et b) sont équivalentes à la condition :

a’) pour toute partie compacte K de G, U(K) est équicontinu.

Remarque 3

Supposons que U soit une représentation linéaire continue G dans E. Pour tout s ∈ G, soit U^(s)\widehat{U}(s) le prolongement continu de U(s) au complété E^\widehat{E} de E. Alors U^\widehat{U} est une représentation linéaire de G dans E^\widehat{E}, satisfaisant aux conditions a) et c) de la Remarque 2, et aussi à la condition b) d’après Top. gén., chap. X, 2e éd., § 2, no 2, prop. 4. Donc U^\widehat{U} est une représentation linéaire continue de G dans E^\widehat{E}.

Remarque 4

Si E est un espace normé, on dit que U est isométrique lorsque ∥U(s)∥=1\|U(s)\| = 1 pour tout s∈Gs \in G. Il suffit pour cela que ∥U(s)∥≤1\|U(s)\| \leq 1 pour tout s∈Gs \in G, car on a alors

1=∥1∥≤∥U(s)∥⋅∥U(s−1)∥, 1 = \|1\| \leq \|U(s)\| \cdot \|U(s^{-1})\|,
d'où ∥U(s)∥=∥U(s−1)∥=1\|U(s)\| = \|U(s^{-1})\| = 1 pour tout s∈Gs \in G.

Proposition 1

Si G est localement compact et si E est tonnelé, toute représentation linéaire U séparément continue de G dans E est continue.

En effet, pour toute partie compacte K de G, U(K)U(K) est compact pour la topologie de la convergence simple (Remarque 1), donc est équicontinu (Esp. vect. top., Chap. III, § 3, no 6, th. 2); on applique alors la Remarque 2.

Lemme 1

Soient G un groupe localement compact, ρ\rho une fonction finie semi-continue inférieurement ≥0\geq 0 sur G telle que ρ(st)≤ρ(s)ρ(t)\rho(st) \leq \rho(s)\rho(t) quels que soient s, t dans G. Alors ρ\rho est majorée dans toute partie compacte de G.

Il existe une partie ouverte non vide U de G telle que ρ\rho soit majorée dans U (Top. gén., chap. IX, 2e éd., § 5, no 4, th. 2). Soit K une partie compacte de G. Alors K est recouvert par un nombre fini d'ensembles s1U,…,snUs_1 U, \ldots, s_n U. Pour tout x∈Ux \in U, on a ρ(six)≤ρ(si)ρ(x)\rho(s_i x) \leq \rho(s_i) \rho(x), donc ρ\rho est majorée dans siUs_i U, donc dans K.

Lemme 2

Soient G un groupe topologique, U une représentation linéaire de G dans un espace normé E, A une partie partout dense de E. On suppose que, pour tout s∈Gs \in G, U(s)U(s) est continu et que, pour tout x∈Ax \in A, s→U(s)xs \to U(s)x est une application continue de G dans E. Alors la fonction s→g(s)=∥U(s)∥s \to g(s) = \|U(s)\| sur G est semi-continue inférieurement et vérifie g(st)≤g(s)g(t)g(st) \leq g(s)g(t).

Soit B la boule unité de E. On a g(s)=sup⁡x∈B∩A∥U(s)x∥g(s) = \sup_{x \in B \cap A} \|U(s)x\|, et chaque fonction s→∥U(s)x∥s \to \|U(s)x\| est continue sur G, donc gg est semi-continue inférieurement. D'autre part,

g(st)=∥U(s)U(t)∥≤∥U(s)∥⋅∥U(t)∥=g(s)g(t). g(st) = \|U(s)U(t)\| \leq \|U(s)\| \cdot \|U(t)\| = g(s)g(t).

Proposition 2

Soient G un groupe localement compact, U une représentation linéaire de G dans un espace normé E. Soit A une partie partout dense de E. On suppose que, pour tout s ∈ G, U(s) est continu et que, pour tout x ∈ A, s → U(s)x est une application continue de G dans E. Alors U est continue. En effet, \|U(s)\| est majoré sur toute partie compacte de G d’après les lemmes 1 et 2, et l’on applique alors la Remarque 2.

2. Représentation contragrédiente.

Soit U une représentation linéaire séparément continue de G dans E. Soit E’ le dual de E. L’application s → tU(s)^tU(s) est une représentation linéaire dans E’ du groupe G0G^0 opposé à G ; nous dirons que cette représentation est la transposée de U. L’application s→tU(s−1)=tU(s)−1s \to ^tU(s^{-1}) = ^tU(s)^{-1} est une représentation linéaire de G dans E’, appelée contragrédiente de U.

Lemme 3

Soient X un espace localement compact, Y et Z des espaces topologiques, φ une application continue de X×YX \times Y dans Z, φx\varphi_x l’application y→φ(x,y)y \to \varphi(x, y) de Y dans Z. Les espaces C(Y)\mathscr{C}(Y), C(Z)\mathscr{C}(Z) étant munis de la topologie de la convergence compacte, l’application (x,f)→f∘φx(x, f) \to f \circ \varphi_x de X×C(Z)X \times \mathscr{C}(Z) dans C(Y)\mathscr{C}(Y) est continue.

Il suffit évidemment de considérer le cas où X est compact. Soient (x0,f0)∈X×C(Z)(x_0, f_0) \in X \times \mathscr{C}(Z), K une partie compacte de Y, et ε>0\varepsilon > 0. Soit K′=φ(X×K)K' = \varphi(X \times K). Comme f0∘φf_0 \circ \varphi est uniformément continue dans X×KX \times K, il existe un voisinage W de x0x_0 tel que ∣f0(φ(x,y))−f0(φ(x0,y))∣≤ε|f_0(\varphi(x, y)) - f_0(\varphi(x_0, y))| \leq \varepsilon pour x∈Wx \in W et y∈Ky \in K. D’autre part, si l’on prend f∈C(Z)f \in \mathscr{C}(Z) telle que ∣f(z)−f0(z)∣≤ε|f(z) - f_0(z)| \leq \varepsilon pour tout z∈K′z \in K', on aura ∣f(φ(x,y))−f0(φ(x,y))∣≤ε|f(\varphi(x, y)) - f_0(\varphi(x, y))| \leq \varepsilon pour x∈Xx \in X, y∈Ky \in K, et par suite ∣f(φ(x,y))−f0(φ(x0,y))∣≤2ε|f(\varphi(x, y)) - f_0(\varphi(x_0, y))| \leq 2\varepsilon pour x∈Wx \in W et y∈Ky \in K. D’où le lemme.

Revenons alors aux notations antérieures.

Proposition 3

(i) Si U est séparément continue, tU^tU est séparément continue lorsqu’on munit E’ de la topologie faible σ(E′,E)\sigma(E', E).

(ii) Si G est localement compact et si U est continue, tU^tU est continue lorsqu’on munit E’ de la topologie de la convergence compacte.

L’assertion (i) est immédiate. L’assertion (ii) résulte du lemme 3 où l’on fait X=G, Y=Z=E, φ(s,x)=U(s)xX = G,\ Y = Z = E,\ \varphi(s, x) = U(s)x.

3. Exemple : représentations linéaires dans des espaces de fonctions continues.

Soit GG un groupe discret opérant à gauche sur un ensemble XX. Une fonction complexe χ\chi sur G×XG \times X est appelée un multiplicateur si l’on a

(1) χ(e,x)=1\chi(e, x) = 1 quel que soit x∈Xx \in X;

(2) χ(st,x)=χ(s,tx)χ(t,x)\chi(st, x) = \chi(s, tx)\chi(t, x) quels que soient s,ts, t dans G, x∈XG,\ x \in X.

On en déduit

(3) χ(t−1,tx)χ(t,x)=1\chi(t^{-1}, tx)\chi(t, x) = 1 quels que soient t∈G, x∈Xt \in G,\ x \in X,

et en particulier χ(t,x)≠0\chi(t, x) \neq 0 quels que soient t∈G, x∈Xt \in G,\ x \in X.

Pour toute fonction complexe ff définie sur XX et tout s∈Gs \in G, soit γχ(s)f\gamma_\chi(s)f la fonction complexe sur XX définie par

(4) (γχ(s)f)(x)=χ(s−1,x)f(s−1x)(\gamma_\chi(s)f)(x) = \chi(s^{-1}, x)f(s^{-1}x).

On a γχ(e)f=f\gamma_\chi(e)f = f, et

(γχ(s)γχ(s′)f)(x)=χ(s−1,x)(γχ(s′)f)(s−1x) (\gamma_\chi(s)\gamma_\chi(s')f)(x) = \chi(s^{-1}, x)(\gamma_\chi(s')f)(s^{-1}x)
=χ(s−1,x)χ(s′−1,s−1x)f(s′−1s−1x) = \chi(s^{-1}, x)\chi({s'}^{-1}, s^{-1}x)f({s'}^{-1}s^{-1}x)
=χ((ss′)−1,x)f((ss′)−1x)=(γχ(ss′)f)(x), = \chi((ss')^{-1}, x)f((ss')^{-1}x) = (\gamma_\chi(ss')f)(x),

donc γχ\gamma_\chi est une représentation linéaire de GG. Pour χ=1\chi = 1, on retrouve les endomorphismes γ(s)\gamma(s) (chap. VII, § 1, no 1, formule (3)).

Supposons maintenant GG et XX localement compacts, GG opérant continûment sur XX, et χ\chi continue sur G×XG \times X. Alors C(X)\mathscr{C}(X) et K(X)\mathscr{K}(X) sont stables pour les γχ(s)\gamma_\chi(s), d’où des représentations linéaires de GG dans C(X)\mathscr{C}(X) et K(X)\mathscr{K}(X) que nous noterons encore γχ\gamma_\chi.

Proposition 4

Les représentations linéaires γχ\gamma_\chi de GG dans C(X)\mathscr{C}(X) et K(X)\mathscr{K}(X) sont continues.

L’application (s,f)→(s,γ(s)f)(s, f) \to (s, \gamma(s)f) de G×C(X)G \times \mathscr{C}(X) dans G×C(X)G \times \mathscr{C}(X) est continue (n° 2, lemme 3). D’autre part, l’application (s,f)→χ(s,.)f(s, f) \to \chi(s, .)f de G×C(X)G \times \mathscr{C}(X) dans C(X)\mathscr{C}(X) est continue ; car, si ss tend vers s0s_0 dans GG, χ(s,.)\chi(s, .) tend vers χ(s0,.)\chi(s_0, .) uniformément dans toute partie compacte de XX ; si en outre ff tend vers f0f_0 dans C(X)\mathscr{C}(X), χ(s,.)f\chi(s, .)f tend vers χ(s0,.)f0\chi(s_0, .)f_0 uniformément dans toute partie compacte de XX, d’où notre assertion. Donc la représentation γχ\gamma_\chi de GG dans C(X)\mathscr{C}(X) est continue.

Montrons que la représentation γχ\gamma_\chi de GG dans K(X)\mathscr{K}(X) est continue. Comme K(X)\mathscr{K}(X) est limite inductive d’espaces de Banach, il est tonnelé (Esp. vect. top.Esp.\ vect.\ top., chap. III, § 1, n° 2, cor. 2 de la prop. 2), donc il suffit de prouver que γχ\gamma_\chi est séparément continue (n° 1, prop. 1). Or, soient HH une partie compacte de XX et s0∈Gs_0 \in G. Soient VV un voisinage compact de s0s_0 dans GG, et L=VHL = VH, qui est compact dans XX. Pour toute f∈K(X,H)f \in \mathscr{K}(X, H), le support de γχ(s0)f\gamma_\chi(s_0)f est contenu dans LL, et l’on a

sup⁡x∈X∣(γχ(s0)f)(x)∣≤sup⁡x∈L∣χ(s0−1,x)∣⋅sup⁡x∈X∣f(x)∣, \sup_{x \in X} |(\gamma_\chi(s_0)f)(x)| \leq \sup_{x \in L} |\chi(s_0^{-1}, x)| \cdot \sup_{x \in X} |f(x)|,

donc f→γχ(s0)ff \to \gamma_\chi(s_0)f est une application linéaire continue de K(X,H)\mathscr{K}(X, H) dans K(X,L)\mathscr{K}(X, L) ; il en résulte que f→γχ(s0)ff \to \gamma_\chi(s_0)f est une application linéaire continue de K(X)\mathscr{K}(X) dans lui-même (Esp. vect. top.Esp.\ vect.\ top., chap. II, § 2, n° 2, cor. de la prop. 1). D’autre part, la topologie de K(X,L)\mathscr{K}(X, L) est induite par celle de C(X)\mathscr{C}(X). D’après ce qui a déjà été démontré, l’application s→γχ(s)fs \to \gamma_\chi(s)f de VV dans K(X,L)\mathscr{K}(X, L) est continue. Ceci achève de prouver que γχ\gamma_\chi est séparément continue.

Proposition 5

Supposons que chaque fonction χ(s,.)\chi(s, .) soit bornée. Alors γχ\gamma_\chi laisse stable K(X)\mathscr{K}(X), et la représentation linéaire γχ\gamma_\chi de GG dans K(X)\mathscr{K}(X) est continue.

Il est clair que γχ\gamma_\chi laisse stable K(X)\mathscr{K}(X) et que chacun des γχ(s)\gamma_\chi(s) est continu dans K(X)\mathscr{K}(X). D’autre part, pour toute f∈K(X)f \in \mathscr{K}(X), s→γχ(s)fs \to \gamma_\chi(s)f est une application continue de GG dans K(X)\mathscr{K}(X) et a fortiori dans K(X)\mathscr{K}(X). Donc la représentation γχ\gamma_\chi dans K(X)\mathscr{K}(X) est continue (n° 1, prop. 2).

4. Exemple : représentations linéaires dans des espaces de mesures.

Soient toujours G un groupe localement compact, opérant continûment à gauche dans un espace localement compact X, et χ\chi un multiplicateur continu sur G×XG \times X. La représentation linéaire γχ\gamma_\chi de G dans H(X)\mathscr{H}(X) admet une représentation contragrédiente dans M(X)\mathscr{M}(X), que nous noterons encore γχ\gamma_\chi, et qui est définie par la formule suivante (où μ∈M(X)\mu \in \mathscr{M}(X), f∈H(X)f \in \mathscr{H}(X)) :

⟨γχ(s)μ,f⟩=⟨μ,γχ(s−1)f⟩=⟨χ(s,.)⋅μ,γ(s−1)f⟩=⟨γ(s)(χ(s,.)⋅μ),f⟩ \langle \gamma_\chi(s)\mu, f \rangle = \langle \mu, \gamma_\chi(s^{-1})f \rangle = \langle \chi(s, .) \cdot \mu, \gamma(s^{-1})f \rangle = \langle \gamma(s)(\chi(s, .) \cdot \mu), f \rangle

d'où

γχ(s)μ=γ(s)(χ(s,.)⋅μ)=(γ(s)χ(s,.))⋅(γ(s)μ). \gamma_\chi(s)\mu = \gamma(s)(\chi(s, .) \cdot \mu) = (\gamma(s)\chi(s, .)) \cdot (\gamma(s)\mu).

Remarquons que

(γ(s)χ(s,.))(x)=χ(s,s−1x). (\gamma(s)\chi(s, .))(x) = \chi(s, s^{-1}x).

La représentation linéaire γχ\gamma_\chi de G dans C(X)\mathscr{C}(X) admet une représentation contragrédiente dans l’espace C′(X)\mathscr{C}'(X) des mesures sur X à support compact, représentation que nous noterons encore γχ\gamma_\chi; les endomorphismes γχ(s)\gamma_\chi(s) de C′(X)\mathscr{C}'(X) sont les restrictions des endomorphismes γχ(s)\gamma_\chi(s) de M(X)\mathscr{M}(X).

Proposition 6

Si l’on munit M(X)\mathscr{M}(X) (resp. C′(X)\mathscr{C}'(X)) de la topologie de la convergence uniforme dans les parties compactes de H(X)\mathscr{H}(X) (resp. C(X)\mathscr{C}(X)), la représentation linéaire γχ\gamma_\chi de G dans M(X)\mathscr{M}(X) (resp. C′(X)\mathscr{C}'(X)) est continue.

Proposition 7

Supposons que chaque fonction χ(s,.)\chi(s, .) soit bornée. Alors γχ\gamma_\chi laisse stable M1(X)\mathscr{M}^1(X) et, si l’on munit M1(X)\mathscr{M}^1(X) de la topologie de la convergence uniforme dans les parties compactes de H(X)‾\overline{\mathscr{H}(X)}, la représentation linéaire γχ\gamma_\chi de G dans M1(X)\mathscr{M}^1(X) est continue.

Ces propositions résultent des prop. 3, 4, 5.

5. Exemple : représentations linéaires dans les espaces LpL^p.

Soit toujours G un groupe localement compact, opérant continûment à gauche dans un espace localement compact X.

Soit β\beta une mesure positive sur XX de support XX. Supposons qu’il existe une fonction continue χ>0\chi > 0 sur G×XG \times X telle qu’on ait, pour tout s∈Gs \in G,

γ(s)β=χ(s−1,.)⋅β \gamma(s)\beta = \chi(s^{-1}, .) \cdot \beta

(ce qui implique en particulier que β\beta est quasi-invariante par GG). Alors, χ\chi est un multiplicateur. En effet, soient s,ts, t dans GG; on a

γ(s)γ(t)β=γ(s)(χ(t−1,.)⋅β)=(γ(s)χ(t−1,.))⋅(γ(s)β) \gamma(s)\gamma(t)\beta = \gamma(s)(\chi(t^{-1}, .) \cdot \beta) = (\gamma(s)\chi(t^{-1}, .)) \cdot (\gamma(s)\beta)
=(γ(s)χ(t−1,.))⋅χ(s−1,.)⋅β = (\gamma(s)\chi(t^{-1}, .)) \cdot \chi(s^{-1}, .) \cdot \beta
γ(st)β=χ(t−1s−1,.)⋅β \gamma(st)\beta = \chi(t^{-1}s^{-1}, .) \cdot \beta

donc

χ(t−1,s−1x)χ(s−1,x)=χ(t−1s−1,x) \chi(t^{-1}, s^{-1}x)\chi(s^{-1}, x) = \chi(t^{-1}s^{-1}, x)

localement β\beta-presque partout, et en conséquence partout puisque χ\chi est continue et β\beta de support XX.

Soit p∈[1,+∞[p \in [1, +\infty[. Pour toute f∈Lcn(X,β)f \in \mathscr{L}_c^n(X, \beta) et tout s∈Gs \in G, soit γχ,p(s)f\gamma_{\chi,p}(s)f la fonction sur XX définie par

(γχ,p(s)f)(x)=χ(s−1,x)1/pf(s−1x). (\gamma_{\chi,p}(s)f)(x) = \chi(s^{-1}, x)^{1/p}f(s^{-1}x).

On a

∫∗∣χ(s−1,x)1/pf(s−1x)∣pdβ(x)=∫∗∣f(s−1x)∣pχ(s−1,x)dβ(x) \int^* |\chi(s^{-1}, x)^{1/p}f(s^{-1}x)|^p d\beta(x) = \int^* |f(s^{-1}x)|^p \chi(s^{-1}, x) d\beta(x)
=∫∣f(x)∣pdβ(x) = \int |f(x)|^p d\beta(x)

donc γχ,p(s)f∈Lcn(X,β)\gamma_{\chi,p}(s)f \in \mathscr{L}_c^n(X, \beta). On voit que γχ,p(s)\gamma_{\chi,p}(s) est un endomorphisme isométrique de Lcn(X,β)\mathscr{L}_c^n(X, \beta) et définit par passage au quotient un endomorphisme isométrique de Lcn(X,β)L_c^n(X, \beta), noté encore γχ,p(s)\gamma_{\chi,p}(s). D’autre part, χ1/p\chi^{1/p} est évidemment un multiplicateur, donc γχ,p\gamma_{\chi,p} est une représentation linéaire de GG dans Lcn(X,β)L_c^n(X, \beta) d’après ce qu’on a vu au no 3.

Proposition 8

La représentation linéaire γχ,p\gamma_{\chi,p} de GG dans Lcn(X,β)L_c^n(X, \beta) est continue et isométrique.

Soit f∈H(X)f \in \mathscr{H}(X). Quand ss tend vers s0s_0 dans GG, γχ,p(s)f\gamma_{\chi,p}(s)f tend vers γχ,p(s0)f\gamma_{\chi,p}(s_0)f dans K(X)\mathscr{K}(X), donc dans Lcp(X,β)L_c^p(X, \beta). Comme les γχ,p(s)\gamma_{\chi,p}(s) sont isométriques, la prop. 8 s’obtient en appliquant la Remarque 2 du n° 1.

Pour le cas où χ\chi n’est pas supposée continue, cf. § 4, exerc. 13.

Proposition 9

Supposons que chaque fonction χ(s,.)\chi(s, .) soit bornée. Alors γχ\gamma_\chi laisse stable Lcp(X,β)L_c^p(X, \beta), et la représentation linéaire γχ\gamma_\chi de GG dans Lcp(X,β)L_c^p(X, \beta) est continue.

Soit f∈Lcp(X,β)f \in \mathscr{L}_c^p(X, \beta). On a

∫∗∣χ(s−1,x)f(s−1x)∣pdβ(x)≤sup⁡x∈Xχ(s−1,x)p−1∫∗∣f(s−1x)∣pχ(s−1,x)dβ(x) \int^* |\chi(s^{-1}, x)f(s^{-1}x)|^p d\beta(x) \leq \sup_{x \in X} \chi(s^{-1}, x)^{p-1} \int^* |f(s^{-1}x)|^p \chi(s^{-1}, x) d\beta(x)
=sup⁡x∈Xχ(s−1,x)p−1∫∣f(x)∣pdβ(x) = \sup_{x \in X} \chi(s^{-1}, x)^{p-1} \int |f(x)|^p d\beta(x)

donc γχ(s)f∈Lcp(X,β)\gamma_\chi(s)f \in \mathscr{L}_c^p(X, \beta), et

(5)

∥γχ(s)∥≤sup⁡x∈Xχ(s−1,x)1/q \|\gamma_\chi(s)\| \leq \sup_{x \in X} \chi(s^{-1}, x)^{1/q}

en notant qq l’exposant conjugué de pp. Si f∈K(X)f \in \mathscr{K}(X), γχ(s)f\gamma_\chi(s)f tend vers γχ(s0)f\gamma_\chi(s_0)f dans K(X)\mathscr{K}(X), donc dans Lcp(X,β)\mathscr{L}_c^p(X, \beta), quand ss tend vers s0s_0. Donc la représentation γχ\gamma_\chi de GG dans Lcp(X,β)L_c^p(X, \beta) est continue (n° 1, prop. 2).

On a des propriétés analogues à celles des n°s 3, 4, 5 si GG opère à droite dans XX.

En particulier, si l’on considère GG comme opérant sur lui-même par translations à gauche ou à droite, et si l’on fait χ=1\chi = 1, on obtient les représentations régulières gauche et droite de GG dans C(G)\mathscr{C}(G), K(G)\mathscr{K}(G), K(G)‾\overline{\mathscr{K}(G)}, C′(G)\mathscr{C}'(G), M(G)\mathscr{M}(G), M1(G)\mathscr{M}^1(G). Si l’on prend pour β\beta une mesure de Haar à gauche (resp. à droite) de GG, et si l’on fait χ=1\chi = 1, on obtient la représentation régulière gauche (resp. droite) de GG dans Lcp(G,β)L_c^p(G, \beta).

6. Prolongement d’une représentation linéaire de GG aux mesures sur GG.

Soient GG un groupe localement compact, EE un espace localement convexe, UU une représentation linéaire de GG dans EE.

Supposons UU continue et EE quasi-complet. Alors pour toute mesure μ∈C′(G)\mu \in \mathscr{C}'(G), on a ∫GU(s)dμ(s)∈L(E;E)\int_G U(s)d\mu(s) \in \mathscr{L}(E; E) (chap. VI, § 1, no 7).

Nous poserons U(μ)=∫GU(s)dμ(s)U(\mu) = \int_G U(s)d\mu(s). Munissons C′(G)\mathscr{C}'(G) de la topologie de la convergence compacte dans C(G)\mathscr{C}(G). L’application (μ,x)→U(μ)x(\mu, x) \to U(\mu)x de C′(G)×E\mathscr{C}'(G) \times E dans EE est hypocontinue relativement aux parties équicontinues de C′(G)\mathscr{C}'(G) et aux parties compactes de EE; en particulier, l’application μ→U(μ)\mu \to U(\mu) de C′(G)\mathscr{C}'(G) dans L(E;E)\mathscr{L}(E; E) (muni de la topologie de la convergence compacte) est continue (loc. cit., prop. 16).

Pour pouvoir appliquer plus loin ces résultats, notons que, si XX est un espace localement compact, C(X)\mathscr{C}(X), muni de la topologie de la convergence compacte, est complet (Top. gén., chap. X, 2e éd., § 1, no 6, cor. 3 du th. 2). D’autre part, K(X)\mathscr{K}(X) est tonnelé, donc son dual M(X)\mathscr{M}(X), muni de la topologie de la convergence compacte sur K(X)\mathscr{K}(X), est quasi-complet (Esp. vect. top., chap. III, § 3, no 7, cor. 2 du th. 4). Bien entendu, K(X)‾\overline{\mathscr{K}(X)} est complet pour la topologie déduite de sa norme, donc son dual M1(X)\mathscr{M}^1(X) est quasi-complet pour la topologie de la convergence compacte sur K(X)‾\overline{\mathscr{K}(X)} (loc. cit.).

Supposons maintenant que UU soit une représentation linéaire continue du groupe localement compact GG dans un espace de Banach EE. Posons g(s)=∥U(s)∥g(s) = \|U(s)\| pour tout s∈Gs \in G. Alors, si μ\mu est une mesure sur GG telle que gg soit μ\mu-intégrable, on a

∫GU(s)dμ(s)∈L(E;E)et∥∫GU(s)dμ(s)∥≤∫g(s)d∣μ∣(s) \int_G U(s)d\mu(s) \in \mathscr{L}(E; E) \quad \text{et} \quad \| \int_G U(s)d\mu(s) \| \leq \int g(s)d|\mu|(s)
(Chap. VI, § 1, no 7, Remarque 1). Nous poserons encore
U(μ)=∫GU(s)dμ(s). U(\mu) = \int_G U(s)d\mu(s).

7. Relations entre les endomorphismes U(μ)U(\mu) et les endomorphismes U(s)U(s).

Lemme 4

Soient T un espace localement compact, a un point de T, M une partie de M(T)\mathscr{M}(T), F\mathfrak{F} un filtre sur M. On suppose que :

(i) pour toute partie compacte K de T, les nombres ∣μ∣(K)|\mu|(K), pour μ∈M\mu \in M, sont majorés ; (ii) lim⁡μ,F∣μ∣(K)=0\lim_{\mu, \mathfrak{F}} |\mu|(K) = 0 pour toute partie compacte K de T−{a}T - \{a\}; (iii) il existe un voisinage compact V de a dans T tel que lim⁡μ,Fμ(V)=1\lim_{\mu, \mathfrak{F}} \mu(V) = 1.

Alors le filtre F\mathfrak{F} converge vers εa\varepsilon_a dans M(T)\mathscr{M}(T) muni de la topologie de la convergence compacte dans K(T)\mathscr{K}(T).

D’après l’hypothèse (i), M est une partie équicontinue de M(T)\mathscr{M}(T) puisqu’elle est vaguement bornée et que K(T)\mathscr{K}(T) est tonnelé (Esp. vect. top., chap. III, § 3, no 6, th. 2). Il suffit donc (Top. gén., chap. X, 2e éd., § 2, no 4, th. 1) de prouver que, si f∈K(T)f \in \mathscr{K}(T), on a lim⁡μ,Fμ(f)=f(a)\lim_{\mu, \mathfrak{F}} \mu(f) = f(a). Soit K la réunion de V et du support de ff; si K’ est l’adhérence de K−VK - V, on a

∣μ(K)−μ(V)∣=∣μ(K−V)∣≤∣μ∣(K′); |\mu(K) - \mu(V)| = |\mu(K - V)| \leq |\mu|(K');
comme K’ est compact et ne contient pas a, on en conclut que lim⁡μ,Fμ(K)=1\lim_{\mu, \mathfrak{F}} \mu(K) = 1. Soit ε>0\varepsilon > 0, et soit W un voisinage ouvert de a dans K tel que ∣f(t)−f(a)∣≤ε|f(t) - f(a)| \leq \varepsilon pour t∈Wt \in W; on peut écrire
μ(f)−f(a)=f(a)(μ(K)−1)+∫K(f(t)−f(a))dμ(t); \mu(f) - f(a) = f(a)(\mu(K) - 1) + \int_K (f(t) - f(a)) d\mu(t);
l’intégrale sur K peut s’écrire comme somme des intégrales analogues sur W et sur K−WK - W; si C = sup ∣f∣|f|, on aura donc
∣μ(f)−f(a)∣≤C∣μ(K)−1∣+ε.∣μ∣(K)+2C.∣μ∣(K−W). |\mu(f) - f(a)| \leq C|\mu(K) - 1| + \varepsilon . |\mu|(K) + 2C . |\mu|(K - W).
Comme le premier et le troisième terme du second membre tendent vers 0 suivant F\mathfrak{F}, on voit bien que lim⁡μ,Fμ(f)=f(a)\lim_{\mu, \mathfrak{F}} \mu(f) = f(a).

Corollaire 1

Les hypothèses étant celles du lemme 4, supposons de plus qu’il existe une partie compacte K0K_0 de T contenant les supports de toutes les mesures μ∈M\mu \in M. Alors F\mathfrak{F} converge aussi vers εa\varepsilon_a dans C′(T)\mathscr{C}'(T) muni de la topologie de la convergence compacte dans C(T)\mathscr{C}(T).

En effet, l’application de restriction de C(T)\mathscr{C}(T) dans C(K0)\mathscr{C}(K_0) est continue ; donc, si H est une partie compacte de C(T)\mathscr{C}(T), les restrictions à K0K_0 des fonctions de H forment une partie compacte de C(K0)\mathscr{C}(K_0). Il suffit alors d’appliquer le lemme 4 en remplaçant T par K0K_0.

Corollaire 2

Les hypothèses étant celles du cor. 1, soit ff une application continue de T dans un espace localement convexe quasi-complet E. On a

lim⁡μ,F∫f(t)dμ(t)=f(a). \lim_{\mu,\mathfrak{F}} \int f(t)d\mu(t) = f(a).
Ceci résulte du cor. 1 et de la prop. 14 du chap. VI, § 1, no 6.

Corollaire 3

Soient G un groupe localement compact, E un espace localement convexe quasi-complet, U une représentation linéaire continue de G dans E. Soient β\beta une mesure positive sur G, a un élément de G, B\mathscr{B} une base du filtre des voisinages de a, formée de voisinages compacts. Pour tout V∈BV \in \mathscr{B}, soit fVf_V une fonction continue ⩾0\geqslant 0 sur G, de support contenu dans V, et telle que ∫fVdβ=1\int f_V d\beta = 1. Alors, pour tout x∈Ex \in E, on a

U(a)x=lim⁡VU(fV⋅β)x U(a)x = \lim_V U(f_V \cdot \beta)x
la limite étant prise suivant le filtre des sections de B\mathscr{B}.

L’application s→U(s)xs \to U(s)x de G dans E est continue. D’après le cor. 2, on a U(a)x=lim⁡V∫(U(s)x)⋅fV(s)dβ(s)U(a)x = \lim_V \int (U(s)x) \cdot f_V(s)d\beta(s) suivant le filtre des sections de B\mathscr{B}, c’est-à-dire U(a)x=lim⁡VU(fV⋅β)xU(a)x = \lim_V U(f_V \cdot \beta)x.

Proposition 10

Soient G un groupe localement compact, E un espace localement convexe quasi-complet, U une représentation linéaire continue de G dans E, β\beta une mesure positive sur G de support G.

(i) Les vecteurs U(f⋅β)xU(f \cdot \beta)x, où ff parcourt K(G)\mathscr{K}(G) et où xx parcourt E, sont partout denses dans E.

(ii) Soit F un sous-espace vectoriel fermé de E. Si F est stable pour U, on a U(μ)(F)⊂FU(\mu)(F) \subset F pour toute μ∈C′(G)\mu \in \mathscr{C}'(G). Réciproquement, si U(f⋅β)(F)⊂FU(f \cdot \beta)(F) \subset F pour toute f∈K(G)f \in \mathscr{K}(G), F est stable pour U.

La première partie de (ii) est immédiate puisque les restrictions des U(s)U(s) à FF (s∈Gs \in G) définissent une représentation linéaire continue de GG dans l’espace localement convexe quasi-complet FF. La deuxième partie de (ii), et (i), résultent du cor. 3 du lemme 4.

Exercices

See the exercises for § 2.

Transcribed from the printed volume. Not translated.