§ 2. Représentations linéaires des groupes.
1. Représentations linéaires continues.
Soient un groupe topologique, un espace localement convexe, une représentation linéaire de dans .
Définition 1
(i) On dit que est séparément continue si, pour tout , est un endomorphisme continu de , et si, pour tout , l’application de dans est continue.
(ii) On dit que est continue si est une application continue de dans .
(iii) On dit que U est équicontinue si elle est continue et si l’ensemble des endomorphismes U(s), où s parcourt G, est équicontinu.
Remarque 1
Dire que U est séparément continue signifie que s → U(s) est une application continue de G dans l’espace des endomorphismes continus de E, muni de la topologie de la convergence simple.
Remarque 2
Dire que U est continue équivaut à l’ensemble des trois conditions suivantes :
a) pour tout s ∈ G, U(s) est continu ; b) il existe un voisinage V de e tel que U(V) soit équicontinu ; c) il existe un ensemble total D dans E tel que, pour tout x ∈ D, l’application s → U(s)x soit continue.
Ces conditions sont évidemment nécessaires. Réciproquement, supposons les conditions a), b), c) satisfaites. Sur U(V), la topologie de la convergence simple est identique à la topologie de la convergence simple dans D (Esp. vect. top., chap. III, § 3, no 5, prop. 5). Donc l’application (s, x) → U(s)x de V × E dans E est continue (Top. gén., chap. X, 2e éd., § 2, no 1, cor. 3 de la prop. 1). Comme quels que soient , on voit que U est continue.
Lorsque G est localement compact, les conditions a) et b) sont équivalentes à la condition :
a’) pour toute partie compacte K de G, U(K) est équicontinu.
Remarque 3
Supposons que U soit une représentation linéaire continue G dans E. Pour tout s ∈ G, soit le prolongement continu de U(s) au complété de E. Alors est une représentation linéaire de G dans , satisfaisant aux conditions a) et c) de la Remarque 2, et aussi à la condition b) d’après Top. gén., chap. X, 2e éd., § 2, no 2, prop. 4. Donc est une représentation linéaire continue de G dans .
Remarque 4
Si E est un espace normé, on dit que U est isométrique lorsque pour tout . Il suffit pour cela que pour tout , car on a alors
Proposition 1
Si G est localement compact et si E est tonnelé, toute représentation linéaire U séparément continue de G dans E est continue.
En effet, pour toute partie compacte K de G, est compact pour la topologie de la convergence simple (Remarque 1), donc est équicontinu (Esp. vect. top., Chap. III, § 3, no 6, th. 2); on applique alors la Remarque 2.
Lemme 1
Soient G un groupe localement compact, une fonction finie semi-continue inférieurement sur G telle que quels que soient s, t dans G. Alors est majorée dans toute partie compacte de G.
Il existe une partie ouverte non vide U de G telle que soit majorée dans U (Top. gén., chap. IX, 2e éd., § 5, no 4, th. 2). Soit K une partie compacte de G. Alors K est recouvert par un nombre fini d'ensembles . Pour tout , on a , donc est majorée dans , donc dans K.
Lemme 2
Soient G un groupe topologique, U une représentation linéaire de G dans un espace normé E, A une partie partout dense de E. On suppose que, pour tout , est continu et que, pour tout , est une application continue de G dans E. Alors la fonction sur G est semi-continue inférieurement et vérifie .
Soit B la boule unité de E. On a , et chaque fonction est continue sur G, donc est semi-continue inférieurement. D'autre part,
Proposition 2
Soient G un groupe localement compact, U une représentation linéaire de G dans un espace normé E. Soit A une partie partout dense de E. On suppose que, pour tout s ∈ G, U(s) est continu et que, pour tout x ∈ A, s → U(s)x est une application continue de G dans E. Alors U est continue. En effet, \|U(s)\| est majoré sur toute partie compacte de G d’après les lemmes 1 et 2, et l’on applique alors la Remarque 2.
2. Représentation contragrédiente.
Soit U une représentation linéaire séparément continue de G dans E. Soit E’ le dual de E. L’application s → est une représentation linéaire dans E’ du groupe opposé à G ; nous dirons que cette représentation est la transposée de U. L’application est une représentation linéaire de G dans E’, appelée contragrédiente de U.
Lemme 3
Soient X un espace localement compact, Y et Z des espaces topologiques, φ une application continue de dans Z, l’application de Y dans Z. Les espaces , étant munis de la topologie de la convergence compacte, l’application de dans est continue.
Il suffit évidemment de considérer le cas où X est compact. Soient , K une partie compacte de Y, et . Soit . Comme est uniformément continue dans , il existe un voisinage W de tel que pour et . D’autre part, si l’on prend telle que pour tout , on aura pour , , et par suite pour et . D’où le lemme.
Revenons alors aux notations antérieures.
Proposition 3
(i) Si U est séparément continue, est séparément continue lorsqu’on munit E’ de la topologie faible .
(ii) Si G est localement compact et si U est continue, est continue lorsqu’on munit E’ de la topologie de la convergence compacte.
L’assertion (i) est immédiate. L’assertion (ii) résulte du lemme 3 où l’on fait .
3. Exemple : représentations linéaires dans des espaces de fonctions continues.
Soit un groupe discret opérant à gauche sur un ensemble . Une fonction complexe sur est appelée un multiplicateur si l’on a
(1) quel que soit ;
(2) quels que soient dans .
On en déduit
(3) quels que soient ,
et en particulier quels que soient .
Pour toute fonction complexe définie sur et tout , soit la fonction complexe sur définie par
(4) .
On a , et
donc est une représentation linéaire de . Pour , on retrouve les endomorphismes (chap. VII, § 1, no 1, formule (3)).
Supposons maintenant et localement compacts, opérant continûment sur , et continue sur . Alors et sont stables pour les , d’où des représentations linéaires de dans et que nous noterons encore .
Proposition 4
Les représentations linéaires de dans et sont continues.
L’application de dans est continue (n° 2, lemme 3). D’autre part, l’application de dans est continue ; car, si tend vers dans , tend vers uniformément dans toute partie compacte de ; si en outre tend vers dans , tend vers uniformément dans toute partie compacte de , d’où notre assertion. Donc la représentation de dans est continue.
Montrons que la représentation de dans est continue. Comme est limite inductive d’espaces de Banach, il est tonnelé (, chap. III, § 1, n° 2, cor. 2 de la prop. 2), donc il suffit de prouver que est séparément continue (n° 1, prop. 1). Or, soient une partie compacte de et . Soient un voisinage compact de dans , et , qui est compact dans . Pour toute , le support de est contenu dans , et l’on a
donc est une application linéaire continue de dans ; il en résulte que est une application linéaire continue de dans lui-même (, chap. II, § 2, n° 2, cor. de la prop. 1). D’autre part, la topologie de est induite par celle de . D’après ce qui a déjà été démontré, l’application de dans est continue. Ceci achève de prouver que est séparément continue.
Proposition 5
Supposons que chaque fonction soit bornée. Alors laisse stable , et la représentation linéaire de dans est continue.
Il est clair que laisse stable et que chacun des est continu dans . D’autre part, pour toute , est une application continue de dans et a fortiori dans . Donc la représentation dans est continue (n° 1, prop. 2).
4. Exemple : représentations linéaires dans des espaces de mesures.
Soient toujours G un groupe localement compact, opérant continûment à gauche dans un espace localement compact X, et un multiplicateur continu sur . La représentation linéaire de G dans admet une représentation contragrédiente dans , que nous noterons encore , et qui est définie par la formule suivante (où , ) :
d'où
Remarquons que
La représentation linéaire de G dans admet une représentation contragrédiente dans l’espace des mesures sur X à support compact, représentation que nous noterons encore ; les endomorphismes de sont les restrictions des endomorphismes de .
Proposition 6
Si l’on munit (resp. ) de la topologie de la convergence uniforme dans les parties compactes de (resp. ), la représentation linéaire de G dans (resp. ) est continue.
Proposition 7
Supposons que chaque fonction soit bornée. Alors laisse stable et, si l’on munit de la topologie de la convergence uniforme dans les parties compactes de , la représentation linéaire de G dans est continue.
Ces propositions résultent des prop. 3, 4, 5.
5. Exemple : représentations linéaires dans les espaces .
Soit toujours G un groupe localement compact, opérant continûment à gauche dans un espace localement compact X.
Soit une mesure positive sur de support . Supposons qu’il existe une fonction continue sur telle qu’on ait, pour tout ,
(ce qui implique en particulier que est quasi-invariante par ). Alors, est un multiplicateur. En effet, soient dans ; on a
donc
localement -presque partout, et en conséquence partout puisque est continue et de support .
Soit . Pour toute et tout , soit la fonction sur définie par
On a
donc . On voit que est un endomorphisme isométrique de et définit par passage au quotient un endomorphisme isométrique de , noté encore . D’autre part, est évidemment un multiplicateur, donc est une représentation linéaire de dans d’après ce qu’on a vu au no 3.
Proposition 8
La représentation linéaire de dans est continue et isométrique.
Soit . Quand tend vers dans , tend vers dans , donc dans . Comme les sont isométriques, la prop. 8 s’obtient en appliquant la Remarque 2 du n° 1.
Pour le cas où n’est pas supposée continue, cf. § 4, exerc. 13.
Proposition 9
Supposons que chaque fonction soit bornée. Alors laisse stable , et la représentation linéaire de dans est continue.
Soit . On a
donc , et
(5)
en notant l’exposant conjugué de . Si , tend vers dans , donc dans , quand tend vers . Donc la représentation de dans est continue (n° 1, prop. 2).
On a des propriétés analogues à celles des n°s 3, 4, 5 si opère à droite dans .
En particulier, si l’on considère comme opérant sur lui-même par translations à gauche ou à droite, et si l’on fait , on obtient les représentations régulières gauche et droite de dans , , , , , . Si l’on prend pour une mesure de Haar à gauche (resp. à droite) de , et si l’on fait , on obtient la représentation régulière gauche (resp. droite) de dans .
6. Prolongement d’une représentation linéaire de aux mesures sur .
Soient un groupe localement compact, un espace localement convexe, une représentation linéaire de dans .
Supposons continue et quasi-complet. Alors pour toute mesure , on a (chap. VI, § 1, no 7).
Nous poserons . Munissons de la topologie de la convergence compacte dans . L’application de dans est hypocontinue relativement aux parties équicontinues de et aux parties compactes de ; en particulier, l’application de dans (muni de la topologie de la convergence compacte) est continue (loc. cit., prop. 16).
Pour pouvoir appliquer plus loin ces résultats, notons que, si est un espace localement compact, , muni de la topologie de la convergence compacte, est complet (Top. gén., chap. X, 2e éd., § 1, no 6, cor. 3 du th. 2). D’autre part, est tonnelé, donc son dual , muni de la topologie de la convergence compacte sur , est quasi-complet (Esp. vect. top., chap. III, § 3, no 7, cor. 2 du th. 4). Bien entendu, est complet pour la topologie déduite de sa norme, donc son dual est quasi-complet pour la topologie de la convergence compacte sur (loc. cit.).
Supposons maintenant que soit une représentation linéaire continue du groupe localement compact dans un espace de Banach . Posons pour tout . Alors, si est une mesure sur telle que soit -intégrable, on a
7. Relations entre les endomorphismes et les endomorphismes .
Lemme 4
Soient T un espace localement compact, a un point de T, M une partie de , un filtre sur M. On suppose que :
(i) pour toute partie compacte K de T, les nombres , pour , sont majorés ; (ii) pour toute partie compacte K de ; (iii) il existe un voisinage compact V de a dans T tel que .
Alors le filtre converge vers dans muni de la topologie de la convergence compacte dans .
D’après l’hypothèse (i), M est une partie équicontinue de puisqu’elle est vaguement bornée et que est tonnelé (Esp. vect. top., chap. III, § 3, no 6, th. 2). Il suffit donc (Top. gén., chap. X, 2e éd., § 2, no 4, th. 1) de prouver que, si , on a . Soit K la réunion de V et du support de ; si K’ est l’adhérence de , on a
Corollaire 1
Les hypothèses étant celles du lemme 4, supposons de plus qu’il existe une partie compacte de T contenant les supports de toutes les mesures . Alors converge aussi vers dans muni de la topologie de la convergence compacte dans .
En effet, l’application de restriction de dans est continue ; donc, si H est une partie compacte de , les restrictions à des fonctions de H forment une partie compacte de . Il suffit alors d’appliquer le lemme 4 en remplaçant T par .
Corollaire 2
Les hypothèses étant celles du cor. 1, soit une application continue de T dans un espace localement convexe quasi-complet E. On a
Corollaire 3
Soient G un groupe localement compact, E un espace localement convexe quasi-complet, U une représentation linéaire continue de G dans E. Soient une mesure positive sur G, a un élément de G, une base du filtre des voisinages de a, formée de voisinages compacts. Pour tout , soit une fonction continue sur G, de support contenu dans V, et telle que . Alors, pour tout , on a
L’application de G dans E est continue. D’après le cor. 2, on a suivant le filtre des sections de , c’est-à-dire .
Proposition 10
Soient G un groupe localement compact, E un espace localement convexe quasi-complet, U une représentation linéaire continue de G dans E, une mesure positive sur G de support G.
(i) Les vecteurs , où parcourt et où parcourt E, sont partout denses dans E.
(ii) Soit F un sous-espace vectoriel fermé de E. Si F est stable pour U, on a pour toute . Réciproquement, si pour toute , F est stable pour U.
La première partie de (ii) est immédiate puisque les restrictions des à () définissent une représentation linéaire continue de dans l’espace localement convexe quasi-complet . La deuxième partie de (ii), et (i), résultent du cor. 3 du lemme 4.
Exercices
See the exercises for § 2.