Bourbaki

§ 3. Fonctions de type positif

Dans ce paragraphe, tous les espaces vectoriels, ainsi que tous les espaces hilbertiens et les algèbres considérées, sont sur C\mathbf{C}, sauf mention du contraire.

1. Noyaux universellement positifs

Dans ce numéro, X est un espace topologique séparé.

Théorème 1 03BX

Soit f∈C(X×X)f\in \mathscr{C}(X\times X). Les conditions suivantes sont équivalentes :

(i) Pour toute partie compacte Y de X et toute mesure positive μ\mu sur Y, l’endomorphisme de L2(Y,μ)L^2(Y, \mu) défini par le noyau f∣(Y×Y)f|(Y\times Y) (déf. 1 de III, p. 29) est positif, autrement dit, on a

∫Y×Yh(x)‾h(y)f(x,y)d(μ⊗μ)(x,y)⩾0 \int_{Y\times Y}\overline{h(x)}h(y)f(x, y)d(\mu\otimes \mu)(x, y)\geqslant 0

pour tout h∈L2(Y,μ)h\in \mathscr{L}^2(Y, \mu);

(ii) Pour tout entier n∈Nn\in \mathbf{N}, toute famille (xi)0⩽i⩽n(x_i)_{0\leqslant i\leqslant n} dans X et toute famille (ti)0⩽i⩽n(t_i)_{0\leqslant i\leqslant n} de nombres complexes, on a

∑i=0n∑j=0nt‾itjf(xi,xj)⩾0 \sum_{i=0}^n\sum_{j=0}^n\overline{t}_it_jf(x_i, x_j)\geqslant 0

(iii) Il existe un espace hilbertien complexe E et une application continue g:X→Eg: X\rightarrow E d’image totale telle que f(x,y)=⟨g(x)∣g(y)⟩f(x, y) =\langle g(x)|g(y)\rangle pour tous xx et yy dans X ;

(iv) Il existe un espace hilbertien complexe E et une application continue g:X→Eg: X\rightarrow E telle que f(x,y)=⟨g(x)∣g(y)⟩f(x, y) =\langle g(x)|g(y)\rangle pour tous xx et yy dans X.

Il est apparent que (iii) implique (iv) et on voit que (i) implique (ii) en considérant la mesure discrète μ\mu qui est l’image de la mesure de comptage sur {0,...,n}\{0, . . . , n\} par l’application i↦xii\mapsto x_i et la fonction hh telle que

h(x)=∑0⩽i⩽nti h(x) =\sum_{0\leqslant i\leqslant n}t_i
xi=xx_i=x

Démontrons que (iv) implique (i). Supposons qu’il existe un espace hilbertien complexe E et une application continue g:X→Eg: X\rightarrow E tels que f(x,y)=⟨g(x)∣g(y)⟩f(x, y) =\langle g(x)|g(y)\rangle pour tout (x,y)∈X×X(x, y)\in X\times X. Soient Y une partie compacte de X,μX,\mu une mesure positive sur Y et h∈L2(Y,μ)h\in \mathscr{L}^2(Y, \mu). On a

∫Y×Yh(x)‾h(y)f(x,y)d(μ⊗μ)(x,y) \int_{Y\times Y}\overline{h(x)}h(y)f(x, y)d(\mu\otimes \mu)(x, y)
=∫Y×Yh(x)‾h(y)⟨g(x)∣g(y)⟩d(μ⊗μ)(x,y) =\int_{Y\times Y}\overline{h(x)}h(y)\langle g(x)|g(y)\rangle d(\mu\otimes \mu)(x, y)
=⟨∫Yh(x)g(x)dμ(x)∣∫Yh(y)g(y)dμ(y)⟩⩾0 =\langle\int_Yh(x)g(x)d\mu(x)|\int_Yh(y)g(y)d\mu(y)\rangle\geqslant 0

d’après INT, V, p. 97, § 8, no4^o4, prop. 9.

Démontrons enfin que (ii) implique (iii). Soit E~\widetilde{E} l’espace des mesures complexes à support fini sur X. Pour μ1\mu_1 et μ2\mu_2 dans E~\widetilde{E}, on pose

⟨μ1∣μ2⟩=∫X×Xf(x,y)(μ‾1⊗μ2)(x,y) \langle \mu_1|\mu_2\rangle =\int_{X\times X}f(x, y) (\overline{\mu}_1\otimes \mu_2)(x, y)

La forme sesquilinéaire ainsi définie sur E~\widetilde{E} est une forme hermitienne positive. En effet, soit μ∈E~\mu\in \widetilde{E}; il existe une famille finie (xi)0⩽i⩽n(x_i)_{0\leqslant i\leqslant n} dans X et des nombres complexes (ti)0⩽i⩽n(t_i)_{0\leqslant i\leqslant n} tels que μ=∑i=0ntiεxi\mu=\sum^n_{i=0}t_i\varepsilon_{x_i}. On a alors

⟨μ∣μ⟩=∑i=0n∑j=0nt‾itjf(xi,xj)⩾0 \langle \mu|\mu\rangle =\sum_{i=0}^n\sum_{j=0}^n\overline{t}_it_jf(x_i, x_j)\geqslant 0

par hypothèse. On définit g~:X→E~\widetilde{g}: X\rightarrow \widetilde{E} par g~(x)=εx\widetilde{g}(x) =\varepsilon_x. L’image de l’application g~\widetilde{g} engendre E~\widetilde{E}. De plus, pour tout (x,y)∈X×X(x, y)\in X\times X, on a d’une part f(x,y)=⟨g~(x)∣g~(y)⟩f(x, y) =\langle \widetilde{g}(x)|\widetilde{g}(y)\rangle et d’autre part

∥g~(x)−g~(y)∥2=f(x,x)+f(y,y)−f(x,y)−f(y,x) \|\widetilde{g}(x)-\widetilde{g}(y)\|^2=f(x, x) +f(y, y)-f(x, y)-f(y, x)

ce qui implique que g~\widetilde{g} est continue puisque ff est continue.

Soient E l’espace hilbertien séparé-complété de E~\widetilde{E} (EVT, V, p. 8, cor. de la prop. 4) et g:X→Eg: X\rightarrow E la composition de g~\widetilde{g} et de l’application canonique E~→E\widetilde{E}\rightarrow E. Alors l’application gg est continue, son image est totale dans E, et on a f(x,y)=⟨g(x)∣g(y)⟩f(x, y) =\langle g(x)|g(y)\rangle pour tout (x,y)∈X×X(x, y)\in X\times X.

La méthode employée pour démontrer que (ii) implique (iii) est appelée la construction de Gelfand–Naimark–Segal.

Définition 1 03BY

On dit qu’une fonction f∈C(X×X)f\in \mathscr{C}(X\times X) est un noyau universellement positif sur X si elle vérifie les conditions équivalentes du théorème 1.

Si ff est un noyau universellement positif sur X, un couple (E,g)(E, g) vérifiant la condition (iv) de loc. cit. est appelé une réalisation hilbertienne de ff; si la condition (iii) est satisfaite, on dit que c’est une réalisation hilbertienne cyclique.

On note Noy+(X)_+(X) l’ensemble des noyaux universellement positifs sur X.

Soient X′X' un espace topologique séparé et h:X→X′h: X\rightarrow X' une application continue. L’application f↦f∘(h,h)f\mapsto f\circ (h, h) de C(X′×X′)\mathscr{C}(X'\times X') dans C(X×X)\mathscr{C}(X\times X) induit par passage aux sous-espaces une application Noy+(X′)→_+(X')\rightarrow Noy+(X)_+(X).

Proposition 1 03BZ

Soit ff un noyau universellement positif sur X. Soient (E1,g1)(E_1, g_1) et (E2,g2)(E_2, g_2) des réalisations hilbertiennes de ff. On suppose que (E1,g1)(E_1, g_1) est une réalisation hilbertienne cyclique. Il existe alors une unique application linéaire continue u:E1→E2u: E_1\rightarrow E_2 telle que g2=u∘g1g_2=u\circ g_1. Cette application est isométrique. Si (E2,g2)(E_2, g_2) est également cyclique, alors uu est un isomorphisme.

L’unicité de uu résulte du fait que l’image de g1g_1 est totale dans E1E_1. Soit F=C(X)F =\mathbf{C}^{(X)} et soit (ex)x∈X(e_x)_{x\in X} la base canonique de F. Pour j=1j= 1 et j=2j= 2, notons uju_j l’application linéaire de F dans EjE_j déterminée par uj(ex)=gj(x)u_j(e_x) =g_j(x), et notons FjF_j son image ; l’espace F1F_1 est dense dans E1E_1.

Soit t=∑txext=\sum t_xe_x un élément de F. On a

∥u1(t)∥2=∑x,yt‾xty⟨g1(x)∣g1(y)⟩=∑x,yt‾xtyf(x,y) \|u_1(t)\|^2=\sum_{x,y}\overline{t}_xt_y\langle g_1(x)|g_1(y)\rangle =\sum_{x,y}\overline{t}_xt_yf(x, y)
=∑x,yt‾xty⟨g2(x)∣g2(y)⟩=∥u2(t)∥2 =\sum_{x,y}\overline{t}_xt_y\langle g_2(x)|g_2(y)\rangle =\|u_2(t)\|^2

Par conséquent, il existe une application linéaire isométrique vv de F1F_1 dans F2F_2 telle que u2=v∘u1u_2=v\circ u_1, et en particulier g2(x)=v(g1(x))g_2(x) =v(g_1(x)) pour tout x∈Xx\in X. Puisque l’image de g1g_1 est totale dans E1E_1, cette application se prolonge en une application linéaire isométrique uu de E1E_1 dans E2E_2 telle que g2=u∘g1g_2=u\circ g_1.

D’après le lemme 8 de I, p. 107, l’image de uu est fermée dans E2E_2. Si (E2,g2)(E_2, g_2) est une réalisation hilbertienne cyclique, l’image de uu est également dense dans E2E_2 et uu est donc un isomorphisme.

Proposition 2 03C0

L’ensemble Noy+(X)_+(X) est un cône auto-adjoint dans l’espace C(X×X)\mathscr{C}(X\times X); il est stable par produit et il est fermé lorsque l’on munit C(X×X)\mathscr{C}(X\times X) de la topologie de la convergence simple.

nombre réelIl est élémentaire que sit⩾0t\geqslant 0, et que ff∈∈\frac{f}{f}\in \in NoyNoy++(X)_{++}(X).(X), alors tf∈tf\in Noy+(X)_+(X) pour tout

Si (E1,g1)(E_1, g_1) et (E2,g2)(E_2, g_2) sont des réalisations hilbertiennes de noyaux universellement positifs f1f_1 et f2f_2 sur X, alors le couple (E1⊕E2,g1+g2)(E_1\oplus E_2, g_1+g_2) (resp. le couple (E1⊗^2E2,g1⊗g2)(E_1\widehat{\otimes}_2E_2, g_1\otimes g_2)) est une réalisation hilbertienne de f1+f2f_1+f_2 (resp. de f1f2f_1f_2); ce sont donc des noyaux universellement positifs.

La caractérisation (ii) de Noy+(X)_+(X) (th. 1) implique que cet ensemble est fermé dans C(X×X)\mathscr{C}(X\times X) muni de la topologie de la convergence simple.

2. Complément sur le calcul fonctionnel holomorphe

Pour toute partie X de C\mathbf{C}, on note X∗X^* l’image de X par la conjugaison complexe. Soient U une partie ouverte de C\mathbf{C} et g:U→Cg: U\rightarrow \mathbf{C} une fonction holomorphe. La fonction f∗:z↦g(z‾)f^*:z\mapsto g(\overline{z}) est alors définie et holomorphe sur U∗U^*. L’application f↦f∗f\mapsto f^* est une bijection continue de O(U)\mathscr{O}(U) dans O(U∗)\mathscr{O}(U^*) telle que (f1f2)∗=f1∗f2∗(f_1f_2)^*=f_1^*f_2^* et (f1+f2)∗=f1∗+f2∗(f_1+f_2)^*=f_1^*+f_2^* pour f1f_1 et f2f_2 dans O(U)\mathscr{O}(U).

Soit C une partie compacte de C\mathbf{C}. Les applications f↦f∗f\mapsto f^* de O(U)\mathscr{O}(U) dans O(U∗)\mathscr{O}(U^*) pour U parcourant les parties ouvertes de C\mathbf{C} contenant C induisent une bijection continue de l’espace O(C)\mathscr{O}(C) dans O(C∗)\mathscr{O}(C^*)(I, p. 49, no1^o1), qui est également notée f↦f∗f\mapsto f^* et qui vérifie (f1f2)∗=f1∗f2∗(f_1f_2)^*=f_1^*f_2^* et (f1+f2)∗=f1∗+f2∗(f_1+f_2)^*=f_1^*+f_2^* pour f1f_1 et f2f_2 dans O(C)\mathscr{O}(C).

Proposition 3 03C1

Soit A une algèbre de Banach unifère involutive. Soit a∈Aa\in A. Le spectre de a∗a^* est l’image SpA(a)∗_A(a)^* de SpA(a)_A(a) par la conjugaison complexe. Pour tout f∈Of\in \mathscr{O}(SpA(a)_A(a)), on a f(a)∗=f∗(a∗)f(a)^*=f^*(a^*).

La première assertion résulte de I, p. 97. D’après ce qui précède, l’application φ\varphi de O\mathscr{O}(SpA(a)_A(a)) dans A définie par f↦(f∗(a∗))∗f\mapsto (f^*(a^*))^* est un morphisme unifère continu de O\mathscr{O}(SpA(a)_A(a)) dans A tel que l’image du germe au voisinage de SpA(a)_A(a) de la fonction identique de C\mathbf{C} est égal à aa. Par conséquent, φ\varphi est l’application f↦f(a)f\mapsto f(a) du calcul fonctionnel holomorphe (I, p. 74, th. 5).

Lemme 1 03C2

Soit D le disque unité ouvert dans C\mathbf{C}. Il existe une unique fonction holomorphe ff définie sur D telle que f(z)2=1−zf(z)^2= 1-z pour tout z∈Dz\in D et f(0)=1f(0) = 1. On a f∗=ff^*=f.

Le rayon de convergence de la série entière

+∞(1/2)n ^{+\infty}(1/2)_n
∑(−z) \sum(-z)
n n
n=0n=0

est à 1 et sa somme ff définit une fonction holomorphe sur D (VAR,

√ \surd

R1, p. 27, 3.2.9) prenant la valeur 1 en 0. Elle vérifie f(x)=1−xf(x) =1-x pour tout x∈D∩Rx\in D\cap \mathbf{R} (FVR, III, p. 19), donc f(z)2=1−zf(z)^2= 1-z pour z∈Dz\in D puisque la différence f(z)2−(1−z)f(z)^2-(1-z) est une fonction holomorphe dont toutes les dérivées successives s’annulent en 0 (VAR, R1, p. 27, 3.2.5). Par définition, on vérifie que f∗=ff^*=f.

Soit gg une fonction holomorphe sur D telle que g(z)2=1−zg(z)^2= 1-z pour tout z∈Dz\in D et telle que g(0)=1g(0) = 1. La fonction gg ne s’annule pas et la fonction continue f/gf /g sur D est à valeurs dans {−1,1}\{-1,1\}; puisque D est connexe et que f(0)=gf(0) =g(0), on a f=gf=g.

3. Formes linéaires positives

Définition 2 03C3

Soit A une algèbre involutive. Une forme linéaire λ\lambda sur A est dite positive si λ(a∗a)∈R+\lambda (a^*a)\in \mathbf{R}_+ pour tout a∈Aa\in A.

Si A est une algèbre de Banach involutive, on note A+′A'_+ l’ensemble des formes linéaires positives continues sur A.

Soit A une algèbre de Banach involutive. L’ensemble A+′A'_+ est un cône convexe pointé dans l’espace vectoriel réel des formes C\mathbf{C}-linéaires sur A.

Lemme 2 03C4

Soient A une algèbre de Banach involutive et λ\lambda une forme linéaire positive sur A.

a) Pour tous aa et bb dans A, on a λ(a∗b)=λ(b∗a)‾\lambda (a^*b) =\overline{\lambda(b^*a)} et

∣λ(a∗b)∣2⩽λ(a∗a)λ(b∗b) |\lambda (a^*b)|^2\leqslant \lambda (a^*a)\lambda (b^*b)

b) Si A est unifère, alors la forme linéaire λ\lambda est continue et sa norme est égale à λ(1)\lambda (1).

L’application (a,b)↦λ(a∗b)(a, b)\mapsto \lambda (a^*b) est une forme hermitienne positive sur A ; elle vérifie donc λ(a∗b)=λ(b∗a)\lambda (a^*b) =\lambda (b^*a) et ∣λ(a∗b)∣2⩽λ(a∗a)λ(b∗b)|\lambda (a^*b)|^2\leqslant \lambda (a^*a)\lambda (b^*b) pour tous aa et bb dans A (EVT, V, p. 2, remarque et p. 3, prop. 2).

Démontrons b). Soit a∈Aa\in A un élément hermitien de norme <1<1. Le rayon spectral de aa est inférieur à ∥a∥\|a\|, donc le spectre de aa est contenu dans le disque unité ouvert D de C\mathbf{C} (th. 1 de I, p. 24). Soit ff une fonction holomorphe sur D telle que f(z)2=1−zf(z)^2= 1-z pour tout z∈Dz\in D (lemme 1 de V, p. 435). Appliquons le calcul fonctionnel holomorphe à l’élément aa et à la fonction ff. L’élément b=f(a)b=f(a) vérifie b2=1−a(b^2= 1-a(I, p. 74, th. 5). D’après la prop. 3 de V, p. 435, on a de plus f(a)∗=f∗(a∗)=f(a)f(a)^*=f^*(a^*) =f(a), donc bb est hermitien. Il vient alors λ(1−a)=λ(b∗b)⩾0\lambda (1-a) =\lambda (b^*b)\geqslant 0, d’où λ(a)⩽λ(1)\lambda (a)\leqslant \lambda (1).

Soit maintenant b∈Ab\in A de norme <1<1. L’élément b∗bb^*b est hermitien et ∥b∗b∥<1\|b^*b\|<1, donc en appliquant a) avec a=1a= 1, on trouve

∣λ(b)∣2⩽λ(1)λ(b∗b)⩽λ(1)2 |\lambda (b)|^2\leqslant \lambda (1)\lambda (b^*b)\leqslant \lambda (1)^2

avec égalité si b=1b= 1. La forme linéaire λ\lambda est donc continue, et sa norme est égale à λ(1)\lambda (1). L’assertion b) est démontrée.

Exemple 03C5

Soit X un espace topologique compact et soit A l’algèbre stellaire C(X)\mathscr{C}(X). Les formes linéaires positives sur A s’identifient aux mesures positives sur X (INT, III, p. 52, § 1, no6^o6, th. 1).

Lemme 3 03C6

Soit A une algèbre de Banach unifère involutive admettant une unité approchée (I, p. 120, déf. 7). Soit λ\lambda une forme linéaire positive continue sur A.

a) Pour tout aa dans A, on a λ(a∗)=λ(a)‾\lambda (a^*) =\overline{\lambda(a)} et ∣λ(a)∣2⩽∥λ∥λ(a∗a)|\lambda (a)|^2\leqslant \|\lambda \|\lambda (a^*a);

b) Soit A~\widetilde{A} l’algèbre involutive obtenue à partir de A par adjonction d’un élément unité et soit ee son élément unité. Il existe une forme linéaire positive continue λ~\widetilde{\lambda} sur A~\widetilde{A} qui prolonge λ\lambda et telle que λ~(e)=∥λ∥\widetilde{\lambda}(e) =\|\lambda \|;

c) Pour tous aa et bb dans A, on a ∣λ(b∗ab)∣⩽∥a∥λ(b∗b)|\lambda (b^*ab)|\leqslant \|a\|\lambda (b^*b).

Démontrons a). Soit F\mathfrak{F} une unité approchée de A. Soit a∈Aa\in A. En utilisant le lemme 2, a) et la définition d’une unité approchée, on trouve

λ(a∗)=\lambda (a^*) = limf,Fλ(fa∗)=_{f,\mathfrak{F}}\lambda (f a^*) = limf,Fλ(af∗)=_{f,\mathfrak{F}}\lambda (af^*) = limf,Fλ((fa∗)∗)=λ(a)‾_{f,\mathfrak{F}}\lambda ((f a^*)^*) =\overline{\lambda(a)},

d’où (loc. cit.)

∣λ(a)∣2=|\lambda (a)|^2= limf,F∣λ(fa)∣2⩽λ(a∗a)_{f,\mathfrak{F}}|\lambda (f a)|^2\leqslant \lambda (a^*a) lim supf,Fλ(ff∗)⩽∥λ∥λ(a∗a)_{f,\mathfrak{F}}\lambda (f f^*)\leqslant \|\lambda \|\lambda (a^*a),

puisque F\mathfrak{F} est un filtre sur la boule unité de A.

Pour démontrer b), on peut supposer que λ\lambda n’est pas nulle, puis que ∥λ∥=1\|\lambda \|= 1. Pour a∈Aa\in A et z∈Cz\in \mathbf{C}, posons λ~(a+z⋅e)=λ(a)+z\widetilde{\lambda}(a+z\cdot e) =\lambda (a) +z. L’application λ~\widetilde{\lambda} est une forme linéaire continue sur A~\widetilde{A} qui prolonge λ\lambda et vérifie λ~(e)=1\widetilde{\lambda}(e) = 1. Elle est positive : pour tous a∈Aa\in A et z∈Cz\in \mathbf{C}, d’après a), on calcule

λ~((a+z⋅e)∗(a+z⋅e))=λ(a∗a)+zλ(a)+zλ(a∗)+∣z∣2 \widetilde{\lambda}((a+z\cdot e)^*(a+z\cdot e)) =\lambda (a^*a) +z\lambda (a) +z\lambda (a^*) +|z|^2
=∣z+λ(a)∣2+λ(a∗a)−∣λ(a)∣2⩾0 =|z+\lambda (a)|^2+\lambda (a^*a)- |\lambda (a)|^2\geqslant 0

Finalement, soit bb un élément de A. L’application a↦λ~(b∗ab)a\mapsto \widetilde{\lambda}(b^*ab) est une forme linéaire positive sur l’algèbre de Banach involutive unifère A~\widetilde{A}. Elle est donc continue de norme égale à sa valeur en ee (lemme 2, b)), qui est égale à λ(b∗b)\lambda (b^*b), d’où l’assertion c).

Proposition 4 03C7

Soit A une algèbre de Banach involutive.

a) Pour tout espace hilbertien E, tout morphisme d’algèbres involutives φ:A→L(E)\varphi : A\rightarrow \mathscr{L}(E) et tout vecteur x∈Ex\in E, la forme linéaire définie sur A par λ(a)=⟨x∣φ(a)x⟩\lambda (a) =\langle x|\varphi (a)x\rangle est une forme linéaire positive continue ;

b) Soit λ∈A+′\lambda \in A'_+. L’application ff de A×AA\times A dans C\mathbf{C} définie par f(a,b)=f(a, b) = λ(a∗b)\lambda (a^*b) pour tout (a,b)∈A×A(a, b)\in A\times A est un noyau universellement positif sur A.

Démontrons a). Pour tout a∈Aa\in A, on a

λ(a∗a)=⟨x∣φ(a∗a)x⟩=∥φ(a)x∥2⩾0 \lambda (a^*a) =\langle x|\varphi (a^*a)x\rangle =\|\varphi (a)x\|^2\geqslant 0

donc λ\lambda est une forme linéaire positive sur A ; elle est continue puisque φ\varphi est continu (prop. 2 de I, p. 104).

Démontrons b). La fonction ff est continue. Pour tout n∈Nn\in \mathbf{N}, toute famille (ai)0⩽i⩽n(a_i)_{0\leqslant i\leqslant n} dans A et toute famille (ti)0⩽i⩽n(t_i)_{0\leqslant i\leqslant n} de nombres complexes, on a

∑i=0n∑j=0nt‾itjf(ai,aj)=λ((∑i=0ntiai)∗(∑j=0ntjaj))⩾0 \sum_{i=0}^n\sum_{j=0}^n\overline{t}_it_jf(a_i, a_j) =\lambda ((\sum_{i=0}^nt_ia_i)^*(\sum_{j=0}^nt_ja_j))\geqslant 0

d’où le résultat (déf. 1 de V, p. 433).

Définition 3 03C8

Soit A une algèbre de Banach involutive. Soit λ∈A+′\lambda \in A'_+ une forme linéaire positive continue sur A. On appelle réalisation hilbertienne de λ\lambda un triplet (E,x,φ)(E, x, \varphi ) formé d’un espace hilbertien E, d’un élément xx de E et d’un morphisme d’algèbres involutives φ\varphi de A dans L(E)\mathscr{L}(E), tels que λ(b∗a)=⟨φ(b)x∣φ(a)x⟩\lambda (b^*a) =\langle \varphi (b)x|\varphi (a)x\rangle pour tout (a,b)∈A2(a, b)\in A^2.

Si l’ensemble des éléments φ(a)x\varphi (a)x pour a∈Aa\in A est total dans E, on dit que (E,x,φ)(E, x, \varphi ) est une réalisation hilbertienne cyclique de λ\lambda.

Proposition 5 03C9

Soit A une algèbre de Banach involutive admettant une unité approchée. Toute forme linéaire positive continue sur A admet une réalisation hilbertienne cyclique (E,x,φ)(E, x, \varphi ). Si A est unifère, alors il existe une telle réalisation où le morphisme φ\varphi est unifère.

On peut supposer que A est une algèbre unifère (lemme 3, b)).

Soit λ\lambda une forme linéaire positive continue sur A. Soit (E,g)(E, g) une réalisation hilbertienne cyclique du noyau universellement positif ff sur A défini par f(a,b)=λ(a∗b)f(a, b) =\lambda (a^*b) (prop. 4 et th. 1). L’application gg est continue, son image est totale dans E, et on a λ(a∗b)=⟨g(a)∣g(b)⟩\lambda (a^*b) =\langle g(a)|g(b)\rangle pour tout (a,b)∈A2(a, b)\in A^2. Posons x=g(1)∈Ex=g(1)\in E.

L’application gg de A dans E est linéaire : en effet, pour (a,b,c)∈A3(a, b, c)\in A^3 et (s,t)∈C2(s, t)\in \mathbf{C}^2, il vient

⟨g(c)∣g(sa+tb)⟩=λ(c∗(sa+tb)) \langle g(c)|g(sa+tb)\rangle =\lambda (c^*(sa+tb))
=sλ(c∗a)+tλ(c∗b)=⟨g(c)∣sg(a)+tg(b)⟩ =s\lambda (c^*a) +t\lambda (c^*b) =\langle g(c)|sg(a) +tg(b)\rangle

d’où l’assertion puisque l’image de gg est totale dans E.

En particulier, l’image F de gg est un sous-espace vectoriel dense de E. Le noyau de gg est un idéal à gauche de A : si g(b)=0g(b) = 0, alors pour tous aa et cc dans A, il vient

⟨g(ab)∣g(c)⟩=λ((ab)∗c)=λ(b∗(a∗c))=⟨g(b)∣g(a∗c)⟩=0 \langle g(ab)|g(c)\rangle =\lambda ((ab)^*c) =\lambda (b^*(a^*c)) =\langle g(b)|g(a^*c)\rangle = 0

donc g(ab)=0g(ab) = 0 puisque F est dense dans E.

Soit a∈Aa\in A. Puisque le noyau de gg est un idéal à gauche de A, il existe une application linéaire φ~(a):F→F\widetilde{\varphi}(a) : F\rightarrow F telle que φ~(a)(g(b))=g(ab)\widetilde{\varphi}(a)(g(b)) =g(ab) pour tout b∈Ab\in A. De plus, pour tout b∈Ab\in A, il vient

∥φ~(a)(g(b))∥2=∥g(ab)∥2=λ(b∗a∗ab)⩽∥a∗a∥λ(b∗b)⩽∥a∥2∥g(b)∥2 \|\widetilde{\varphi}(a)(g(b))\|^2=\|g(ab)\|^2=\lambda (b^*a^*ab)\leqslant \|a^*a\|\lambda (b^*b)\leqslant \|a\|^2\|g(b)\|^2

(lemme 3, c)), donc φ~(a)\widetilde{\varphi}(a) est continue et de norme ⩽∥a∥\leqslant \|a\|. Par conséquent, il existe un unique endomorphisme φ(a)∈L(E)\varphi (a)\in \mathscr{L}(E) qui induit φ~(a)\widetilde{\varphi}(a) par passage aux sous-espaces.

Soient aa et bb dans A. On a

(φ(a)∘φ(b))(g(c))=g(abc)=φ(ab)(g(c)) (\varphi (a)\circ \varphi (b))(g(c)) =g(abc) =\varphi (ab)(g(c))

pour tout cc dans A, donc φ(ab)=φ(a)∘φ(b)\varphi (ab) =\varphi (a)\circ \varphi (b) puisque F est dense dans E.

L’application φ\varphi de A dans L(E)\mathscr{L}(E) est linéaire : en effet, pour tout (a,b)∈A2(a, b)\in A^2 et tout (s,t)∈C2(s, t)\in \mathbf{C}^2, on a

φ(sa+tb)(g(c))=g((sa+tb)c)=(sφ(a)+tφ(b))g(c) \varphi (sa+tb)(g(c)) =g((sa+tb)c) = (s\varphi (a) +t\varphi (b))g(c)

pour tout c∈Ac\in A, d’où φ(sa+tb)=sφ(a)+tφ(b)\varphi (sa+tb) =s\varphi (a) +t\varphi (b) puisque F est dense dans E. Comme ∥φ(b)∥⩽∥b∥\|\varphi (b)\|\leqslant \|b\| pour tout b∈Ab\in A, l’application φ\varphi est continue. On a également φ(1)=1E\varphi (1) = 1_E puisque φ(1)(g(a))=g(a)\varphi (1)(g(a)) =g(a) pour tout a∈Aa\in A et que F est dense dans E.

Enfin, soient a,b,ca,b,c dans A. On a

⟨g(c)∣φ(a∗)(g(b))⟩=⟨g(c)∣g(a∗b)⟩=λ(c∗a∗b) \langle g(c)|\varphi (a^*)(g(b))\rangle =\langle g(c)|g(a^*b)\rangle =\lambda (c^*a^*b)
=⟨g(ac)∣g(b)⟩=⟨φ(a)(g(c))∣g(b)⟩ =\langle g(ac)|g(b)\rangle =\langle \varphi (a)(g(c))|g(b)\rangle

d’où φ(a∗)=φ(a)∗\varphi (a^*) =\varphi (a)^* puisque F est dense dans E.

En conclusion, l’application φ\varphi est un morphisme continu d’algèbres involutives de A dans L(E)\mathscr{L}(E) et g(a)=φ(a)xg(a) =\varphi (a)x pour tout a∈Aa\in A; par conséquent, le triplet (E,x,φ)(E, x, \varphi ) est une réalisation hilbertienne cyclique de λ\lambda.

Proposition 6 03CA

Soit A une algèbre de Banach involutive et soit λ\lambda une forme linéaire positive continue sur A. Soient (E1,x1,φ1)(E_1, x_1, \varphi_1) et (E2,x2,φ2)(E_2, x_2, \varphi_2) des réalisations hilbertiennes de λ\lambda. On suppose que (E1,x1,φ1)(E_1, x_1, \varphi_1) est une réalisation hilbertienne cyclique.

a) Il existe une unique application linéaire continue uu de E1E_1 dans E2E_2 qui est un morphisme de représentations de φ1\varphi_1 dans φ2(\varphi_2(I, p. 11) et qui vérifie u(φ1(a)x1)=φ2(a)x2u(\varphi_1(a)x_1) =\varphi_2(a)x_2 pour tout a∈Aa\in A;

b) L’application linéaire uu est isométrique ;

c) Si (E2,x2,φ2)(E_2, x_2, \varphi_2) est cyclique, alors uu est un isomorphisme ;

d) Si (E2,x2,φ2)(E_2, x_2, \varphi_2) est cyclique et si A est unifère, alors u(x1)=x2u(x_1) =x_2.

Pour j∈{1,2}j\in \{1,2\}, définissons γj:A→Ej\gamma_j: A\rightarrow E_j par γj(a)=φj(a)xj\gamma_j(a) =\varphi_j(a)x_j pour tout a∈Aa\in A. Par définition, les couples (Ej,γj)(E_j, \gamma_j) sont des réalisations hilbertiennes du noyau universellement positif ff sur A défini par (a,b)↦λ(a∗b)(a, b)\mapsto \lambda (a^*b). La réalisation hilbertienne (E1,γ1)(E_1, \gamma_1) est cyclique ; d’après la prop. 1 de V, p. 434, il existe donc une unique application linéaire continue u:E1→E2u: E_1\rightarrow E_2 telle que γ2=u∘γ1\gamma_2=u\circ \gamma_1, et celle-ci est isométrique. De plus, si (E2,x2,φ2)(E_2, x_2, \varphi_2) est également cyclique, alors uu est un isomorphisme. Pour démontrer a), b) et c), il suffit de démontrer que uu est un morphisme de représentations de φ1\varphi_1 dans φ2\varphi_2.

Soit a∈Aa\in A. Pour tout b∈Ab\in A, on a

(u∘φ1(a))(γ1(b))=(u∘φ1(ab))x1=(u∘γ1)(ab) (u\circ \varphi_1(a))(\gamma_1(b)) = (u\circ \varphi_1(ab))x_1= (u\circ \gamma_1)(ab)
=γ2(ab)=φ2(a)(γ2(b))=φ2(a)(u(γ1(b))) =\gamma_2(ab) =\varphi_2(a)(\gamma_2(b)) =\varphi_2(a)(u(\gamma_1(b)))

donc les applications linéaires continues u∘φ1(a)u\circ \varphi_1(a) et φ2(a)∘u\varphi_2(a)\circ u coïncident sur le sous-espace de E1E_1 engendré par l’image de γ1\gamma_1; ce sous-espace est dense dans E1E_1 par hypothèse, d’où u∘φ1(a)=φ2(a)∘uu\circ \varphi_1(a) =\varphi_2(a)\circ u.

Démontrons enfin d). Supposons donc que A est unifère et que (E2,x2,φ2)(E_2, x_2, \varphi_2) est cyclique. Il existe une réalisation hilbertienne cyclique (E3,x3,φ3)(E_3, x_3, \varphi_3) de λ\lambda telle que φ3\varphi_3 est un morphisme unifère (prop. 5). Soit j∈{1,2}j\in \{1,2\}. En appliquant ce qui précède à (Ej,xj,φj)(E_j, x_j, \varphi_j) et (E3,x3,φ3)(E_3, x_3, \varphi_3), on voit qu’il existe un isomorphisme isométrique u~j\widetilde{u}_j de EjE_j dans E3E_3 tel que u~j∘φj(a)=φ3(a)∘u~j\widetilde{u}_j\circ \varphi_j(a) =\varphi_3(a)\circ \widetilde{u}_j pour tout a∈Aa\in A. En prenant a=1Aa= 1_A, on voit que φj\varphi_j est unifère. On a alors x2=φ2(1A)x2=u(φ1(1A)x1)=u(x1)x_2=\varphi_2(1_A)x_2=u(\varphi_1(1_A)x_1) =u(x_1).

Remarque 03CB

Conservons les notations de la proposition. Il est possible que u(x1)u(x_1) soit différent de x2x_2 (exercice 3, b) de V, p. 493). Cependant, le triplet (E2,u(x1),φ2)(E_2, u(x_1), \varphi_2) est aussi une représentation hilbertienne de λ\lambda.

4. Représentations des algèbres stellaires

Soit A une algèbre stellaire. Notons A+A_+ le cône convexe fermé des éléments positifs de A (déf. 6 de I, p. 115). Une forme linéaire λ\lambda sur A est positive si et seulement si λ(A+)⊂R+(\lambda (A_+)\subset \mathbf{R}_+(I, p. 118, th. 2).

Proposition 7 03CC

Soit A une algèbre stellaire. Toute forme linéaire positive λ\lambda sur A est continue.

Démontrons d’abord que λ\lambda est bornée sur l’intersection de A+A_+ et de la boule unité de A. Supposons que ce ne soit pas le cas. Il existe alors une suite (xn)n⩾1(x_n)_{n\geqslant 1} dans A+A_+ telle que ∥xn∥⩽1\|x_n\|\leqslant 1 et λ(xn)⩾n\lambda (x_n)\geqslant n pour tout entier n⩾1n\geqslant 1. La série de terme général n−2xnn^{-2}x_n converge vers un élément xx de A (cf. TG, IV, p. 33, exemple 3). Pour tout entier N⩾1N\geqslant 1, comme

+∞+\infty

∑1n2xn∈A+\sum\frac{1}{n^2}x_n\in A_+,

n=N+1n=N+1

(I, p. 116, prop. 14) il vient

N N +∞+\infty

∑1n⩽∑1n2λ(xn)=λ(x)−λ(∑1n2xn)⩽λ(x)\sum\frac{1}{n}\leqslant \sum\frac{1}{n^2}\lambda (x_n) =\lambda (x)-\lambda (\sum\frac{1}{n^2}x_n)\leqslant \lambda (x),

n=1n=1n=N+1n=1n=1n=N+1

ce qui est absurde (TG, IV, p. 33, exemple 4).

Comme tout élément de la boule unité de A est combinaison linéaire avec des coefficients bornés par 1 d’au plus quatre éléments positifs de A de norme ⩽1\leqslant 1(I, p. 96, lemme 2 et formule (4) de I, p. 117), on conclut que λ\lambda est continue.

Il existe des algèbres de Banach involutives qui admettent des formes linéaires positives qui ne sont pas continues (exercice 3, a) de V, p. 493).

Proposition 8 03CD

Soient A une algèbre stellaire et aa un élément non nul de A. Il existe une forme linéaire positive λ∈A+′\lambda \in A'_+ telle que λ(a∗a)>0\lambda (a^*a)>0.

Considérons l’espace de Banach réel AhA_h des éléments hermitiens de A. L’ensemble A+A_+ est un cône convexe fermé pointé saillant dans AhA_h (prop. 14 de I, p. 116). L’élément a∗aa^*a est positif (th. 2 de I, p. 118) et non nul, donc l’élément hermitien −a∗a-a^*a n’est donc pas positif. D’après EVT, II, p. 42, cor. 5, il existe une forme linéaire réelle continue λ∈Ah′\lambda \in A'_h telle que λ(−a∗a)<0\lambda (-a^*a)<0 et λ(A+)⊂R+\lambda (A_+)\subset \mathbf{R}_+. La forme linéaire λ\lambda s’étend en une forme C\mathbf{C}-linéaire hermitienne sur A (cf. I, p. 98), qui est positive et qui possède la propriété demandée.

Théorème 2 (Gelfand–Naimark) 03CE

Soit A une algèbre stellaire. Il existe un espace hilbertien E et un morphisme isométrique d’algèbres involutives φ\varphi de A dans L(E)\mathscr{L}(E). Si A est unifère, il existe un tel morphisme unifère.

Pour tout b∈A−{0}b\in A-\{0\}, soit λb\lambda_b une forme linéaire positive continue sur A telle que λb(b∗b)>0\lambda_b(b^*b)>0 (prop. 8). Puisque A admet une unité approchée (I, p. 121, prop. 18), il existe une réalisation hilbertienne (Eb,xb,φb)(E_b, x_b, \varphi_b) de λb\lambda_b (prop. 5). Si A est unifère, on peut supposer que φb\varphi_b est unifère (loc. cit.). On a ∥φb(b)∥2=λb(b∗b)≠0\|\varphi_b(b)\|^2=\lambda_b(b^*b)\not = 0.

Soit E la somme hilbertienne externe des espaces EbE_b pour bb appartenant à A −{0}-\{0\}. Pour tout a∈Aa\in A, notons φ(a)∈L(E)\varphi (a)\in \mathscr{L}(E) l’unique application linéaire continue dont la restriction à EbE_b coïncide avec φb(a)\varphi_b(a) pour tout b∈A−{0}b\in A-\{0\}. L’application a↦φ(a)a\mapsto \varphi (a) est un morphisme d’algèbres involutives ; il est injectif, donc isométrique (prop. 9 de I, p. 112), et vérifie φ(1)=1E\varphi (1) = 1_E si A est unifère. Cela conclut la preuve.

La catégorie dont les objets sont les algèbres stellaires et les morphismes les morphismes d’algèbres involutives est donc équivalente à la catégorie dont les objets sont les sous-algèbres fermées involutives des algèbres d’endomorphismes des espaces hilbertiens, et les morphismes sont les morphismes d’algèbres involutives.

5. Fonctions de type positif sur un groupe topologique

Dans ce numéro, G est un groupe topologique dont on note ee l’élément unité. Les espaces hilbertiens considérés sont complexes.

Définition 4 03CF

Une fonction continue φ∈C(G)\varphi \in \mathscr{C}(G) est dite de type positif sur G si la fonction ff définie par f(g,h)=φ(g−1h)f(g, h) =\varphi (g^{-1}h) sur G×GG\times G est un noyau universellement positif sur G.

On note Pos(G) l’ensemble des fonctions de type positif sur G et on note Pos1(G)(_1(G) (resp. Pos⩽1(G))_{\leqslant 1}(G)) le sous-ensemble des φ∈\varphi \in Pos(G) telles que φ(e)=1(\varphi (e) = 1 (resp. telles que φ(e)⩽1)\varphi (e)\leqslant 1).

Exemple 03CG

Soient ϱ\varrho une représentation unitaire de G dans un espace hilbertien E et x∈Ex\in E. Soit φ\varphi le coefficient matriciel diagonal défini par φ(g)=⟨x∣ϱ(g)x⟩\varphi (g) =\langle x|\varrho (g)x\rangle pour tout g∈Gg\in G; la fonction φ\varphi est continue. Il vient

φ(g−1h)=⟨x∣ϱ(g)∗ϱ(h)x⟩=⟨ϱ(g)x∣ϱ(h)x⟩ \varphi (g^{-1}h) =\langle x|\varrho (g)^*\varrho (h)x\rangle =\langle \varrho (g)x|\varrho (h)x\rangle

pour tout (g,h)∈G×G(g, h)\in G\times G. Par conséquent φ∈\varphi \in Pos(G) (théorème 1 de V, p. 432, (iv)). On a φ∈\varphi \in Pos1(G)_1(G) si et seulement si ∥x∥=1\|x\|= 1.

Définition 5 03CH

Soit φ\varphi une fonction de type positif sur G. Une réalisation hilbertienne de φ\varphi est un couple (ϱ,x)(\varrho , x) où ϱ\varrho est une représentation unitaire de G dans un espace hilbertien E et x∈Ex\in E, tel que φ(g)=⟨x∣ϱ(g)x⟩\varphi (g) =\langle x|\varrho (g)x\rangle pour tout g∈Gg\in G.

Si xx est un vecteur cyclique de ϱ\varrho, on dit que c’est une réalisation hilbertienne cyclique de φ\varphi.

Proposition 9 03CI

Soit φ∈C(G)\varphi \in \mathscr{C}(G). Les conditions suivantes sont équivalentes :

(i) La fonction φ\varphi est de type positif sur G ;

(ii) Il existe une réalisation hilbertienne cyclique de φ\varphi;

(iii) Il existe une réalisation hilbertienne de φ\varphi.

La condition (ii) implique la condition (iii), et la condition (iii) implique (i) d’après l’exemple ci-dessus.

Démontrons finalement que (i) implique (ii). Soit (E,γ)(E, \gamma ) une réa-lisation hilbertienne cyclique du noyau universellement positif défini par f(g,h)=φ(g−1h)f(g, h) =\varphi (g^{-1}h) pour (g,h)∈G×G(g, h)\in G\times G. Soit k∈Gk\in G. La fonction continue γk:g↦γ(kg)\gamma_k:g\mapsto \gamma (kg) sur G vérifie

⟨γk(g)∣γk(h)⟩=⟨γ(kg)∣γ(kh)⟩=f(kg,kh)=φ((kh)−1kg)=f(g,h) \langle \gamma_k(g)|\gamma_k(h)\rangle =\langle \gamma (kg)|\gamma (kh)\rangle =f(kg, kh) =\varphi ((kh)^{-1}kg) =f(g, h)

pour tout (g,h)∈G×G(g, h)\in G\times G, donc (E,γk)(E, \gamma_k) est une réalisation hilbertienne de ff. D’après la prop. 1 de V, p. 434, il existe un unique élément unitaire ϱ(k)\varrho (k) dans L(E)\mathscr{L}(E) tel que γk=ϱ(k)∘γ\gamma_k=\varrho (k)\circ \gamma. Pour tout g∈Gg\in G, et tout (k1,k2)∈G×G(k_1, k_2)\in G\times G, il vient

ϱ(k1k2)(γ(g))=γ(k1k2g)=ϱ(k1)(ϱ(k2)(γ(g))) \varrho (k_1k_2)(\gamma (g)) =\gamma (k_1k_2g) =\varrho (k_1)(\varrho (k_2)(\gamma (g)))

d’où ϱ(k1k2)=ϱ(k1)ϱ(k2)\varrho (k_1k_2) =\varrho (k_1)\varrho (k_2) puisque l’image de γ\gamma est une partie totale de E.

Soit k∈Gk\in G. Pour tout g∈Gg\in G, on a ϱ(g)(γ(k))=γ(gk)\varrho (g)(\gamma (k)) =\gamma (gk), et l’application de G dans E définie par g↦ϱ(g)(γ(k))g\mapsto \varrho (g)(\gamma (k)) est donc continue. Puisque l’endomorphisme ϱ(g)\varrho (g) est unitaire, on en déduit que ϱ\varrho est une représentation unitaire de G dans E (lemme 4 de V, p. 380). Posons alors x=γ(e)x=\gamma (e). L’ensemble des vecteurs ϱ(g)x=ϱ(g)(γ(e))=γ(g)\varrho (g)x=\varrho (g)(\gamma (e)) =\gamma (g) pour gg parcourant G est total dans E, donc xx est un vecteur cyclique de ϱ\varrho. Comme

⟨x∣ϱ(g)x⟩=f(e,g)=φ(g) \langle x|\varrho (g)x\rangle =f(e, g) =\varphi (g)

pour tout g∈Gg\in G, le couple (ϱ,x)(\varrho , x) est une réalisation hilbertienne cyclique de φ\varphi.

Proposition 10 03CJ

Soit φ\varphi une fonction de type positif sur G et soient (ϱ1,x1)(\varrho_1, x_1) et (ϱ2,x2)(\varrho_2, x_2) des réalisations hilbertiennes de φ\varphi, la représentation hilbertienne (ϱ1,x1)(\varrho_1, x_1) étant cyclique. Il existe un unique G-morphisme isométrique uu de ϱ1\varrho_1 dans ϱ2\varrho_2 tel que u(x1)=x2u(x_1) =x_2. Si (ϱ2,x2)(\varrho_2, x_2) est aussi cyclique, alors uu est un isomorphisme.

Pour 1⩽j⩽21\leqslant j\leqslant 2, notons EjE_j l’espace de ϱj\varrho_j et γj\gamma_j la fonction sur G définie par γj(g)=ϱj(g)xj\gamma_j(g) =\varrho_j(g)x_j pour tout g∈Gg\in G. Les couples (E1,γ1)(E_1, \gamma_1) et (E2,γ2)(E_2, \gamma_2) sont des réalisations hilbertiennes de la fonction de type positif (g,h)↦φ(g−1h)(g, h)\mapsto \varphi (g^{-1}h), et (E1,γ1)(E_1, \gamma_1) est une réalisation hilbertienne cyclique. D’après la prop. 1 de V, p. 434, il existe une unique application linéaire isométrique u:E1→E2u: E_1\rightarrow E_2 telle que γ2=u∘γ1\gamma_2=u\circ \gamma_1. En particulier, on a x2=γ2(e)=u(γ1(e))=u(x1)x_2=\gamma_2(e) =u(\gamma_1(e)) =u(x_1). De plus, pour tous gg et hh dans G, on a

ϱ2(g)u(γ1(h))=ϱ2(g)γ2(h)=γ2(gh)=u(γ1(gh))=u(ϱ1(g)γ1(h)) \varrho_2(g)u(\gamma_1(h)) =\varrho_2(g)\gamma_2(h) =\gamma_2(gh) =u(\gamma_1(gh)) =u(\varrho_1(g)\gamma_1(h))

et comme l’ensemble des éléments γ1(h)\gamma_1(h) pour h∈Gh\in G est total dans E1E_1, cela signifie que uu est un G-morphisme. D’après loc. cit., c’est un isomorphisme isométrique si (ϱ2,x2)(\varrho_2, x_2) est également cyclique.

Proposition 11 03CK

Soient φ∈\varphi \in Pos1(G)_1(G) et (ϱ,x)(\varrho , x) une réalisation hilbertienne cyclique de φ\varphi. Alors ϱ\varrho est une représentation irréductible de G si et seulement si φ\varphi est un point extrémal (EVT, II, p. 57, déf. 1) de Pos1(G)_1(G).

Soit E l’espace de ϱ\varrho. Supposons tout d’abord que ϱ\varrho n’est pas irréductible. Soit F un sous-espace fermé de E stable par ϱ\varrho, non nul et différent de E. Écrivons x=x1+x2x=x_1+x_2, où x1∈Fx_1\in F et x2∈F∘x_2\in F^{\circ}. On a alors 1=∥x∥2=∥x1∥2+∥x2∥21 =\|x\|^2=\|x_1\|^2+\|x_2\|^2. La sous-représentation de E engendrée par x1x_1 est contenue dans F, donc x1≠xx_1\not =x puisque xx est un vecteur cyclique de ϱ\varrho, d’où x2≠0x_2\not = 0. De même on vérifie que x1≠0x_1\not = 0.

Pour j=1j= 1 et j=2j= 2, notons φj\varphi_j la fonction continue sur G telle que

φj(g)=1∥xj∥2⟨xj∣ϱ(g)xj⟩ \varphi_j(g) =\frac{1}{\|x_j\|^2}\langle x_j|\varrho (g)x_j\rangle

pour tout g∈Gg\in G. On a φj∈\varphi_j\in Pos1(G)_1(G)(V, p. 443, exemple). Comme φ=∥x1∥2φ1+∥x2∥2φ2\varphi =\|x_1\|^2\varphi_1+\|x_2\|^2\varphi_2, il suffit de vérifier que φ1≠φ2\varphi_1\not =\varphi_2 pour démontrer que φ\varphi n’est pas un point extrémal de Pos1(G)_1(G); il suffit pour cela de démontrer que φ≠φ1\varphi \not =\varphi_1.

Raisonnons par l’absurde et supposons que φ=φ1\varphi =\varphi_1. Comme on a ⟨x1∣ϱ(g)x2⟩=0\langle x_1|\varrho (g)x_2\rangle = 0 pour tout g∈Gg\in G, il viendrait

1∥x1∥2⟨x1∣ϱ(g)x⟩=1∥x1∥2⟨x1∣ϱ(g)x1⟩=φ1(g)=φ(g)=⟨x∣ϱ(g)x⟩ \frac{1}{\|x_1\|^2}\langle x_1|\varrho (g)x\rangle =\frac{1}{\|x_1\|^2}\langle x_1|\varrho (g)x_1\rangle =\varphi_1(g) =\varphi (g) =\langle x|\varrho (g)x\rangle

pour tout g∈Gg\in G, d’où ⟨x1∣y⟩=⟨∥x1∥2x∣y⟩\langle x_1|y\rangle =\langle \|x_1\|^2x|y\rangle pour tout élément yy du sous-espace vectoriel de E engendré par les éléments ϱ(g)x\varrho (g)x pour g∈Gg\in G, donc pour tout y∈Ey\in E puisque xx est un vecteur cyclique de ϱ\varrho. Cela impliquerait que x1=∥x1∥2xx_1=\|x_1\|^2x est aussi un vecteur cyclique de ϱ\varrho, ce qui est une contradiction, d’où l’assertion.

Supposons maintenant que ϱ\varrho est irréductible et démontrons que φ\varphi est un point extrémal de Pos1(G)_1(G). Soient φ1≠φ2\varphi_1\not =\varphi_2 des éléments de Pos1(G)_1(G) et t1,t2∈[0,1]t_1,t_2\in [0,1] tels que t1+t2=1t_1+t_2= 1 et φ=t1φ1+t2φ2\varphi =t_1\varphi_1+t_2\varphi_2. Pour j∈{1,2}j\in \{1,2\}, notons (ϱj,xj)(\varrho_j, x_j) une réalisation hilbertienne cyclique de φj\varphi_j, et notons EjE_j l’espace de ϱj\varrho_j. Soit x3=t11/2x1+t21/2x2x_3=t^{1/2}_1x_1+t^{1/2}_2x_2. Alors (ϱ1⊕ϱ2,x3)(\varrho_1\oplus \varrho_2, x_3) est une réalisation hilbertienne de φ\varphi. Comme (ϱ,x)(\varrho , x) est cyclique, il existe un G-morphisme isométrique u:E→E1⊕E2u: E\rightarrow E_1\oplus E_2 tel que u(x)=x3u(x) =x_3 (prop. 10).

Soit j=1j= 1 ou j=2j= 2. Puisque ϱ\varrho est irréductible, il existe λj⩾0\lambda_j\geqslant 0 tel que le G-morphisme uj=u_j= prj∘u_j\circ u de E dans EjE_j vérifie

⟨uj(y)∣uj(y′)⟩=λj⟨y∣y′⟩ \langle u_j(y)|u_j(y')\rangle =\lambda_j\langle y|y'\rangle

pour tous yy et y′y' dans E (cor. 5 de V, p. 388, si uj≠0u_j\not = 0, et on peut prendre λj=0\lambda_j= 0 sinon). Pour tout g∈Gg\in G, il vient

tjφj(g)=⟨tj1/2xj∣ϱj(g)(tj1/2xj)⟩=⟨uj(x)∣ϱj(g)(uj(x))⟩ t_j\varphi_j(g) =\langle t^{1/2}_jx_j|\varrho_j(g)(t^{1/2}_jx_j)\rangle =\langle u_j(x)|\varrho_j(g)(u_j(x))\rangle
=⟨uj(x)∣uj(ϱ(g)x)⟩=λjφ(g) =\langle u_j(x)|u_j(\varrho (g)x)\rangle =\lambda_j\varphi (g)

Comme φj(e)=φ(e)=1\varphi_j(e) =\varphi (e) = 1, on en déduit que φj=φ\varphi_j=\varphi si tj≠0t_j\not = 0. L’hypothèse φ1≠φ2\varphi_1\not =\varphi_2 implique donc que t1t_1 ou t2t_2 doit être nul, ce qui démontre que φ\varphi est un point extrémal de Pos1(G)_1(G).

Lemme 4 03CL

Soit φ∈\varphi \in Pos(G). La fonction φ\varphi est bornée sur G et on a ∥φ∥∞=φ(e)\|\varphi \|_{\infty}=\varphi (e). De plus, on a

∣φ(g−1h)−φ(h)∣⩽√2φ(e)(φ(e)−R(φ(g)))‾(1) |\varphi (g^{-1}h)-\varphi (h)|\leqslant \surd\overline{2\varphi(e)(\varphi(e) -\mathscr{R}(\varphi(g)))} \tag{1}

pour tout (g,h)∈G×G(g, h)\in G\times G.

Soit (ϱ,x)(\varrho , x) une réalisation hilbertienne de φ\varphi. On a φ(e)=∥x∥2\varphi (e) =\|x\|^2. Pour tout g∈Gg\in G, il vient donc ∣φ(g)∣=∣⟨x∣ϱ(g)x⟩∣⩽φ(e)|\varphi (g)|=|\langle x|\varrho (g)x\rangle |\leqslant \varphi (e) d’après l’inégalité de Cauchy-Schwarz. Cela démontre la première assertion.

Pour tout (g,h)∈G×G(g, h)\in G\times G, on a

φ(g−1h)−φ(h)=⟨x∣ϱ(g−1h)x⟩−⟨x∣ϱ(h)x⟩=⟨ϱ(g)x−x∣ϱ(h)x⟩ \varphi (g^{-1}h)-\varphi (h) =\langle x|\varrho (g^{-1}h)x\rangle - \langle x|\varrho (h)x\rangle =\langle \varrho (g)x-x|\varrho (h)x\rangle

puisque ϱ\varrho est unitaire, d’où

∣φ(g−1h)−φ(h)∣⩽∥ϱ(g)x−x∥∥ϱ(h)x∥⩽φ(e)1/2∥ϱ(g)x−x∥ |\varphi (g^{-1}h)-\varphi (h)|\leqslant \|\varrho (g)x-x\|\|\varrho (h)x\|\leqslant \varphi (e)^{1/2}\|\varrho (g)x-x\|

On conclut en observant que

∥ϱ(g)x−x∥2=2∥x∥2−2R(⟨x∣ϱ(g)x⟩)=2(φ(e)−R(φ(g))) \|\varrho (g)x-x\|^2= 2\|x\|^2-2\mathscr{R}(\langle x|\varrho (g)x\rangle ) = 2(\varphi (e)-\mathscr{R}(\varphi (g)))

Remarque 03CM

Les ensembles Pos(G) (resp. Pos1(G)_1(G) et Pos⩽1(G)_{\leqslant 1}(G)) sont des parties convexes auto-adjointes de l’algèbre stellaire Cb(G)\mathscr{C}_b(G). Ils sont fermés dans l’espace Cb(G)\mathscr{C}_b(G) muni de la topologie de la convergence simple. L’ensemble Pos(G) est un cône convexe de sommet 0 dans l’espace de Banach réel Cb(G)\mathscr{C}_b(G).

6. Dual unitaire d’un groupe localement compact

Soit G un groupe topologique localement compact. On munit G d’une mesure de Haar à gauche μ\mu. Pour p∈[1,+∞]p\in [1,+\infty ], on note Lp(G)\mathscr{L}^p(G) (resp. Lp(G)L^p(G)) l’espace LCp(G,μ)\mathscr{L}_{\mathbf{C}}^p(G, \mu) (resp. l’espace LCp(G,μ)L^p_{\mathbf{C}}(G, \mu)). On identifie l’espace Cb(G)\mathscr{C}_b(G) à son image dans L∞(G)L^{\infty}(G).

Notons Δ le module de G. Rappelons que L1(G)L^1(G) est une algèbre de Banach involutive dont l’involution est induite, par passage aux quotients, par l’application f↦f∗f\mapsto f^* où f∗(y)=Δ−1(y)f(y−1)f^*(y) = \Delta^{-1}(y)f(y^{-1}) pour tous f∈L1(G)f\in \mathscr{L}^1(G) et y∈G(y\in G (cf. I, p. 99, exemple 4). L’algèbre de Banach L1(G)L^1(G) admet une unité approchée d’après INT, VIII, p. 172, §4, no7^o7, prop. 20.

Soit ϱ\varrho une représentation unitaire de G dans un espace hilbertien complexe E. L’application f↦ϱ(f)f\mapsto \varrho (f) est un morphisme continu d’algèbres involutives de L1(G)L^1(G) dans L(E)\mathscr{L}(E) (lemme 1 de V, p. 401) ; c’est une représentation non dégénérée de L1(G)L^1(G) dans E (INT, VIII, p. 139, § 2, no7^o7, prop. 10, (i)).

Proposition 12 03CN

Soient E un espace hilbertien complexe et π~\widetilde{\pi} un morphisme d’algèbres involutives de L1(G)L^1(G) dans L(E)\mathscr{L}(E). Si la représentation π~\widetilde{\pi} est non dégénérée, alors il existe une unique représentation unitaire π\pi de G dans E telle que π~(f)=π(f)\widetilde{\pi}(f) =\pi (f) pour tout f∈L1(G)f\in L^1(G).

L’unicité résulte de INT, VIII, p. 139, § 2, no7^o7, cor. 3 du lemme 4.

Démontrons l’existence de π\pi. On a ∥π~∥⩽1\|\widetilde{\pi}\|\leqslant 1 d’après la prop. 2 de I, p. 104. Soit F le sous-espace de E engendré par les vecteurs de la forme π~(f)x\widetilde{\pi}(f)x pour ff dans L1(G)L^1(G) et xx dans E ; il est dense dans E puisque la représentation π~\widetilde{\pi} est non dégénérée.

Pour tout voisinage compact V de ee, soit φV\varphi_V une fonction continue positive à support contenu dans V telle que ∫φVμ=1\int\varphi_V\mu= 1. Soit B\mathfrak{B} une base du filtre des voisinages compacts de ee.

Soient gg dans G et ff dans L1(G)L^1(G). On a (φV∗εg)∗f→εg∗f(\varphi_V*\varepsilon_g)*f\rightarrow \varepsilon_g*f dans L1(G)L^1(G) suivant le filtre des sections de B\mathfrak{B} (INT, VIII, p. 172, § 4, no7^o7, prop. 20), donc π~(φV∗εg)π~(f)\widetilde{\pi}(\varphi_V*\varepsilon_g)\widetilde{\pi}(f) converge vers π~(εg∗f)\widetilde{\pi}(\varepsilon_g*f) dans L(E)\mathscr{L}(E). Cela implique que π~(φV∗εg)\widetilde{\pi}(\varphi_V*\varepsilon_g) converge simplement suivant le filtre des sections de B\mathfrak{B} vers une application linéaire π(g)\pi (g) de F dans F ; celle-ci est continue d’après EVT, III, p. 26, cor. 3, puisque ∥π~(φV∗εg)∥⩽1\|\widetilde{\pi}(\varphi_V*\varepsilon_g)\|\leqslant 1 pour tout voisinage compact V de ee. Il existe donc un unique endomorphisme de E qui induit π(g)\pi (g) par passage aux sous-espaces. On note encore π(g)\pi (g) cet endomorphisme ; on a ∥π(g)∥⩽1\|\pi (g)\|\leqslant 1.

Soit f∈L1(G)f\in L^1(G). Puisque π~(φV∗εg)π~(f)\widetilde{\pi}(\varphi_V*\varepsilon_g)\widetilde{\pi}(f) converge vers π~(εg∗f)\widetilde{\pi}(\varepsilon_g*f), on a π(g)π~(f)=π~(εg∗f)\pi (g)\widetilde{\pi}(f) =\widetilde{\pi}(\varepsilon_g*f).

Pour g=eg=e, cette relation montre que π(e)\pi (e) est l’identité sur F, donc π(e)=1E\pi (e) = 1_E. Soient g1g_1 et g2g_2 dans G. On a

π(g1)π(g2)π~(f)=π(g1)π~(εg2∗f)=π~(εg1g2∗f)=π(g1g2)π~(f) \pi (g_1)\pi (g_2)\widetilde{\pi}(f) =\pi (g_1)\widetilde{\pi}(\varepsilon_{g_2}*f) =\widetilde{\pi}(\varepsilon_{g_1g_2}*f) =\pi (g_1g_2)\widetilde{\pi}(f)

d’où π(g1)π(g2)=π(g1g2)\pi (g_1)\pi (g_2) =\pi (g_1g_2) sur F, et donc sur E. Cela démontre que l’application g↦π(g)g\mapsto \pi (g) est une représentation de G dans E. Comme ∥π(g)∥⩽\|\pi (g)\|\leqslant 1 et ∥π(g)−1∥\|\pi (g)^{-1}\| = ∥π(g−1)∥⩽\|\pi (g^{-1})\|\leqslant 1, les endomorphismes π(g)\pi (g) de E sont isométriques, donc unitaires (EVT, V, p. 40, prop. 3).

Soient f∈L1(G)f\in L^1(G) et x∈Ex\in E. L’application g↦εg∗fg\mapsto \varepsilon_g*f de G dans L1(G)L^1(G) est continue (INT, VIII, p. 136, § 2, no5^o5 et p. 144, § 3, no2^o2, formule (5)), et π~\widetilde{\pi} est continue, donc l’application g↦π~(εg∗f)x=π(g)π~(f)xg\mapsto \widetilde{\pi}(\varepsilon_g*f)x=\pi (g)\widetilde{\pi}(f)x est continue en g=eg=e. Comme F est dense dans E, la représentation π\pi est unitaire (lemme 4 de V, p. 380).

Soient f1f_1 et f2f_2 dans L1(G)L^1(G). D’après INT, VIII, p. 127, §1, no5^o5, prop. 7, on a la relation

f1∗f2=∫Gf1(g)(εg∗f2)dμ(g) f_1*f_2=\int_Gf_1(g)(\varepsilon_g*f_2)d\mu(g)

dans L1L^1(G), d’où

π~(f1)π~(f2)=π~(f1∗f2)=∫Gf1(g)π~(εg∗f2)dμ(g) \widetilde{\pi}(f_1)\widetilde{\pi}(f_2) =\widetilde{\pi}(f_1*f_2) =\int_Gf_1(g)\widetilde{\pi}(\varepsilon_g*f_2)d\mu(g)
=∫Gf1(g)π(g)π~(f2)dμ(g)=(∫Gf1(g)π(g)dμ(g))π~(f2) =\int_Gf_1(g)\pi (g)\widetilde{\pi}(f_2)d\mu(g) =(\int_Gf_1(g)\pi (g)d\mu(g))\widetilde{\pi}(f_2)

en utilisant INT, VI, p. 9, § 1, no1^o1, prop. 1. Il en résulte que

π~(f)=∫Gf(g)π(g)dμ(g)=π(f) \widetilde{\pi}(f) =\int_Gf(g)\pi (g)d\mu(g) =\pi (f)

pour tout f∈L1(G)f\in L^1(G). La proposition est démontrée.

Proposition 13 03CO

Soit φ∈L∞(G)\varphi \in L^{\infty}(G). Notons λφ\lambda_{\varphi} la forme linéaire continue f↦⟨f,φ⟩f\mapsto \langle f, \varphi \rangle sur L1(G)L^1(G). Alors φ\varphi est la classe d’une fonction de type positif sur G si et seulement si λφ\lambda_{\varphi} est une forme linéaire positive continue sur L1(G)L^1(G).

Supposons que λφ\lambda_{\varphi} est une forme linéaire positive continue sur L1(G)L^1(G). Soit (E,x,π~)(E, x,\widetilde{\pi}) une réalisation hilbertienne cyclique de λ\lambda (prop. 5 de V, p. 438).

Soit π\pi une représentation unitaire de G dans E telle que π(f)=π~(f)\pi (f) =\widetilde{\pi}(f) pour tout f∈L1(G)f\in L^1(G) (prop. 12). On a alors λφ(f)=⟨x∣π(f)x⟩\lambda_{\varphi}(f) =\langle x|\pi (f)x\rangle pour tout f∈L1(G)f\in L^1(G).

Comme

π(f)=∫Gf(g)π(g)dμ(g) \pi (f) =\int_Gf(g)\pi (g)d\mu(g)

pour tout f∈L1f\in L^1(G), il vient

∫Gf(g)φ(g)dμ(g)=λφ(f)=⟨x∣π(f)x⟩=∫Gf(g)⟨x∣π(g)x⟩dμ(g) \int_Gf(g)\varphi (g)d\mu(g) =\lambda_{\varphi}(f) =\langle x|\pi (f)x\rangle =\int_Gf(g)\langle x|\pi (g)x\rangle d\mu(g)

pour tout f∈L1(G)f\in L^1(G) (INT, VI, p. 9, § 1, no1^o1, prop. 1). Ainsi, φ\varphi est la classe dans L∞(G)L^{\infty}(G) de la fonction sur G définie par g↦⟨x∣π(g)x⟩g\mapsto \langle x|\pi (g)x\rangle, qui est une fonction de type positif sur G (prop. 9 de V, p. 443).

Réciproquement, soit φ∈\varphi \in Pos(G). Soit f∈K(G)f\in \mathscr{K}(G). On a alors

λφ(f∗∗f)=∫Gφ(y)∫GΔ(z)−1f(z−1)f(z−1y)dμ(z)dμ(y) \lambda_{\varphi}(f^**f) =\int_G\varphi (y)\int_G\Delta (z)^{-1}f(z^{-1})f(z^{-1}y)d\mu(z)d\mu(y)
=∫Gφ(y)∫Gf(z)f(zy)dμ(z)dμ(y) =\int_G\varphi (y)\int_Gf(z)f(zy)d\mu(z)d\mu(y)

(INT, VII, p. 19, § 1, no3^o3, formule (22)). La fonction continue sur G×GG\times G définie par (z,y)↦φ(y)f(z)f(zy)(z, y)\mapsto \varphi (y)f(z)f(zy) est bornée et

∫G∗∣φ(y)∣(∫G∗∣f(z)‾f(zy)∣dμ(z))dμ(y) \int_G^*|\varphi(y)|\left(\int_G^*|\overline{f(z)}f(zy)|d\mu(z)\right)d\mu(y)
⩽φ(e)∫G∗∫G∗∣f(z)∣∣f(zy)∣dμ(z)dμ(y) \leqslant\varphi(e)\int_G^*\int_G^*|f(z)||f(zy)|d\mu(z)d\mu(y)
=φ(e)(∫G∗∣f(z)∣dμ(z))2 =\varphi(e)\left(\int_G^*|f(z)|d\mu(z)\right)^2

d’après INT, V, p. 94, § 8, no3^o3, prop. 8. On déduit donc du théorème de Lebesgue–Fubini (INT, V, p. 96, § 8, no4^o4, th. 1) que

λφ(f∗∗f)=∫Gf(z)∫Gφ(y)f(zy)dμ(y)dμ(z) \lambda_{\varphi}(f^**f) =\int_Gf(z)\int_G\varphi (y)f(zy)d\mu(y)d\mu(z)
=∫G×Gf(z)f(y)φ(z−1y)d(μ⊗μ)(z,y) =\int_{G\times G}f(z)f(y)\varphi (z^{-1}y)d(\mu\otimes \mu)(z, y)

Cela implique que λφ(f∗∗f)⩾0\lambda_{\varphi}(f^**f)\geqslant 0 d’après le théorème 1, (i) de V, p. 432 appliqué à la mesure induite par μ\mu sur le support de ff (INT, IV, p. 186, § 5, no7^o7, déf. 4). On en déduit par continuité que λφ(f∗∗f)⩾0\lambda_{\varphi}(f^**f)\geqslant 0 pour tout f∈L1(G)f\in L^1(G).

Les espaces L∞(G)L^{\infty}(G) et Cb(G)\mathscr{C}_b(G) sont munis de leurs topologies d’espaces de Banach, dont on note f↦∥f∥∞f\mapsto \|f\|_{\infty} la norme. On appellera ici topologie faible sur L∞L^{\infty}(G), Cb(G)\mathscr{C}_b(G) ou Pos(G) la topologie induite par la topologie faible σ(L∞(G),L1(G))\sigma (L^{\infty}(G),L^1(G)).

Comme L∞(G)L^{\infty}(G) s’identifie au dual de L1(G)L^1(G) (INT, V, p. 61, §5, no8^o8, th. 4), toute boule fermée de L∞(G)L^{\infty}(G) est compacte pour la topologie faible (EVT, III, p. 17, cor. 3).

Corollaire 03CP

Dans L∞(G)L^{\infty}(G) muni de la topologie faible, l’ensemble Pos(G) est fermé et l’ensemble Pos⩽1(G)_{\leqslant 1}(G) est compact.

La première assertion résulte de la proposition, et la seconde découle alors de EVT, III, loc. cit.

En général, Pos1(G)_1(G) n’est pas compact pour la topologie faible, comme le montre l’exemple du groupe R\mathbf{R} (exercice 10 de V, p. 497).

Proposition 14 03CQ

L’ensemble des points extrémaux de Pos⩽1(G)_{\leqslant 1}(G) est égal à la réunion de l’ensemble des points extrémaux de Pos1(G)_1(G) et de la fonction nulle. De plus, l’enveloppe fermée convexe de l’ensemble des points extrémaux de Pos1(G)_1(G) contient Pos1(G)_1(G).

D’après le cor. de la prop. 13, l’ensemble Pos⩽1(G)_{\leqslant 1}(G) est un chapeau du cône convexe pointé Pos(G), qui est défini par la jauge φ↦φ(e)\varphi \mapsto \varphi (e) (EVT, II, p. 61, déf. 3 et prop. 4). Ses points extrémaux sont donc la fonction nulle et les éléments φ\varphi de Pos1(G)_1(G) appartenant aux génératrices extrémales de Pos(G) (EVT, II, p. 62, cor. 1). Ceux-ci sont les points extrémaux de Pos1(G)_1(G) (EVT, II, p. 61, prop. 3). La première assertion en résulte.

Démontrons la seconde assertion. Soit φ∈\varphi \in Pos1(G)_1(G). Comme l’ensemble Pos⩽1(G)_{\leqslant 1}(G) est compact pour la topologie faible (cor. de la prop. 13), il existe un filtre F\mathfrak{F} sur l’enveloppe convexe des points extrémaux de Pos⩽1(G)_{\leqslant 1}(G) qui converge vers φ\varphi (EVT, II, p. 59, th. 1). Comme les boules fermées de l’espace de Banach L∞(G)L^{\infty}(G) sont fermées pour la topologie faible et que ∥φ∥∞=1\|\varphi \|_{\infty}= 1, on a limψ,F∥ψ∥∞=1_{\psi ,\mathfrak{F}}\|\psi \|_{\infty}= 1 (en effet, dans le cas contraire, il existerait un nombre réel c<1c <1 et un filtre G\mathfrak{G} sur la boule fermée de rayon cc dans L∞(G)L^{\infty}(G) qui serait plus fin que F\mathfrak{F}, ce qui impliquerait que φ\varphi appartient à cette boule fermée).

D’après la description des points extrémaux de Pos⩽1_{\leqslant 1}(G), tout élément ψ\psi de l’enveloppe convexe des points extrémaux de Pos⩽1(G)_{\leqslant 1}(G) est une fonction de type positif sur G de la forme

ψ=∑i∈Itiψi \psi =\sum_{i\in I}t_i\psi_i

où I est un ensemble fini, ψi\psi_i est un point extrémal de Pos1(G)_1(G) pour tout i∈Ii\in I, et ti∈[0,1]t_i\in [0,1]. On a ∑iti=ψ(e)=∥ψ∥∞⩽1\sum_it_i=\psi (e) =\|\psi \|_{\infty}\leqslant 1 (lemme 4 de V, p. 446). Si ψ≠0\psi \not = 0, la fonction

ψ∥ψ∥∞=∑i∈Itiψ(e)ψi \frac{\psi}{\|\psi\|_{\infty}}=\sum_{i\in I}\frac{t_i}{\psi(e)}\psi_i

appartient donc à l’enveloppe convexe des points extrémaux de Pos1(G)_1(G). Comme limψ,F∥ψ∥∞−1ψ=φ_{\psi ,\mathfrak{F}}\|\psi \|^{-1}_{\infty}\psi =\varphi, on conclut que φ\varphi appartient à l’enveloppe fermée convexe des points extrémaux de Pos1(G)_1(G). L’assertion en résulte.

7. Existence de représentations irréductibles

On conserve les notations du numéro précédent.

Théorème 3 (Raikov) 03CR

La topologie faible sur Pos1(G)_1(G) coïncide avec la topologie de la convergence compacte.

Nous démontrerons d’abord quelques lemmes.

Lemme 5 03CS

Soient X un espace topologique localement compact et ν\nu une mesure positive sur X. Sur toute partie bornée de Cb(X)\mathscr{C}_b(X), la topologie induite par la topologie faible σ(L∞(X),L1(X))\sigma (L^{\infty}(X),L^1(X)) est moins fine que la topologie de la convergence compacte.

Soit B une partie bornée de Cb(X)\mathscr{C}_b(X) et soit M∈R+M\in \mathbf{R}_+ tel que ∥φ∥∞⩽M\|\varphi \|_{\infty}\leqslant M pour tout φ∈B\varphi \in B. Soient ψ∈L1(X,ν)\psi \in L^1(X, \nu ) et ε>0\varepsilon >0. Fixons une partie compacte K de X telle que

∫X−K∣ψ∣dν<ε \int_{X-K}|\psi |d\nu < \varepsilon

Pour tous φ1\varphi_1 et φ2\varphi_2 dans B, on a alors

⟨φ1−φ2,ψ⟩=∫Xψ(φ1−φ2)dν \langle \varphi_1-\varphi_2, \psi \rangle =\int_X\psi (\varphi_1-\varphi_2)d\nu
=∫Kψ(φ1−φ2)dν+∫X−Kψ(φ1−φ2)dν =\int_K\psi (\varphi_1-\varphi_2)d\nu +\int_{X-K}\psi (\varphi_1-\varphi_2)d\nu

d’où

∣⟨φ1−φ2,ψ⟩∣⩽|\langle \varphi_1-\varphi_2, \psi \rangle |\leqslant supx∈K∣φ1(x)−φ2(x)∣∥ψ∥1+2Mε_{x\in K}|\varphi_1(x)-\varphi_2(x)| \|\psi \|_1+ 2M\varepsilon,

et le lemme en résulte.

Lemme 6 03CT

Soit ψ∈L1(G)\psi \in L^1(G). Soit B une partie bornée de l’espace de Banach L∞(G)L^{\infty}(G). L’application φ↦ψ∗φ\varphi \mapsto \psi *\varphi de B dans Cb(G)\mathscr{C}_b(G) est continue lorsque B est muni de la topologie faible et Cb(G)\mathscr{C}_b(G) de la topologie de la convergence compacte.

Soient φ∈L∞(G)\varphi \in L^{\infty}(G) et η∈L1(G)\eta \in L^1(G). La fonction Δ−1ηˇ\Delta^{-1}\check{\eta} appartient à L1(G)L^1(G) et ⟨η,ψˇ⟩=⟨Δ−1η,ψˇ⟩(\langle \eta ,\check{\psi}\rangle =\langle \Delta^{-1}\check{\eta , \psi}\rangle (cf. INT, VII, p. 19, § 1, no3^o3, formule (22)). L’application φ↦φˇ\varphi \mapsto \check{\varphi} est donc un automorphisme de l’espace L∞(G)L^{\infty}(G) muni de la topologie faible.

Soit φ∈L∞(G)\varphi \in L^{\infty}(G). D’après INT, VIII, p. 167, § 4, no5^o5, prop. 14, la fonction ψ∗φ\psi *\varphi appartient à Cb(G)\mathscr{C}_b(G) et vérifie

(ψ∗φ)(g)=∫Gψ(h)φ(h−1g)dμ(h) (\psi *\varphi )(g) =\int_G\psi (h)\varphi (h^{-1}g)d\mu(h)

=∫Gψ(gy)φˇ(y)dμ(y)=⟨φ,ˇγG(1)(g−1)ψ⟩=\int_G\psi (gy)\check{\varphi}(y)d\mu(y) =\langle \check{\varphi ,}\boldsymbol{\gamma }^{(1)}_G(g^{-1})\psi \rangle pour tout g∈Gg\in G. Il en résulte que l’application linéaire u:φ↦ψ∗φu:\varphi \mapsto \psi *\varphi est une application continue de l’espace L∞(G)L^{\infty}(G) muni de la topologie faible dans Cb(G)\mathscr{C}_b(G) muni de la topologie de la convergence simple.

Soient φ∈B\varphi \in B et (g,h)∈G×G(g, h)\in G\times G. D’après la formule ci-dessus, on a

∣u(φ)(g)−u(φ)(h)∣⩽∥φˇ∥∞∥(γG(1)(g−1)−γG(1)(h−1))ψ∥1|u(\varphi )(g)-u(\varphi )(h)|\leqslant \|\check{\varphi}\|_{\infty}\|(\boldsymbol{\gamma }^{(1)}_G(g^{-1})-\boldsymbol{\gamma }^{(1)}_G(h^{-1}))\psi \|_1.

Comme B est bornée et que la représentation régulière gauche de G dans L1(G)L^1(G) est continue (no4^o4 de V, p. 405), cela implique que u(B)u(B) est une partie équicontinue de Cb(G)\mathscr{C}_b(G). L’assertion résulte alors de ce qui précède et de TG, X, p. 16, th. 1.

Lemme 7 03CU

Soit ψ∈L1(G)\psi \in L^1(G) telle que ψ⩾0\psi \geqslant 0 et ∫ψ=1\int\psi = 1. Notons pp la semi-norme sur Cb(G)\mathscr{C}_b(G) définie par p(φ)=∣⟨φ,ψ⟩∣p(\varphi ) =|\langle \varphi , \psi \rangle | pour tout φ∈Cb(G)\varphi \in \mathscr{C}_b(G). Pour tout φ∈\varphi \in Pos1(G)_1(G), on a

∥ψ∗φ−φ∥∞⩽√2p(1−φ)‾ \|\psi *\varphi -\varphi \|_{\infty}\leqslant \surd\overline{2p(1 -\varphi)}

Soient φ∈\varphi \in Pos1(G)_1(G) et x∈Gx\in G. D’après INT, VIII, p. 167, § 4, no5^o5, prop. 14, on obtient

∣ψ∗φ(x)−φ(x)∣=∣∫G(φ(y−1x)−φ(x))ψ(y)dμ(y)∣ |\psi *\varphi (x)-\varphi (x)|=|\int_G(\varphi (y^{-1}x)-\varphi (x))\psi (y)d\mu(y)|
⩽∫G∣φ(y−1x)−φ(x)∣ψ(y)dμ(y) \leqslant \int_G|\varphi (y^{-1}x)-\varphi (x)|\psi (y)d\mu(y)
⩽∫G√2(1−Rφ(y))‾ψ(y)dμ(y) \leqslant \int_G\surd\overline{2(1 -\mathscr{R}\varphi(y))}\psi (y)d\mu(y)

en appliquant la majoration (1) de V, p. 446. L’inégalité de CauchySchwarz implique alors

√∫1/2∫1/2\surd \int 1/2\int 1/2
∥ψ∗φ−φ∥∞⩽2‾(G(1−R(φ))ψdμ)(Gψdμ) \|\psi *\varphi -\varphi \|_{\infty}\leqslant \overline{2}(_G(1-\mathscr{R}(\varphi ))\psi d\mu)(_G\psi d\mu)
√√ \surd \surd

⩽\leqslant 2 p(1−φ)p(1-\varphi ),

d’où le résultat.

Lemme 8 03CV

Soit K un corps topologique et soient E et F des espaces vectoriels topologiques sur K. Soient ff une application de E dans F et X une partie de E. Soit x∈Xx\in X. L’application f∣Xf|X est continue en xx si, pour tout voisinage W de 0 dans F, il existe un voisinage U de xx dans E et une application continue gg de X dans F tels que (f−g)(U∩X)⊂W(f-g)(U\cap X)\subset W.

Soit W0W_0 un voisinage de 0 dans F et soit V0V_0 un voisinage symétrique de 0 dans F tel que V0+V0+V0⊂W0V_0+V_0+V_0\subset W_0. Soit U0U_0 un voisinage de xx dans E et gg une application continue de X dans F telle que (f−g)(U0∩X)⊂V0(f-g)(U_0\cap X)\subset V_0. Il existe un voisinage U1U_1 de xx dans E tel que g(U1∩X)⊂g(x)+V0g(U_1\cap X)\subset g(x) + V_0. Pour tout y∈U0∩U1∩Xy\in U_0\cap U_1\cap X, on a

f(y)−f(x)=(f(y)−g(y))+(g(y)−g(x))+ f(y)-f(x) = (f(y)-g(y)) + (g(y)-g(x))+
(g(x)−f(x))∈V0+V0+V0⊂W0 (g(x)-f(x))\in V_0+ V_0+ V_0\subset W_0

donc f(y)∈f(x)+W0f(y)\in f(x) + W_0, d’où le résultat.

Démontrons maintenant le théorème 3. Notons Pos1(G)f_1(G)_f (resp. Pos1(G)c_1(G)_c) l’ensemble Pos1(G)_1(G) muni de la topologie faible (resp. de la topologie de la convergence compacte) ; de même, notons Cb(G)f\mathscr{C}_b(G)_f (resp. Cb(G)c\mathscr{C}_b(G)_c) l’espace Cb(G)\mathscr{C}_b(G) muni de la topologie faible (resp. de la topologie de la convergence compacte).

L’application identité de Pos1(G)c_1(G)_c dans Pos1(G)f_1(G)_f est continue (lemme 5). Réciproquement, notons ι\iota l’inclusion de Pos1(G)f_1(G)_f dans Cb(G)c\mathscr{C}_b(G)_c. Démontrons que ι\iota est continue pour conclure la démonstration.

Soit φ1∈\varphi_1\in Pos1(G)_1(G). Pour vérifier que ι\iota est continue en φ1\varphi_1, nous appliquons le lemme 8. Soit W un voisinage de 0 dans Cb(G)c\mathscr{C}_b(G)_c. Il suffit de trouver une application linéaire uu de Cb(G)\mathscr{C}_b(G) dans Cb(G)\mathscr{C}_b(G) qui induit par passage aux sous-espaces une application continue de Pos1(G)f_1(G)_f dans Cb(G)c\mathscr{C}_b(G)_c, ainsi qu’un voisinage U de 0 dans Pos1(G)f_1(G)_f, de sorte que l’on ait (ι−u)(U∩(\iota -u)(U\cap Pos1(G))⊂W_1(G))\subset W.

Il existe ε>0\varepsilon >0 tel que W contient l’ensemble des φ∈Cb(G)\varphi \in \mathscr{C}_b(G) qui vérifient ∥φ∥∞⩽ε\|\varphi \|_{\infty}\leqslant \varepsilon. Comme φ1(e)=1\varphi_1(e) = 1, il existe un voisinage compact V de ee dans G tel que

supx∈V∣1−φ1(x)∣⩽ε24_{x\in V}|1-\varphi_1(x)|\leqslant \frac{\varepsilon^2}{4}.

Soit φV\varphi_V la fonction caractéristique de V, et posons ψV=μ(V)−1φV\psi_V=\mu(V)^{-1}\varphi_V. L’application linéaire u:φ↦ψV∗φu:\varphi \mapsto \psi_V*\varphi de Pos1(G)f_1(G)_f dans Cb(G)c\mathscr{C}_b(G)_c est continue (lemme 6).

Notons qVq_V la semi-norme φ↦∣⟨φ,ψV⟩∣\varphi \mapsto |\langle \varphi , \psi_V\rangle | sur Cb(G)\mathscr{C}_b(G); elle est continue pour la topologie faible. Puisque ψV\psi_V est nulle en dehors de V, il vient qV(1−φ1)⩽ε2/4q_V(1-\varphi_1)\leqslant \varepsilon^2/4; il existe donc un voisinage U de φ1\varphi_1 dans Cb(G)f\mathscr{C}_b(G)_f tel que qV(1−φ)⩽ε2/2q_V(1-\varphi )\leqslant \varepsilon^2/2 pour tout φ∈U\varphi \in U.

Soit φ∈U∩\varphi \in U\cap Pos1(G)_1(G). D’après le lemme 7, on a

∥(ι−u)(φ)∥∞⩽√2qV(1−φ)‾⩽ε \|(\iota -u)(\varphi )\|_{\infty}\leqslant \surd\overline{2q_V(1 -\varphi)}\leqslant \varepsilon

donc (ι−u)(U)⊂W(\iota -u)(U)\subset W. Le théorème est démontré.

En général, la topologie faible sur Pos⩽1(G)_{\leqslant 1}(G) ne coïncide pas avec la topologie de la convergence compacte, comme le montre l’exemple du groupe R\mathbf{R}.

On rappelle qu’on note G^\widehat{G} l’ensemble des classes de représentations unitaires irréductibles de G (V, p. 393, déf. 8).

Théorème 4 (Gelfand–Raikov) 03CW

Pour tout x≠ex\not =e dans G, il existe une représentation unitaire irréductible π\pi de G telle que π(x)\pi (x) n’est pas l’endomorphisme identique de l’espace de π\pi.

Soit x∈Gx\in G tel que π(x)\pi (x) est l’identité pour tout π∈G^\pi \in \widehat{G}. Il en résulte que φ(x)=φ(e)=1\varphi (x) =\varphi (e) = 1 pour tout point extrémal φ\varphi de Pos1(G)_1(G) (prop. 11 de V, p. 444), donc pour tout φ∈\varphi \in Pos1(G)_1(G) d’après la prop. 14 puisque la forme linéaire φ↦φ(e)\varphi \mapsto \varphi (e) est continue sur Pos1(G)_1(G) muni de la topologie faible (th. 3). Mais si x≠ex\not =e, il existe f∈L2(G)f\in L^2(G) de norme 1 tel que ⟨f∣γG(x)f⟩=0\langle f|\boldsymbol{\gamma }_G(x)f\rangle = 0(V, p. 406, lemme 3). Comme le membre de gauche de cette égalité est de la forme φ(x)\varphi (x), où φ∈\varphi \in Pos1_1(G), c’est une contradiction.

Si G n’est pas localement compact, il n’est pas toujours vrai que les représentations unitaires irréductibles de G séparent les points de G.

Corollaire 03CX

Pour tous éléments g≠hg\not =h dans G, il existe une représentation irréductible π∈G^\pi \in \widehat{G} et un coefficient matriciel ff de π\pi tel que f(g)≠f(h)f(g)\not =f(h). En particulier, la sous-algèbre Υ(G) de Cb(G)\mathscr{C}_b(G) sépare les points de G.

Soient g≠hg\not =h dans G. Il existe une représentation irréductible π∈G^\pi \in \widehat{G} telle que π(g)≠π(h)\pi (g)\not =\pi (h) (th. 4), donc il existe xx et yy dans l’espace de π\pi tels que ⟨x∣π(g)y⟩≠⟨x∣π(h)y⟩\langle x|\pi (g)y\rangle \not =\langle x|\pi (h)y\rangle.

8. Fonctions de type positif sur un groupe localement compact commutatif

Dans ce numéro, G est un groupe localement compact commutatif et μ\mu désigne une mesure de Haar sur G. On note G^\widehat{G} le groupe dual de G et μ^\widehat{\mu} la mesure de Haar duale de μ\mu (déf. 4 de II, p. 214). On note F\mathscr{F} la transformation de Fourier sur l’espace de Banach M1(G)\mathscr{M}^1(G) des mesures bornées sur G.

Puisque C0(G)\mathscr{C}_0(G) est l’adhérence de K(G)\mathscr{K}(G) dans Cb\mathscr{C}_b(G), l’espace de Banach M1(G)\mathscr{M}^1(G) dual de K(G)\mathscr{K}(G) muni de la topologie de Cb(G)\mathscr{C}_b(G) s’identifie au dual de C0(G)(\mathscr{C}_0(G) (cf. INT, III, p. 56, § 1, no8)^o8). On munit M1(G)\mathscr{M}^1(G) de la topologie faible associée à cette dualité.

Lemme 9 03CY

La transformation de Fourier est une application continue de M1(G)\mathscr{M}^1(G) muni de la topologie faible dans Cb(G^)\mathscr{C}_b(\widehat{G}) muni de la topologie induite par la topologie faible σ(L∞(G^),L1(G^))\sigma (L^{\infty}(\widehat{G}),L^1(\widehat{G})).

Soit F\mathfrak{F} un filtre sur M1(G)\mathscr{M}^1(G) convergeant faiblement vers une mesure bornée ν\nu sur G. Pour tout φ∈L1(G^)\varphi \in L^1(\widehat{G}), on a F(φ)∈C0(G)\mathscr{F}(\varphi )\in \mathscr{C}_0(G) (prop. 4 de II, p. 209), donc

∫G^φF(ν)dμ^=∫GF(φ)dν \int_{\widehat{G}}\varphi \mathscr{F}(\nu )d\widehat{\mu}=\int_G\mathscr{F}(\varphi )d\nu

= limη,F∫GF(φ)dη=_{\eta ,\mathfrak{F}}\int_G\mathscr{F}(\varphi )d\eta = limη,F∫G^φF(η)dμ^_{\eta ,\mathfrak{F}}\int_{\widehat{G}}\varphi \mathscr{F}(\eta )d\widehat{\mu},

d’après la propriété de transposition de la transformation de Fourier (prop. 13 de II, p. 221). Le lemme en découle.

Théorème 5 (Bochner) 03CZ

Une fonction continue φ\varphi sur G^\widehat{G} appartient à Pos(G^\widehat{G}) si et seulement s’il existe une mesure positive bornée ν\nu sur G telle que φ=F(ν)\varphi =\mathscr{F}(\nu ).

Soit ν∈M1(G)\nu \in \mathscr{M}^1(G) une mesure positive. Sa transformée de Fourier est continue. Pour toute famille finie (xi)i∈I(x_i)_{i\in I} dans G^\widehat{G} et toute famille finie (ti)i∈I(t_i)_{i\in I} de nombres complexes, il vient

∑i∈I∑j∈It‾itjF(ν)(xi−1xj)=∑i∈I∑j∈It‾itj∫Gxix‾jdν \sum_{i\in I}\sum_{j\in I}\overline{t}_it_j\mathscr{F}(\nu )(x^{-1}_ix_j) =\sum_{i\in I}\sum_{j\in I}\overline{t}_it_j\int_Gx_i\overline{x}_jd\nu
=∫G∣∑i∈It‾ixi∣2dν⩾0 =\int_G|\sum_{i\in I}\overline{t}_ix_i|^2d\nu \geqslant 0

puisque ν\nu est une mesure positive. La transformée de Fourier de ν\nu est donc une fonction de type positif sur G^\widehat{G} (th. 1 de V, p. 432, (ii)).

Démontrons la réciproque. Munissons l’ensemble Pos⩽1(G^)_{\leqslant 1}(\widehat{G}) de la topologie faible, induite comme précédemment par la topologie faible σ(L∞(G^),L1(G^))\sigma (L^{\infty}(\widehat{G}),L^1(\widehat{G})). L’ensemble Pos⩽1(G^)_{\leqslant 1}(\widehat{G}) est compact et convexe (cor. de la prop. 13 de V, p. 448). D’après la prop. 14 de V, p. 450, la prop. 11 de V, p. 444 et le cor. 7 de V, p. 390, les points extrémaux de Pos⩽1(G^)_{\leqslant 1}(\widehat{G}) sont la fonction nulle et les éléments de G^\widehat{G}.

Soit N\mathscr{N} l’ensemble des mesures positives bornées de masse ⩽1\leqslant 1 sur G ; il est compact dans M1(G)\mathscr{M}^1(G) muni de la topologie faible (EVT, III, p. 17, cor. 3). D’après le lemme 9 et la première partie de la preuve, la transformation de Fourier sur G définit par passage aux sous-espaces une application continue de N\mathscr{N} dans Pos⩽1(G^)_{\leqslant 1}(\widehat{G}); par homogénéité, il suffit de démontrer que cette application est surjective. L’image F(N)\mathscr{F}(\mathscr{N}) de N\mathscr{N} par la transformation de Fourier est convexe et compacte ; elle contient la fonction nulle et les éléments de G^\widehat{G} (en effet, ceux-ci sont de la forme evx:χ↦χ(x)_x:\chi \mapsto \chi (x) pour un élément xx de G d’après le th. 2 de II, p. 220, et on a evx=F(εx−1)_x=\mathscr{F}(\varepsilon_{x^{-1}})). L’ensemble F(N)\mathscr{F}(\mathscr{N}) contient donc les points extrémaux de Pos⩽1_{\leqslant 1}(G), d’où F(N)=\mathscr{F}(\mathscr{N}) = Pos⩽1(G)_{\leqslant 1}(G) d’après le théorème de Krein–Milman (EVT, II, p. 59, th. 1). Cela conclut la démonstration.

Lorsque G=RkG =\mathbf{R}^k pour un entier k∈Nk\in \mathbf{N}, ce théorème correspond à la prop. 11 de INT, IX, p. 94, § 6, no12^o12.

Exercices

See the exercises for § 3.

Transcribed from the printed volume. Not translated.