Dans ce paragraphe, tous les espaces vectoriels, ainsi que tous les espaces hilbertiens et les algèbres considérées, sont sur C, sauf mention du contraire.
1. Noyaux universellement positifs
Dans ce numéro, X est un espace topologique séparé.
Soit f∈C(X×X). Les conditions suivantes sont équivalentes :
(i) Pour toute partie compacte Y de X et toute mesure positive μ sur Y, l’endomorphisme de L2(Y,μ) défini par le noyau f∣(Y×Y) (déf. 1 de III, p. 29) est positif, autrement dit, on a
∫Y×Yh(x)h(y)f(x,y)d(μ⊗μ)(x,y)⩾0
pour tout h∈L2(Y,μ);
(ii) Pour tout entier n∈N, toute famille (xi)0⩽i⩽n dans X et toute famille (ti)0⩽i⩽n de nombres complexes, on a
i=0∑nj=0∑ntitjf(xi,xj)⩾0
(iii) Il existe un espace hilbertien complexe E et une application continue g:X→E d’image totale telle que f(x,y)=⟨g(x)∣g(y)⟩ pour tous x et y dans X ;
(iv) Il existe un espace hilbertien complexe E et une application continue g:X→E telle que f(x,y)=⟨g(x)∣g(y)⟩ pour tous x et y dans X.
Il est apparent que (iii) implique (iv) et on voit que (i) implique (ii) en considérant la mesure discrète μ qui est l’image de la mesure de comptage sur {0,...,n} par l’application i↦xi et la fonction h telle que
h(x)=0⩽i⩽n∑ti
xi=x
Démontrons que (iv) implique (i). Supposons qu’il existe un espace hilbertien complexe E et une application continue g:X→E tels que f(x,y)=⟨g(x)∣g(y)⟩ pour tout (x,y)∈X×X. Soient Y une partie compacte de X,μ une mesure positive sur Y et h∈L2(Y,μ). On a
∫Y×Yh(x)h(y)f(x,y)d(μ⊗μ)(x,y)
=∫Y×Yh(x)h(y)⟨g(x)∣g(y)⟩d(μ⊗μ)(x,y)
=⟨∫Yh(x)g(x)dμ(x)∣∫Yh(y)g(y)dμ(y)⟩⩾0
d’après INT, V, p. 97, § 8, no4, prop. 9.
Démontrons enfin que (ii) implique (iii). Soit E l’espace des mesures complexes à support fini sur X. Pour μ1 et μ2 dans E, on pose
⟨μ1∣μ2⟩=∫X×Xf(x,y)(μ1⊗μ2)(x,y)
La forme sesquilinéaire ainsi définie sur E est une forme hermitienne positive. En effet, soit μ∈E; il existe une famille finie (xi)0⩽i⩽n dans X et des nombres complexes (ti)0⩽i⩽n tels que μ=∑i=0ntiεxi. On a alors
⟨μ∣μ⟩=i=0∑nj=0∑ntitjf(xi,xj)⩾0
par hypothèse. On définit g:X→E par g(x)=εx. L’image de l’application g engendre E. De plus, pour tout (x,y)∈X×X, on a d’une part f(x,y)=⟨g(x)∣g(y)⟩ et d’autre part
∥g(x)−g(y)∥2=f(x,x)+f(y,y)−f(x,y)−f(y,x)
ce qui implique que g est continue puisque f est continue.
Soient E l’espace hilbertien séparé-complété de E (EVT, V, p. 8, cor. de la prop. 4) et g:X→E la composition de g et de l’application canonique E→E. Alors l’application g est continue, son image est totale dans E, et on a f(x,y)=⟨g(x)∣g(y)⟩ pour tout (x,y)∈X×X.
La méthode employée pour démontrer que (ii) implique (iii) est appelée la construction de Gelfand–Naimark–Segal.
On dit qu’une fonction f∈C(X×X) est un noyau universellement positif sur X si elle vérifie les conditions équivalentes du théorème 1.
Si f est un noyau universellement positif sur X, un couple (E,g) vérifiant la condition (iv) de loc. cit. est appelé une réalisation hilbertienne de f; si la condition (iii) est satisfaite, on dit que c’est une réalisation hilbertienne cyclique.
On note Noy+(X) l’ensemble des noyaux universellement positifs sur X.
Soient X′ un espace topologique séparé et h:X→X′ une application continue. L’application f↦f∘(h,h) de C(X′×X′) dans C(X×X) induit par passage aux sous-espaces une application Noy+(X′)→ Noy+(X).
Soit f un noyau universellement positif sur X. Soient (E1,g1) et (E2,g2) des réalisations hilbertiennes de f. On suppose que (E1,g1) est une réalisation hilbertienne cyclique. Il existe alors une unique application linéaire continue u:E1→E2 telle que g2=u∘g1. Cette application est isométrique. Si (E2,g2) est également cyclique, alors u est un isomorphisme.
L’unicité de u résulte du fait que l’image de g1 est totale dans E1. Soit F=C(X) et soit (ex)x∈X la base canonique de F. Pour j=1 et j=2, notons uj l’application linéaire de F dans Ej déterminée par uj(ex)=gj(x), et notons Fj son image ; l’espace F1 est dense dans E1.
Par conséquent, il existe une application linéaire isométrique v de F1 dans F2 telle que u2=v∘u1, et en particulier g2(x)=v(g1(x)) pour tout x∈X. Puisque l’image de g1 est totale dans E1, cette application se prolonge en une application linéaire isométrique u de E1 dans E2 telle que g2=u∘g1.
D’après le lemme 8 de I, p. 107, l’image de u est fermée dans E2. Si (E2,g2) est une réalisation hilbertienne cyclique, l’image de u est également dense dans E2 et u est donc un isomorphisme.
L’ensemble Noy+(X) est un cône auto-adjoint dans l’espace C(X×X); il est stable par produit et il est fermé lorsque l’on munit C(X×X) de la topologie de la convergence simple.
nombre réelIl est élémentaire que sit⩾0, et que ff∈∈ NoyNoy++(X).(X), alors tf∈ Noy+(X) pour tout
Si (E1,g1) et (E2,g2) sont des réalisations hilbertiennes de noyaux universellement positifs f1 et f2 sur X, alors le couple (E1⊕E2,g1+g2) (resp. le couple (E1⊗2E2,g1⊗g2)) est une réalisation hilbertienne de f1+f2 (resp. de f1f2); ce sont donc des noyaux universellement positifs.
La caractérisation (ii) de Noy+(X) (th. 1) implique que cet ensemble est fermé dans C(X×X) muni de la topologie de la convergence simple.
2. Complément sur le calcul fonctionnel holomorphe
Pour toute partie X de C, on note X∗ l’image de X par la conjugaison complexe. Soient U une partie ouverte de C et g:U→C une fonction holomorphe. La fonction f∗:z↦g(z) est alors définie et holomorphe sur U∗. L’application f↦f∗ est une bijection continue de O(U) dans O(U∗) telle que (f1f2)∗=f1∗f2∗ et (f1+f2)∗=f1∗+f2∗ pour f1 et f2 dans O(U).
Soit C une partie compacte de C. Les applications f↦f∗ de O(U) dans O(U∗) pour U parcourant les parties ouvertes de C contenant C induisent une bijection continue de l’espace O(C) dans O(C∗)(I, p. 49, no1), qui est également notée f↦f∗ et qui vérifie (f1f2)∗=f1∗f2∗ et (f1+f2)∗=f1∗+f2∗ pour f1 et f2 dans O(C).
Soit A une algèbre de Banach unifère involutive. Soit a∈A. Le spectre de a∗ est l’image SpA(a)∗ de SpA(a) par la conjugaison complexe. Pour tout f∈O(SpA(a)), on a f(a)∗=f∗(a∗).
La première assertion résulte de I, p. 97. D’après ce qui précède, l’application φ de O(SpA(a)) dans A définie par f↦(f∗(a∗))∗ est un morphisme unifère continu de O(SpA(a)) dans A tel que l’image du germe au voisinage de SpA(a) de la fonction identique de C est égal à a. Par conséquent, φ est l’application f↦f(a) du calcul fonctionnel holomorphe (I, p. 74, th. 5).
Soit D le disque unité ouvert dans C. Il existe une unique fonction holomorphe f définie sur D telle que f(z)2=1−z pour tout z∈D et f(0)=1. On a f∗=f.
Le rayon de convergence de la série entière
+∞(1/2)n
∑(−z)
n
n=0
est à 1 et sa somme f définit une fonction holomorphe sur D (VAR,
√
R1, p. 27, 3.2.9) prenant la valeur 1 en 0. Elle vérifie f(x)=1−x pour tout x∈D∩R (FVR, III, p. 19), donc f(z)2=1−z pour z∈D puisque la différence f(z)2−(1−z) est une fonction holomorphe dont toutes les dérivées successives s’annulent en 0 (VAR, R1, p. 27, 3.2.5). Par définition, on vérifie que f∗=f.
Soit g une fonction holomorphe sur D telle que g(z)2=1−z pour tout z∈D et telle que g(0)=1. La fonction g ne s’annule pas et la fonction continue f/g sur D est à valeurs dans {−1,1}; puisque D est connexe et que f(0)=g(0), on a f=g.
Soient A une algèbre de Banach involutive et λ une forme linéaire positive sur A.
a) Pour tous a et b dans A, on a λ(a∗b)=λ(b∗a) et
∣λ(a∗b)∣2⩽λ(a∗a)λ(b∗b)
b) Si A est unifère, alors la forme linéaire λ est continue et sa norme est égale à λ(1).
L’application (a,b)↦λ(a∗b) est une forme hermitienne positive sur A ; elle vérifie donc λ(a∗b)=λ(b∗a) et ∣λ(a∗b)∣2⩽λ(a∗a)λ(b∗b) pour tous a et b dans A (EVT, V, p. 2, remarque et p. 3, prop. 2).
Démontrons b). Soit a∈A un élément hermitien de norme <1. Le rayon spectral de a est inférieur à ∥a∥, donc le spectre de a est contenu dans le disque unité ouvert D de C (th. 1 de I, p. 24). Soit f une fonction holomorphe sur D telle que f(z)2=1−z pour tout z∈D (lemme 1 de V, p. 435). Appliquons le calcul fonctionnel holomorphe à l’élément a et à la fonction f. L’élément b=f(a) vérifie b2=1−a(I, p. 74, th. 5). D’après la prop. 3 de V, p. 435, on a de plus f(a)∗=f∗(a∗)=f(a), donc b est hermitien. Il vient alors λ(1−a)=λ(b∗b)⩾0, d’où λ(a)⩽λ(1).
Soit maintenant b∈A de norme <1. L’élément b∗b est hermitien et ∥b∗b∥<1, donc en appliquant a) avec a=1, on trouve
∣λ(b)∣2⩽λ(1)λ(b∗b)⩽λ(1)2
avec égalité si b=1. La forme linéaire λ est donc continue, et sa norme est égale à λ(1). L’assertion b) est démontrée.
Soit X un espace topologique compact et soit A l’algèbre stellaire C(X). Les formes linéaires positives sur A s’identifient aux mesures positives sur X (INT, III, p. 52, § 1, no6, th. 1).
Soit A une algèbre de Banach unifère involutive admettant une unité approchée (I, p. 120, déf. 7). Soit λ une forme linéaire positive continue sur A.
a) Pour tout a dans A, on a λ(a∗)=λ(a) et ∣λ(a)∣2⩽∥λ∥λ(a∗a);
b) Soit A l’algèbre involutive obtenue à partir de A par adjonction d’un élément unité et soit e son élément unité. Il existe une forme linéaire positive continue λ sur A qui prolonge λ et telle que λ(e)=∥λ∥;
c) Pour tous a et b dans A, on a ∣λ(b∗ab)∣⩽∥a∥λ(b∗b).
Démontrons a). Soit F une unité approchée de A. Soit a∈A. En utilisant le lemme 2, a) et la définition d’une unité approchée, on trouve
Pour démontrer b), on peut supposer que λ n’est pas nulle, puis que ∥λ∥=1. Pour a∈A et z∈C, posons λ(a+z⋅e)=λ(a)+z. L’application λ est une forme linéaire continue sur A qui prolonge λ et vérifie λ(e)=1. Elle est positive : pour tous a∈A et z∈C, d’après a), on calcule
λ((a+z⋅e)∗(a+z⋅e))=λ(a∗a)+zλ(a)+zλ(a∗)+∣z∣2
=∣z+λ(a)∣2+λ(a∗a)−∣λ(a)∣2⩾0
Finalement, soit b un élément de A. L’application a↦λ(b∗ab) est une forme linéaire positive sur l’algèbre de Banach involutive unifère A. Elle est donc continue de norme égale à sa valeur en e (lemme 2, b)), qui est égale à λ(b∗b), d’où l’assertion c).
a) Pour tout espace hilbertien E, tout morphisme d’algèbres involutives φ:A→L(E) et tout vecteur x∈E, la forme linéaire définie sur A par λ(a)=⟨x∣φ(a)x⟩ est une forme linéaire positive continue ;
b) Soit λ∈A+′. L’application f de A×A dans C définie par f(a,b)=λ(a∗b) pour tout (a,b)∈A×A est un noyau universellement positif sur A.
Démontrons a). Pour tout a∈A, on a
λ(a∗a)=⟨x∣φ(a∗a)x⟩=∥φ(a)x∥2⩾0
donc λ est une forme linéaire positive sur A ; elle est continue puisque φ est continu (prop. 2 de I, p. 104).
Démontrons b). La fonction f est continue. Pour tout n∈N, toute famille (ai)0⩽i⩽n dans A et toute famille (ti)0⩽i⩽n de nombres complexes, on a
Soit A une algèbre de Banach involutive. Soit λ∈A+′ une forme linéaire positive continue sur A. On appelle réalisation hilbertienne de λ un triplet (E,x,φ) formé d’un espace hilbertien E, d’un élément x de E et d’un morphisme d’algèbres involutives φ de A dans L(E), tels que λ(b∗a)=⟨φ(b)x∣φ(a)x⟩ pour tout (a,b)∈A2.
Si l’ensemble des éléments φ(a)x pour a∈A est total dans E, on dit que (E,x,φ) est une réalisation hilbertienne cyclique de λ.
Soit A une algèbre de Banach involutive admettant une unité approchée. Toute forme linéaire positive continue sur A admet une réalisation hilbertienne cyclique (E,x,φ). Si A est unifère, alors il existe une telle réalisation où le morphisme φ est unifère.
On peut supposer que A est une algèbre unifère (lemme 3, b)).
Soit λ une forme linéaire positive continue sur A. Soit (E,g) une réalisation hilbertienne cyclique du noyau universellement positif f sur A défini par f(a,b)=λ(a∗b) (prop. 4 et th. 1). L’application g est continue, son image est totale dans E, et on a λ(a∗b)=⟨g(a)∣g(b)⟩ pour tout (a,b)∈A2. Posons x=g(1)∈E.
L’application g de A dans E est linéaire : en effet, pour (a,b,c)∈A3 et (s,t)∈C2, il vient
⟨g(c)∣g(sa+tb)⟩=λ(c∗(sa+tb))
=sλ(c∗a)+tλ(c∗b)=⟨g(c)∣sg(a)+tg(b)⟩
d’où l’assertion puisque l’image de g est totale dans E.
En particulier, l’image F de g est un sous-espace vectoriel dense de E. Le noyau de g est un idéal à gauche de A : si g(b)=0, alors pour tous a et c dans A, il vient
⟨g(ab)∣g(c)⟩=λ((ab)∗c)=λ(b∗(a∗c))=⟨g(b)∣g(a∗c)⟩=0
donc g(ab)=0 puisque F est dense dans E.
Soit a∈A. Puisque le noyau de g est un idéal à gauche de A, il existe une application linéaire φ(a):F→F telle que φ(a)(g(b))=g(ab) pour tout b∈A. De plus, pour tout b∈A, il vient
(lemme 3, c)), donc φ(a) est continue et de norme ⩽∥a∥. Par conséquent, il existe un unique endomorphisme φ(a)∈L(E) qui induit φ(a) par passage aux sous-espaces.
Soient a et b dans A. On a
(φ(a)∘φ(b))(g(c))=g(abc)=φ(ab)(g(c))
pour tout c dans A, donc φ(ab)=φ(a)∘φ(b) puisque F est dense dans E.
L’application φ de A dans L(E) est linéaire : en effet, pour tout (a,b)∈A2 et tout (s,t)∈C2, on a
φ(sa+tb)(g(c))=g((sa+tb)c)=(sφ(a)+tφ(b))g(c)
pour tout c∈A, d’où φ(sa+tb)=sφ(a)+tφ(b) puisque F est dense dans E. Comme ∥φ(b)∥⩽∥b∥ pour tout b∈A, l’application φ est continue. On a également φ(1)=1E puisque φ(1)(g(a))=g(a) pour tout a∈A et que F est dense dans E.
Enfin, soient a,b,c dans A. On a
⟨g(c)∣φ(a∗)(g(b))⟩=⟨g(c)∣g(a∗b)⟩=λ(c∗a∗b)
=⟨g(ac)∣g(b)⟩=⟨φ(a)(g(c))∣g(b)⟩
d’où φ(a∗)=φ(a)∗ puisque F est dense dans E.
En conclusion, l’application φ est un morphisme continu d’algèbres involutives de A dans L(E) et g(a)=φ(a)x pour tout a∈A; par conséquent, le triplet (E,x,φ) est une réalisation hilbertienne cyclique de λ.
Soit A une algèbre de Banach involutive et soit λ une forme linéaire positive continue sur A. Soient (E1,x1,φ1) et (E2,x2,φ2) des réalisations hilbertiennes de λ. On suppose que (E1,x1,φ1) est une réalisation hilbertienne cyclique.
a) Il existe une unique application linéaire continue u de E1 dans E2 qui est un morphisme de représentations de φ1 dans φ2(I, p. 11) et qui vérifie u(φ1(a)x1)=φ2(a)x2 pour tout a∈A;
b) L’application linéaire u est isométrique ;
c) Si (E2,x2,φ2) est cyclique, alors u est un isomorphisme ;
d) Si (E2,x2,φ2) est cyclique et si A est unifère, alors u(x1)=x2.
Pour j∈{1,2}, définissons γj:A→Ej par γj(a)=φj(a)xj pour tout a∈A. Par définition, les couples (Ej,γj) sont des réalisations hilbertiennes du noyau universellement positif f sur A défini par (a,b)↦λ(a∗b). La réalisation hilbertienne (E1,γ1) est cyclique ; d’après la prop. 1 de V, p. 434, il existe donc une unique application linéaire continue u:E1→E2 telle que γ2=u∘γ1, et celle-ci est isométrique. De plus, si (E2,x2,φ2) est également cyclique, alors u est un isomorphisme. Pour démontrer a), b) et c), il suffit de démontrer que u est un morphisme de représentations de φ1 dans φ2.
Soit a∈A. Pour tout b∈A, on a
(u∘φ1(a))(γ1(b))=(u∘φ1(ab))x1=(u∘γ1)(ab)
=γ2(ab)=φ2(a)(γ2(b))=φ2(a)(u(γ1(b)))
donc les applications linéaires continues u∘φ1(a) et φ2(a)∘u coïncident sur le sous-espace de E1 engendré par l’image de γ1; ce sous-espace est dense dans E1 par hypothèse, d’où u∘φ1(a)=φ2(a)∘u.
Démontrons enfin d). Supposons donc que A est unifère et que (E2,x2,φ2) est cyclique. Il existe une réalisation hilbertienne cyclique (E3,x3,φ3) de λ telle que φ3 est un morphisme unifère (prop. 5). Soit j∈{1,2}. En appliquant ce qui précède à (Ej,xj,φj) et (E3,x3,φ3), on voit qu’il existe un isomorphisme isométrique uj de Ej dans E3 tel que uj∘φj(a)=φ3(a)∘uj pour tout a∈A. En prenant a=1A, on voit que φj est unifère. On a alors x2=φ2(1A)x2=u(φ1(1A)x1)=u(x1).
Conservons les notations de la proposition. Il est possible que u(x1) soit différent de x2 (exercice 3, b) de V, p. 493). Cependant, le triplet (E2,u(x1),φ2) est aussi une représentation hilbertienne de λ.
4. Représentations des algèbres stellaires
Soit A une algèbre stellaire. Notons A+ le cône convexe fermé des éléments positifs de A (déf. 6 de I, p. 115). Une forme linéaire λ sur A est positive si et seulement si λ(A+)⊂R+(I, p. 118, th. 2).
Soit A une algèbre stellaire. Toute forme linéaire positive λ sur A est continue.
Démontrons d’abord que λ est bornée sur l’intersection de A+ et de la boule unité de A. Supposons que ce ne soit pas le cas. Il existe alors une suite (xn)n⩾1 dans A+ telle que ∥xn∥⩽1 et λ(xn)⩾n pour tout entier n⩾1. La série de terme général n−2xn converge vers un élément x de A (cf. TG, IV, p. 33, exemple 3). Pour tout entier N⩾1, comme
+∞
∑n21xn∈A+,
n=N+1
(I, p. 116, prop. 14) il vient
N N +∞
∑n1⩽∑n21λ(xn)=λ(x)−λ(∑n21xn)⩽λ(x),
n=1n=1n=N+1
ce qui est absurde (TG, IV, p. 33, exemple 4).
Comme tout élément de la boule unité de A est combinaison linéaire avec des coefficients bornés par 1 d’au plus quatre éléments positifs de A de norme ⩽1(I, p. 96, lemme 2 et formule (4) de I, p. 117), on conclut que λ est continue.
Il existe des algèbres de Banach involutives qui admettent des formes linéaires positives qui ne sont pas continues (exercice 3, a) de V, p. 493).
Soient A une algèbre stellaire et a un élément non nul de A. Il existe une forme linéaire positive λ∈A+′ telle que λ(a∗a)>0.
Considérons l’espace de Banach réel Ah des éléments hermitiens de A. L’ensemble A+ est un cône convexe fermé pointé saillant dans Ah (prop. 14 de I, p. 116). L’élément a∗a est positif (th. 2 de I, p. 118) et non nul, donc l’élément hermitien −a∗a n’est donc pas positif. D’après EVT, II, p. 42, cor. 5, il existe une forme linéaire réelle continue λ∈Ah′ telle que λ(−a∗a)<0 et λ(A+)⊂R+. La forme linéaire λ s’étend en une forme C-linéaire hermitienne sur A (cf. I, p. 98), qui est positive et qui possède la propriété demandée.
Soit A une algèbre stellaire. Il existe un espace hilbertien E et un morphisme isométrique d’algèbres involutives φ de A dans L(E). Si A est unifère, il existe un tel morphisme unifère.
Pour tout b∈A−{0}, soit λb une forme linéaire positive continue sur A telle que λb(b∗b)>0 (prop. 8). Puisque A admet une unité approchée (I, p. 121, prop. 18), il existe une réalisation hilbertienne (Eb,xb,φb) de λb (prop. 5). Si A est unifère, on peut supposer que φb est unifère (loc. cit.). On a ∥φb(b)∥2=λb(b∗b)=0.
Soit E la somme hilbertienne externe des espaces Eb pour b appartenant à A −{0}. Pour tout a∈A, notons φ(a)∈L(E) l’unique application linéaire continue dont la restriction à Eb coïncide avec φb(a) pour tout b∈A−{0}. L’application a↦φ(a) est un morphisme d’algèbres involutives ; il est injectif, donc isométrique (prop. 9 de I, p. 112), et vérifie φ(1)=1E si A est unifère. Cela conclut la preuve.
La catégorie dont les objets sont les algèbres stellaires et les morphismes les morphismes d’algèbres involutives est donc équivalente à la catégorie dont les objets sont les sous-algèbres fermées involutives des algèbres d’endomorphismes des espaces hilbertiens, et les morphismes sont les morphismes d’algèbres involutives.
5. Fonctions de type positif sur un groupe topologique
Dans ce numéro, G est un groupe topologique dont on note e l’élément unité. Les espaces hilbertiens considérés sont complexes.
Une fonction continue φ∈C(G) est dite de type positif sur G si la fonction f définie par f(g,h)=φ(g−1h) sur G×G est un noyau universellement positif sur G.
On note Pos(G) l’ensemble des fonctions de type positif sur G et on note Pos1(G)(resp. Pos⩽1(G)) le sous-ensemble des φ∈ Pos(G) telles que φ(e)=1(resp. telles que φ(e)⩽1).
Soient ϱ une représentation unitaire de G dans un espace hilbertien E et x∈E. Soit φ le coefficient matriciel diagonal défini par φ(g)=⟨x∣ϱ(g)x⟩ pour tout g∈G; la fonction φ est continue. Il vient
φ(g−1h)=⟨x∣ϱ(g)∗ϱ(h)x⟩=⟨ϱ(g)x∣ϱ(h)x⟩
pour tout (g,h)∈G×G. Par conséquent φ∈ Pos(G) (théorème 1 de V, p. 432, (iv)). On a φ∈ Pos1(G) si et seulement si ∥x∥=1.
Soit φ une fonction de type positif sur G. Une réalisation hilbertienne de φ est un couple (ϱ,x) où ϱ est une représentation unitaire de G dans un espace hilbertien E et x∈E, tel que φ(g)=⟨x∣ϱ(g)x⟩ pour tout g∈G.
Si x est un vecteur cyclique de ϱ, on dit que c’est une réalisation hilbertienne cyclique de φ.
Soit φ∈C(G). Les conditions suivantes sont équivalentes :
(i) La fonction φ est de type positif sur G ;
(ii) Il existe une réalisation hilbertienne cyclique de φ;
(iii) Il existe une réalisation hilbertienne de φ.
La condition (ii) implique la condition (iii), et la condition (iii) implique (i) d’après l’exemple ci-dessus.
Démontrons finalement que (i) implique (ii). Soit (E,γ) une réa-lisation hilbertienne cyclique du noyau universellement positif défini par f(g,h)=φ(g−1h) pour (g,h)∈G×G. Soit k∈G. La fonction continue γk:g↦γ(kg) sur G vérifie
pour tout (g,h)∈G×G, donc (E,γk) est une réalisation hilbertienne de f. D’après la prop. 1 de V, p. 434, il existe un unique élément unitaire ϱ(k) dans L(E) tel que γk=ϱ(k)∘γ. Pour tout g∈G, et tout (k1,k2)∈G×G, il vient
ϱ(k1k2)(γ(g))=γ(k1k2g)=ϱ(k1)(ϱ(k2)(γ(g)))
d’où ϱ(k1k2)=ϱ(k1)ϱ(k2) puisque l’image de γ est une partie totale de E.
Soit k∈G. Pour tout g∈G, on a ϱ(g)(γ(k))=γ(gk), et l’application de G dans E définie par g↦ϱ(g)(γ(k)) est donc continue. Puisque l’endomorphisme ϱ(g) est unitaire, on en déduit que ϱ est une représentation unitaire de G dans E (lemme 4 de V, p. 380). Posons alors x=γ(e). L’ensemble des vecteurs ϱ(g)x=ϱ(g)(γ(e))=γ(g) pour g parcourant G est total dans E, donc x est un vecteur cyclique de ϱ. Comme
⟨x∣ϱ(g)x⟩=f(e,g)=φ(g)
pour tout g∈G, le couple (ϱ,x) est une réalisation hilbertienne cyclique de φ.
Soit φ une fonction de type positif sur G et soient (ϱ1,x1) et (ϱ2,x2) des réalisations hilbertiennes de φ, la représentation hilbertienne (ϱ1,x1) étant cyclique. Il existe un unique G-morphisme isométrique u de ϱ1 dans ϱ2 tel que u(x1)=x2. Si (ϱ2,x2) est aussi cyclique, alors u est un isomorphisme.
Pour 1⩽j⩽2, notons Ej l’espace de ϱj et γj la fonction sur G définie par γj(g)=ϱj(g)xj pour tout g∈G. Les couples (E1,γ1) et (E2,γ2) sont des réalisations hilbertiennes de la fonction de type positif (g,h)↦φ(g−1h), et (E1,γ1) est une réalisation hilbertienne cyclique. D’après la prop. 1 de V, p. 434, il existe une unique application linéaire isométrique u:E1→E2 telle que γ2=u∘γ1. En particulier, on a x2=γ2(e)=u(γ1(e))=u(x1). De plus, pour tous g et h dans G, on a
et comme l’ensemble des éléments γ1(h) pour h∈G est total dans E1, cela signifie que u est un G-morphisme. D’après loc. cit., c’est un isomorphisme isométrique si (ϱ2,x2) est également cyclique.
Soient φ∈ Pos1(G) et (ϱ,x) une réalisation hilbertienne cyclique de φ. Alors ϱ est une représentation irréductible de G si et seulement si φ est un point extrémal (EVT, II, p. 57, déf. 1) de Pos1(G).
Soit E l’espace de ϱ. Supposons tout d’abord que ϱ n’est pas irréductible. Soit F un sous-espace fermé de E stable par ϱ, non nul et différent de E. Écrivons x=x1+x2, où x1∈F et x2∈F∘. On a alors 1=∥x∥2=∥x1∥2+∥x2∥2. La sous-représentation de E engendrée par x1 est contenue dans F, donc x1=x puisque x est un vecteur cyclique de ϱ, d’où x2=0. De même on vérifie que x1=0.
Pour j=1 et j=2, notons φj la fonction continue sur G telle que
φj(g)=∥xj∥21⟨xj∣ϱ(g)xj⟩
pour tout g∈G. On a φj∈ Pos1(G)(V, p. 443, exemple). Comme φ=∥x1∥2φ1+∥x2∥2φ2, il suffit de vérifier que φ1=φ2 pour démontrer que φ n’est pas un point extrémal de Pos1(G); il suffit pour cela de démontrer que φ=φ1.
Raisonnons par l’absurde et supposons que φ=φ1. Comme on a ⟨x1∣ϱ(g)x2⟩=0 pour tout g∈G, il viendrait
pour tout g∈G, d’où ⟨x1∣y⟩=⟨∥x1∥2x∣y⟩ pour tout élément y du sous-espace vectoriel de E engendré par les éléments ϱ(g)x pour g∈G, donc pour tout y∈E puisque x est un vecteur cyclique de ϱ. Cela impliquerait que x1=∥x1∥2x est aussi un vecteur cyclique de ϱ, ce qui est une contradiction, d’où l’assertion.
Supposons maintenant que ϱ est irréductible et démontrons que φ est un point extrémal de Pos1(G). Soient φ1=φ2 des éléments de Pos1(G) et t1,t2∈[0,1] tels que t1+t2=1 et φ=t1φ1+t2φ2. Pour j∈{1,2}, notons (ϱj,xj) une réalisation hilbertienne cyclique de φj, et notons Ej l’espace de ϱj. Soit x3=t11/2x1+t21/2x2. Alors (ϱ1⊕ϱ2,x3) est une réalisation hilbertienne de φ. Comme (ϱ,x) est cyclique, il existe un G-morphisme isométrique u:E→E1⊕E2 tel que u(x)=x3 (prop. 10).
Soit j=1 ou j=2. Puisque ϱ est irréductible, il existe λj⩾0 tel que le G-morphisme uj= prj∘u de E dans Ej vérifie
⟨uj(y)∣uj(y′)⟩=λj⟨y∣y′⟩
pour tous y et y′ dans E (cor. 5 de V, p. 388, si uj=0, et on peut prendre λj=0 sinon). Pour tout g∈G, il vient
Comme φj(e)=φ(e)=1, on en déduit que φj=φ si tj=0. L’hypothèse φ1=φ2 implique donc que t1 ou t2 doit être nul, ce qui démontre que φ est un point extrémal de Pos1(G).
Soit φ∈ Pos(G). La fonction φ est bornée sur G et on a ∥φ∥∞=φ(e). De plus, on a
∣φ(g−1h)−φ(h)∣⩽√2φ(e)(φ(e)−R(φ(g)))(1)
pour tout (g,h)∈G×G.
Soit (ϱ,x) une réalisation hilbertienne de φ. On a φ(e)=∥x∥2. Pour tout g∈G, il vient donc ∣φ(g)∣=∣⟨x∣ϱ(g)x⟩∣⩽φ(e) d’après l’inégalité de Cauchy-Schwarz. Cela démontre la première assertion.
Les ensembles Pos(G) (resp. Pos1(G) et Pos⩽1(G)) sont des parties convexes auto-adjointes de l’algèbre stellaire Cb(G). Ils sont fermés dans l’espace Cb(G) muni de la topologie de la convergence simple. L’ensemble Pos(G) est un cône convexe de sommet 0 dans l’espace de Banach réel Cb(G).
6. Dual unitaire d’un groupe localement compact
Soit G un groupe topologique localement compact. On munit G d’une mesure de Haar à gauche μ. Pour p∈[1,+∞], on note Lp(G) (resp. Lp(G)) l’espace LCp(G,μ) (resp. l’espace LCp(G,μ)). On identifie l’espace Cb(G) à son image dans L∞(G).
Notons Δ le module de G. Rappelons que L1(G) est une algèbre de Banach involutive dont l’involution est induite, par passage aux quotients, par l’application f↦f∗ où f∗(y)=Δ−1(y)f(y−1) pour tous f∈L1(G) et y∈G(cf. I, p. 99, exemple 4). L’algèbre de Banach L1(G) admet une unité approchée d’après INT, VIII, p. 172, §4, no7, prop. 20.
Soit ϱ une représentation unitaire de G dans un espace hilbertien complexe E. L’application f↦ϱ(f) est un morphisme continu d’algèbres involutives de L1(G) dans L(E) (lemme 1 de V, p. 401) ; c’est une représentation non dégénérée de L1(G) dans E (INT, VIII, p. 139, § 2, no7, prop. 10, (i)).
Soient E un espace hilbertien complexe et π un morphisme d’algèbres involutives de L1(G) dans L(E). Si la représentation π est non dégénérée, alors il existe une unique représentation unitaire π de G dans E telle que π(f)=π(f) pour tout f∈L1(G).
L’unicité résulte de INT, VIII, p. 139, § 2, no7, cor. 3 du lemme 4.
Démontrons l’existence de π. On a ∥π∥⩽1 d’après la prop. 2 de I, p. 104. Soit F le sous-espace de E engendré par les vecteurs de la forme π(f)x pour f dans L1(G) et x dans E ; il est dense dans E puisque la représentation π est non dégénérée.
Pour tout voisinage compact V de e, soit φV une fonction continue positive à support contenu dans V telle que ∫φVμ=1. Soit B une base du filtre des voisinages compacts de e.
Soient g dans G et f dans L1(G). On a (φV∗εg)∗f→εg∗f dans L1(G) suivant le filtre des sections de B (INT, VIII, p. 172, § 4, no7, prop. 20), donc π(φV∗εg)π(f) converge vers π(εg∗f) dans L(E). Cela implique que π(φV∗εg) converge simplement suivant le filtre des sections de B vers une application linéaire π(g) de F dans F ; celle-ci est continue d’après EVT, III, p. 26, cor. 3, puisque ∥π(φV∗εg)∥⩽1 pour tout voisinage compact V de e. Il existe donc un unique endomorphisme de E qui induit π(g) par passage aux sous-espaces. On note encore π(g) cet endomorphisme ; on a ∥π(g)∥⩽1.
Soit f∈L1(G). Puisque π(φV∗εg)π(f) converge vers π(εg∗f), on a π(g)π(f)=π(εg∗f).
Pour g=e, cette relation montre que π(e) est l’identité sur F, donc π(e)=1E. Soient g1 et g2 dans G. On a
d’où π(g1)π(g2)=π(g1g2) sur F, et donc sur E. Cela démontre que l’application g↦π(g) est une représentation de G dans E. Comme ∥π(g)∥⩽ 1 et ∥π(g)−1∥ = ∥π(g−1)∥⩽ 1, les endomorphismes π(g) de E sont isométriques, donc unitaires (EVT, V, p. 40, prop. 3).
Soient f∈L1(G) et x∈E. L’application g↦εg∗f de G dans L1(G) est continue (INT, VIII, p. 136, § 2, no5 et p. 144, § 3, no2, formule (5)), et π est continue, donc l’application g↦π(εg∗f)x=π(g)π(f)x est continue en g=e. Comme F est dense dans E, la représentation π est unitaire (lemme 4 de V, p. 380).
Soient f1 et f2 dans L1(G). D’après INT, VIII, p. 127, §1, no5, prop. 7, on a la relation
Soit φ∈L∞(G). Notons λφ la forme linéaire continue f↦⟨f,φ⟩ sur L1(G). Alors φ est la classe d’une fonction de type positif sur G si et seulement si λφ est une forme linéaire positive continue sur L1(G).
Supposons que λφ est une forme linéaire positive continue sur L1(G). Soit (E,x,π) une réalisation hilbertienne cyclique de λ (prop. 5 de V, p. 438).
Soit π une représentation unitaire de G dans E telle que π(f)=π(f) pour tout f∈L1(G) (prop. 12). On a alors λφ(f)=⟨x∣π(f)x⟩ pour tout f∈L1(G).
pour tout f∈L1(G) (INT, VI, p. 9, § 1, no1, prop. 1). Ainsi, φ est la classe dans L∞(G) de la fonction sur G définie par g↦⟨x∣π(g)x⟩, qui est une fonction de type positif sur G (prop. 9 de V, p. 443).
Réciproquement, soit φ∈ Pos(G). Soit f∈K(G). On a alors
λφ(f∗∗f)=∫Gφ(y)∫GΔ(z)−1f(z−1)f(z−1y)dμ(z)dμ(y)
=∫Gφ(y)∫Gf(z)f(zy)dμ(z)dμ(y)
(INT, VII, p. 19, § 1, no3, formule (22)). La fonction continue sur G×G définie par (z,y)↦φ(y)f(z)f(zy) est bornée et
∫G∗∣φ(y)∣(∫G∗∣f(z)f(zy)∣dμ(z))dμ(y)
⩽φ(e)∫G∗∫G∗∣f(z)∣∣f(zy)∣dμ(z)dμ(y)
=φ(e)(∫G∗∣f(z)∣dμ(z))2
d’après INT, V, p. 94, § 8, no3, prop. 8. On déduit donc du théorème de Lebesgue–Fubini (INT, V, p. 96, § 8, no4, th. 1) que
λφ(f∗∗f)=∫Gf(z)∫Gφ(y)f(zy)dμ(y)dμ(z)
=∫G×Gf(z)f(y)φ(z−1y)d(μ⊗μ)(z,y)
Cela implique que λφ(f∗∗f)⩾0 d’après le théorème 1, (i) de V, p. 432 appliqué à la mesure induite par μ sur le support de f (INT, IV, p. 186, § 5, no7, déf. 4). On en déduit par continuité que λφ(f∗∗f)⩾0 pour tout f∈L1(G).
Les espaces L∞(G) et Cb(G) sont munis de leurs topologies d’espaces de Banach, dont on note f↦∥f∥∞ la norme. On appellera ici topologie faible sur L∞(G), Cb(G) ou Pos(G) la topologie induite par la topologie faible σ(L∞(G),L1(G)).
Comme L∞(G) s’identifie au dual de L1(G) (INT, V, p. 61, §5, no8, th. 4), toute boule fermée de L∞(G) est compacte pour la topologie faible (EVT, III, p. 17, cor. 3).
L’ensemble des points extrémaux de Pos⩽1(G) est égal à la réunion de l’ensemble des points extrémaux de Pos1(G) et de la fonction nulle. De plus, l’enveloppe fermée convexe de l’ensemble des points extrémaux de Pos1(G) contient Pos1(G).
D’après le cor. de la prop. 13, l’ensemble Pos⩽1(G) est un chapeau du cône convexe pointé Pos(G), qui est défini par la jauge φ↦φ(e) (EVT, II, p. 61, déf. 3 et prop. 4). Ses points extrémaux sont donc la fonction nulle et les éléments φ de Pos1(G) appartenant aux génératrices extrémales de Pos(G) (EVT, II, p. 62, cor. 1). Ceux-ci sont les points extrémaux de Pos1(G) (EVT, II, p. 61, prop. 3). La première assertion en résulte.
Démontrons la seconde assertion. Soit φ∈ Pos1(G). Comme l’ensemble Pos⩽1(G) est compact pour la topologie faible (cor. de la prop. 13), il existe un filtre F sur l’enveloppe convexe des points extrémaux de Pos⩽1(G) qui converge vers φ (EVT, II, p. 59, th. 1). Comme les boules fermées de l’espace de Banach L∞(G) sont fermées pour la topologie faible et que ∥φ∥∞=1, on a limψ,F∥ψ∥∞=1 (en effet, dans le cas contraire, il existerait un nombre réel c<1 et un filtre G sur la boule fermée de rayon c dans L∞(G) qui serait plus fin que F, ce qui impliquerait que φ appartient à cette boule fermée).
D’après la description des points extrémaux de Pos⩽1(G), tout élément ψ de l’enveloppe convexe des points extrémaux de Pos⩽1(G) est une fonction de type positif sur G de la forme
ψ=i∈I∑tiψi
où I est un ensemble fini, ψi est un point extrémal de Pos1(G) pour tout i∈I, et ti∈[0,1]. On a ∑iti=ψ(e)=∥ψ∥∞⩽1 (lemme 4 de V, p. 446). Si ψ=0, la fonction
∥ψ∥∞ψ=i∈I∑ψ(e)tiψi
appartient donc à l’enveloppe convexe des points extrémaux de Pos1(G). Comme limψ,F∥ψ∥∞−1ψ=φ, on conclut que φ appartient à l’enveloppe fermée convexe des points extrémaux de Pos1(G). L’assertion en résulte.
Soient X un espace topologique localement compact et ν une mesure positive sur X. Sur toute partie bornée de Cb(X), la topologie induite par la topologie faible σ(L∞(X),L1(X)) est moins fine que la topologie de la convergence compacte.
Soit B une partie bornée de Cb(X) et soit M∈R+ tel que ∥φ∥∞⩽M pour tout φ∈B. Soient ψ∈L1(X,ν) et ε>0. Fixons une partie compacte K de X telle que
Soit ψ∈L1(G). Soit B une partie bornée de l’espace de Banach L∞(G). L’application φ↦ψ∗φ de B dans Cb(G) est continue lorsque B est muni de la topologie faible et Cb(G) de la topologie de la convergence compacte.
Soient φ∈L∞(G) et η∈L1(G). La fonction Δ−1ηˇ appartient à L1(G) et ⟨η,ψˇ⟩=⟨Δ−1η,ψˇ⟩(cf. INT, VII, p. 19, § 1, no3, formule (22)). L’application φ↦φˇ est donc un automorphisme de l’espace L∞(G) muni de la topologie faible.
Soit φ∈L∞(G). D’après INT, VIII, p. 167, § 4, no5, prop. 14, la fonction ψ∗φ appartient à Cb(G) et vérifie
(ψ∗φ)(g)=∫Gψ(h)φ(h−1g)dμ(h)
=∫Gψ(gy)φˇ(y)dμ(y)=⟨φ,ˇγG(1)(g−1)ψ⟩ pour tout g∈G. Il en résulte que l’application linéaire u:φ↦ψ∗φ est une application continue de l’espace L∞(G) muni de la topologie faible dans Cb(G) muni de la topologie de la convergence simple.
Soient φ∈B et (g,h)∈G×G. D’après la formule ci-dessus, on a
Comme B est bornée et que la représentation régulière gauche de G dans L1(G) est continue (no4 de V, p. 405), cela implique que u(B) est une partie équicontinue de Cb(G). L’assertion résulte alors de ce qui précède et de TG, X, p. 16, th. 1.
Soit K un corps topologique et soient E et F des espaces vectoriels topologiques sur K. Soient f une application de E dans F et X une partie de E. Soit x∈X. L’application f∣X est continue en x si, pour tout voisinage W de 0 dans F, il existe un voisinage U de x dans E et une application continue g de X dans F tels que (f−g)(U∩X)⊂W.
Soit W0 un voisinage de 0 dans F et soit V0 un voisinage symétrique de 0 dans F tel que V0+V0+V0⊂W0. Soit U0 un voisinage de x dans E et g une application continue de X dans F telle que (f−g)(U0∩X)⊂V0. Il existe un voisinage U1 de x dans E tel que g(U1∩X)⊂g(x)+V0. Pour tout y∈U0∩U1∩X, on a
f(y)−f(x)=(f(y)−g(y))+(g(y)−g(x))+
(g(x)−f(x))∈V0+V0+V0⊂W0
donc f(y)∈f(x)+W0, d’où le résultat.
Démontrons maintenant le théorème 3. Notons Pos1(G)f (resp. Pos1(G)c) l’ensemble Pos1(G) muni de la topologie faible (resp. de la topologie de la convergence compacte) ; de même, notons Cb(G)f (resp. Cb(G)c) l’espace Cb(G) muni de la topologie faible (resp. de la topologie de la convergence compacte).
L’application identité de Pos1(G)c dans Pos1(G)f est continue (lemme 5). Réciproquement, notons ι l’inclusion de Pos1(G)f dans Cb(G)c. Démontrons que ι est continue pour conclure la démonstration.
Soit φ1∈ Pos1(G). Pour vérifier que ι est continue en φ1, nous appliquons le lemme 8. Soit W un voisinage de 0 dans Cb(G)c. Il suffit de trouver une application linéaire u de Cb(G) dans Cb(G) qui induit par passage aux sous-espaces une application continue de Pos1(G)f dans Cb(G)c, ainsi qu’un voisinage U de 0 dans Pos1(G)f, de sorte que l’on ait (ι−u)(U∩ Pos1(G))⊂W.
Il existe ε>0 tel que W contient l’ensemble des φ∈Cb(G) qui vérifient ∥φ∥∞⩽ε. Comme φ1(e)=1, il existe un voisinage compact V de e dans G tel que
supx∈V∣1−φ1(x)∣⩽4ε2.
Soit φV la fonction caractéristique de V, et posons ψV=μ(V)−1φV. L’application linéaire u:φ↦ψV∗φ de Pos1(G)f dans Cb(G)c est continue (lemme 6).
Notons qV la semi-norme φ↦∣⟨φ,ψV⟩∣ sur Cb(G); elle est continue pour la topologie faible. Puisque ψV est nulle en dehors de V, il vient qV(1−φ1)⩽ε2/4; il existe donc un voisinage U de φ1 dans Cb(G)f tel que qV(1−φ)⩽ε2/2 pour tout φ∈U.
Soit φ∈U∩ Pos1(G). D’après le lemme 7, on a
∥(ι−u)(φ)∥∞⩽√2qV(1−φ)⩽ε
donc (ι−u)(U)⊂W. Le théorème est démontré.
En général, la topologie faible sur Pos⩽1(G) ne coïncide pas avec la topologie de la convergence compacte, comme le montre l’exemple du groupe R.
On rappelle qu’on note G l’ensemble des classes de représentations unitaires irréductibles de G (V, p. 393, déf. 8).
Pour tout x=e dans G, il existe une représentation unitaire irréductible π de G telle que π(x) n’est pas l’endomorphisme identique de l’espace de π.
Soit x∈G tel que π(x) est l’identité pour tout π∈G. Il en résulte que φ(x)=φ(e)=1 pour tout point extrémal φ de Pos1(G) (prop. 11 de V, p. 444), donc pour tout φ∈ Pos1(G) d’après la prop. 14 puisque la forme linéaire φ↦φ(e) est continue sur Pos1(G) muni de la topologie faible (th. 3). Mais si x=e, il existe f∈L2(G) de norme 1 tel que ⟨f∣γG(x)f⟩=0(V, p. 406, lemme 3). Comme le membre de gauche de cette égalité est de la forme φ(x), où φ∈ Pos1(G), c’est une contradiction.
Si G n’est pas localement compact, il n’est pas toujours vrai que les représentations unitaires irréductibles de G séparent les points de G.
Pour tous éléments g=h dans G, il existe une représentation irréductible π∈G et un coefficient matriciel f de π tel que f(g)=f(h). En particulier, la sous-algèbre Υ(G) de Cb(G) sépare les points de G.
Soient g=h dans G. Il existe une représentation irréductible π∈G telle que π(g)=π(h) (th. 4), donc il existe x et y dans l’espace de π tels que ⟨x∣π(g)y⟩=⟨x∣π(h)y⟩.
8. Fonctions de type positif sur un groupe localement compact commutatif
Dans ce numéro, G est un groupe localement compact commutatif et μ désigne une mesure de Haar sur G. On note G le groupe dual de G et μ la mesure de Haar duale de μ (déf. 4 de II, p. 214). On note F la transformation de Fourier sur l’espace de Banach M1(G) des mesures bornées sur G.
Puisque C0(G) est l’adhérence de K(G) dans Cb(G), l’espace de Banach M1(G) dual de K(G) muni de la topologie de Cb(G) s’identifie au dual de C0(G)(cf. INT, III, p. 56, § 1, no8). On munit M1(G) de la topologie faible associée à cette dualité.
La transformation de Fourier est une application continue de M1(G) muni de la topologie faible dans Cb(G) muni de la topologie induite par la topologie faible σ(L∞(G),L1(G)).
Soit F un filtre sur M1(G) convergeant faiblement vers une mesure bornée ν sur G. Pour tout φ∈L1(G), on a F(φ)∈C0(G) (prop. 4 de II, p. 209), donc
∫GφF(ν)dμ=∫GF(φ)dν
= limη,F∫GF(φ)dη= limη,F∫GφF(η)dμ,
d’après la propriété de transposition de la transformation de Fourier (prop. 13 de II, p. 221). Le lemme en découle.
Une fonction continue φ sur G appartient à Pos(G) si et seulement s’il existe une mesure positive bornée ν sur G telle que φ=F(ν).
Soit ν∈M1(G) une mesure positive. Sa transformée de Fourier est continue. Pour toute famille finie (xi)i∈I dans G et toute famille finie (ti)i∈I de nombres complexes, il vient
puisque ν est une mesure positive. La transformée de Fourier de ν est donc une fonction de type positif sur G (th. 1 de V, p. 432, (ii)).
Démontrons la réciproque. Munissons l’ensemble Pos⩽1(G) de la topologie faible, induite comme précédemment par la topologie faible σ(L∞(G),L1(G)). L’ensemble Pos⩽1(G) est compact et convexe (cor. de la prop. 13 de V, p. 448). D’après la prop. 14 de V, p. 450, la prop. 11 de V, p. 444 et le cor. 7 de V, p. 390, les points extrémaux de Pos⩽1(G) sont la fonction nulle et les éléments de G.
Soit N l’ensemble des mesures positives bornées de masse ⩽1 sur G ; il est compact dans M1(G) muni de la topologie faible (EVT, III, p. 17, cor. 3). D’après le lemme 9 et la première partie de la preuve, la transformation de Fourier sur G définit par passage aux sous-espaces une application continue de N dans Pos⩽1(G); par homogénéité, il suffit de démontrer que cette application est surjective. L’image F(N) de N par la transformation de Fourier est convexe et compacte ; elle contient la fonction nulle et les éléments de G (en effet, ceux-ci sont de la forme evx:χ↦χ(x) pour un élément x de G d’après le th. 2 de II, p. 220, et on a evx=F(εx−1)). L’ensemble F(N) contient donc les points extrémaux de Pos⩽1(G), d’où F(N)= Pos⩽1(G) d’après le théorème de Krein–Milman (EVT, II, p. 59, th. 1). Cela conclut la démonstration.
Lorsque G=Rk pour un entier k∈N, ce théorème correspond à la prop. 11 de INT, IX, p. 94, § 6, no12.