Bourbaki marks this one as harder than the rest.
Soient X un espace compact non vide, H un sous-espace vectoriel de C(X;R) contenant les constantes et séparant les points de X. La relation λ<μ définie par H (exerc. 2) est alors une relation d’équivalence, et les points H-extrémaux au sens de l’exerc. 3 sont identiques aux points H-extrémaux au sens du n° 3.
Soit F une partie fermée de X contenant ChH(X); pour tout x∈X, on désigne par MxF l’ensemble des mesures positives μ sur X, de masse totale 1, telles que εx<μ et Supp(μ)⊂F; pour que εx∈MxF, il faut et il suffit que x∈F; la relation x∈ChH(X) équivaut à MxF={εx}. Pour toute fonction numérique bornée f définie dans F, et tout x∈X, on pose
HxF(f)=f≤h∣F,h∈Hinfh(x),HxF(f)=−HxF(−f)=f≥h∣F,h∈Hsuph(x) qui sont des nombres finis.
a) Montrer que l’application f↦HxF(f) de C(F;R) dans R est croissante, positivement homogène et convexe. Si h∈H, on a HxF(h)=h(x).
b) Pour tout x∈X, toute mesure μ∈MxF et toute fonction f∈C(F;R), on a HxF(f)≤∫fdμ≤HxF(f). Inversement, si, pour une fonction f0∈C(F;R), un nombre réel γ est tel que HxF(f0)≤γ≤HxF(f0), il existe une mesure μ∈MxF telle que γ=∫f0dμ.
c) Montrer que, pour une fonction g∈C(X;R), les conditions suivantes sont équivalentes: α) Pour tout x∈X et toute mesure μ∈MxF, on a g(x)=∫gdμ. β) Pour tout x∈X, on a HxF(g∣F)=HxF(g∣F)=g(x). γ) Pour tout ε>0, il existe deux suites finies, (hi′),(hj′′) de fonctions de H telles que, si l’on pose h′=sup(hi′), h′′=inf(hj′′), on ait h′≤g≤h′′ et h′′−h′≤ε.
(Pour voir que β) entraîne γ), raisonner comme dans Top. gén., chap. X, 2e éd., § 4, n° 1, prop. 2.)
Lorsqu’une fonction g∈C(X;R) possède les propriétés équivalentes précédentes, on dit qu’elle est H-harmonique ; l’ensemble Hc des fonctions H-harmoniques est un sous-espace vectoriel fermé de C(X;R) contenant H; il est indépendant de la partie fermée F⊃ChH(X) considérée. On a (Hc)c=Hc, et la relation d’équivalence définie par Hc dans M+(X) est identique à la relation λ<μ définie par H; on a par suite ChHc(X)=ChH(X). L’application g↦g∣F est une isométrie strictement croissante de Hc sur son image dans C(F;R) (qui est par suite un sous-espace fermé de C(F;R)).
d) On prend pour X l’intervalle {0,1} de R, pour H l’espace vectoriel des restrictions à X des polynômes du second degré sur R. Montrer que Hc est distinct de l’adhérence H de H dans C(X;R).
e) Montrer que pour que ChH(X)=X, il faut et il suffit que l’on ait Hc=C(X;R) (pour prouver que la condition est nécessaire, utiliser b)).
f) Montrer que si H est réticulé (autrement dit un espace de Riesz), on a Hc=H. Donner un exemple où H n’est pas réticulé et Hc=H.
g) Soit EH la plus petite partie fermée de C(X;R) contenant H et telle que l’enveloppe inférieure inf(u,v) de deux fonctions de EH appartenne à EH. Montrer que les propriétés suivantes sont équivalentes:
α) f∈EH; β) pour tout x∈X et toute mesure μ∈MxX, ∫fdμ≤f(x); γ) HxX(f)=f(x) pour tout x∈X; δ) pour tout ε>0, il existe une suite finie (hi) de fonctions de H telle que f≤inf(hi)≤f+ε. (Pour voir que β) entraîne γ), utiliser b).)
En déduire que EH est un cône convexe pointé, et que l’on a EH∩(−EH)=Hc. Montrer que toute fonction de EH atteint sa borne inférieure dans X en un point au moins de ChH(X).