Exercice 3, § 7

Soient $X$ un espace compact non vide, $\mathscr{P}$ un ensemble de fonctions numériques semi-continues inférieurement dans $X$, prenant leurs valeurs dans $]-\infty, +\infty]$; on suppose que $\mathscr{P}$ contient les constantes finies. On dit qu’un point $x \in X$ est $\mathscr{P}$-extrémal si la mesure $\varepsilon_x$ est minimale pour la relation de préordre $\mu < \nu^{(*)}$; on note $\mathrm{Ch}_{\mathscr{P}}(X)$ l’ensemble des points $\mathscr{P}$-extrémaux.

a) Montrer que si $\mathscr{P}'$ est l’ensemble des combinaisons linéaires $\sum c_i h_i$ de fonctions de $\mathscr{P}$ à coefficients $\geqslant 0$, les points $\mathscr{P}$-extrémaux sont identiques aux points $\mathscr{P}'$-extrémaux.

b) Pour un point $x \in X$, montrer que les conditions suivantes sont équivalentes: $\alpha)$ $x$ est $\mathscr{P}$-extrémal. $\beta)$ Pour toute fonction $f \in \mathscr{C}(X; \mathbf{R})$ et tout $\varepsilon > 0$, il existe $h \in \mathscr{P}'$ tel que $f \leqslant h$ et $h(x) \leqslant f(x) + \varepsilon$. $\gamma)$ Pour tout voisinage ouvert $U$ de $x$ et tout $\varepsilon > 0$, il existe une fonction $h \geqslant 0$ dans $\mathscr{P}'$ telle que $h(x) \leqslant \varepsilon$ et $h(y) \geqslant 1$ pour tout $y \in X - U$. (Utiliser l’exerc. 2 b).)

En outre, montrer que l’ensemble des points de $\mathrm{Ch}_{\mathscr{P}}(X)$ où une fonction de $\mathscr{P}$ au moins atteint sa borne inférieure dans $X$ est dense dans $\mathrm{Ch}_{\mathscr{P}}(X)$.

c) On dit qu’une partie $F$ de $X$ est $\mathscr{P}$-stable si elle est fermée et si les relations $\lambda < \mu$ et $\mathrm{Supp}(\mu) \subset F$ entraînent $\mathrm{Supp}(\lambda) \subset F$. Montrer que si $u \in \mathscr{P}$ et si $F'$ est l’ensemble des points de $F$ où $u$ atteint sa borne inférieure dans $F$, l’ensemble $F'$ est $\mathscr{P}$-stable.

d) On suppose en outre que $\mathscr{P}$ sépare les points de $X$. Montrer que pour toute fonction $h \in \mathscr{P}$, l’ensemble $S_h$ des points de $X$ où $h$ atteint sa borne inférieure dans $X$ rencontre $\mathrm{Ch}_{\mathscr{P}}(X)$. (Considérer une partie $\mathscr{P}$-stable minimale contenue dans $S_h$ et utiliser c) pour montrer qu’une telle partie est réduite à un seul point).

e) Les hypothèses étant les mêmes que dans $d$), montrer que pour qu’une partie fermée $F$ de $X$ contienne $\mathrm{Ch}_{\mathscr{P}}(X)$, il faut et il suffit que pour toute fonction $h \in \mathscr{P}'$, $F$ rencontre l’ensemble $S_h$ des points où $h$ atteint sa borne inférieure dans $X$ (utiliser $b$). En déduire que, pour que $a \in X$ soit adhérent à $\mathrm{Ch}_{\mathscr{P}}(X)$, il faut et il suffit que pour tout voisinage ouvert $U$ de $a$, il existe $h \in \mathscr{P}'$ et $b \in U$ tels que $h(b) < h(x)$ pour tout $x \in X - U$ (autrement dit $S_h \subset U$).

(*) La définition d’un élément maximal (ou minimal) dans un ensemble ordonné (Ens., chap. III, § 1, n° 6) s’étend aussitôt aux ensembles préordonnés.

f) Sous les hypothèses de d), on dit qu’une partie A de X est une $\mathscr{P}$-arête si pour toute fonction $h \in \mathscr{P}'$, $S_h$ rencontre A. On prend pour X la réunion, dans $\mathbf{R}^2$, des deux cercles de centres respectifs $(-1, 0)$ et $(1, 0)$ et de rayon 1, pour $\mathscr{P}$ l’ensemble des restrictions à X des fonctions linéaires affines dans $\mathbf{R}^2$. Montrer que $\mathrm{Ch}_{\mathscr{P}}(X)$ est formé des points $(\xi, \eta)$ de X tels que $|\xi| \geq 1$. Si $a$ est le point $\mathscr{P}$-extrémal $(1, 1)$, montrer qu’il y a un voisinage U de $a$ tel qu’il n’y ait aucune fonction $h \in \mathscr{P}'$ pour laquelle $h \geq 0$, $h(a) = 0$ et $h(y) \geq 1$ dans $X - U$. Si A et $A'$ sont les complémentaires dans $\mathrm{Ch}_{\mathscr{P}}(X)$ des points $(1, 1)$ et $(-1, 1)$ respectivement, A et $A'$ sont des $\mathscr{P}$-arêtes, mais il n’en est pas de même de $A \cap A'$; il n’y a donc pas de plus petite $\mathscr{P}$-arête.

g) Soient Y un second espace compact, $\mathscr{Q}$ un ensemble d’applications semi-continues inférieurement de Y dans $[-\infty, +\infty]$, contenant les constantes finies. Soit $\mathscr{H}$ l’ensemble des fonctions $h = f \otimes g$ où $f \in \mathscr{P}$ et $g \in \mathscr{Q}$; montrer que l’on a $\mathrm{Ch}_{\mathscr{H}}(X \times Y) = \mathrm{Ch}_{\mathscr{P}}(X) \times \mathrm{Ch}_{\mathscr{Q}}(Y)$.