§ 7. Points extrémaux et génératrices extrémales
1. Points extrémaux des ensembles convexes compacts
Définition 1
Soit A un ensemble convexe dans un espace affine E. On dit qu’un point est point extrémal de A s’il n’existe aucun segment ouvert contenu dans A et contenant x.
En d’autres termes, les relations et entraînent ou (donc ou ). Cela entraîne que x ne peut être barycentre d’un ensemble de n points de A affectés de masses positives sans être égal à l’un d’eux : en effet, cela n’est autre que la définition pour ; pour n quelconque, on raisonne par récurrence sur n, car x est barycentre de et du barycentre des pour , donc est égal à ou à , et dans le second cas il suffit d’appliquer l’hypothèse de récurrence.
Dire que x est point extrémal de A signifie aussi que est convexe.
Exemple 1
Dans l’espace , tous les points de la sphère sont des points extrémaux de la boule fermée . En effet, si et , la relation
Mais cela entraîne , d’où pour tout , ce qui prouve notre assertion.
Exemple 2
Dans l’espace normé des suites bornées de nombres réels (I, p. 4) les points extrémaux de la boule unité sont les points tels que pour tout . En effet, supposons que l’on ait pour tout et pour un indice . On peut alors écrire
où (resp. ) est le point dont chacune des coordonnées est égale à la coordonnée de même indice de , sauf pour la coordonnée d’indice , égale à 1 (resp. – 1). Cela prouve que dans ce cas n’est pas extrémal, puisque l’on a et . Inversement, si pour tout , est extrémal, car la relation avec , et entraîne .
Exemple 3
Soit une application affine d’un espace affine dans un espace affine ; soient , deux ensembles convexes tels que . Si est un point extrémal de et un point extrémal de , alors est un point extrémal de , comme il résulte aussitôt de la déf. 1.
Proposition 1
Soient* un espace localement convexe séparé, un ensemble convexe compact non vide dans , l’ensemble des points extrémaux de , une fonction convexe définie dans et semi-continue supérieurement. Alors atteint sa borne supérieure dans en un point de au moins.
Nous désignerons par l’ensemble des parties de qui sont fermées non vides, et telles que tout segment ouvert contenu dans et rencontrant soit contenu dans . On a les propriétés suivantes :
(i) appartient à .
(ii) Pour qu’un point soit tel que , il faut et il suffit que soit extrémal dans .
(iii) Toute intersection non vide d’une famille d’ensembles de appartient à .
Les propriétés (i), (ii) et (iii) découlent aussitôt des définitions.
(iv) Soit , et soit une fonction convexe et semi-continue supérieurement dans ; alors l’ensemble des points de où la restriction atteint sa borne supérieure dans appartient à .
En effet, étant semi-continue supérieurement dans atteint au moins en un point de sa borne supérieure dans cet ensemble (TG, IV, p. 30, th. 3); donc est non vide et fermé (TG, IV, p. 29, prop. 1). D’autre part, soient deux points distincts de , un point de tel que ; comme et , on a et ; d’autre part, comme est convexe, on a
mais comme et , on a nécessairement , c’est-à-dire et . Donc .
Ces propriétés étant établies, soit l’ensemble des où atteint sa borne supérieure dans ; en vertu de (iv), . D’autre part, en vertu de (iii) et du fait que les ensembles de sont fermés dans l’espace compact , est inductif pour la relation d’ordre . En vertu du th. 2 de E, III, p. 20, il existe donc un ensemble qui est un élément minimal de . Montrons que est réduit à un seul point, ce qui démontrera la proposition. Puisque est un espace localement convexe séparé, il suffit de voir que pour toute forme linéaire continue sur , est constante dans (II, p. 41, cor. 1). Or il résulte de (iv) que l’ensemble des où atteint sa borne supérieure dans appartient à ; puisque est minimal dans , on a nécessairement .
Corollaire
Soient* un espace localement convexe séparé, un ensemble convexe compact dans . Tout hyperplan d’appui fermé de contient au moins un point extrémal de .
En effet, si est une équation de telle que dans , il suffit d’appliquer la prop. 1 à .
Théorème 1 (Krein-Milman). — Dans un espace localement convexe séparé , tout ensemble convexe compact est l’enveloppe fermée convexe de l’ensemble de ses points extrémaux.
En effet, soit l’enveloppe fermée convexe de l’ensemble des points extrémaux de ; il est clair que . Pour voir que , il suffit de prouver que, pour toute fonction linéaire affine continue dans , telle que dans , on a aussi dans (II, p. 41, cor. 4); mais cela résulte de la prop. 1 appliquée à .
Proposition 2
Soient* un ensemble convexe compact dans un espace localement convexe séparé , un point extrémal de . Pour tout voisinage ouvert de dans , il existe un demi-espace ouvert dans tel que (en d’autres termes, les traces sur des demi-espaces ouverts contenant forment un système fondamental de voisinages de dans ).
Pour tout demi-espace ouvert de contenant , est un voisinage compact de dans , et l’intersection de tous ces voisinages est réduite à (deux points distincts étant séparés strictement par un hyperplan fermé (II, p. 41, prop. 4)). En vertu de TG, I, p. 60, prop. 1, il suffit de prouver que les ensembles forment une base de filtre. Or, si l’on pose , l’ensemble est convexe et compact et contenu dans l’ensemble convexe ; si sont deux demi-espaces ouverts de contenant , l’enveloppe convexe de est donc contenue dans ; mais est un ensemble compact (II, p. 14, prop. 15) donc il existe un hyperplan fermé séparant strictement et (II, p. 41, prop. 4) et si est le demi-espace ouvert déterminé par et contenant , on a , donc .
Corollaire
Dans un espace localement convexe séparé*, soient un ensemble convexe compact, une partie compacte de . Les conditions suivantes sont équivalentes :
a) A est l’enveloppe fermée convexe de .
b) K rencontre l’intersection de A et d’un quelconque de ses hyperplans d’appui. c) K contient l’ensemble des points extrémaux de A. a) ⇒ b). Supposons qu’il existe un hyperplan d’appui H de A d’équation , tel que et supposons par exemple que dans A. Comme pour tout par hypothèse et que K est compact, on aurait
Remarque 1
Même dans un espace vectoriel E de dimension finie, l’ensemble des points extrémaux d’un ensemble convexe compact n’est pas nécessairement fermé (II, p. 94, exerc. 11).
Remarque 2
Dans un espace localement convexe séparé non complet, si K est un ensemble compact dont l’enveloppe fermée convexe A ne soit pas compacte, il peut y avoir des points extrémaux de A qui n’appartiennent pas à K (II, p. 92, exerc. 2).
Remarque 3
Dans un espace de Banach E de dimension infinie, il peut se faire que la boule fermée de centre 0 et de rayon 1 ne possède aucun point extrémal (II, p. 94, exerc. 14).
Remarque 4
Si A est un ensemble convexe compact dans un espace localement convexe séparé, il peut se faire qu’un point extrémal de A n’appartienne à aucun hyperplan d’appui de A (II, p. 83, exerc. 11). La démonstration du th. 1 (II, p. 59) montre en tout cas que A est l’enveloppe fermée convexe de l’ensemble des points extrémaux de A appartenant à un hyperplan d’appui.
2. Génératrices extrémales des cônes convexes
Dans un espace vectoriel E, soit C un cône convexe de sommet 0 ; il est clair qu’il ne peut exister dans C de point extrémal autre que le sommet ; ce dernier est point extrémal de C si et seulement si C est pointé et saillant.
Définition 2
Dans un espace vectoriel E, soit C un cône convexe de sommet 0. On dit qu’une demi-droite d’origine 0 est une génératrice extrémale de C si tout segment ouvert contenu dans C, ne contenant pas 0 et rencontrant D est contenu dans D.
Il revient au même de dire que pour tout tel que , si sont deux points de C tels que , on a nécessairement et .
Remarque 1
Soit C un cône convexe pointé saillant dans E, et considérons sur E la structure d’ordre pour laquelle C est l’ensemble des éléments (II, p. 13, prop. 13); pour qu’un élément de E appartienne à une génératrice extrémale de C, il faut et il suffit que tout élément majoré par soit de la forme , avec : en effet, dire que est majoré par signifie que avec , d’où la conclusion.
Proposition 3
Dans un espace vectoriel E, soient C un cône convexe de sommet 0, un point de C, D une demi-droite contenue dans C, d’origine 0 et contenant , H un hyperplan contenant et ne passant pas par 0. Pour que D soit génératrice extrémale de C, il faut et il suffit que soit point extrémal de .
La condition est évidemment nécessaire. Inversement, supposons-la satisfaite ; supposons qu’il existe une droite ne contenant pas D, passant par et telle que contienne un segment ouvert auquel appartienne . Soit un vecteur directeur de ; les hypothèses entraînent que le point appartient à C pour et assez petits. Mais alors, dans le plan P déterminé par D et et muni de sa topologie canonique, est point intérieur de , et par suite la droite contient un segment ouvert contenu dans et auquel appartient , ce qui contredit l’hypothèse.
Définition 3
Soit C un ensemble convexe dans un espace vectoriel topologique séparé E. On appelle chapeau de C toute partie convexe compacte non vide A de C telle que le complémentaire de A dans C soit convexe.
Soient C un cône convexe pointé de sommet 0 dans E, A un chapeau de C et . Pour toute demi-droite fermée d’origine 0, et sont des parties convexes complémentaires dans L, de réunion L, et est compacte. Comme est non vide pour au moins une demi-droite L, on voit que , donc est un segment fermé d’origine 0.
Proposition 4
Soient E un espace localement convexe séparé, C un cône convexe pointé de sommet 0 dans E.
a) Soit A un chapeau de C. Soit p la restriction à C de la jauge de A (II, p. 22). L’ensemble des tels que est égal à A. La fonction p est semi-continue inférieurement et possède les propriétés suivantes : (i) Quels que soient x, y dans C, on a . (ii) Quels que soient et , on a . (iii) Si , la relation équivaut à .
b) Inversement, soit p une fonction définie dans C, à valeurs dans , satisfaisant aux conditions (i), (ii) de a). Soit A l’ensemble des tels que . Alors A et sont convexes. Pour que A soit un chapeau, il suffit donc que A soit compact et non vide.
L’assertion b) est évidente. Les propriétés énoncées dans a) sont des conséquences des remarques précédant la prop. 4, et des prop. 22 de II, p. 21 et 23 de II, p. 22, à l’exception de l’inégalité
Il suffit de démontrer cette dernière lorsque et ; on a donc , . Soient deux nombres tels que , et notons B le complémentaire de A dans C. On a , donc ; en vertu de la convexité de B, on a , d’où , ce qui entraîne l’inégalité annoncée.
Corollaire 1
Soient E un espace localement convexe séparé, C un cône convexe pointé de sommet 0 dans E, A un chapeau de C, p la jauge de A. Les points extrémaux de A sont alors : le point 0, et les points x situés sur les génératrices extrémales de C et tels que .
Il est clair que 0 est un point extrémal de A. Soit x un point situé sur une génératrice extrémale L de C et tel que . Soient y, z deux points de A tels que . Comme L est extrémale, on a et , où et sont des nombres tels que , et , d’où et par suite ; ainsi, x est point extrémal de A. Réciproquement, soit un point extrémal de A. Il est clair que . Soient y, deux points de C tels que , et montrons que y, sont proportionnels à x. On peut se limiter au cas où les nombres et sont finis et . Alors en vertu de la prop. 4, (i), et l’égalité entraîne par hypothèse
Corollaire 2
Tout point de C qui appartient à un chapeau de C appartient à l’enveloppe fermée convexe de la réunion des génératrices extrémales de C.
Ceci résulte aussitôt du cor. 1, et du th. de Krein-Milman (II, p. 59, th. 1).
\* Exemple. — Soit X un espace localement compact dénombrable à l’infini. Soit C un cône convexe fermé de sommet 0 dans muni de la topologie vague. Montrons que C est réunion de ses chapeaux. Soit une suite croissante de parties ouvertes relativement compactes de X, de réunion X. Soit un élément de C. Il existe des tels que . Pour toute mesure , posons . La fonction p sur C satisfait aux conditions (i) et (ii) de la prop. 4. Elle est semi-continue inférieurement pour la topologie vague (INT, IV, 2e éd., § 1, n° 1, prop. 4). L’ensemble A des tels que est donc fermé non vide. D’autre part, comme toute partie compacte de X est contenue dans l’un des , A est vaguement borné, donc vaguement compact (INT, III, 2e éd., § 1, n° 9, prop. 15). L’ensemble A est donc un chapeau de C contenant . \*
Proposition 5
Soient E un espace faible séparé, C un cône convexe saillant de sommet 0 dans E ; on suppose que C est complet pour la structure uniforme induite par celle de E, et que 0 admet un système fondamental dénombrable de voisinages dans C. Alors C est réunion de ses chapeaux et est l’enveloppe fermée convexe de la réunion de ses génératrices extrémales.
La seconde assertion est conséquence de la première et du cor. 2 de II, p. 62. Utilisant la prop. 11 de II, p. 56, on est ramené au cas où et . Pour tout , désignons par la projection dans , qui est une forme linéaire continue. Soit d’autre part un système fondamental dénombrable de voisinages de 0 dans . Par définition de la topologie de , pour chaque , il existe une partie finie de et un nombre tels que contienne l’ensemble des tels que pour tout ; posons . Soient un point de , et la fonction où les sont choisis de sorte que ; cela est possible, car si l’on avait pour tout , on en conclurait que pour tout , d’où , contrairement à l’hypothèse. Remarquons maintenant que pour tout , est continue au point 0, donc il y a un tel que soit bornée dans un , donc majorée dans par une combinaison linéaire d’un nombre fini de fonctions , où . Il en résulte que si est l’ensemble des tels que , est bornée dans pour tout . Comme est semi-continue inférieurement dans , est fermé non vide dans , et par suite compact. Comme il est clair que vérifie les conditions (i) et (ii) de la prop. 4 de II, p. 61, est un chapeau dans et contient .
Remarque 2
Il existe des cônes convexes saillants faiblement complets qui n’ont aucune génératrice extrémale (II, p. 97, exerc. 31).
3. Cônes convexes à semelle compacte
Proposition 6
Soient un espace localement convexe séparé, un ensemble convexe compact dans , ne contenant pas 0. Alors le plus petit cône pointé de sommet 0 contenant est un cône convexe saillant dans et un sous-espace localement compact et complet de ; en outre, il existe dans un hyperplan fermé ne contenant pas 0, tel que rencontre toutes les demi-droites d’origine 0 contenues dans et que soit compact. De plus, pour tout hyperplan fermé ayant ces propriétés, si est le demi-espace fermé déterminé par et contenant 0, est un chapeau de et est la réunion des pour .
En vertu de la prop. 4 de II, p. 41, il existe un hyperplan fermé qui sépare strictement 0 et . D’autre part, l’enveloppe convexe de la réunion de et de est compacte (II, p. 14, prop. 15), et c’est la réunion des pour . Comme 0 et sont strictement de part et d’autre de , pour tout il existe un tel que et . Comme est la réunion des pour , on voit déjà que rencontre toute demi-droite d’origine 0 contenue dans et que est compact. En outre, est aussi la réunion des pour ; soit la réunion des pour . Il est clair que est l’enveloppe convexe de la réunion de et de , donc est compact. En outre, pour tout , il existe un voisinage fermé de dans et un entier tels que : en effet, si est défini par l’équation , où , il suffit de prendre pour le demi-espace fermé déterminé par et contenant 0, où n est pris assez grand pour que . Ceci montre que C est localement compact (en prenant ), et qu’il est fermé dans E. D’ailleurs, on peut aussi considérer K comme une partie du complété , donc C est aussi fermé dans , et par suite complet.
On appelle semelle d’un cône C dans un espace vectoriel topologique séparé E l’intersection de C et d’un hyperplan fermé H ne contenant pas le sommet s de C, tel que C soit le plus petit cône de sommet s contenant H C. La prop. 6 montre que dans un espace localement convexe séparé E, le plus petit cône de sommet 0 contenant un ensemble compact convexe K auquel 0 n’appartient pas, est un cône à semelle compacte, et que tout cône convexe ayant une semelle compacte S est localement compact et complet.
Exemple 1
Dans un espace vectoriel de dimension finie E, tout cône convexe fermé saillant a une semelle compacte. En effet, en vertu de II, p. 56, prop. 11, on peut se borner au cas où et . Si est la base canonique de , il est clair que l’ensemble convexe compact, enveloppe convexe des () est une semelle compacte pour .
Exemple 2
\* Si X est un espace compact, le cône des mesures positives sur X, muni de la topologie vague, est un cône à semelle compacte (INT, III, 2e éd., § 1, no 9, cor. 3 de la prop. 15). \
Exercices
See the exercises for § 7.