§ 5. Séparation des ensembles convexes
1. Le théorème de Hahn-Banach (forme géométrique)
Théorème 1 (Hahn-Banach)
Soient E un espace vectoriel topologique, A un ensemble ouvert convexe non vide dans E, M une variété linéaire non vide ne rencontrant pas A. Il existe alors un hyperplan fermé H contenant M et ne rencontrant pas A.
Par translation on peut se ramener au cas où , de sorte que A est absorbant. Soit la jauge de l’ensemble ouvert convexe absorbant A (II, p. 22), de sorte que A est l’ensemble des tels que . Soit d’autre part V le sous-espace vectoriel de E engendré par M ; M est donc un hyperplan dans V ne passant pas par 0, et il y a par suite une forme linéaire et une seule sur V telle que M soit l’ensemble des tels que . L’hypothèse entraîne donc que pour tout tel que , on a ; comme et sont positivement homogènes, on a donc pour tout tel que ; comme de plus pour tout , on voit finalement que l’on a pour tout . En vertu de la forme analytique du th. de Hahn-Banach (II, p. 24, th. 1), il existe une forme linéaire sur E prolongeant et telle que, pour tout , on ait . Soit alors H l’hyperplan dans E, d’équation . Il est clair que et que . D’autre part, le complémentaire de H dans E contient un ensemble ouvert non vide A, donc H est fermé dans E (I, p. 11, corollaire).
C.Q.F.D.
Remarque 1
Lorsque , le th. 1 peut encore s’énoncer de la façon suivante : il existe une forme linéaire g continue dans E, telle que dans M et dans A (II, p. 9, prop. 4).
Remarque 2
Si l’on applique le th. 1 au cas où E est muni de la topologie localement convexe la plus fine (II, p. 27, Exemple 2), et si pour simplifier on suppose que , on obtient le résultat suivant (où en apparence il n’intervient plus de topologie) : dans un espace vectoriel réel E, si A est un ensemble convexe absorbant, et M une variété linéaire non vide ne rencontrant pas A, alors il existe un hyperplan H contenant M et tel que A soit d’un même côté de H. Ce résultat n’est pas valable pour un ensemble convexe A quelconque (II, p. 69, exerc. 5).
2. Séparation des ensembles convexes dans un espace vectoriel topologique
Définition 1
Deux parties non vides A, B d’un espace vectoriel topologique réel E sont dites séparées par un hyperplan fermé H, si A est contenu dans un des demi-espaces fermés déterminés par H, et B dans l’autre demi-espace fermé.
Définition 2
Deux parties non vides A, B d’un espace vectoriel topologique réel E sont dites strictement séparées par un hyperplan fermé H, si A est contenu dans un des demi-espaces ouverts déterminés par H, et B dans l’autre demi-espace ouvert.
Proposition 1
Dans un espace vectoriel topologique réel E, soient A un ensemble ouvert convexe non vide, et B un ensemble convexe non vide ne rencontrant pas A ; il existe alors un hyperplan fermé H séparant A et B.
En effet, l’ensemble C = A − B est ouvert, convexe (II, p. 10, prop. 7) et non vide, et l’on a 0 ∉ C. En vertu du th. 1 de II, p. 39, il existe donc une forme linéaire continue f ≠ 0 sur E, telle que f(z) > 0 dans C. Alors, pour tout x ∈ A et tout y ∈ B, on a f(x) > f(y). Posons α = inf_{x∈A} f(x) ; α est fini, et l’on a f(x) ≥ α pour tout x ∈ A et f(y) ≤ α pour tout y ∈ B ; l’hyperplan fermé H d’équation f(z) = α sépare donc A et B.
Remarque 1
L’hyperplan H ne rencontre pas A (II, p. 16, prop. 17) ; si A et B sont deux ensembles convexes ouverts non vides sans point commun, il existe donc un hyperplan fermé qui sépare strictement A et B.
Remarque 2
Par contre, lorsque B n’est pas ouvert, il n’existe pas nécessairement d’hyperplan fermé séparant strictement A et B, même si E est de dimension finie, et si et ne se rencontrent pas (II, p. 83, exerc. 12).
Définition 3
Dans un espace vectoriel E, on appelle hyperplan d’appui d’une partie A de E, un hyperplan H contenant au moins un point de A et tel que tous les points de A soient d’un même côté de H.
Soit f une forme linéaire ≠ 0 sur E ; dire que l’hyperplan d’équation f(x) = α est un hyperplan d’appui de A signifie que α est le plus petit élément, ou le plus grand élément, de l’ensemble f(A) ⊂ R. Autrement dit, pour qu’il existe un hyperplan d’appui de A parallèle à l’hyperplan d’équation f(x) = 0, il faut et il suffit que l’une des bornes de l’ensemble f(A) soit finie et appartienne à f(A).
Proposition 2
Soient E un espace vectoriel topologique, A un ensemble compact non vide dans E. Pour tout hyperplan fermé H dans E, il existe un hyperplan d’appui de A parallèle à H.
En effet, si f(x) = γ est une équation de H, où f est une forme linéaire continue dans E, la restriction de f à A est continue, donc est bornée et atteint ses bornes dans A (TG, IV, p. 27, th. 1).
Cette démonstration prouve qu’il existe un ou deux hyperplans d’appui de A parallèles à H, le premier cas ne pouvant se présenter que si A est contenu tout entier dans un hyperplan parallèle à H.
Proposition 3
Dans un espace vectoriel topologique E, soit A un ensemble convexe fermé d’intérieur non vide. Tout hyperplan d’appui de A est fermé, et tout point frontière de A appartient à un hyperplan d’appui de A au moins.
Tout hyperplan d’appui de A est fermé, puisque tous les points de A sont d’un même côté d’un tel hyperplan (II, p. 16, prop. 17). D’autre part, si x_0 est point frontière de A, x_0 n’appartient pas à l’ensemble convexe ouvert non vide ; d’après le th. 1 de II, p. 39, il existe un hyperplan H passant par x_0 et ne rencontrant pas . Comme A est l’adhérence de (II, p. 15, cor. 1 de la prop. 16), il résulte de la prop. 17 de II, p. 16 que H est un hyperplan d’appui de A.
3. Séparation des ensembles convexes dans un espace localement convexe
Proposition 4
Soient E un espace localement convexe, A un ensemble convexe fermé non vide dans E, K un ensemble convexe compact non vide dans E, ne rencontrant pas A. Il existe alors un hyperplan fermé H qui sépare strictement A et K.
En effet, il existe un voisinage ouvert convexe V de 0 dans E tel que A + V et K + V ne se rencontrent pas (TG, II, p. 31, prop. 4). Comme A + V et K + V sont ouverts et convexes dans E, la prop. 1 de II, p. 40 montre qu’il existe un hyperplan fermé H séparant strictement A + V et K + V, et a fortiori A et K.
Remarque
Si A et B sont deux ensembles convexes fermés non vides sans point commun dans un espace localement convexe séparé E, il existe un hyperplan fermé qui les sépare lorsque E est de dimension finie (II, p. 83, exerc. 13) ; mais cette conclusion n’est plus nécessairement exacte lorsque E est de dimension infinie (II, p. 83, exerc. 10 et 11).
Corollaire 1
Dans un espace localement convexe, tout ensemble convexe fermé A est l’intersection des demi-espaces fermés qui le contiennent.
En effet, pour tout point x A, il existe, d’après la prop. 4, un hyperplan fermé séparant strictement x et A.
Corollaire 2
Dans un espace localement convexe séparé, tout ensemble convexe compact A est l’intersection des demi-espaces fermés qui le contiennent et qui sont déterminés par les hyperplans d’appui de A.
En effet, soit ; est fermé, donc il existe un hyperplan fermé H séparant strictement et A (prop. 4); soit une équation de H ( forme linéaire continue), et supposons que pour tout . Si l’on pose , le demi-espace défini par contient A, est déterminé par l’hyperplan d’appui d’équation , et ne contient pas ; d’où le corollaire.
Dans un espace localement convexe, un ensemble convexe fermé, non compact et n’ayant pas de point intérieur, peut n’avoir aucun hyperplan d’appui fermé (II, p. 91, exerc. 18 ; cf. aussi V, p. 71, exerc. 11).
Corollaire 3
Dans un espace localement convexe, l’adhérence de toute variété linéaire M est l’intersection des hyperplans fermés qui contiennent M.
En effet, pour tout , soit H un hyperplan fermé séparant strictement x et ; est donc parallèle à H ; l’hyperplan fermé contenant et parallèle à H ne contient pas x, d’où le corollaire.
Corollaire 4
Soit C un ensemble convexe fermé dans un espace localement convexe E. Pour qu’une partie A de E soit contenue dans C, il faut et il suffit que, pour toute fonction numérique affine continue u dans E telle que pour tout x dans C, on ait pour tout y dans A.
La condition est évidemment nécessaire. Montrons inversement qu’elle est suffisante ; si un point n’est pas contenu dans , il existe un hyperplan fermé d’équation séparant strictement et ; si l’on suppose par exemple que , la fonction affine continue contredit l’hypothèse.
Corollaire 5
Dans un espace localement convexe , l’adhérence de tout cône convexe de sommet 0 est l’intersection de demi-espaces fermés contenant déterminés par des hyperplans fermés passant par 0.
En effet, est un cône convexe de sommet 0 (II, p. 14, prop. 14). Pour tout , il existe un hyperplan fermé séparant strictement et (prop. 4). Il suffit maintenant d’appliquer le lemme suivant :
Lemme 1
Si un cône de sommet 0 est contenu dans un demi-espace ouvert déterminé par un hyperplan , il est contenu dans un demi-espace fermé déterminé par l’hyperplan parallèle à et passant par 0.
En effet, soit avec une équation de , de sorte que est l’équation de . S’il existait un tel que , il existerait un , tel que , et comme , cela contredirait l’hypothèse.
4. Approximation des fonctions convexes
Proposition 5
Soient un ensemble convexe fermé dans un espace localement convexe. Alors toute fonction convexe semi-continue inférieurement dans est l’enveloppe supérieure d’une famille de fonctions qui sont des restrictions à de fonctions linéaires affines continues dans .
En effet, l’ensemble des points tels que et est convexe (II, p. 18, prop. 19) et fermé, puisque la fonction est semi-continue inférieurement. Soit alors un point quelconque de , et soit tel que . En vertu du cor. 1 de II, p. 41, il existe dans un hyperplan fermé contenant et ne rencontrant pas . Toute forme linéaire continue sur étant de la forme
où et est une forme linéaire continue dans , a une équation de la forme , et comme passe par , on a . On ne peut avoir , car aurait pour équation , ce qui est absurde puisque le point n’appartient pas à . En divisant au besoin par , on peut donc supposer que a pour équation . Comme , on a donc pour tout , ce qui prouve le corollaire.
Remarque 1
Il résulte de la prop. 5 que est l’enveloppe supérieure d’une famille filtrante croissante de fonctions qui sont des restrictions à de fonctions convexes continues dans .
Remarque 2
Supposons de plus que soit un cône (convexe fermé) de sommet 0 et que soit positivement homogène. Alors est l’enveloppe supérieure d’une famille de fonctions qui sont des restrictions à X de formes linéaires continues dans E. En effet, soit une famille de fonctions linéaires affines continues dans E dont les restrictions à X ont pour enveloppe supérieure . Posons , où , et où est une forme linéaire continue dans E. On a . D’autre part, si , on a, pour tout ,
donc dans X, de sorte que est l’enveloppe supérieure des .
Remarque 3
La restriction à X d’une fonction affine continue dans E est une fonction affine (i.e. à la fois concave et convexe (II, p. 18)) dans X ; mais il peut exister des fonctions continues affines dans un ensemble compact convexe , qui ne sont pas des restrictions à X de fonctions affines continues dans E (II, p. 83, exerc. 11, c)). Toutefois :
Proposition 6
Soient E un espace localement convexe séparé, X un ensemble convexe compact dans E, une fonction affine semi-continue supérieurement dans X. Soit L l’ensemble des restrictions à X des fonctions affines continues dans E ; l’ensemble des telles que l’on ait pour tout est alors filtrant décroissant, et son enveloppe inférieure est égale à .
On peut se limiter au cas où X est non vide. Soient deux éléments de L tels que et pour tout , et soit une constante qui majore et . Soit U (resp. V) l’ensemble convexe compact des points de tels que (resp. ), et soit F l’ensemble des tels que ; F est convexe et fermé dans . L’enveloppe convexe K de ne rencontre pas F, car est contenu dans l’ensemble des tels que , ensemble qui est convexe et ne rencontre pas F. Comme K est compact (II, p. 14, prop. 15), on peut séparer strictement F et K par un hyperplan fermé H de . Pour tout , H sépare strictement les points et , donc rencontre la droite en un seul point ; par suite H est le graphe d’une fonction affine continue dont la restriction à X appartient à L, minore et et vérifie l’inégalité pour tout . Ceci prouve que l’ensemble est filtrant décroissant. La prop. 5 de II, p. 42, appliquée à , prouve que est l’enveloppe inférieure de .
Corollaire
Soit une fonction affine continue dans X ; il existe alors une suite d’éléments de L qui converge uniformément vers dans X.
En effet, la prop. 6 et le th. de Dini (TG, X, p. 34, th. 1) montrent que pour tout il existe telle que .
Exercices
See the exercises for § 5.