Bourbaki

§ 5. Séparation des ensembles convexes

1. Le théorème de Hahn-Banach (forme géométrique)

Théorème 1 (Hahn-Banach)

Soient E un espace vectoriel topologique, A un ensemble ouvert convexe non vide dans E, M une variété linéaire non vide ne rencontrant pas A. Il existe alors un hyperplan fermé H contenant M et ne rencontrant pas A.

Par translation on peut se ramener au cas où 0∈A0 \in A, de sorte que A est absorbant. Soit pp la jauge de l’ensemble ouvert convexe absorbant A (II, p. 22), de sorte que A est l’ensemble des x∈Ex \in E tels que p(x)<1p(x) < 1. Soit d’autre part V le sous-espace vectoriel de E engendré par M ; M est donc un hyperplan dans V ne passant pas par 0, et il y a par suite une forme linéaire et une seule ff sur V telle que M soit l’ensemble des y∈Vy \in V tels que f(y)=1f(y) = 1. L’hypothèse M∩A=∅M \cap A = \varnothing entraîne donc que pour tout y∈Vy \in V tel que f(y)=1f(y) = 1, on a p(y)⩾1p(y) \geqslant 1; comme ff et pp sont positivement homogènes, on a donc f(y)⩽p(y)f(y) \leqslant p(y) pour tout y∈Vy \in V tel que f(y)>0f(y) > 0; comme de plus p(y)⩾0p(y) \geqslant 0 pour tout y∈Vy \in V, on voit finalement que l’on a f(y)⩽p(y)f(y) \leqslant p(y) pour tout y∈Vy \in V. En vertu de la forme analytique du th. de Hahn-Banach (II, p. 24, th. 1), il existe une forme linéaire hh sur E prolongeant ff et telle que, pour tout x∈Ex \in E, on ait h(x)⩽p(x)h(x) \leqslant p(x). Soit alors H l’hyperplan dans E, d’équation h(x)=1h(x) = 1. Il est clair que H∩V=MH \cap V = M et que H∩A=∅H \cap A = \varnothing. D’autre part, le complémentaire de H dans E contient un ensemble ouvert non vide A, donc H est fermé dans E (I, p. 11, corollaire).

C.Q.F.D.

Remarque 1

Lorsque 0∈M0 \in M, le th. 1 peut encore s’énoncer de la façon suivante : il existe une forme linéaire g continue dans E, telle que g(x)=0g(x) = 0 dans M et g(x)>0g(x) > 0 dans A (II, p. 9, prop. 4).

Remarque 2

Si l’on applique le th. 1 au cas où E est muni de la topologie localement convexe la plus fine (II, p. 27, Exemple 2), et si pour simplifier on suppose que 0∈A0 \in A, on obtient le résultat suivant (où en apparence il n’intervient plus de topologie) : dans un espace vectoriel réel E, si A est un ensemble convexe absorbant, et M une variété linéaire non vide ne rencontrant pas A, alors il existe un hyperplan H contenant M et tel que A soit d’un même côté de H. Ce résultat n’est pas valable pour un ensemble convexe A quelconque (II, p. 69, exerc. 5).

2. Séparation des ensembles convexes dans un espace vectoriel topologique

Définition 1

Deux parties non vides A, B d’un espace vectoriel topologique réel E sont dites séparées par un hyperplan fermé H, si A est contenu dans un des demi-espaces fermés déterminés par H, et B dans l’autre demi-espace fermé.

Définition 2

Deux parties non vides A, B d’un espace vectoriel topologique réel E sont dites strictement séparées par un hyperplan fermé H, si A est contenu dans un des demi-espaces ouverts déterminés par H, et B dans l’autre demi-espace ouvert.

Proposition 1

Dans un espace vectoriel topologique réel E, soient A un ensemble ouvert convexe non vide, et B un ensemble convexe non vide ne rencontrant pas A ; il existe alors un hyperplan fermé H séparant A et B.

En effet, l’ensemble C = A − B est ouvert, convexe (II, p. 10, prop. 7) et non vide, et l’on a 0 ∉ C. En vertu du th. 1 de II, p. 39, il existe donc une forme linéaire continue f ≠ 0 sur E, telle que f(z) > 0 dans C. Alors, pour tout x ∈ A et tout y ∈ B, on a f(x) > f(y). Posons α = inf_{x∈A} f(x) ; α est fini, et l’on a f(x) ≥ α pour tout x ∈ A et f(y) ≤ α pour tout y ∈ B ; l’hyperplan fermé H d’équation f(z) = α sépare donc A et B.

Remarque 1

L’hyperplan H ne rencontre pas A (II, p. 16, prop. 17) ; si A et B sont deux ensembles convexes ouverts non vides sans point commun, il existe donc un hyperplan fermé qui sépare strictement A et B.

Remarque 2

Par contre, lorsque B n’est pas ouvert, il n’existe pas nécessairement d’hyperplan fermé séparant strictement A et B, même si E est de dimension finie, et si A‾\overline{A} et B‾\overline{B} ne se rencontrent pas (II, p. 83, exerc. 12).

Définition 3

Dans un espace vectoriel E, on appelle hyperplan d’appui d’une partie A de E, un hyperplan H contenant au moins un point de A et tel que tous les points de A soient d’un même côté de H.

Soit f une forme linéaire ≠ 0 sur E ; dire que l’hyperplan d’équation f(x) = α est un hyperplan d’appui de A signifie que α est le plus petit élément, ou le plus grand élément, de l’ensemble f(A) ⊂ R. Autrement dit, pour qu’il existe un hyperplan d’appui de A parallèle à l’hyperplan d’équation f(x) = 0, il faut et il suffit que l’une des bornes de l’ensemble f(A) soit finie et appartienne à f(A).

Proposition 2

Soient E un espace vectoriel topologique, A un ensemble compact non vide dans E. Pour tout hyperplan fermé H dans E, il existe un hyperplan d’appui de A parallèle à H.

En effet, si f(x) = γ est une équation de H, où f est une forme linéaire continue dans E, la restriction de f à A est continue, donc est bornée et atteint ses bornes dans A (TG, IV, p. 27, th. 1).

Cette démonstration prouve qu’il existe un ou deux hyperplans d’appui de A parallèles à H, le premier cas ne pouvant se présenter que si A est contenu tout entier dans un hyperplan parallèle à H.

Proposition 3

Dans un espace vectoriel topologique E, soit A un ensemble convexe fermé d’intérieur non vide. Tout hyperplan d’appui de A est fermé, et tout point frontière de A appartient à un hyperplan d’appui de A au moins.

Tout hyperplan d’appui de A est fermé, puisque tous les points de A sont d’un même côté d’un tel hyperplan (II, p. 16, prop. 17). D’autre part, si x_0 est point frontière de A, x_0 n’appartient pas à l’ensemble convexe ouvert non vide A∘\overset{\circ}{A} ; d’après le th. 1 de II, p. 39, il existe un hyperplan H passant par x_0 et ne rencontrant pas A∘\overset{\circ}{A}. Comme A est l’adhérence de A∘\overset{\circ}{A} (II, p. 15, cor. 1 de la prop. 16), il résulte de la prop. 17 de II, p. 16 que H est un hyperplan d’appui de A.

3. Séparation des ensembles convexes dans un espace localement convexe

Proposition 4

Soient E un espace localement convexe, A un ensemble convexe fermé non vide dans E, K un ensemble convexe compact non vide dans E, ne rencontrant pas A. Il existe alors un hyperplan fermé H qui sépare strictement A et K.

En effet, il existe un voisinage ouvert convexe V de 0 dans E tel que A + V et K + V ne se rencontrent pas (TG, II, p. 31, prop. 4). Comme A + V et K + V sont ouverts et convexes dans E, la prop. 1 de II, p. 40 montre qu’il existe un hyperplan fermé H séparant strictement A + V et K + V, et a fortiori A et K.

Remarque

Si A et B sont deux ensembles convexes fermés non vides sans point commun dans un espace localement convexe séparé E, il existe un hyperplan fermé qui les sépare lorsque E est de dimension finie (II, p. 83, exerc. 13) ; mais cette conclusion n’est plus nécessairement exacte lorsque E est de dimension infinie (II, p. 83, exerc. 10 et 11).

Corollaire 1

Dans un espace localement convexe, tout ensemble convexe fermé A est l’intersection des demi-espaces fermés qui le contiennent.

En effet, pour tout point x ∉\notin A, il existe, d’après la prop. 4, un hyperplan fermé séparant strictement x et A.

Corollaire 2

Dans un espace localement convexe séparé, tout ensemble convexe compact A est l’intersection des demi-espaces fermés qui le contiennent et qui sont déterminés par les hyperplans d’appui de A.

En effet, soit x0∉Ax_0 \notin A; {x0}\{x_0\} est fermé, donc il existe un hyperplan fermé H séparant strictement x0x_0 et A (prop. 4); soit f(x)=αf(x) = \alpha une équation de H (ff forme linéaire continue), et supposons que f(x)>αf(x) > \alpha pour tout x∈Ax \in A. Si l’on pose γ=inf⁡x∈Af(x)\gamma = \inf_{x \in A} f(x), le demi-espace défini par f(x)≥γf(x) \geq \gamma contient A, est déterminé par l’hyperplan d’appui d’équation f(x)=γf(x) = \gamma, et ne contient pas x0x_0; d’où le corollaire.

Dans un espace localement convexe, un ensemble convexe fermé, non compact et n’ayant pas de point intérieur, peut n’avoir aucun hyperplan d’appui fermé (II, p. 91, exerc. 18 ; cf. aussi V, p. 71, exerc. 11).

Corollaire 3

Dans un espace localement convexe, l’adhérence de toute variété linéaire M est l’intersection des hyperplans fermés qui contiennent M.

En effet, pour tout x∉M‾x \notin \overline{M}, soit H un hyperplan fermé séparant strictement x et M‾\overline{M}; M‾\overline{M} est donc parallèle à H ; l’hyperplan fermé H1H_1 contenant M‾\overline{M} et parallèle à H ne contient pas x, d’où le corollaire.

Corollaire 4

Soit C un ensemble convexe fermé dans un espace localement convexe E. Pour qu’une partie A de E soit contenue dans C, il faut et il suffit que, pour toute fonction numérique affine continue u dans E telle que u(x)≥0u(x) \geq 0 pour tout x dans C, on ait u(y)≥0u(y) \geq 0 pour tout y dans A.

La condition est évidemment nécessaire. Montrons inversement qu’elle est suffisante ; si un point x∈Ax \in A n’est pas contenu dans CC, il existe un hyperplan fermé d’équation f(z)=αf(z) = \alpha séparant strictement xx et CC; si l’on suppose par exemple que f(x)<αf(x) < \alpha, la fonction affine continue u=f−αu = f - \alpha contredit l’hypothèse.

Corollaire 5

Dans un espace localement convexe EE, l’adhérence de tout cône convexe CC de sommet 0 est l’intersection de demi-espaces fermés contenant CC déterminés par des hyperplans fermés passant par 0.

En effet, C‾\overline{C} est un cône convexe de sommet 0 (II, p. 14, prop. 14). Pour tout x∉C‾x \notin \overline{C}, il existe un hyperplan fermé HH séparant strictement xx et C‾\overline{C} (prop. 4). Il suffit maintenant d’appliquer le lemme suivant :

Lemme 1

Si un cône AA de sommet 0 est contenu dans un demi-espace ouvert déterminé par un hyperplan HH, il est contenu dans un demi-espace fermé déterminé par l’hyperplan H0H_0 parallèle à HH et passant par 0.

En effet, soit f(z)=αf(z) = \alpha avec α<0\alpha < 0 une équation de HH, de sorte que f(z)=0f(z) = 0 est l’équation de H0H_0. S’il existait un z∈Az \in A tel que f(z)<0f(z) < 0, il existerait un λ>0\lambda > 0, tel que f(λz)=αf(\lambda z) = \alpha, et comme λz∈A\lambda z \in A, cela contredirait l’hypothèse.

4. Approximation des fonctions convexes

Proposition 5

Soient XX un ensemble convexe fermé dans un espace localement convexe. Alors toute fonction convexe semi-continue inférieurement ff dans XX est l’enveloppe supérieure d’une famille de fonctions qui sont des restrictions à XX de fonctions linéaires affines continues dans EE.

En effet, l’ensemble A⊂E×RA \subset E \times \mathbf{R} des points (x,t)(x, t) tels que x∈Xx \in X et t⩾f(x)t \geqslant f(x) est convexe (II, p. 18, prop. 19) et fermé, puisque la fonction (x,t)↦f(x)−t(x, t) \mapsto f(x) - t est semi-continue inférieurement. Soit alors xx un point quelconque de XX, et soit a∈Ra \in \mathbf{R} tel que a<f(x)a < f(x). En vertu du cor. 1 de II, p. 41, il existe dans E×RE \times \mathbf{R} un hyperplan fermé HH contenant (x,a)(x, a) et ne rencontrant pas AA. Toute forme linéaire continue sur E×RE \times \mathbf{R} étant de la forme

(z,t)↦u(z)+λt, (z, t) \mapsto u(z) + \lambda t ,

où λ∈R\lambda \in \mathbf{R} et uu est une forme linéaire continue dans EE, HH a une équation de la forme u(z)+λt=αu(z) + \lambda t = \alpha, et comme HH passe par (x,a)(x, a), on a α=u(x)+λa\alpha = u(x) + \lambda a. On ne peut avoir λ=0\lambda = 0, car HH aurait pour équation u(z−x)=0u(z - x) = 0, ce qui est absurde puisque le point (x,f(x))∈A(x, f(x)) \in A n’appartient pas à HH. En divisant au besoin par −λ-\lambda, on peut donc supposer que HH a pour équation t−a=u(z−x)t - a = u(z - x). Comme f(x)−a>0f(x) - a > 0, on a donc f(z)>u(z−x)+af(z) > u(z - x) + a pour tout z∈Xz \in X, ce qui prouve le corollaire.

Remarque 1

Il résulte de la prop. 5 que ff est l’enveloppe supérieure d’une famille filtrante croissante de fonctions qui sont des restrictions à XX de fonctions convexes continues dans EE.

Remarque 2

Supposons de plus que XX soit un cône (convexe fermé) de sommet 0 et que ff soit positivement homogène. Alors ff est l’enveloppe supérieure d’une famille de fonctions qui sont des restrictions à X de formes linéaires continues dans E. En effet, soit (uα)(u_\alpha) une famille de fonctions linéaires affines continues dans E dont les restrictions à X ont pour enveloppe supérieure ff. Posons uα=vα+λαu_\alpha = v_\alpha + \lambda_\alpha, où λα∈R\lambda_\alpha \in \mathbf{R}, et où vαv_\alpha est une forme linéaire continue dans E. On a λα=uα(0)≤f(0)=0\lambda_\alpha = u_\alpha(0) \leq f(0) = 0. D’autre part, si x∈Xx \in X, on a, pour tout μ>0\mu > 0,

μ−1λα+vα(x)=μ−1(λα+vα(μx))=μ−1uα(μx)≤μ−1f(μx)=f(x) \mu^{-1}\lambda_\alpha + v_\alpha(x) = \mu^{-1}(\lambda_\alpha + v_\alpha(\mu x)) = \mu^{-1}u_\alpha(\mu x) \leq \mu^{-1}f(\mu x) = f(x)

donc uα≤vα≤fu_\alpha \leq v_\alpha \leq f dans X, de sorte que ff est l’enveloppe supérieure des vαv_\alpha.

Remarque 3

La restriction à X d’une fonction affine continue dans E est une fonction affine (i.e. à la fois concave et convexe (II, p. 18)) dans X ; mais il peut exister des fonctions continues affines dans un ensemble compact convexe X⊂EX \subset E, qui ne sont pas des restrictions à X de fonctions affines continues dans E (II, p. 83, exerc. 11, c)). Toutefois :

Proposition 6

Soient E un espace localement convexe séparé, X un ensemble convexe compact dans E, ff une fonction affine semi-continue supérieurement dans X. Soit L l’ensemble des restrictions à X des fonctions affines continues dans E ; l’ensemble L′L' des h∈Lh \in L telles que l’on ait h(x)>f(x)h(x) > f(x) pour tout x∈Xx \in X est alors filtrant décroissant, et son enveloppe inférieure est égale à ff.

On peut se limiter au cas où X est non vide. Soient u,vu, v deux éléments de L tels que u(x)>f(x)u(x) > f(x) et v(x)>f(x)v(x) > f(x) pour tout x∈Xx \in X, et soit bb une constante qui majore uu et vv. Soit U (resp. V) l’ensemble convexe compact des points (x,t)(x, t) de X×RX \times \mathbf{R} tels que u(x)≤t≤bu(x) \leq t \leq b (resp. v(x)≤t≤bv(x) \leq t \leq b), et soit F l’ensemble des (x,t)∈X×R(x, t) \in X \times \mathbf{R} tels que t≤f(x)t \leq f(x) ; F est convexe et fermé dans X×RX \times \mathbf{R}. L’enveloppe convexe K de U∪VU \cup V ne rencontre pas F, car U∪VU \cup V est contenu dans l’ensemble des (x,t)∈X×R(x, t) \in X \times \mathbf{R} tels que f(x)<tf(x) < t, ensemble qui est convexe et ne rencontre pas F. Comme K est compact (II, p. 14, prop. 15), on peut séparer strictement F et K par un hyperplan fermé H de E×RE \times \mathbf{R}. Pour tout x∈Xx \in X, H sépare strictement les points (x,f(x))(x, f(x)) et (x,b)(x, b), donc rencontre la droite {x}×R\{x\} \times \mathbf{R} en un seul point w(x)w(x) ; par suite H est le graphe d’une fonction affine continue dont la restriction ww à X appartient à L, minore uu et vv et vérifie l’inégalité w(x)>f(x)w(x) > f(x) pour tout x∈Xx \in X. Ceci prouve que l’ensemble L′L' est filtrant décroissant. La prop. 5 de II, p. 42, appliquée à −f-f, prouve que ff est l’enveloppe inférieure de L′L'.

Corollaire

Soit ff une fonction affine continue dans X ; il existe alors une suite (hn)(h_n) d’éléments de L qui converge uniformément vers ff dans X.

En effet, la prop. 6 et le th. de Dini (TG, X, p. 34, th. 1) montrent que pour tout nn il existe hn∈Lh_n \in L telle que f≤hn≤f+1/nf \leq h_n \leq f + 1/n.

Exercices

See the exercises for § 5.

Transcribed from the printed volume. Not translated.