Exercice 31, § 2

Soient E un espace vectoriel topologique séparé, A un ensemble convexe non vide dans E, $x_0$ un point adhérent à A, $f$ une fonction convexe définie dans A. Soit $\mathscr{D}$ l’ensemble des demi-droites fermées D d’origine $x_0$ telles que $D \cap A$ contienne un segment ouvert d’extrémité $x_0$. La réunion C des demi-droites $D \in \mathscr{D}$ est un cône convexe de sommet $x_0$. a) Montrer que pour toute demi-droite $D \in \mathscr{D}$, $f(x)$ tend vers une limite finie ou égale à $+ \infty$ lorsque $x$ tend vers $x_0$ en restant dans $D \cap A$ et en restant $\neq x_0$. b) Soit $\mathscr{J}$ la partie de $\mathscr{D}$ formée des demi-droites D telles que $f(x)$ tende vers $+ \infty$ lorsque $x$ tend vers $x_0$ en restant dans $D \cap A$ et en restant $\neq x_0$; si $x_0 \in A$, $\mathscr{J}$ est vide. Montrer que $\mathscr{J}$ ne peut contenir deux demi-droites opposées ; si D, D’ sont deux demi-droites distinctes appartenant à $\mathscr{J}$, et P le plan déterminé par D et D’, ou bien toute demi-droite $D'' \in \mathscr{D}$ contenue dans P appartient à $\mathscr{J}$, ou bien D et D’ sont les seules demi-droites de $\mathscr{J}$ contenues dans P. En déduire que si $\mathscr{J} \neq \mathscr{D}$, aucune demi-droite $D \in \mathscr{J}$ ne peut contenir de point interne (II, p. 28) du cône C relativement au sous-espace vectoriel engendré par C. c) Soit $\mathfrak{F}$ le complémentaire de $\mathscr{J}$ par rapport à $\mathscr{D}$. Montrer que la réunion $C_0$ des demi-droites $D \in \mathfrak{F}$ est un cône convexe, et que pour toute demi-droite $D \in \mathfrak{F}$, la limite de $f(x)$, lorsque $x$ tend vers $x_0$ en restant dans $D \cap A$ et en restant $\neq x_0$, est indépendante de D (utiliser l’exerc. 29 de II, p. 74); en outre, si $x_0 \in A$, la valeur de cette limite est $\leq f(x_0)$, et elle est égale à $f(x_0)$ lorsque $\mathfrak{F}$ contient deux demi-droites opposées. d) Soit $f$ une forme linéaire non continue dans $E$ ($cf.$ II, p. 91, exerc. 17, $a$) ), et prenons $A = E$; montrer que toute demi-droite fermée d’origine $x_0$ appartient à $\mathfrak{F}$, mais que l’on a $\liminf_{x \to x_0} f(x) = -\infty$ et $\limsup_{x \to x_0} f(x) = +\infty$ (utiliser la prop. 21 de II, p. 20).