Exercice 12, § 4

Soient $E$ un espace hilbertien réel, $V$ un cône convexe fermé dans $E$, de sommet 0, $V^\circ$ le cône polaire de $V$ (dans $E$, identifié canoniquement à son dual). a) Montrer que tout point $x \in E$ s’écrit d’une manière unique sous la forme $x = x_+ - x_-$ où $x_+ \in V$ et $x_- \in V^\circ$, et $\langle x_+|x_- \rangle = 0$. b) Pour toute facette $F$ de $V$ (II, p. 92, exerc. 3), $F$ est réduite à 0 ou est un cône convexe de sommet 0 ; l’ensemble des $y \in V^\circ$ qui sont orthogonaux à $F$ est une facette fermée $F'$ de $V^\circ$ (mais ce n’est pas la « facette duale » de $F$ au sens de II, p. 93, exerc. 6, cette dernière étant vide). c) On prend pour $E$ l’ensemble des endomorphismes de Hilbert-Schmidt d’un espace hilbertien réel $H$, et pour $V$ l’ensemble des éléments positifs dans $E$. Montrer que l’on a $V^\circ = V$ et interpréter dans ce cas le résultat de a) (utiliser le cor. 1 de V, p. 56 pour voir que $V \subset V^\circ$). d) Les hypothèses étant celles de c), soit $v \in V$ ; l’ensemble $L$ des $x \in H$ tels que $\langle v(x)|x \rangle = 0$ ou, ce qui revient au même, $v(x) = 0$ (V, p. 76, exerc. 10) est un sous-espace vectoriel fermé de $H$, et la facette $F$ de $v$ dans $V$ est l’ensemble fermé des $u \in V$ tels que $u(x) = 0$ pour tout $x \in L$ ; il s’identifie au cône des endomorphismes de Hilbert-Schmidt positifs de l’espace hilbertien $L^\circ$. En déduire que la projection de $E$ sur l’ensemble convexe $F$ (V, p. 11) est identique au projecteur orthogonal de $E$ sur le sous-espace vectoriel fermé de $E$ engendré par $F$.