Soit F un sous-espace vectoriel de dimension finie de E. Notons S un supplémentaire topologique de l’adhérence de $\{0\}$ dans F, qui est un sous-espace direct de E. L’espace $F_2= F\cap S$ est séparé et de dimension finie ; il existe donc un entier $n\geqslant 0$ tel que $F_2$ soit isomorphe à $K^n$ (EVT, I, p. 14, th. 2). Il existe alors une application linéaire continue $p: S\rightarrow F_2$ prolongeant l’application identique de $F_2$ (EVT, II, p. 26, remarque). Le noyau de $p$ est un supplémentaire topologique de $F_2$ dans S, et aussi de F dans E.

Posons $p=v\circ u$ et $q=u\circ v$. On a

donc $p$ et $q$ sont des projecteurs. Ils sont continus. Soient $E_1$ et $E_2$ l’image et le noyau de $p$, et soient $F_1$ et $F_2$ l’image et le noyau de $q$. Puisque $u\circ v\circ u=u$, on a

Ker($u$)$\subset$ Ker($v\circ u$)$\subset$ Ker($u\circ v\circ u$) $=$ Ker($u$),

donc Ker($u$) $=$ Ker($v\circ u$) $=$ Ker($p$) $= E_2$. Similairement, on déduit des inclusions

Im($u$)$\supset$ Im($u\circ v$)$\supset$ Im($u\circ v\circ u$) $=$ Im($u$)

que l’image de $u$ est $F_1$. Les espaces $E_2$ et $F_1$ sont des sous-espaces vectoriels directs de E et F respectivement.

L’espace vectoriel E est somme directe topologique de $E_1$ et $E_2$, et $u$ définit par restriction une application linéaire bijective $u_1$ de $E_1$ sur $F_1$. Pour tout $x\in E_1$, on a $v(u(x)) =p(x) =x$, et l’application $u^{-1}_1$ de $F_1$ sur $E_1$ coïncide avec $v$ sur $F_1$. Par conséquent, $u_1$ est un isomorphisme de $E_1$ sur $F_1$ et $u$ est un morphisme strict de E dans F.

Soient E et F des espaces localement convexes et $u\in \mathscr{L}(E; F)$. Pour que $u$ soit un morphisme direct injectif (resp. surjectif), il faut et il suffit qu’il existe $v$ dans $\mathscr{L}(F; E)$ tel que $v\circ u= 1_E$ (resp. $u\circ v= 1_F$) (cf. TG, III, p. 47 et 48).

a) L’ensemble $\mathscr{I}(E; F)$ des isomorphismes de E sur F ;

b) L’ensemble $\mathscr{M} \mathscr{D}(E; F)$ des morphismes directs injectifs de E dans F, et plus précisément, pour tout sous-espace vectoriel fermé $F_1$ de F, l’ensemble $\mathscr{M}_{F_1}(E; F)$ des éléments de $\mathscr{M} \mathscr{D}(E; F)$ dont l’image est un supplémentaire topologique de $F_1$;

c) L’ensemble $\mathscr{E} \mathscr{D}(E; F)$ des morphismes directs surjectifs de E dans F, et plus précisément, pour tout sous-espace vectoriel fermé $E_1$ de E, l’ensemble $\mathscr{E}_{E_1}(E; F)$ des éléments de $\mathscr{E} \mathscr{D}(E; F)$ dont le noyau est un supplémentaire topologique de $E_1$.

De plus, l’application $u\mapsto u^{-1}$ de $\mathscr{I}(E; F)$ sur $\mathscr{I}(F; E)$ est analytique.

Par définition, $\mathscr{I}(E; E)$ est l’ensemble des éléments inversibles de l’algèbre normée complète $\mathscr{L}(E)$. D’après TG, IX, p. 40, prop. 14, c’est une partie ouverte de $\mathscr{L}(E)$. L’application $u\mapsto u^{-1}$ de $\mathscr{I}(E; E)$ dans $\mathscr{I}(E; E)$ est analytique (LIE, III, § 1, n$^o1$, exemple 2).

Si l’ensemble $\mathscr{I}(E; F)$ est vide, il est ouvert. Sinon, soit $u_0$ un isomorphisme de E sur F. L’application $v\mapsto u_0\circ v$ est alors un isomorphisme de $\mathscr{L}(E)$ sur $\mathscr{L}(E; F)$ qui transforme $\mathscr{I}(E; E)$ en $\mathscr{I}(E; F)$. L’ensemble $\mathscr{I}(E; F)$ est donc ouvert dans $\mathscr{L}(E; F)$. De plus, si $u=u_0\circ v$ est un élément de $\mathscr{I}(E; F)$, on a $u^{-1}=v^{-1}\circ u^{-1}_0$, et l’application $u\mapsto u^{-1}$ de $\mathscr{I}(E; F)$ sur $\mathscr{I}(F; E)$ est donc analytique.

Soit $F_1$ un sous-espace vectoriel fermé de F. Pour tout $u\in \mathscr{L}(E; F)$, soit $\overline{u}$ l’élément de $\mathscr{L}(E\times F_1; F)$ défini par $\overline{u}(x, y) =u(x) +y$. L’application $u\mapsto \overline{u}$ de $\mathscr{L}(E; F)$ dans $\mathscr{L}(E\times F_1; F)$ est continue, et $\mathscr{M}_{F_1}(E; F)$ est l’ensemble des éléments $u$ de $\mathscr{L}(E; F)$ tels que $\overline{u}$ appartienne à $\mathscr{I}(E\times F_1; F)$. Comme $\mathscr{I}(E\times F_1; F)$ est ouvert dans $\mathscr{L}(E\times F_1; F)$ d’après ce qui précède, l’ensemble $\mathscr{M}_{F_1}(E; F)$ est ouvert dans $\mathscr{L}(E; F)$. Il en est de même de $\mathscr{M} \mathscr{D}(E; F)$, qui est la réunion des $\mathscr{M}_{F_1}(E; F)$ lorsque $F_1$ parcourt l’ensemble des sous-espaces vectoriels fermés de F.

Soit $E_1$ un sous-espace vectoriel fermé de E, et soit $p$ l’application canonique de E sur l’espace de Banach quotient $E/E_1$. Pour qu’un élément $u$ de $\mathscr{L}(E; F)$ appartienne à $\mathscr{E}_{E_1}(E; F)$, il faut et il suffit que l’application $(u, p)$ de E dans $F\times E/E_1$ appartienne à $\mathscr{I}(E; F\times E/E_1)$. Comme précédemment, on en déduit que $\mathscr{E}_{E_1}(E; F)$ est ouvert dans $\mathscr{L}(E; F)$; il en est de même de $\mathscr{E} \mathscr{D}(E; F)$, qui est la réunion des $\mathscr{E}_{E_1}(E; F)$.

Le théorème résulte de l’énoncé plus précis suivant :

(i) On a $\varphi (u_0) =v_0$;

(ii) Pour tout $u$ dans U, l’application $\varphi (u)$ est un quasi-inverse de $u$, et en particulier $u$ est une application de Fredholm ;

(iii) Pour tout $u$ dans U, on a ind($u$) $=$ ind($u_0$).

D’après la prop. 2 de III, p. 42, (ii), il existe des décompositions en somme directe topologique $E = E_1\oplus E_2$ et $F = F_1\oplus F_2$, et il existe $\alpha_0\in \mathscr{I}(E_1; F_1)$, tels que $E_2$ et $F_2$ soient de dimension finie et que $u_0$ soit représentée par la matrice $\begin{pmatrix} \alpha_0 & 0 \\ 0 & 0 \end{pmatrix}$ relativement à ces décompositions.

Soit U l’ensemble des éléments $u$ de $\mathscr{L}(E; F)$ tels que, dans la représentation matricielle $\begin{pmatrix} \alpha & \beta \\ \gamma & \delta \end{pmatrix}$ de $u$ par rapport à ces décompositions, on a $\alpha \in \mathscr{I}(E_1; F_1)$. Comme $\mathscr{I}(E_1; F_1)$ est ouvert dans $\mathscr{L}(E_1; F_1)$ (prop. 3 de III, p. 57), U est un voisinage ouvert de $u_0$ dans $\mathscr{L}(E; F)$. Pour $u=\begin{pmatrix} \alpha & \beta \\ \gamma & \delta \end{pmatrix}$ dans U, posons

On a $\varphi (u_0) =v_0$ et l’application $\varphi$ est analytique (loc. cit.). Modulo les applications linéaires continues de rang fini, on a les congruences

Par suite, $\varphi (u)$ est un quasi-inverse de $u$. Tout élément $u$ de U définit par restriction un isomorphisme de $E_1$ sur un supplémentaire topologique de $F_2$ dans F. D’après la prop. 3 de III, p. 44, on a donc

ind($u$) $=$ codim$_F(u(E_1))-$ codim$_E(E_1)$

= dim(F$_2$)$-$ dim(E$_2$) $=$ ind($u_0$),

ce qui conclut la démonstration.

Considérons les applications linéaires continues $u:x\mapsto p(x)$ de Im($q$) dans Im($p$) et $v:y\mapsto q(y)$ de Im($p$) dans Im($q$). Pour tout $x\in$ Im($q$), on a $x=q(x)$, d’où

Il en résulte que l’on a $\|1_E-v\circ u\|\leqslant \|q-p\|^2<1$. D’après le cor. 1 de I, p. 22$,v\circ u$ est un automorphisme de Im($q$). On démontre de même que $u\circ v$ est un automorphisme de Im($p$). Cela implique que $u$ est un isomorphisme de Im($q$) sur Im($p$), d’où la première assertion du lemme. La seconde s’en déduit en remplaçant $p$ et $q$ par $1_E-p$ et $1_E-q$ respectivement.

Le théorème résulte de l’énoncé plus précis suivant :

(i) L’endomorphisme $\pi (u_0)$ est le projecteur d’image N et de noyau I ;

(ii) Pour tout $u\in U$, l’application linéaire $\pi (u)$ est un projecteur de rang $d$ qui appartient au bicommutant de $u$ et, en particulier, qui commute à $u$. De plus, $u$ induit un automorphisme de Ker($\pi (u)$);

(iii) Tout élément de U est un endomorphisme de Riesz dont le nilespace est de dimension $\leqslant d$.

Si K = $\mathbf{C}$, notons Sp($u_0$) le spectre de $u_0$ relativement à l’algèbre $\mathscr{L}(E)$. Lorsque K = $\mathbf{R}$, notons Sp($u_0$) le spectre complexe Sp$_{\mathscr{L}(E_{(\mathbf{C})})}((u_0)_{(\mathbf{C})})$ de $u_0($I, p. 85, n$^o13$). D’après la prop. 14 de III, p. 54, le point 0 est isolé dans $\{0\} \cup$ Sp($u_0$). Soit $r >0$ un nombre réel tel que tout élément de Sp($u_0$)$-\{0\}$ soit de module $> r$. Notons V l’ouvert dans $\mathbf{C}$ formé des nombres complexes de valeur absolue $\not =r$; soit $f$ la fonction holomorphe sur V définie par $f(z) = 0$ si $|z|> r$ et $f(z) = 1$ si $|z|< r$. Si $K =\mathbf{C}$ (resp. $K =\mathbf{R}$), notons $U'$ l’ensemble des éléments $u$ de $\mathscr{L}(E)$ dont le spectre (resp. dont le spectre complexe) est contenu dans V. L’ensemble $U'$ est un voisinage ouvert de $u_0$ dans $\mathscr{L}(E)$ et l’application $u\mapsto f(u)$ de $U'$ dans $\mathscr{L}(E)$ est holomorphe (I, p. 76, prop. 10 et I, p. 85, n$^o13$).

Soit $u\in U'$. L’endomorphisme $f(u)$ est le projecteur spectral $e_0(u)$; il commute à $u$, et $u$ induit par passage aux sous-espaces un automorphisme de Ker($e_0(u)$) $($cf. III, p. 53, n$^o6$).

Le projecteur $e_0(u_0)$ a pour image N et pour noyau I (III, p. 54, prop. 14) ; son rang est $d$. D’après le lemme 1, l’ensemble U des éléments $u\in U'$ tels que $e_0(u)$ soit de rang $d$ est un voisinage ouvert de $u_0$. L’ensemble U et l’application $\pi :u\mapsto e_0(u)$ de U dans $\mathscr{L}(E)$ satisfont aux conditions (i) et (ii) de la proposition.

Soit $u\in U$. Puisque $u$ induit un automorphisme de Ker($e_0(u)$), qui est un sous-espace vectoriel fermé de codimension finie de E, l’endomorphisme $u$ est un endomorphisme de Riesz de E (III, p. 48, prop. 8), le nilespace de $u$ est contenu dans l’image de $\pi (u) =e_0(u)$, et est de dimension $\leqslant d$.

C’est une conséquence des formules (2) et (5) et de la définition de la conorme de $u$.

$P =u(E)-u(B),Q =u(E)$ - $(\overline{u(B)}\cap u(E))$.

La conorme de $u$ est égale à la distance de 0 à P dans F. Si l’espace normé E est complet ou si $u$ est un morphisme strict, la conorme de $u$ est égale à la distance de 0 à Q dans F.

Soit N le noyau de $u$; soit $p: E\rightarrow E/N$ la surjection canonique et soit $v: E/N\rightarrow F$ l’application déduite de $u$ par passage au quotient. L’ensemble $p(B)$ est l’ensemble des éléments de $E/N$ de norme $<1$. On a

puisque l’application $v$ est injective. En d’autres termes, P se compose des éléments de F de la forme $v(y)$ avec $y\in E/N$ et $\|y\|\geqslant 1$. Notons $d_P$ la distance de 0 à P dans F. On a

$d_P=$ inf$_{y\|\in yE\|\geqslant/N1}\|v(y)\|=$ inf$_{y\|\in yE\|=1/N}\|v(y)\|= ((u))$ d’après (6).

Supposons que $u$ soit un morphisme strict. Soit $\varepsilon >0$. L’ensemble $\varepsilon u(B)$ est un voisinage de 0 dans $u(E)$. L’adhérence de $u(B)$ dans $u(E)$ est égale à $\overline{u(B)}\cap u(E)$. Elle est contenue dans l’ensemble $u(B) +\varepsilon u(B)$ qui est égal à $(1 +\varepsilon )u(B)$ puisque $u(B)$ est convexe. On a par suite $(1 +\varepsilon )P\subset Q\subset P$ et la distance $d_Q$ de 0 à Q dans F satisfait aux inégalités $d_P\leqslant d_Q\leqslant (1 +\varepsilon )d_P$. Puisque ceci a lieu pour tout $\varepsilon >0$, on a $d_Q=d_P= ((u))$.

Supposons que $u$ ne soit pas un morphisme strict, mais que l’espace normé E soit complet. On a alors $((u)) = 0$ (remarque ci-dessus). L’adhérence de $u(B)$ dans $u$(E), qui est égale à $\overline{u(B)}\cap u$(E), n’est pas un voisinage de 0 dans $u(E)$ (EVT, I, p. 17, th. 1). Il existe alors des points de Q arbitrairement proches de 0, d’où $d_Q= 0 = ((u))$.

Soit $u\in \mathscr{L}(E; F)$. Il s’agit de prouver que pour tout nombre réel $c >((u))$, l’ensemble des éléments $v\in \mathscr{L}(E; F)$ tels que $((v))< c$ est un voisinage de $u$. Notons B l’ensemble des éléments de E de norme $<1$. D’après la prop. 6, il existe $y\in E$ tel que $u(y)\notin u(B)$ et $\|u(y)\|< c$. La distance $d$ de $u(y)$ à l’ensemble fermé $u(B)$ est strictement positive. L’ensemble V des éléments $v$ de $\mathscr{L}(E; F)$ vérifiant les relations $\|v(y)\|< c$ et $\|u-v\|(1 +\|y\|)< d$ est un voisinage de $u$ dans $\mathscr{L}(E; F)$. Soit $v\in V$. Pour tout $x\in B$, on a

Par conséquent $v(y)$ n’appartient pas à $v$(B), et l’on a $((v))\leqslant \|v(y)\|< c$ d’après la prop. 6.

Notons $j$ l’injection canonique de l’espace normé F dans son complété $\widehat{F}$. On a $((u)) = ((j\circ u))$. Comme l’application linéaire $^tj: (\widehat{F})'\rightarrow F'$ est bijective et isométrique, on a également $((^tu)) = ((^t(j\circ u)))$. Il suffit donc de démontrer la proposition lorsque l’espace normé F est complet, ce que nous supposons dans la suite de la démonstration.

Si $u$ est nul, on a $((u)) = ((^tu)) = +\infty$. Si $u$ n’est pas un morphisme strict, alors $^tu$ n’en est pas un (EVT, IV, p. 29, cor. 3), et l’on a $((u)) = ((^tu)) = 0$.

Supposons désormais que $u$ est un morphisme strict non nul. Notons N le noyau de $u$ et I son image, et considérons la décomposition canonique de $u:$

Le noyau de $^tu$ est l’orthogonal $I^{\circ}$ de I dans $F'$ (EVT, IV, p. 27, prop. 2), et $^ti$ définit par passage au quotient une isométrie $\iota$ de $F'/I^{\circ}$ sur $I'$ (EVT, IV, p. 9, prop. 10). Par ailleurs, $^tp$ définit une isométrie $\pi$ de $(E/N)'$ sur l’orthogonal $N^{\circ}$ de N dans $E'$ (EVT, IV, p. 8, prop. 9). La décomposition canonique de $^tu$ est donc

où $v'=\pi \circ^tv\circ \iota$. On a alors

(EVT, IV, p. 7, prop. 8) d’où $((u)) = ((^tu))$ d’après la formule (10).

Il suffit de traiter le cas où le corps K est égal à $\mathbf{R}$. Soit $n$ la dimension de G. En remplaçant F par un sous-espace vectoriel de F de dimension $n+ 1$ contenant G, on se ramène au cas où dim(F) $=n+ 1$. Raisonnons par l’absurde en supposant que la conclusion du théorème n’est pas satisfaite. Soit S la sphère unité de F. Pour tout $x\in S$, la distance de $x$ à G est alors strictement inférieure à $\|x\|= 1$, et l’on peut choisir un élément $y(x)$ de G pour lequel on a $\|x-y(x)\|<1$. Notons $V_x$ l’ensemble des éléments $z$ de S tels que $\|z-y(x)\|<1$; c’est un voisinage ouvert de $x$ dans S. Il existe une partition continue localement finie de l’unité $(\varphi_x)_{x\in S}$ sur S subordonnée au recouvrement $(V_x)_{x\in S}$ de S (TG, IX, p. 46, prop. 3 et p. 51, prop. 6). Soit $f: S\rightarrow G$ l’application continue donnée par

pour tout $z\in S$. Soit $z\in S$. On a $\varphi_x(z)\geqslant 0$ pour tout $x\in S$, et il existe $x\in S$ tel que $\varphi_x(z)>0$, puisque $\sum_{x\in S}\varphi_x(z) = 1$, donc

Cette propriété de $f$ contredit le théorème 3.

Lorsque $u= 0$, on a $((u)) = +\infty$ et dim(E) $=n$, d’où $d= +\infty$. Supposons désormais $u$ non nulle, et donc $((u))<+\infty$. Soit $v$ un élément de $\mathscr{L}(E; F)$ tel que $\|u-v\|<((u))$ et démontrons que son noyau est de dimension $\leqslant n$. Soient $x$ un élément de norme 1 de Ker($v$) et $y$ son image dans $E/$ Ker($u$). On a (formule (5) de III, p. 61)

d’où $\|y\|<1$. Or $\|y\|$ est la distance de $x$ à Ker($u$). Le théorème 4 implique alors que l’on a dim Ker($v$)$\leqslant$ dim Ker($u$) $=n$. Cela prouve l’inégalité $((u))\leqslant d$. L’inégalité réciproque $d\leqslant ((u))$ résulte du lemme plus précis qui suit.

Notons $p$ l’application canonique de E sur $E/$ Ker($u$). Il existe $a\in E$ tel que $\|p(a)\|= 1$ et $\|u(a)\|< c$ (formule (6) de III, p. 61). D’après le théorème de Hahn–Banach (EVT, II, p. 24, cor. 2), il existe une forme linéaire continue $f$ sur l’espace normé $E/$ Ker($u$) telle que $f(p(a)) = 1$ et $\|f\|= 1$. L’application linéaire $h:x\mapsto -(f\circ p)(x)u(a)$ de E dans F est continue, de rang 1, et l’on a $\|h\|\leqslant \|f\| \|p\| \|u(a)\|< c$. Le noyau de l’application $u+h$ contient celui de $u$ et $a$; comme $a\not \in$ Ker($u$), sa dimension est donc au moins $n+ 1$. D’autre part, l’application linéaire $u$ induit, par passage aux sous-espaces, une application linéaire de Ker($u+h$) dans Im($h$) de noyau Ker($u$)$\cap$ Ker($u+h$), de sorte que dim(Ker($u+h$))$\leqslant$ dim(Ker($u$)) $+ 1$. La conclusion en résulte.