Supposons d’abord que l’application linéaire $u|E_1$ est injective. On a alors $E_1\cap$ Ker($u$) $=\{0\}$, si bien que Ker($u$) est de dimension finie. Soit S un sous-espace vectoriel de E supplémentaire de $E_1+$ Ker($u$). L’espace E est somme directe topologique de $E_1$, Ker($u$) et S (EVT, I, p. 15, cor. 4 et prop. 3). Si $u$ est un morphisme strict d’image fermée, il définit par restriction un isomorphisme de $E_1\oplus S$ sur un sous-espace vectoriel fermé de F, et a fortiori un isomorphisme de $E_1$ sur un sous-espace vectoriel fermé de F. Inversement, supposons que $u$ définisse par restriction un isomorphisme de $E_1$ sur $u(E_1)$ et que $u(E_1)$ soit fermé dans F. On a $u(E) =u(E_1)\oplus u(S)$. Il en résulte que $u(E)$ est somme directe topologique de $u(E_1)$ et $u$(S), et est fermé dans F (loc. cit.). Puisque $u(E_1)$ est fermé et que l’on a $u(E_1)\cap u(S) =\{0\}$, l’espace $u(S)$ est séparé et $u$ définit par restriction un isomorphisme de S sur $u(S)$ (EVT, I, p. 15, cor. de la prop. 3), donc aussi de $E_1\oplus S$ sur $u(E)$. Cela prouve que $u$ est un morphisme strict d’image fermée.

Passons au cas général. Posons $N = E_1\cap$ Ker($u$) et $G = E/N$. L’espace localement convexe $E_1/N$ s’identifie à un sous-espace vectoriel fermé de codimension finie $G_1$ de G. Notons $v: G\rightarrow F$ l’application linéaire continue déduite de $u$ par passage au quotient. Pour que $u$ (resp. $u|E_1$) soit un morphisme strict d’image fermée, il faut et il suffit que $v$ (resp. $v|G_1$) en soit un. Cela nous ramène au cas déjà traité.

Comme F est séparé, le noyau de $v$ est un sous-espace vectoriel fermé de E ; il est de codimension finie dans E et $u+v$ a même restriction que $u$ à Ker($v$). Le corollaire découle ainsi de la proposition.

L’application identique de T sur lui-même se prolonge en une application continue $q: F\rightarrow T$ (EVT, II, p. 26, remarque). Le noyau S de $q$ est un supplémentaire topologique fermé de T. Soit $p: F\rightarrow F$ le projecteur d’image S associé à la décomposition $F = T\oplus S$. Pour que $\pi \circ u$ soit un morphisme strict d’image fermée, il faut et il suffit que $p\circ u$ en soit un. Or $p\circ u$ et $u$ ont même restriction à $\overset{-1}{u}$(S), qui est un sous-espace vectoriel fermé de codimension finie de E, et l’assertion résulte de la proposition.

Soit $v: F\rightarrow E$ un quasi-inverse de $u$. Le noyau de $u$ est contenu dans l’image de l’application linéaire de rang fini $1_E-v\circ u$, donc est de dimension finie. L’image de $u$ contient le noyau de l’application linéaire de rang fini $1_F-u\circ v$, donc est de codimension finie dans F.

(i) L’application $u$ est une application de Fredholm;

(ii) L’application $u$ est un morphisme strict, son noyau est de dimension finie, son image est fermée et de codimension finie dans F ;

(iii) Il existe des sous-espaces vectoriels fermés de codimension finie $E_1$ de E et $F_1$ de F tels que $u$ définisse par passage aux sous-espaces un isomorphisme de $E_1$ sur $F_1$;

(iv) Il existe des décompositions en somme directe topologique $E = E_1\oplus E_2$ et $F = F_1\oplus F_2$ telles que $E_2$ et $F_2$ soient de dimension finie, que $u$ s’annule sur $E_2$ et définisse par passage aux sous-espaces un isomorphisme de $E_1$ sur $F_1$.

(i) $=\Rightarrow$ (iii) : Soient $v$ un quasi-inverse de $u, E_1$ le noyau de $1_E-v\circ u$ et $F_1$ celui de $1_F-u\circ v$. Comme les applications linéaires $1_E-v\circ u$ et $1_F-u\circ v$ sont continues et de rang fini, $E_1$ et $F_1$ sont des sous-espaces vectoriels fermés de codimension finie de E et F respectivement. Soit $x\in E_1$. On a

d’où $u(x)\in F_1$. On a donc $u(E_1)\subset F_1$; on a de même $v(F_1)\subset E_1$. Les applications linéaires continues $u_1: E_1\rightarrow F_1$ et $v_1: F_1\rightarrow E_1$ déduites de $u$ et $v$ sont alors des isomorphismes réciproques l’un de l’autre, puisque $v\circ u$ et $1_E$ (resp. $u\circ v$ et $1_F$) coïncident sur $E_1$ (resp. sur $F_1$).

(iii) $=\Rightarrow$ (ii) : Soient $E_1$ et $F_1$ vérifiant l’hypothèse de (iii). On a $E_1\cap$ Ker($u$) $=\{0\}$ et $F_1\subset$ Im($u$), donc Ker($u$) est de dimension finie et Im($u$) est fermé et de codimension finie dans F. Il résulte de la prop. 1 de III, p. 39 que l’application $u$ est un morphisme strict.

(ii) $=\Rightarrow$ (iv) : Supposons la condition (ii) satisfaite. Le sous-espace vectoriel fermé $E_2=$ Ker($u$) de E est de dimension finie, et il existe un sous-espace vectoriel $E_1$ de E supplémentaire topologique de $E_2$ (EVT, II, p. 27, cor. 2). Le sous-espace vectoriel $F_1=$ Im($u$) de F est fermé et de codimension finie, et il admet un supplémentaire topologique $F_2$ dans F. D’après la prop. 1 de III, p. 39, l’application $u|E_1$ est un morphisme strict, donc $u$ induit un isomorphisme de $E_1$ sur $F_1$.

(iv) $=\Rightarrow$ (i) : Sous les hypothèses de (iv), l’application linéaire de F dans E qui coïncide avec $u^{-1}_1$ sur $F_1$ et est nulle sur $F_2$ est un quasi-inverse de $u$.

(5) ind($u$)$-$ ind($u_1$) $=$ codim$_F(F_1)-$ codim$_E(E_1)$.

Soient $i: E_1\rightarrow E$ et $j: F_1\rightarrow F$ les injections canoniques. Ce sont des applications de Fredholm, et l’on a

ind($i$) $=$ codim$_E(E_1)$, ind($j$) $=$ codim$_F(F_1)$.

Comme $j\circ u_1=u\circ i$, on voit que $u$ est une application de Fredholm si et seulement si $u_1$ en est une (remarques 3 et 4 de III, p. 41). S’il en est ainsi, on a

ind($j$) $+$ ind($u_1$) $=$ ind($j\circ u_1$) $=$ ind($u\circ i$) $=$ ind($u$) $+$ ind($i$),

d’où la formule (5).

Adoptons les notations de la condition (iv) de la prop. 2 de III, p. 42. Comme les espaces vectoriels $E_2$ et $F_2$ sont de dimension finie, ils sont complets. Le complété de $E_1$ (resp. $F_1$) s’identifie à l’adhérence de $E_1$ dans $\widehat{E}$ (resp. de $F_1$ dans $\widehat{F}$), et $\widehat{E}$ (resp. $\widehat{F}$) est somme directe topologique de $\widehat{E}_1$ et $E_2$ (resp. $\widehat{F}_1$ et $F_2$). L’application linéaire $\widehat{u}$ définit par restriction un isomorphisme de $\widehat{E}_1$ sur $\widehat{F}_1$ et s’annule sur $E_2$. La proposition résulte alors de l’implication (iv)$\Rightarrow$(i) de loc. cit.

Si deux des propriétés suivantes sont satisfaites, il en est de même de la troisième :

(i) L’endomorphisme $u$ est d’indice 0 ;

(ii) Le nilespace N de $u$ est de dimension finie ;

(iii) Le conilespace I de $u$ est de codimension finie.

Pour tout entier $n\geqslant 0$, l’endomorphisme $u^n$ possède un indice, égal à $n$ ind($u$) (A, V, p. 127, lemme 2). La suite (dim(Ker($u^n$)))$_{n\in\mathbf{N}}$ d’entiers naturels est croissante ; pour qu’elle soit stationnaire, il faut et il suffit que le nilespace de $u$ soit de dimension finie. La suite (codim$_E$(Im($u^n$)))$_{n\in\mathbf{N}}$ d’entiers naturels est croissante ; pour qu’elle soit stationnaire, il faut et il suffit que le conilespace de $u$ soit de dimension finie. Supposons la condition (i) satisfaite ; la relation

dim(Ker($u^n$))$-$ codim$_E$(Im($u^n$)) $=$ ind($u^n$) $=n$ ind($u$) $= 0$

entraîne alors l’équivalence des condition (ii) et (iii). Inversement, si les conditions (ii) et (iii) sont satisfaites, cette formule entraîne que la suite $(n$ ind($u$))$_{n\in\mathbf{N}}$ est stationnaire, donc $u$ est d’indice nul.

a) L’espace E est alors somme directe des sous-espaces N et I (décomposition de Weyr–Fitting, cf. A, VIII, §2, n$^o2$, p. 25).

b) L’endomorphisme $u$ induit, par passage aux sous-espaces, un endomorphisme nilpotent de N et un automorphisme $u_I$ de I.

c) Notons $v$ l’endomorphisme de E qui est nul sur N et qui coïncide avec $u^{-1}_I$ sur I. On a $u\circ v=v\circ u$ et l’endomorphisme $1_E-u\circ v$ est le projecteur d’image N et de noyau I.

d) Tout endomorphisme de E qui commute à $u$ stabilise N et I, et commute à $v$.

L’endomorphisme $u$ vérifie les propriétés du lemme précédent.

Soit $n\in \mathbf{N}$ tel que Ker($u^n$) $= N$. Alors Ker($u^m$) $=$ Ker($u^n$) pour tout entier $m\geqslant n$; comme ind($u^m$) $=m$ ind($u$) $= 0$, cela entraîne Im($u^m$) $=$ Im($u^n$) pour $m\geqslant n$, donc I = Im($u^n$). Il résulte de A, VIII, p. 25, prop. 2 que les assertions a) et b) sont satisfaites.

Pour tout $x\in N$, on a $v(x) = 0$ et $u(x)\in N$, donc $u(v(x)) = 0$ et $v(u(x)) = 0$. Pour tout $x\in I$, on a $u(v(x)) =v(u(x)) =x$. Cela entraîne que $u\circ v=v\circ u$ et que $1_E-u\circ v$ est le projecteur d’image N et de noyau I.

Soit $w$ un endomorphisme de E qui commute à $u$. Soit $n\in \mathbf{N}$ tel que N = Ker($u^n$) et I = Im($u^n$). Soit $x\in N$; on a $u^n(w(x)) =w(u^n(x)) = 0$, donc $w(x)\in N$. Soit $x\in I$; il existe $y\in E$ tel que $x=u^n(y)$; alors, $w(x) =w(u^n(y)) =u^n(w(y))\in I$. Cela prouve que $w$ stabilise N et I.

Prouvons enfin que $w$ et $v$ sont permutables. Pour tout $x$ dans N, on a $v(w(x)) = 0 =w(v(x))$. Soit $x\in I$; les éléments $v(w(x))$ et $w(v(x))$ de E appartiennent à I et leurs images par $u$ sont toutes deux égales à $w(x)$, donc ils sont égaux. Par linéarité, cela entraîne que $v$ et $w$ commutent.

Cela résulte de la définition et du lemme 2.

a) Les sous-espaces N et I de E sont fermés et stables par $u$, et l’espace E est leur somme directe topologique ;

b) L’endomorphisme $u$ définit par restriction un automorphisme $u_I$ de I ;

c) L’espace vectoriel N est de dimension finie et $u$ définit par restriction un endomorphisme nilpotent $u_N$ de N ;

d) Soit $v$ l’élément de $\mathscr{L}(E)$ qui est nul sur N et coïncide avec $u^{-1}_I$ sur I. C’est un endomorphisme de Riesz de E et un quasi-inverse de $u$ qui commute à $u$. L’endomorphisme $1_E-u\circ v$ de E est le projecteur d’image N et de noyau I. Tout élément de $\mathscr{L}(E)$ qui commute à $u$ stabilise N et I, et commute à $v$.

Soit $n$ un entier naturel tel que Ker($u^n$) $= N$ et Im($u^n$) $= I$. Comme E est séparé et $u$ est continu, N = Ker($u^n$) est fermé dans E. Comme $u$ est un endomorphisme de Fredholm, il en est de même de $u^n$, et I = Im($u^n$) est fermé (III, p. 42, prop. 2). D’après le lemme 2, l’espace E est somme directe de N et I et l’assertion a) résulte alors de la prop. 3 de EVT, I, p. 15.

Comme I est fermé, de codimension finie dans E et stable par $u$, l’application $u_I: I\rightarrow I$ déduite de $u$ est un endomorphisme de Fredholm (III, p. 44, prop. 3) ; elle est aussi bijective, donc c’est un automorphisme de I (III, p. 42, prop. 2). Cela prouve b) et les assertions restantes découlent du lemme 2.

L’endomorphisme $v$ défini dans l’assertion d) de la proposition est un quasi-inverse de $u$, que l’on appelle le quasi-inverse canonique de $u$.

Les endomorphismes de Riesz jouissent de certaines des propriétés de stabilité des applications de Fredholm.

a) Soit $E_1$ un sous-espace fermé de codimension finie de E, stable par $u$. Notons $u_1$ l’élément de $\mathscr{L}(E_1)$ qui coïncide avec $u$ sur $E_1$. Alors $u$ est un endomorphisme de Riesz si et seulement si $u_1$ en est un ;

b) Supposons que $u$ est un endomorphisme de Fredholm d’indice 0. Soit $\widehat{E}$ le complété de E et soit $\widehat{u}\in \mathscr{L}(\widehat{E})$ le prolongement par continuité de $u$. Alors $u$ est un endomorphisme de Riesz si et seulement si $\widehat{u}$ en est un ;

c) Munissons le dual $E'$ de E de la topologie de la convergence bornée, de la topologie de la convergence compacte, ou de la topologie faible. Si $u$ est un endomorphisme de Riesz de E, alors $^tu$ est un endomorphisme de Riesz de $E'$.

a) Pour que $u$ soit un endomorphisme de Fredholm d’indice nul, il faut et il suffit que $u_1$ en soit un (III, p. 44, prop. 3). D’autre part, pour tout $n\in \mathbf{N}$, on a Ker($u^n_1$) $= E_1\cap$ Ker($u^n$), d’où

dim Ker($u^n_1$)$\leqslant$ dim Ker($u^n$)$\leqslant$ dim Ker($u^n_1$) $+$ codim$_E(E_1)$,

donc la suite (dim Ker($u^n$))$_{n\in\mathbf{N}}$ est bornée si et seulement si la suite (dim Ker($u^n_1$))$_{n\in\mathbf{N}}$ l’est. Par suite, $u$ est un endomorphisme de Riesz de E si et seulement si $u_1$ est un endomorphisme de Riesz de $E_1$ (lemme 2).

b) D’après la prop. 4 de III, p. 44, pour tout $n\in \mathbf{N}$, l’application $\widehat{u}^n$ est un endomorphisme de Fredholm de $\widehat{E}$ tel que Ker($\widehat{u}^n$) $=$ Ker($u^n$) et ind($\widehat{u}^n$) $=$ ind($u^n$) $=n$ ind($u$). Par suite, $u$ est un endomorphisme de Riesz si et seulement si $\widehat{u}$ est un endomorphisme de Riesz.

c) La transposée $^tu$ est un endomorphisme de Fredholm d’indice 0 de $E'($III, p. 43, n$^o3$). Comme le noyau de $(^tu)^n$ est l’orthogonal de l’image de $u^n$ (EVT, IV, p. 27, prop. 2), la suite (Ker($^tu$)$^n$)$_n$ est stationnaire. Cela prouve que $^tu$ est un endomorphisme de Riesz de $E'$.

(i) $u$ est un endomorphisme de Riesz de E ;

(ii) Il existe un quasi-inverse $v$ de $u$ qui commute à $u$;

(iii) Il existe un sous-espace vectoriel fermé $E_1$ de E, de codimension finie, stable par $u$, tel que $u$ induise un automorphisme de $E_1$.

L’implication (i) $=\Rightarrow$ (ii) résulte de la prop. 6, d).

Supposons que $u$ possède un quasi-inverse $v$ qui est permutable à $u$. Le noyau $E_1$ de $1_E-u\circ v$ est un sous-espace vectoriel fermé de E, de codimension finie, stable par $u$ et $v$. Comme on a $u(v(x)) =v(u(x)) =x$ pour tout $x\in E_1$, les applications $u$ et $v$ induisent des automorphismes de $E_1$ réciproques l’un de l’autre. Donc (ii) implique (iii).

Enfin, l’implication (iii) $=\Rightarrow$ (i) résulte de l’assertion a) de la prop. 7 et du fait qu’un automorphisme est un endomorphisme de Riesz.

(i) Les endomorphismes $u$ et $v$ sont des endomorphismes de Riesz ;

(ii) L’endomorphisme $u\circ v$ est un endomorphisme de Riesz.

Supposons que $u$ et $v$ soient des endomorphismes de Riesz ; notons $u'$ et $v'$ leurs quasi-inverses canoniques. Les endomorphismes $u,v,u'$ et $v'$ de E commutent (prop. 6, d)). L’endomorphisme $v'\circ u'$ est un quasi-inverse de $u\circ v$ qui commute à $u\circ v$, donc $u\circ v$ est un endomorphisme de Riesz (prop. 8).

Supposons inversement que $u\circ v$ est un endomorphisme de Riesz, et soit $w$ son quasi-inverse canonique. Puisque $u$ commute à $u\circ v$, les endomorphismes $u$ et $w$ commutent d’après la prop. 6, d). De même $v$ et $w$ commutent. Donc les endomorphismes $u,v$ et $w$ de E commutent ; il en découle que l’endomorphisme $v\circ w$ de E est un quasi-inverse de $u$ et que $w\circ u$ est un quasi-inverse de $v$. D’après la prop. 8$,u$ et $v$ sont des endomorphismes de Riesz.

Soit $u$ un endomorphisme de Riesz de E. Si $v$ est un automorphisme de E, l’endomorphisme $u\circ v$ de E n’est pas nécessairement un endomorphisme de Riesz de E, même si $u\circ v-v\circ u$ est de rang fini. Si $h$ est un endomorphisme de rang fini de E, l’endomorphisme $u+h$ n’est pas nécessairement un endomorphisme de Riesz (cf. III, p. 120, exercice 3).

a) Soit $n\in \mathbf{N}$. L’application $p$ définit par restriction un isomorphisme d’espaces vectoriels topologiques de Ker($u^n$) sur Ker($v^n$) et définit par passage aux quotients un isomorphisme d’espaces vectoriels topologiques de Coker($u^n$) sur Coker($v^n$);

b) Si l’image de $u$ est fermée dans E, celle de $v$ est fermée dans F ;

c) Si Ker($u$) possède un supplémentaire topologique dans E, alors Ker($v$) en possède un dans F. Si Im($u$) possède un supplémentaire topologique dans E, alors Im($v$) en possède un dans F ;

d) Si $u$ est un morphisme strict, alors $v$ est un morphisme strict ;

e) Si $u$ est un automorphisme de E, alors $v$ est un automorphisme de F ;

f) Si $u$ est un endomorphisme de Fredholm de E, alors $v$ est un endomorphisme de Fredholm de F, et l’on a ind($u$) $=$ ind($v$);

g) Supposons E et F séparés. Si $u$ est un endomorphisme de Riesz de E, alors $v$ est un endomorphisme de Riesz de F.

Remarquons tout d’abord les formules

Démontrons alors deux lemmes.

$q_n=\sum(-1)q\circ (p\circ q)$.

$i=1$

On a $u^n= 1_E-q_n\circ p$ et $v^n= 1_F-p\circ q_n$.

On a $(q\circ p)^i=q\circ (p\circ q)^{i-1}\circ p$ pour tout entier $i\geqslant 1$. On calcule alors

$nnni-1(n)i$ $u= (1_E-q\circ p)= 1_E-\sum(-1)(q\circ p)= 1_E-q_n\circ p$ $nnni-1(n)i$

$v= (1_F-p\circ q)= 1_F-\sum(-1)(p\circ q)= 1_F-p\circ q_n$,

$i=1$

d’où le résultat.

En utilisant les formules (6), on calcule

d’où

ce qui démontre le lemme.

Démontrons la prop. 10. Compte tenu du lemme 4, il suffit de démontrer l’assertion a) pour $n= 1$. D’après les formules (6), les applications $p$ et $q$ définissent par passage aux sous-espaces des applications linéaires continues $p':$ Ker($u$)$\rightarrow$ Ker($v$) et $q':$ Ker($v$)$\rightarrow$ Ker($u$), et par passage aux quotients des applications linéaires continues $p'':$ Coker($u$)$\rightarrow$ Coker($v$) et $q'':$ Coker($v$)$\rightarrow$ Coker($u$).

Puisque $1_E-u=q\circ p$ et $1_F-v=p\circ q$, les applications $p'$ et $q'$ d’une part, $p''$ et $q''$ d’autre part, sont des isomorphismes réciproques l’un de l’autre. Cela prouve a).

Pour que l’image d’une application linéaire continue soit fermée, il faut et il suffit que le conoyau de cette application soit un espace séparé. Ainsi b) résulte de a).

Notons $i: Ker(u)\rightarrow E$ et $j:$ Ker($v$)$\rightarrow F$ les injections canoniques. Supposons que Ker($u$) possède un supplémentaire topologique dans E, et soit $r: E\rightarrow$ Ker($u$) une rétraction linéaire continue de $i$. Posons $r'=p'\circ r\circ q$. On a $r'\in \mathscr{L}(F$; Ker($v$)) et

donc $r'$ est une rétraction linéaire continue de $j$ et Ker($v$) possède un supplémentaire topologique dans F. Cela démontre la première assertion de c). La seconde se démontre de manière analogue, en remarquant que si $s:$ Coker($u$)$\rightarrow E$ est une section linéaire continue de la surjection canonique de E sur Coker($u$), alors $p\circ s\circ q''$ en est une de la surjection canonique de F sur Coker($v$).

Notons $\overline{u}: E/$ Ker($u$)$\rightarrow$ Im($u$) et $\overline{v}: F/$ Ker($v$)$\rightarrow$ Im($v$) les applications linéaires continues bijectives déduites de $u$ et $v$. D’après les formules (6), l’application $p$ définit par passage aux quotients une application linéaire continue $p_1: E/$ Ker($u$)$\rightarrow F/$ Ker($v$), et $p,q$ définissent par passage aux sous-espaces des applications linéaires continues $p_0:$ Im($u$)$\rightarrow$ Im($v$) et $q_0:$ Im($v$)$\rightarrow$ Im($u$).

Notons $t:$ Im($v$)$\rightarrow F/$ Ker($v$) l’application composée de l’injection canonique Im($v$)$\rightarrow F$ et de la surjection canonique $F\rightarrow F/$ Ker($v$); elle est continue. On a $\overline{v}\circ t= 1_{Im(v)}-p_0\circ q_0$ et $\overline{v}\circ p_1=p_0\circ \overline{u}$, d’où

Cela prouve que $t+p_1\circ \overline{u}^{-1}\circ q_0$ est la bijection réciproque de $\overline{v}$. Si $u$ est stricte, l’application $\overline{u}^{-1}$ est continue, et il en est de même de $\overline{v}^{-1}$, ce qui prouve que $v$ est stricte. Cela démontre d).

D’après le lemme 5, si $u$ est un automorphisme de E, alors $v$ en est un de F. De même, si $u$ est un endomorphisme de Fredholm de E, alors $v$ en est un de F, et l’on a alors ind($u$) $=$ ind($v$) d’après a). Ceci démontre e) et f). Enfin, si E et F sont séparés et que $u$ est un endomorphisme de Riesz de E, alors $v$ en est un de F d’après le lemme 5 et la condition (ii) de la prop. 8 ; c’est l’assertion g).