L’endomorphisme $u$ est un isomorphisme si et seulement si $u_i$ est un isomorphisme pour tout $i\in I$. En appliquant cette propriété à $u-\lambda 1_E$, on en déduit que Sp($u$) est la réunion des ensembles Sp($u_i$) pour $i\in I$.

Soit $f\in \mathscr{O}$(Sp($u$)). L’endomorphisme $f(u)$ de E appartient au bicommutant de $u$ dans $\mathscr{L}(E)$ (th. 5 de I, p. 74), donc commute avec les projecteurs $p_i$. Il stabilise alors les espaces $E_i$. Considérons le morphisme unifère continu $\varpi$ de l’algèbre produit $\prod_{i\in I}\mathscr{L}(E_i)$ dans $\mathscr{L}(E)$ défini par $(v_i)_{i\in I}\mapsto \bigoplus_iv_i$. Il applique la famille $(u_i)$ sur $u$. La prop. 7 de I, p. 75 implique alors que Sp($u$)$\subset \bigcup_{i\in I}$ Sp($u_i$) et

ce qui conclut la preuve du lemme.

Ker($u-\lambda 1_E$)$\subset$ Ker($f(u)-f(\lambda )1_E$).

Soit $x\in E$ non nul. L’ensemble A des $v\in \mathscr{L}(E)$ tels que $x$ soit vecteur propre de $v$ est une sous-algèbre unifère de $\mathscr{L}(E)$.

L’algèbre A est pleine : si $v\in A$ est inversible dans $\mathscr{L}(E)$ et si $x$ est vecteur propre de $v$ pour la valeur propre $\lambda$, alors $\lambda \not= 0$ et $v^{-1}(x) =\lambda^{-1}x$, ce qui prouve que $v^{-1}\in A$.

L’algèbre A est fermée dans $\mathscr{L}(E)$. En effet, si $(v_n)_{n\in\mathbf{N}}$ est une suite dans A telle que $v_n$ converge vers $v\in \mathscr{L}(E)$, la suite $(\lambda_n)_{n\in\mathbf{N}}$ telle que $v_n(x) =\lambda_nx$ est bornée, donc admet une sous-suite convergeant vers un nombre complexe $\mu$, de sorte que $v(x) =\mu x$.

Supposons que $x$ soit vecteur propre de $u$ et que $u(x) =\lambda x$. L’algèbre A contient $u$, donc contient la sous-algèbre unifère fermée pleine B engendrée par $u$, qui est commutative. L’application $\chi : B\rightarrow \mathbf{C}$ qui, à $v$, associe la valeur propre de $v$ relative à $x$ est un caractère de B tel que $\chi (u) =\lambda$. Pour tout $f\in \mathscr{O}$(Sp($u$)), on a $f(u)\in B$ et $\chi (f(u)) =f(\chi (u)) =f(\lambda )$ d’après la prop. 7 de I, p. 75, d’où la proposition.

On a Sp($u$) $= H_1\cup H_2($I, p. 128, lemme 1). Comme les ensembles $H_1$ et $H_2$ sont compacts, ils sont ouverts et fermés dans Sp($u$). Pour toute fonction holomorphe $f$ au voisinage de Sp($u$), l’endomorphisme $f(u)$ stabilise $E_1$ et $E_2$ et coïncide dans $E_1$ avec $f(u_1)$ et dans $E_2$ avec $f(u_2)$ (loc. cit.). Prenons en particulier pour $f$ le germe de fonction holomorphe $f_{H_1}$ qui vaut 1 au voisinage de $H_1$ et 0 au voisinage de $H_2$ (cf. numéro 12 de I, p. 81) ; alors $f_{H_1}(u_1)$ est l’application identique de $E_1$ puisque $f_{H_1}$ = 1 au voisinage de $H_1=$ Sp($u_1$), et $f_{H_1}(u_2)$ est nulle puisque $f_{H_1}= 0$ au voisinage de $H_2$. Donc $e_{H_1}(u) =f_{H_1}(u)$ est le projecteur d’image $E_1$ et de noyau $E_2$, et l’on a donc $E_1= E_{H_1}$ et $E_2= E_{H_2}$.

Soient E un espace de Banach et $u$ un endomorphisme de E. Soit $(H_i)_{i\in I}$ une famille finie de parties ouvertes et fermées de Sp($u$), deux à deux disjointes, et soit H sa réunion. Les relations (15) et (16) de I, p. 81 entraînent les assertions suivantes :

a) La famille de projecteurs $(e_{H_i}(u))_{i\in I}$ est orthogonale (c’est-à-dire, que $e_{H_i}(u)e_{H_j}(u) = 0$ pour tous $(i, j)$ dans $I^2$ tels que $i\not=j$, cf. A, II, p. 18, déf. 7) et sa somme est $e_H(u)$ ;

b) L’espace vectoriel $E_H$ est somme directe topologique de la famille $(E_{H_i})_{i\in I}$;

c) Pour tout $j\in I$, on a $E_{Sp(u)-H_j}= E_{Sp(u)-H}\oplus \bigoplus_{i\not=j}E_{H_i}$;

d) L’espace vectoriel $E_{Sp(u)-H}$ est l’intersection de la famille $(E_{Sp(u)-H_i})_{i\in I}$.

Lorsque H = Sp($u$), la décomposition en somme directe topologique $\bigoplus_{i\in I}E_{H_i}$ de E est appelée la décomposition spectrale de E associée à $u$ et à la partition finie $(H_i)_{i\in I}$ de Sp($u$).

Soit $f$ un élément de $\mathscr{O}$(Sp($u$)). Le spectre de l’endomorphisme $f(u)$ de E est l’image par $f$ du spectre de $u($I, p. 75, prop. 8). Soit L une partie ouverte et fermée de Sp($f(u)$). L’ensemble H des éléments $\lambda \in$ Sp($u$) tels que $f(\lambda )$ appartienne à L est ouvert et fermé dans Sp($u$), et on a $e_L(f(u)) =e_H(u)$ puisque $f_L\circ f=f_H$ dans $\mathscr{O}$(Sp($u$)) (loc. cit.).

a) On a Sp($u$) $=$ Sp($^tu$) ;

b) Pour tout $f\in \mathscr{O}$(Sp($u$)), on a $f(^tu) =^tf(u)$ ;

c) On a $e_H(^tu) =^te_H(u)$ pour toute partie H de Sp($u$) qui est ouverte et fermée.

Pour qu’un endomorphisme de E soit un automorphisme, il faut et il suffit que sa transposée soit un automorphisme de $E'$ (EVT, IV, p. 30, cor. 5), d’où l’assertion a).

L’application $v\mapsto^tv$ est un homomorphisme unifère et continu de l’algèbre de Banach $\mathscr{L}(E)$ dans l’algèbre de Banach opposée de $\mathscr{L}(E')$ (EVT, IV, p. 7, prop. 8). Comme l’algèbre $\mathscr{O}$(Sp($^tu$)) est commutative, l’application $f\mapsto^tf(u)$ est un homomorphisme unifère et continu de l’algèbre $\mathscr{O}$(Sp($^tu$)) dans l’algèbre $\mathscr{L}(E')$. Cet homomorphisme applique le germe de l’application identique de $\mathbf{C}$ sur $^tu$, donc coïncide avec l’homomorphisme $f\mapsto f(^tu)$ (th. 5 de I, p. 74). Cela prouve b).

L’assertion c) résulte de b), appliquée à la fonction $f_H$ égale à 1 au voisinage de H et à 0 au voisinage de son complémentaire dans Sp($u$).

La preuve suit celle du lemme 1 de I, p. 128 en utilisant la remarque de 6 de I, p. 110 et la prop. 8 de I, p. 112.

Ker($u-\lambda 1_E$)$\subset$ Ker($f(u)-f(\lambda )1_E$).

La preuve est analogue à celle de la proposition 1 de I, p. 128 ; reprenons-en les arguments. L’algèbre A introduite dans loc. cit. est ici une sous-algèbre unifère stellaire de $\mathscr{L}(E)$ (EVT, V, p. 43, cor.). Elle contient donc la sous-algèbre unifère stellaire B engendrée par $u$, qui est commutative. L’application $\chi : B\rightarrow \mathbf{C}$ qui, à $v$, associe la valeur propre de $v$ relative à $x$ est un caractère de B tel que $\chi (u) =\lambda$. Pour tout $f\in \mathscr{C}$ (Sp($u$))), on a $f(u)\in B$ et $\chi (f(u)) =f(\chi (u)) =f(\lambda )$ d’après la prop. 8 de I, p. 112, d’où l’assertion.

(i) Le projecteur $p$ est un orthoprojecteur, c’est-à-dire que Ker($p$) $=$ Im($p$)$^{\circ}$ (EVT, V, p. 13) ;

(ii) Le projecteur $p$ est hermitien;

(iii) Le projecteur $p$ est normal ;

(iv) On a Ker($p$)$\subset$ Ker($p^*$) ;

(v) On a Im($p$)$\subset$ Im($p^*$) ;

(vi) Le projecteur $p$ est positif;

(vii) On a $\|p\|\leqslant 1$.

Rappelons d’abord que Ker($p^*$) $=$ Im($p$)$^{\circ}$ et Ker($p$) $=$ Im($p^*$)$^{\circ}$ (EVT, V, p. 41, prop. 4). De plus, l’image de $p$ (resp. $p^*$) est fermée, puisqu’elle coïncide avec le noyau de $1-p$ (resp. $1-p^*$). Donc on a

(1) Im($p$) $=$ Ker($p^*$)$^{\circ}$, Im($p^*$) $=$ Ker($p$)$^{\circ}$.

(i) $=\Rightarrow$ (ii)$:p^*$ est un projecteur de noyau Im($p$)$^{\circ}=$ Ker($p$) et dont l’image est Im($p^*$)$^{\circ}=$ Ker($p$) $=$ Im($p$)$^{\circ}$; donc $p^*=p$.

(ii) $=\Rightarrow$ (iii) puisque tout endomorphisme hermitien est normal.

(iii) $=\Rightarrow$ (iv) : comme $p$ est normal, on a $\|p(x)\|^2=\|p^*(x)\|^2$ pour tout $x$ dans E (EVT, V, p. 43, prop. 7), d’où l’inclusion demandée.

(iv) $=\Rightarrow$ (v) suit des égalités (1) ci-dessus.

(v) $=\Rightarrow$ (vi) : pour tout $x\in E$, on a $p(x)\in$ Im($p^*$), et par conséquent $\langle p(x)|x\rangle =\langle p^*(p(x))|x\rangle =\|p(x)\|^2\geqslant 0$.

(vi) $=\Rightarrow$ (vii) : soient $x\in E$ et $y=x-p(x)\in$ Ker($p$). Pour tout $t\in \mathbf{R}$, on a par hypothèse

ce qui n’est possible que si $\langle y|p(x)\rangle = 0$. Mais alors

et donc $\|p\|\leqslant 1$.

(vii) $=\Rightarrow$ (i) : soit $y\in$ Im($p$) ; notons $z$ la projection orthogonale de $y$ sur Ker($p$)$^{\circ}$ et posons $x=y-z\in$ Ker($p$). On a $p(z) =p(y) =y$, donc $\|y\|\leqslant \|z\|$ par hypothèse. Mais, comme $x$ et $z$ sont orthogonaux, on a $\|y\|^2=\|x\|^2+\|z\|^2$, d’où $\|x\|= 0$, c’est-à-dire $y=z$. Ainsi, Im($p$)$\subset$ Ker($p$)$^{\circ}$. Comme de plus $\|p^*\|=\|p\|\leqslant 1$, on a de même Im($p^*$)$\subset$ Ker($p^*$)$^{\circ}$, ce qui fournit l’inclusion réciproque par (1).

a) Pour toute partie ouverte et fermée H du spectre de $u$, le projecteur spectral $e_H(u)$ est un orthoprojecteur dont le noyau est l’image du projecteur spectral $e_{Sp(u)-H}(u)$ ;

b) Si $H_1$ et $H_2$ sont des parties disjointes, ouvertes et fermées du spectre de $u$, alors les sous-espaces spectraux $E_{H_1}$ et $E_{H_2}$ sont orthogonaux ;

c) Si $\lambda \in \mathbf{C}$ est un point isolé du spectre de $u$, alors $\lambda$ est une valeur propre de $u$ et l’image du projecteur spectral $e_{\lambda}(u)$ est l’espace propre de $u$ relatif à $\lambda$.

Démontrons a). Comme le calcul fonctionnel holomorphe est compatible avec le calcul fonctionnel continu (I, p. 111, cor. 1), on a $e_H(u) =\varphi_H(u)$, où $\varphi_H\in \mathscr{C}$ (Sp($u$)) est la fonction caractéristique de H. Cela implique $e_H(u)^*=\overline{\varphi}_H(u) =\varphi_H(u) =e_H(u)$, donc $e_H(u)$ est un orthoprojecteur (lemme 3, (ii)). Son noyau est l’image du projecteur $1-e_H(u) =e_{Sp(u)-H}(u)$.

Démontrons b). Les fonctions caractéristiques $\varphi_{H_1}$ et $\varphi_{H_2}$ de $H_1$ et $H_2$ dans Sp($u$) sont continues et leur produit est nul, ce qui implique $e_{H_1}(u)\circ e_{H_2}(u) =e_{H_2}(u)\circ e_{H_1}(u) = 0$. Les inclusions $E_{H_2}(u)\subset E_{H_1}(u)^{\circ}$ et $E_{H_1}(u)\subset E_{H_2}(u)^{\circ}$ en résultent.

Démontrons enfin l’assertion c). La fonction caractéristique $\varphi_{\lambda}$ de $\{\lambda \}$ est continue et non nulle sur Sp($u$) ; elle vérifie $(z-\lambda )\varphi_{\lambda}(z) = 0$ pour tout $z\in$ Sp($u$). On a donc $(u-\lambda 1_E)\varphi_{\lambda}(u) = 0$. L’image de $\varphi_{\lambda}(u)$, qui est non nulle, est donc contenue dans le sous-espace propre de $u$ relatif à $\lambda$. Comme on a $e_{\lambda}(u) =\varphi_{\lambda}(u)$ et que l’image de $e_{\lambda}(u)$ contient le sous-espace propre de $u$ relatif à $\lambda$, l’assertion en résulte.

Puisque $u$ est normal, tout vecteur propre de $u$ est également vecteur propre de $u^*$ (EVT, V, p. 43, cor.). L’hypothèse implique donc que F est stable par $u$ et par $u^*$. D’après EVT, V, p. 41, prop. 4 (ii), on a donc $u(F^{\circ})\subset F^{\circ}$ et $u^*(F^{\circ})\subset F^{\circ}$. Il en découle que l’adjoint de $\widetilde{u}$ est l’endomorphisme de $F^{\circ}$ déduit de $u^*$. Puisque $u$ est normal, l’endomorphisme $\widetilde{u}$ est normal.

a) L’ensemble des valeurs propres de $u$ est contenu dans $\iota (u)$ ;

b) Le spectre de $u$ est contenu dans l’adhérence de $\iota (u)$ dans $\mathbf{C}$.

Soit $\lambda$ une valeur propre de $u$ et soit $x\in E$ un vecteur non nul tel que $u(x) =\lambda x$. Quitte à remplacer $x$ par $x/\|x\|$, on peut supposer que $\|x\|= 1$. Alors, $\langle x|u(x)\rangle =\lambda$, donc $\lambda \in \iota (u)$.

Démontrons b). En considérant $u-\lambda 1_E$, on se ramène à démontrer que si 0 appartient au spectre de $u$, alors 0 est adhérent à $\iota (u)$.

Supposons d’abord qu’il existe un nombre réel $c >$ 0 tel que $\|u(x)\|\geqslant c$ pour tout $x$ de norme 1 dans E. L’endomorphisme $u$ est alors injectif et fermé (lemme 8 de I, p. 107). Comme il n’est pas inversible par hypothèse, il n’est pas surjectif. Par conséquent, l’orthogonal du noyau de $u^*$ n’est pas égal à E (EVT, V, p. 41, prop. 4), ce qui démontre que le noyau de $u^*$ n’est pas réduit à 0. Ainsi 0 appartient à $\iota (u^*)$, donc à $\iota (u)$.

Si l’hypothèse précédente n’est pas valide, alors pour tout entier $n\geqslant 1$, il existe un vecteur $x_n$ de norme 1 dans E tel que $\|u(x_n)\|\leqslant 1/n$. On a alors $|\langle x_n|u(x_n)\rangle |\leqslant 1/n$, ce qui implique que 0 appartient à l’adhérence de $\iota (u)$.

Proposition 7 (Théorème de Hausdorff–Toeplitz)

Soit E un espace hilbertien complexe et soit $u\in \mathscr{L}(E)$. L’image numérique $\iota (u)$ est une partie convexe de $\mathbf{C}$.

Nous aurons besoin de deux lemmes pour démontrer cette proposition.

Soit F le sous-espace affine réel de $\mathscr{L}(E)_h$ formé des éléments de trace 1. Les orthoprojecteurs de rang 1 de E appartiennent à F (lemme 3, (ii)).

Soit $u\in F$. On a $\|u-\frac{1}{2}1_E\|^2=$ Tr($u^2-u+\frac{1}{4}$) $=$ Tr($u^2$)$-\frac{1}{2}$. Par conséquent, $u\in S$ si et seulement si Tr($u^2$) $= 1$. Puisque 2 det($u$) $=$ Tr($u$)$^2-$ Tr($u^2$) $= 1-$ Tr($u^2$), cette condition équivaut à det($u$) $= 0$. D’après le théorème de Hamilton–Cayley (A, III, p. 107, prop. 20), on a donc $u\in S$ si et seulement si $u^2-u= 0$, ce qui signifie que $u$ est un projecteur hermitien de rang 1 (loc. cit.), d’où le résultat.

On se ramène au cas où $u$ est linéaire et où B est la boule unité de E. On a $u(S)\subset u(B)$. Inversement, soit $x\in B$ et soit $y$ un élément non nul de Ker($u$). L’image de l’application continue $t\mapsto \|x+ty\|$ de $\mathbf{R}$ dans $\mathbf{R}_+$ est un intervalle non borné contenant le nombre réel $\|x\|\leqslant 1$. Il existe donc $t\in \mathbf{R}$ tel que $\|x+ty\|= 1$. On a alors $x+ty\in S$ et $u(x+ty) =u(x)$, donc $u(x)\in u(S)$.

Démontrons la prop. 7. Soient $x$ et $y$ des éléments de la sphère unité de E ; démontrons que le segment d’extrémités $\langle x|u(x)\rangle$ et $\langle y|u(y)\rangle$ est contenu dans l’image numérique de $u$.

Soit F le sous-espace de E engendré par $x$ et $y$. Si dim(F) = 1, on a $\langle x|u(x)\rangle =\langle y|u(y)\rangle$, d’où l’assertion. Sinon, on a dim(F) = 2 ; soit alors $p$ l’orthoprojecteur de E d’image F et notons $u_F$ l’endomorphisme de F donné par $x\mapsto p(u(x))$. Puisque $p$ est hermitien (lemme 3 de I, p. 133), on a $\langle z|u_F(z)\rangle =\langle z|u(z)\rangle$ pour tout $z\in F$, de sorte que $\iota (u_F)\subset \iota (u)$. On peut donc supposer que E = F.

Pour tout élément $z$ de E, soit $v_z$ l’endomorphisme hermitien de E défini par $t\mapsto \langle z|t\rangle z$; on a $\langle z|u(z)\rangle =$ Tr($u\circ v_z$). Lorsque $z$ parcourt la sphère unité de E$,v_z$ décrit l’ensemble des orthoprojecteurs de rang 1 de E, qui est une sphère S dans le sous-espace affine réel V de $\mathscr{L}(E)$ formé des endomorphismes hermitiens de E de trace 1 (lemme 5). L’image numérique de E est donc l’ensemble des Tr($u\circ v$), pour $v\in S$. L’application $v\mapsto$ Tr($u\circ v$) de V dans $\mathbf{C}$ est linéaire. Comme dim$_{\mathbf{R}}(V) = 3>$ dim$_{\mathbf{R}}(\mathbf{C})$, elle n’est pas injective ; il résulte alors du lemme 6 que $\iota (u)$ est convexe.