Bourbaki

§ 2. Exemples d’applications linéaires compactes

1. Endomorphismes de trace finie, de Hilbert–Schmidt et de puissance pep^{\mathbf{e}} nucléaire

*Soient E et F des espaces hilbertiens. Tout endomorphisme de E de trace finie (EVT, V, p. 49, déf. 7 et p. 50, déf. 8) est compact (IV, p. 165, cor. 1) ; toute application de Hilbert–Schmidt de E dans F (EVT, V, p. 51, déf. 9) est compacte (IV, p. 165, cor. 2).

Pour tout nombre réel p⩾1p\geqslant 1, l’espace vectoriel Lp(E;F)\mathscr{L}_p(E; F) des applications linéaires de E dans F de puissance pep^e nucléaire est contenu dans Lc(E;F)(\mathscr{L}^c(E; F) (cf. IV, p. 169, remarque 2 pour p=1).∗p= 1).*

2. Opérateurs diagonaux dans des espaces de suites

Soit I un ensemble non vide. Rappelons (EVT, I, p. 4 et p. 5) que l’espace vectoriel des familles bornées x=(xi)i∈Ix= (x_i)_{i\in I} d’éléments de C\mathbf{C}, muni de la norme ∥x∥=\|x\|= supi∣xi∣_i|x_i|, est un espace de Banach que l’on note ℓC∞(I)\ell^{\infty}_{\mathbf{C}}(I).

Soit pp un élément de [1,+∞[[1,+\infty [. L’espace ℓCp(I)\ell^p_{\mathbf{C}}(I) des familles x=(xi)i∈Ix= (x_i)_{i\in I} d’éléments de C\mathbf{C} telles que la famille (∣xi∣p)(|x_i|^p) soit sommable est un espace vectoriel sur lequel l’application x↦∥x∥=(∑i∣xi∣p)1/px\mapsto \|x\|= (\sum_i|x_i|^p)^{1/p} est une norme qui en fait un espace de Banach. Si l’on munit l’espace I de la topologie discrète et de la mesure pour laquelle μ({x})=1\mu(\{x\}) = 1 pour tout x∈Ix\in I, cet espace n’est autre que l’espace de Banach LCp(I,μ)L^p_{\mathbf{C}}(I, \mu). Lorsque p=1p= 1 ou p=2p= 2, cette notation coïncide ainsi avec celle de EVT, I, p. 4 et EVT, V, p. 18 (cf. INT, IV, p. 141, §4, no1^o1, exemple).

Pour des familles x=(xi)i∈Ix= (x_i)_{i\in I} et y=(yi)i∈Iy= (y_i)_{i\in I} de nombres complexes, on note xyxy la famille (xiyi)i∈I(x_iy_i)_{i\in I}.

Proposition 1 02QK

Soit λ=(λi)i∈I\lambda = (\lambda_i)_{i\in I} une famille bornée d’éléments de C\mathbf{C}. Soit pp un élément de [1,+∞][1,+\infty ]. Soit E l’espace de Banach ℓCp(I)\ell^p_{\mathbf{C}}(I).

a) Pour tout x∈Ex\in E, on a λx∈E\lambda x\in E et l’application u:x↦λxu:x\mapsto \lambda x est un endomorphisme continu de E, dont le spectre dans l’algèbre de Banach L(E)\mathscr{L}(E) est égal à l’adhérence dans C\mathbf{C} de l’ensemble des λi\lambda_i, et dont la norme est égale à supi∣λi∣_i|\lambda_i|;

b) L’endomorphisme uu est compact si et seulement si pour tout nombre réel ε>0\varepsilon >0, l’ensemble des éléments i∈Ii\in I tels que ∣λi∣⩾ε|\lambda_i|\geqslant \varepsilon est fini.

Avec les notations de la proposition, l’endomorphisme x↦λxx\mapsto \lambda x est appelé un endomorphisme diagonal de ℓCp(I)\ell^p_{\mathbf{C}}(I).

Démontrons la proposition. Soit C = supi∣λi∣_i|\lambda_i|. Soit x∈Ex\in E. On a les inégalités

∑i∈I∣λixi∣p⩽Cp∥x∥p\sum_{i\in I}|\lambda_ix_i|^p\leqslant C^p\|x\|^p, si p≠+∞p\not = +\infty

supi∈I∣λixi∣⩽C∥x∥_{i\in I}|\lambda_ix_i|\leqslant C\|x\|, si p=+∞p= +\infty.

Cela prouve que λx∈E\lambda x\in E. L’application x↦λxx\mapsto \lambda x est donc un endomorphisme de E, et ces inégalités prouvent qu’il est de norme ⩽C\leqslant C.

Pour j∈Ij\in I, notons eje_j l’élément (xi)i∈I(x_i)_{i\in I} de ℓCp(I)\ell^p_{\mathbf{C}}(I) tel que xj=1x_j= 1 et xi=0x_i= 0 si i≠ji\not =j. On a alors u(ej)=λjeju(e_j) =\lambda_je_j pour tout j∈Ij\in I, ce qui montre que λj\lambda_j appartient au spectre de uu. Comme le spectre de uu est fermé, l’adhérence dans C\mathbf{C} de l’ensemble des λi\lambda_i est inclus dans le spectre de uu. Puisque le spectre de uu est contenu dans le disque centré en 0 et de rayon ∥u∥(\|u\|(I, p. 24, th. 1 et formule (3) de I, p. 21), on en déduit l’inégalité C⩽∥u∥C\leqslant \|u\|, d’où ∥u∥=C\|u\|= C.

Réciproquement, si λ∈C\lambda \in \mathbf{C} n’est pas adhérent à l’ensemble des λi\lambda_i, alors la famille ((λi−λ)−1)i∈I((\lambda_i-\lambda )^{-1})_{i\in I} est bornée. Ce qui précède montre donc que l’application linéaire x↦((λ−λi)−1xi)i∈Ix\mapsto ((\lambda -\lambda_i)^{-1}x_i)_{i\in I} est un endomorphisme de E. Il est inverse de u−λ1Eu-\lambda 1_E, et donc λ\lambda n’appartient pas au spectre de uu. Cela démontre a).

Démontrons maintenant b). Supposons que l’endomorphisme uu est compact. Soit ε>0\varepsilon >0. Notons J l’ensemble des i∈Ii\in I tels que ∣λi∣⩾ε|\lambda_i|\geqslant \varepsilon. L’ensemble des éléments eie_i pour i∈Ji\in J est borné dans E. Son image par uu, formée des éléments λiei\lambda_ie_i pour i∈Ji\in J, est donc relativement compacte dans E (remarque 1 de III, p. 2). Comme ∥λiei−λjej∥⩾ε\|\lambda_ie_i-\lambda_je_j\|\geqslant \varepsilon pour tout couple d’éléments i≠ji\not =j dans J, cela n’est possible que si l’ensemble J est fini.

Démontrons l’assertion réciproque. Soit J une partie finie de I et notons zJ=(zJ,i)i∈Iz_J= (z_{J,i})_{i\in I}, où zJ,i=λiz_{J,i}=\lambda_i pour i∈Ji\in J et zJ,i=0z_{J,i}= 0 pour i∈Ii\in I- J ; la famille zJz_J définit un endomorphisme de rang fini uJ:x↦zJxu_J:x\mapsto z_Jx de E. D’après ce qui précède, la norme de l’application linéaire u−uJu-u_J est majorée par la borne supérieure dans R+\mathbf{R}_+ de la famille (∣λi∣)i∈I−J(|\lambda_i|)_{i\in I-J}. L’hypothèse implique que pour tout ε>0\varepsilon >0, il existe une partie finie J⊂IJ\subset I telle que cette borne supérieure soit ⩽ε\leqslant \varepsilon. Il en résulte que l’application uu est adhérente à Lf\mathscr{L}^f(E), et donc qu’elle est compacte (III, p. 4, cor. de la prop. 2).

Remarque 1 02QL

L’hypothèse de l’assertion b) est toujours valide si I est fini. Lorsque l’ensemble I est infini, elle signifie que la famille (λi)i∈I(\lambda_i)_{i\in I} tend vers 0 suivant le filtre des complémentaires de parties finies de I ; en particulier, l’ensemble des i∈Ii\in I tels que λi≠0\lambda_i\not = 0 est alors dénombrable.

Remarque 2 02QM

On verra ultérieurement (cf. IV, p. 149, théorème 1) que lorsque p=2p= 2, tout endomorphisme compact normal de l’espace hilbertien ℓC2(I)\ell^2_{\mathbf{C}}(I) est de la forme u=w∘v∘w−1u=w\circ v\circ w^{-1} où vv est un endomorphisme compact diagonal et ww est un endomorphisme unitaire (EVT, V, p. 40) de l’espace hilbertien ℓC2(I).∗\ell^2_{\mathbf{C}}(I).*

3. Applications linéaires à valeurs dans un espace de fonctions continues définies par un noyau

On prend ici K=CK =\mathbf{C}. Soient X et Y des espaces topologiques localement compacts. Soient μ\mu une mesure complexe sur X et kk une application de X×YX\times Y dans C\mathbf{C} possédant les deux propriétés suivantes :

(i) Pour tout y∈Yy\in Y, la fonction ky:x↦k(x,y)k_y:x\mapsto k(x, y) de X dans C\mathbf{C} est μ\mu-intégrable ;

(ii) L’application y↦kyy\mapsto k_y de Y dans LC1(X,μ)\mathscr{L}_{\mathbf{C}}^1(X, \mu) est continue.

Munissons l’espace C(Y)\mathscr{C}(Y) des fonctions continues sur Y à valeurs complexes de la topologie de la convergence compacte. Pour ff dans LC∞(X,μ)\mathscr{L}_{\mathbf{C}}^{\infty}(X, \mu), on définit k~(f):Y→C\widetilde{k}(f) : Y\rightarrow \mathbf{C} par

k~(f)(y)=∫Xk(x,y)f(x)dμ(x)=∫Xkyfdμ(1) \widetilde{k}(f)(y) =\int_Xk(x, y)f(x)d\mu(x) =\int_Xk_yf d\mu \tag{1}

L’application h↦∫Xhfdμh\mapsto \int_Xhf d\mu est une forme linéaire continue sur LC1(X,μ)\mathscr{L}_{\mathbf{C}}^1(X, \mu), donc la condition (ii) montre que la fonction k~(f)\widetilde{k}(f) est continue.

Proposition 2 02QN

L’application k~\widetilde{k} de LC∞(X,μ)\mathscr{L}_{\mathbf{C}}^{\infty}(X, \mu) dans C(Y)\mathscr{C}(Y) est compacte.

Quels que soient yy et y′y' dans Y, on a

∣k~(f)(y)∣⩽∥ky∥1∥f∥∞,∣k~(f)(y)−k~(f)(y′)∣⩽∥ky−ky′∥1∥f∥∞ |\widetilde{k}(f)(y)|\leqslant \|k_y\|_1\|f\|_{\infty},|\widetilde{k}(f)(y)-\widetilde{k}(f)(y')|\leqslant \|k_y-k_{y'}\|_1\|f\|_{\infty}

D’après le théorème d’Ascoli (TG, X, p. 18, cor. 2), il en résulte que l’image par k~\widetilde{k} de la boule unité de LC∞(X;μ)\mathscr{L}_{\mathbf{C}}^{\infty}(X;\mu) est relativement compacte dans C(Y)\mathscr{C}(Y).

Corollaire 02QO

Soient X un espace topologique compact, Y un espace topologique localement compact, μ\mu une mesure complexe sur X et kk une application continue de X×YX\times Y dans C\mathbf{C}. Alors la formule (1) définit une application linéaire compacte, encore notée k~\widetilde{k}, de C(X)\mathscr{C}(X) muni de la topologie de la convergence uniforme dans C(Y)\mathscr{C}(Y) muni de la topologie de la convergence compacte.

Vérifions les conditions (i) et (ii) pour kk. Pour tout y∈Yy\in Y, l’application kyk_y est continue sur l’espace compact X, donc μ\mu-intégrable. De plus, l’application y↦kyy\mapsto k_y est continue de Y dans C(X)\mathscr{C}(X) puisque X est compact (TG, X, p. 28, th. 3). Comme ∥ky−ky′∥1⩽∥μ∥∥ky−ky′∥\|k_y-k_{y'}\|_1\leqslant \|\mu\| \|k_y-k_{y'}\| pour tout (y,y′)∈Y2(y, y')\in Y^2, cette application de Y dans LC1(X,μ)\mathscr{L}_{\mathbf{C}}^1(X, \mu) est continue. D’après la prop. 2, l’application k~\widetilde{k} de LC∞(X,μ)\mathscr{L}_{\mathbf{C}}^{\infty}(X, \mu) dans C(Y)\mathscr{C}(Y) est compacte. Par composition avec l’application canonique C(X)→LC∞(X,μ)\mathscr{C}(X)\rightarrow \mathscr{L}_{\mathbf{C}}^{\infty}(X, \mu), on obtient une application linéaire compacte de C(X)\mathscr{C}(X) dans C(Y)\mathscr{C}(Y).

4. Applications linéaires entre espaces de Lebesgue définies par un noyau

On prend ici K=CK =\mathbf{C}. Soit X un espace topologique localement compact muni d’une mesure positive μ\mu. Pour tout r∈[1,+∞]r\in [1,+\infty ], on note Lr(X)=LCr(X,μ)\mathscr{L}^r(X) =\mathscr{L}_{\mathbf{C}}^r(X, \mu) et Lr(X)=LCr(X,μ)L^r(X) = L^r_{\mathbf{C}}(X, \mu). Lorsque r∈[1,+∞[r\in [1,+\infty [, on identifie le dual de Lr(X)L^r(X) avec Lr′(X)L^{r'}(X) où r′r' est l’exposant conjugué de rr, tel que 1/r+1/r′=11/r+ 1/r'= 1 (INT, V, p. 61, § 5, no8^o8, th. 4). On note ∥f∥r\|f\|_r la norme (ou semi-norme) de f∈Lr(X)f\in L^r(X) (ou f∈Lr(X)f\in \mathscr{L}^r(X)).

On rappelle qu’une partie A de X est dite μ\mu-modérée (INT, V, p. 4, § 1, no2^o2) si elle est contenue dans la réunion d’une suite d’ensembles μ\mu-intégrables, et qu’une fonction ff définie sur X à valeurs dans un espace vectoriel ou dans R‾\overline{\mathbf{R}} est μ\mu-modérée si elle est nulle dans le complémentaire d’une partie μ\mu-modérée de X. Si 1 ⩽p<+∞\leqslant p <+\infty et f∈Lpf\in \mathscr{L}^p(X), alors ff est modérée (INT, V, p. 9, § 1, no3^o3, cor.). Si ff est μ\mu-modérée, alors fgf g est μ\mu-modérée pour toute fonction gg.

Soient pp et qq des éléments de]1,+∞[]1,+\infty [. Soient X et Y des espaces topologiques localement compacts, munis de mesures positives μ\mu et ν\nu, respectivement. On munit l’espace X×YX\times Y (resp. Y×XY\times X) de la mesure produit μ⊗ν\mu\otimes \nu (resp. ν⊗μ\nu \otimes \mu).

On note Np,q(X×Y,μ⊗ν)\mathscr{N}^{p,q}(X\times Y, \mu\otimes \nu ), ou simplement Np,q(X×Y)\mathscr{N}^{p,q}(X\times Y), l’ensemble des applications (μ⊗ν(\mu\otimes \nu)-mesurables kk de X×YX\times Y dans C\mathbf{C} telles qu’il existe un nombre réel C⩾0C\geqslant 0 vérifiant

∫X×Y∗∣k(x,y)f(x)g(y)∣d(μ⊗ν)(x,y)⩽C∥f∥p∥g∥q(2) \int_{X\times Y}^*|k(x, y)f(x)g(y)|d(\mu\otimes \nu )(x, y)\leqslant C\|f\|_p\|g\|_q \tag{2}

pour toutes fonctions f∈Lp(X)f\in \mathscr{L}^p(X) et g∈Lq(Y)g\in \mathscr{L}^q(Y). On note alors ∥k∥p,q\|k\|_{p,q} la borne inférieure de l’ensemble des nombres réels C ayant cette propriété.

Remarque 02QP

Soient f∈Lp(X)f\in \mathscr{L}^p(X) et g∈Lq(Y)g\in \mathscr{L}^q(Y). Puisque p<+∞p <+\infty et q<+∞q <+\infty, les fonctions ff et gg sont modérées, et la fonction définie par (x,y)↦f(x)g(y)(x, y)\mapsto f(x)g(y) est (μ⊗ν(\mu\otimes \nu)-modérée (cf. INT, V, p. 92, § 8, no3^o3, cor. 2). Par conséquent, la fonction (x,y)↦k(x,y)f(x)g(y)(x, y)\mapsto k(x, y)f(x)g(y) est (μ⊗ν(\mu\otimes \nu)-modérée, et en particulier l’intégrale supérieure de sa valeur absolue coïncide avec l’intégrale supérieure essentielle (INT, V, p. 6, § 1, no3^o3, prop. 7).

L’ensemble Np,q(X×Y)\mathscr{N}^{p,q}(X\times Y) est un sous-espace vectoriel de l’espace des fonctions de X×YX\times Y dans C\mathbf{C} et l’application définie par k↦∥k∥p,qk\mapsto \|k\|_{p,q} est une semi-norme sur Np,q(X×Y)\mathscr{N}^{p,q}(X\times Y).

Lemme 1 02QQ

Soit k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y). La fonction kk est localement (μ⊗ν)(\mu\otimes \nu )-intégrable.

L’application kk est (μ⊗ν(\mu\otimes \nu)-mesurable par hypothèse. Soit A une partie compacte de X×YX\times Y. Il existe des parties compactes B⊂XB\subset X et C⊂YC\subset Y telles que A⊂B×CA\subset B\times C. En appliquant (2) aux fonctions caractéristiques φB\varphi_B de B et φC\varphi_C de C, on obtient

∫X×Y∗∣k(x,y)∣φA(x,y)d(μ⊗ν)(x,y) \int_{X\times Y}^*|k(x, y)|\varphi_A(x, y)d(\mu\otimes \nu )(x, y)
⩽∫X×Y∗∣k(x,y)∣φB(x)φC(y)d(μ⊗ν)(x,y)<+∞ \leqslant \int_{X\times Y}^*|k(x, y)|\varphi_B(x)\varphi_C(y)d(\mu\otimes \nu )(x, y)<+\infty

d’où le résultat (INT, V, p. 41, §5, no1^o1, prop. 1 et déf. 1).

Proposition 3 02QR

a) Soit k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y). Pour f∈Lp(X)f\in \mathscr{L}^p(X) et g∈Lq(Y)g\in \mathscr{L}^q(Y), la fonction

(x,y)↦k(x,y)f(x)g(y) (x, y)\mapsto k(x, y)f(x)g(y)

est (μ⊗ν)(\mu\otimes \nu )-intégrable et il existe une unique application uku_k de Lp(X)L^p(X) dans Lq′(Y)L^{q'}(Y) telle que

⟨g,uk(f)⟩=∫X×Yk(x,y)f(x)g(y)d(μ⊗ν)(x,y) \langle g, u_k(f)\rangle =\int_{X\times Y}k(x, y)f(x)g(y)d(\mu\otimes \nu )(x, y)

pour tous f∈Lp(X)f\in L^p(X) et g∈Lq(Y)g\in L^q(Y). L’application uku_k est linéaire et continue, sa norme est ⩽∥k∥p,q\leqslant \|k\|_{p,q};

b) Soit k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y). On a uk=0u_k= 0 si et seulement si kk est localement (μ⊗ν)(\mu\otimes \nu )-négligeable ;

c) L’application qui à kk associe uku_k est une application linéaire continue de l’espace semi-normé Np,q(X×Y)\mathscr{N}^{p,q}(X\times Y) dans l’espace de Banach L(Lp(X);Lq′(Y))\mathscr{L}(L^p(X); L^{q'}(Y)), telle que ∥uk∥⩽∥k∥p,q\|u_k\|\leqslant \|k\|_{p,q} pour tout k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y).

Soit k∈Np,q(X×X)k\in \mathscr{N}^{p,q}(X\times X). Par définition, la fonction de X×YX\times Y dans C\mathbf{C} définie par (x,y)↦k(x,y)f(x)g(y)(x, y)\mapsto k(x, y)f(x)g(y) est (μ⊗ν(\mu\otimes \nu)-intégrable lorsque f∈Lp(X)f\in \mathscr{L}^p(X) et g∈Lqg\in \mathscr{L}^q(Y), et l’application

bk:(f,g)↦∫X×Yk(x,y)f(x)g(y)d(μ⊗ν)(x,y) b_k: (f, g)\mapsto \int_{X\times Y}k(x, y)f(x)g(y)d(\mu\otimes \nu )(x, y)

est une application bilinéaire continue de Lp(X)×Lq(Y)L^p(X)\times L^q(Y) dans C\mathbf{C}. Pour tout f∈Lpf\in L^p(X), il existe donc un unique h∈Lq′(Y)h\in L^{q'}(Y) tel que bk(f,g)=b_k(f, g) = ⟨g,h⟩\langle g, h\rangle pour tout g∈Lq(Y)g\in L^q(Y); notons uk(f)=hu_k(f) =h. D’après (2), on a ∥uk(f)∥q′⩽∥k∥p,q∥f∥p\|u_k(f)\|_{q'}\leqslant \|k\|_{p,q}\|f\|_p; l’application uku_k est linéaire et continue de norme ⩽∥k∥p,q\leqslant \|k\|_{p,q}. De plus, l’application k↦ukk\mapsto u_k est linéaire, et les assertions a) et c) en découlent.

Démontrons b). Supposons que kk est localement (μ⊗ν(\mu\otimes \nu)-négligeable. Soient f∈Lp(X)f\in \mathscr{L}^p(X) et g∈Lq(Y)g\in \mathscr{L}^q(Y); la fonction définie sur X×YX\times Y par (x,y)↦k(x,y)f(x)g(y)(x, y)\mapsto k(x, y)f(x)g(y) est (μ⊗ν(\mu\otimes \nu)-modérée. Comme elle est localement (μ⊗ν(\mu\otimes \nu)-négligeable, elle est négligeable (INT, V, p. 7, § 1, no2^o2, cor. 1). Ainsi, on a ⟨uk(f),g⟩=bk(f,g)=0\langle u_k(f), g\rangle =b_k(f, g) = 0. Il en résulte que uk=0u_k= 0.

Réciproquement, soit k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y) tel que uk=0u_k= 0. La fonction kk est localement (μ⊗ν(\mu\otimes \nu)-intégrable (lemme 1). Pour toutes fonctions f∈K(X)f\in \mathscr{K}(X) et g∈Kg\in \mathscr{K} (Y), on a

⟨g,uk(f)⟩=∫X×Yf(x)g(y)k(x,y)d(μ⊗ν)(x,y) \langle g, u_k(f)\rangle =\int_{X\times Y}f(x)g(y)k(x, y)d(\mu\otimes \nu )(x, y)

donc la mesure k⋅(μ⊗ν)k\cdot (\mu\otimes \nu ) sur X×YX\times Y est nulle (cf. INT, III, p. 82, § 4, no1^o1, th. 1). Cela signifie que kk est localement (μ⊗ν(\mu\otimes \nu)-négligeable (INT, V, p. 46, §5, no3^o3, cor. 2).

Définition 1 02QS

Soit k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y). On dit que l’application uku_k est l’opérateur intégral à noyau kk de Lp(X)L^p(X) dans Lq′(Y)L^{q'}(Y).

Pour k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y) et f∈Lpf\in \mathscr{L}^p(X), on notera parfois aussi uk(f)u_k(f) l’image par uku_k de la classe de ff dans Lp(X)L^p(X).

Proposition 4 02QT

Soient k∈Np,q(X×Y)k\in \mathscr{N}^{p,q}(X\times Y) et f∈Lp(X)f\in \mathscr{L}^p(X). L’application définie sur X par x↦k(x,y)f(x)x\mapsto k(x, y)f(x) est μ\mu-intégrable pour tout yy en dehors d’un ensemble localement ν\nu-négligeable, et uk(f)u_k(f) coïncide avec la classe de la fonction

y↦∫Xk(x,y)f(x)dμ(x) y\mapsto \int_Xk(x, y)f(x)d\mu(x)

définie localement ν\nu-presque partout.

Notons Y′Y' l’ensemble des y∈Yy\in Y tels que l’application x↦k(x,y)f(x)x\mapsto k(x, y)f(x) n’est pas μ\mu-intégrable. Soit y∈Yy\in Y et soit C un voisinage compact de yy, dont on note φ\varphi la fonction caractéristique. D’après la condition (2) appliquée à ff et φ\varphi, la fonction (x,y)↦k(x,y)f(x)φ(y)(x, y)\mapsto k(x, y)f(x)\varphi (y) est intégrable sur X×YX\times Y par rapport à la mesure μ⊗ν\mu\otimes \nu. D’après le théorème de Lebesgue–Fubini (INT, V, p. 96, § 8, no4^o4, th. 1, a)), la fonction x↦k(x,y)f(x)φ(y)x\mapsto k(x, y)f(x)\varphi (y) est μ\mu-intégrable pour yy en dehors d’un ensemble ν\nu-négligeable YCY_C. Comme Y′∩C⊂YCY'\cap C\subset Y_C, on en déduit que Y′Y' est localement ν\nu-négligeable dans Y (INT, IV, p. 172, § 5, no2^o2, déf. 3).

Notons hh l’application définie localement ν\nu-presque partout sur Y par y↦∫k(x,y)f(x)dμy\mapsto \int k(x, y)f(x)d\mu. Elle est localement ν\nu-intégrable (INT, V, loc. cit.). Soit g∈K(Y)g\in \mathscr{K}(Y). On a

⟨g,uk(f)⟩=∫X×Yk(x,y)f(x)g(y)d(μ⊗ν)(x,y) \langle g, u_k(f)\rangle =\int_{X\times Y}k(x, y)f(x)g(y)d(\mu\otimes \nu )(x, y)
=∫Y∫Xk(x,y)f(x)g(y)dμ(x)dν(y) =\int_Y\int_Xk(x, y)f(x)g(y)d\mu(x)d\nu (y)
=∫Yg(y)h(y)dν(y) =\int_Yg(y)h(y)d\nu (y)

(INT, V, loc. cit.). On a donc uk(f)=hu_k(f) =h localement ν\nu-presque partout (cf. INT, V, p. 46, § 5, no3^o3, cor. 2).

Proposition 5 02QU

L’espace Lp′(X×Y)\mathscr{L}^{p'}(X\times Y) est contenu dans Np,p(X×Y)\mathscr{N}^{p,p}(X\times Y). L’application linéaire de Lp′(X×Y)\mathscr{L}^{p'}(X\times Y) dans L(Lp(X);Lp′(Y))\mathscr{L}(L^p(X); L^{p'}(Y)) définie par k↦ukk\mapsto u_k induit par passage au quotient une application linéaire continue injective de Lp′(X×Y)L^{p'}(X\times Y) dans L(Lp(X);Lp′(Y))\mathscr{L}(L^p(X); L^{p'}(Y)).

Soit k∈Lp′(X×Y)k\in \mathscr{L}^{p'}(X\times Y). L’application kk est mesurable (INT, IV, p. 84, § 5, no6^o6, th. 5). Soient f∈Lp(X)f\in \mathscr{L}^p(X) et g∈Lp(Y)g\in \mathscr{L}^p(Y). La fonction h:(x,y)↦f(x)g(y)h: (x, y)\mapsto f(x)g(y) appartient à Lp(X×Y)\mathscr{L}^p(X\times Y) et ∥h∥p=∥f∥p∥g∥p\|h\|_p=\|f\|_p\|g\|_p (INT, V, p. 95, § 8, no3^o3, cor. 2). La fonction hkhk est donc intégrable sur X×YX\times Y et on a

(μ⊗ν)∗(∣hk∣)⩽∥k∥p′∥h∥p=∥k∥p′∥f∥p∥g∥p (\mu\otimes \nu )^*(|hk|)\leqslant \|k\|_{p'}\|h\|_p=\|k\|_{p'}\|f\|_p\|g\|_p

d’après l’inégalité de Hölder (INT, IV, p. 208, § 6, no4^o4, th. 2) ce qui démontre que k∈Np,p(X×Y)k\in \mathscr{N}^{p,p}(X\times Y) avec ∥k∥p,p⩽∥k∥p′\|k\|_{p,p}\leqslant \|k\|_{p'}.

Puisque p′≠+∞p'\not = +\infty, toute fonction k∈Lp′(X×Y)k\in \mathscr{L}^{p'}(X\times Y) est modérée (INT, V, p. 9, § 1, no3^o3, cor.), et la dernière assertion résulte alors de la prop. 3, b) et c).

Pour toute fonction k:X×Y→Ck: X\times Y\rightarrow \mathbf{C} et pour tout y∈Yy\in Y, on note kyk_y l’application de X dans C\mathbf{C} donnée par ky(x)=k(x,y)k_y(x) =k(x, y), et on note k∘k_{\circ} l’application de Y dans F(X;C)\mathscr{F}(X;\mathbf{C}) définie par y↦kyy\mapsto k_y. On notera de même l’application de Y dans l’espace des fonctions définies μ\mu-presque partout sur X qui à yy associe la classe de kyk_y.

Pour toute fonction kk de X×YX\times Y dans C\mathbf{C}, on note

Np′,q′(k)=(∫Y∙Np′(ky)q′dν(y))1/q′. N_{p',q'}(k)=\left(\int_Y^\bullet N_{p'}(k_y)^{q'}d\nu(y)\right)^{1/q'}.

C’est un élément de [0,+∞][0,+\infty ].

Lemme 2 02QV

Pour tout k∈Lp′(X×Y)k\in \mathscr{L}^{p'}(X\times Y), on a Np′,p′(k)=∥k∥p′N_{p', p'}(k) =\|k\|_{p'}.

Soit k∈Lp′(X×Y)k\in \mathscr{L}^{p'}(X\times Y). D’après INT, V, p. 96, § 8, no4^o4, th. 1, a), l’ensemble Y′Y' des éléments y∈Yy\in Y tels que la fonction ∣ky∣p′|k_y|^{p'} ne soit pas μ\mu-intégrable est ν\nu-négligeable ; de plus, la fonction définie par y↦μ(∣ky∣p′)y\mapsto \mu(|k_y|^{p'}) sur Y - Y′Y' et nulle sur Y′Y' est ν\nu-intégrable et vérifie

∥k∥p′p′=∫X×Y∣k(x,y)∣p′d(μ⊗ν)(x,y)=∫Yμ(∣ky∣p′)dν=Np′,p′(k)p′ \|k\|^{p'}_{p'}=\int_{X\times Y}|k(x, y)|^{p'}d(\mu\otimes \nu )(x, y) =\int_Y\mu(|k_y|^{p'})d\nu = N_{p', p'}(k)^{p'}

On note Lp′,q′(X,Y,μ,ν)\mathscr{L}^{p',q'}(X,Y, \mu, \nu ), ou simplement Lp′,q′(X,Y)\mathscr{L}^{p',q'}(X,Y), l’espace vectoriel complexe des fonctions (μ⊗ν(\mu\otimes \nu)-mesurables kk de X×YX\times Y dans C\mathbf{C} telles que, pour ν\nu-presque tout y∈Yy\in Y, l’application kyk_y appartient à Lp′\mathscr{L}^{p'}(X), et telles que l’application k∘k_{\circ} appartient à LLp′(X)q′(Y,ν)\mathscr{L}_{L^{p'}(X)}^{q'}(Y, \nu ) (INT, IV, p. 129, § 3, no4^o4, déf. 2). On munit Lp′,q′(X,Y)\mathscr{L}^{p',q'}(X,Y) de la semi-norme k↦Np′,q′(k)k\mapsto N_{p',q'}(k); notons que celle-ci vérifie alors Np′,q′(k)=∥k∘∥q′N_{p',q'}(k) =\|k_{\circ}\|_{q'}, où k∘k_{\circ} est vue comme application à valeurs dans l’espace de Banach Lp′(X)L^{p'}(X).

Proposition 6 02QW

a) L’espace Lp′(X×Y)\mathscr{L}^{p'}(X\times Y) est contenu dans Lp′,p′(X,Y)\mathscr{L}^{p',p'}(X,Y) et pour k∈Lp′(X×Y)k\in \mathscr{L}^{p'}(X\times Y), on a Np′,p′(k)=∥k∥p′N_{p', p'}(k) =\|k\|_{p'};

b) L’espace Lp′,q′(X,Y)\mathscr{L}^{p',q'}(X,Y) est contenu dans Np,q(X×Y)\mathscr{N}^{p,q}(X\times Y) et pour k∈Lp′,q′(X,Y)k\in \mathscr{L}^{p',q'}(X,Y), on a ∥k∥p,q⩽Np′,q′(k)\|k\|_{p,q}\leqslant N_{p',q'}(k).

Démontrons l’assertion a). Soit k∈Lp′(X×Y)k\in \mathscr{L}^{p'}(X\times Y). D’après INT, V, p. 96, § 8, no4^o4, th. 1, a), la fonction kyk_y appartient à Lp′(X)\mathscr{L}^{p'}(X) pour ν\nu-presque tout y∈Yy\in Y.

Soit ε>0\varepsilon >0. Il existe h∈K(X×Y)h\in \mathscr{K}(X\times Y) telle que ∥k−h∥p′<ε\|k-h\|_{p'}< \varepsilon. La fonction h∘h_{\circ} est une fonction continue à support compact de Y dans Lp′(X)L^{p'}(X) qui vérifie

∥k∘−h∘∥p′=Np′,p′(k−h)=∥k−h∥p′<ε \|k_{\circ}-h_{\circ}\|_{p'}= N_{p',p'}(k-h) =\|k-h\|_{p'}< \varepsilon

d’après le lemme 2. Il en résulte que k∘k_{\circ} appartient à LLp′(X)p′(Y,ν)\mathscr{L}_{L^{p'}(X)}^{p'}(Y, \nu ), c’est-à-dire que kk appartient à Lp′,p(X,Y)\mathscr{L}^{p',p}(X,Y). Le lemme 2 démontre alors que Np′,p′(k)=∥k∥p′N_{p', p'}(k) =\|k\|_{p'}.

Démontrons l’assertion b). Soit k∈Lp′,q′(X,Y)k\in \mathscr{L}^{p',q'}(X,Y) et soit f∈Lp(X)f\in \mathscr{L}^p(X). Pour tout y∈Yy\in Y, l’inégalité de Hölder (INT, IV, p. 208, § 6, no4^o4, th. 2) appliquée à kyk_y implique

∫X∗∣k(x,y)f(x)∣dμ(x)⩽∥ky∥p′∥f∥p \int_X^*|k(x, y)f(x)|d\mu(x)\leqslant \|k_y\|_{p'}\|f\|_p

Soit g∈Lq′(Y)g\in \mathscr{L}^{q'}(Y). Les applications ff et gg sont modérées, puisque pp et q′q' sont finis. Par conséquent, l’application (x,y)↦f(x)g(y)(x, y)\mapsto f(x)g(y) est (μ⊗ν)(\mu\otimes \nu )-modérée (cf. INT, V, p. 92, § 8, no3^o3, cor. 2), et donc l’application (x,y)↦k(x,y)f(x)g(y)(x, y)\mapsto k(x, y)f(x)g(y) est (μ⊗ν(\mu\otimes \nu)-modérée. D’après INT, V, p. 93, § 8, no3^o3, prop. 7, a), il vient alors

∫X×Y∗∣k(x,y)f(x)g(y)∣d(μ⊗ν) \int_{X\times Y}^*|k(x, y)f(x)g(y)|d(\mu\otimes \nu )
=∫Y∗∣g(y)∣(∫X∗∣k(x,y)f(x)∣dμ(x))dν(y) =\int_Y^*|g(y)|(\int_X^*|k(x, y)f(x)|d\mu(x))d\nu (y)
⩽∥f∥p∫Y∗∥ky∥p′∣g(y)∣dν(y)⩽Np′,q′(k)∥f∥p∥g∥q \leqslant \|f\|_p\int_Y^*\|k_y\|_{p'}|g(y)|d\nu (y)\leqslant N_{p',q'}(k)\|f\|_p\|g\|_q

en utilisant de nouveau l’inégalité de Hölder. Cela conclut la démonstration.

Proposition 7 02QX

Soit k∈Lp′,q′(X,Y)k\in \mathscr{L}^{p',q'}(X,Y). L’application linéaire uku_k de Lp(X)L^p(X) dans Lq′(Y)L^{q'}(Y) est compacte.

Supposons d’abord que kk est tel que k∘∈K(Y;Lp′k_{\circ}\in \mathscr{K}(Y;\mathscr{L}^{p'}(X)), et notons A le support de k∘k_{\circ}. Soit F le sous-espace de K(Y,A;Lp′(X,μ))\mathscr{K}(Y,A;\mathscr{L}^{p'}(X, \mu)) engendré par les fonctions y↦f2(y)f1y\mapsto f_2(y)f_1, où f2∈K(Y,A)f_2\in \mathscr{K}(Y,A) et f1∈Lp′(X)f_1\in \mathscr{L}^{p'}(X). Lorsque m∈K(Y;Lp′(X))m\in \mathscr{K}(Y;\mathscr{L}^{p'}(X)) vérifie m∘∈Fm_{\circ}\in F, l’application linéaire umu_m est de rang fini, donc compacte. Pour m1m_1 et m2m_2 dans K(Y,A;Lp′\mathscr{K}(Y,A;\mathscr{L}^{p'}(X)), on a de plus

∫′1/q′\int'1/q'
∥um1−um2∥⩽∥m1−m2∥p′,q′=(Y∥m1,y−m2,y∥p′qdν(y)) \|u_{m_1}-u_{m_2}\|\leqslant \|m_1-m_2\|_{p',q'}=(_Y\|m_{1,y}-m_{2,y}\|^q_{p'}d\nu (y))

⩽ν(A)1/q′\leqslant \nu (A)^{1/q'} supy∈YNp′(m1,y−m2,y)_{y\in Y}N_{p'}(m_{1,y}-m_{2,y}).

Comme l’espace F est dense dans K(Y,A;Lp′(X))\mathscr{K}(Y,A; L^{p'}(X)) pour la topologie de la convergence uniforme dans A (INT, III, p. 41, § 1, no1^o1, prop. 1 et INT, III, p. 46, § 1, no2^o2, prop. 5), on conclut que l’application linéaire uku_k est limite d’une suite d’applications linéaires de rang fini. Elle est donc compacte (cor. 1 de III, p. 4).

Considérons le cas général. Soit k∈Lp′,q′(X,Y)k\in \mathscr{L}^{p',q'}(X,Y). Pour tout ε>0\varepsilon >0, il existe une application kε,∘∈K(Y;Lp′(X))k_{\varepsilon ,\circ}\in \mathscr{K}(Y;\mathscr{L}^{p'}(X)) telle que

∥k∘−kε,∘∥q′<ε \|k_{\circ}-k_{\varepsilon ,\circ}\|_{q'}< \varepsilon

La fonction kε:X×Y→Ck_{\varepsilon}: X\times Y\rightarrow \mathbf{C} correspondante vérifie alors

∥uk−ukε∥⩽∥k−kε∥p,q⩽Np′,q′(k−kε)=∥k∘−kε,∘∥q′<ε \|u_k-u_{k_{\varepsilon}}\|\leqslant \|k-k_{\varepsilon}\|_{p,q}\leqslant N_{p',q'}(k-k_{\varepsilon}) =\|k_{\circ}-k_{\varepsilon ,\circ}\|_{q'}< \varepsilon

Puisque ukεu_{k_{\varepsilon}} est compacte d’après ce qui précède, l’application uku_k est également compacte (prop. 2 de III, p. 4).

Posons p=1p= 1 et supposons q>1q >1. Il peut exister des applications k:X×Y→Ck: X\times Y\rightarrow \mathbf{C} telles que ky∈L∞(X)k_y\in \mathscr{L}^{\infty}(X) pour tout y∈Yy\in Y, et telles que l’intégrale

∫Y∗∥ky∥∞q′dν(y) \int_Y^*\|k_y\|^{q'}_{\infty}d\nu (y)

soit finie (en particulier, la condition (2) de III, p. 27 est valide), mais telles que l’application linéaire uku_k de L1(X)L^1(X) dans Lq′(X)L^{q'}(X) ne soit pas compacte (exercice 2 de III, p. 119).

En particulier, on déduit de la proposition le corollaire suivant :

Corollaire 1 (Hilbert–Schmidt) 02QY

Soit k∈L2(X×Y)k\in \mathscr{L}^2(X\times Y). L’application linéaire uku_k est compacte de L2(X)L^2(X) dans L2(Y)L^2(Y).

D’après la prop. 5, on a k∈N2,2(X×Y)k\in \mathscr{N}^{2,2}(X\times Y), donc l’application linéaire uku_k est définie (prop. 3). On a k∈L2,2(X×Y)k\in \mathscr{L}^{2,2}(X\times Y) (prop. 6, a)), donc uku_k est compacte (prop. 7).

Remarque 02QZ

Dans le cas p=q=2p=q= 2, il est généralement plus commode d’exprimer la caractérisation de l’opérateur intégral uku_k à l’aide du produit scalaire : il s’agit de l’unique application de L2(X)L^2(X) dans L2(Y)L^2(Y) telle que

⟨g∣uk(f)⟩=∫X×Yk(x,y)f(x)g(y)‾d(μ⊗ν)(x,y) \langle g|u_k(f)\rangle =\int_{X\times Y}k(x, y)f(x)\overline{g(y)}d(\mu\otimes \nu )(x, y)

pour tous f∈L2(X)f\in L^2(X) et g∈L2(Y)g\in L^2(Y). De plus, l’adjoint de uku_k est l’application linéaire uk∗u_{k^*}, où k∗∈L2(Y×X)k^*\in L^2(Y\times X) vérifie k∗(y,x)=k(x,y)k^*(y, x) =k(x, y) pour presque tout (y,x)∈Y×X(y, x)\in Y\times X. En effet, pour tous f∈L2(X)f\in L^2(X) et g∈L2g\in L^2(Y), on a

⟨g∣uk(f)⟩=∫X×Yk(x,y)g(y)‾f(x)d(μ⊗ν)(x,y)=⟨uk∗(g)∣f⟩ \langle g|u_k(f)\rangle =\int_{X\times Y}k(x, y)\overline{g(y)}f(x)d(\mu\otimes \nu )(x, y) =\langle u_{k^*}(g)|f\rangle

Corollaire 2 02R0

Soit G un groupe topologique compact muni d’une mesure de Haar μ\mu. Soit pp un nombre réel tel que 1<p<+∞1< p <+\infty et qq l’exposant conjugué de pp. Soit f∈Lq(G)f\in \mathscr{L}^q(G). Posons k(x,y)=f(x−1y)k(x, y) =f(x^{-1}y) pour tous (x,y)∈G×G(x, y)\in G\times G.

a) On a k∈Lq,p(G,G)k\in \mathscr{L}^{q,p}(G,G);

b) Pour φ∈Lp(G)\varphi \in L^p(G), la convolution φ∗f\varphi *f appartient à Lp(G)L^p(G) et l’application linéaire vf:φ↦φ∗fv_f:\varphi \mapsto \varphi *f de Lp(G)L^p(G) dans lui-même est continue. Elle coïncide avec l’endomorphisme uku_k. En particulier, l’application linéaire vfv_f est compacte.

Puisque G est compact, la fonction ff appartient à L1(G)\mathscr{L}^1(G). L’application linéaire vfv_f est donc définie et continue d’après INT, VIII, p. 167, § 4, no5^o5, prop. 13.

L’application kk est (μ⊗μ(\mu\otimes \mu)-mesurable, et on a ∥ky∥q=∥f∥q\|k_y\|_q=\|f\|_q pour tout y∈Gy\in G. Comme la mesure μ\mu est bornée, il vient

∫G∥ky∥qpdμ(y)=μ(G)∥f∥qp \int_G\|k_y\|^p_qd\mu(y) =\mu(G)\|f\|^p_q

donc k∈Lq,p(G,G)k\in \mathscr{L}^{q,p}(G,G). L’application linéaire uku_k est donc une application linéaire compacte de Lp(G)L^p(G) dans Lp(G)L^p(G) (prop. 7).

Soit φ∈K(G)\varphi \in \mathscr{K}(G). D’après INT, VIII, p. 166, § 4, no5^o5, prop. 11 et la prop. 4 de III, p. 29, on a alors

vf(φ)(y)=∫Gφ(x)f(x−1y)dμ(x) v_f(\varphi )(y) =\int_G\varphi (x)f(x^{-1}y)d\mu(x)
=∫Gφ(x)k(x,y)dμ(x)=uk(φ)(y) =\int_G\varphi (x)k(x, y)d\mu(x) =u_k(\varphi )(y)

pour presque tout y∈Gy\in G. Cela implique que vf=ukv_f=u_k.

5. Restriction d’applications différentiables

Soient nn et rr des entiers positifs, U une partie ouverte de Rn\mathbf{R}^n et F un espace de Banach. Notons Cr(U;F)\mathscr{C}^r(U; F) l’espace vectoriel des applications de classe CrC^r de U dans F, muni de la topologie de la CrC^r-convergence compacte. Rappelons que celle-ci est la borne supérieure des topologies de la CrC^r-convergence uniforme sur K (VAR, R2, 12.3.10, p. 56), lorsque K décrit l’ensemble des parties compactes de U. L’espace C0(U;F)\mathscr{C}^0(U; F) n’est autre que l’espace C(U;F)\mathscr{C}(U; F) des applications continues de U dans F, muni de la topologie de la convergence compacte.

Lemme 3 02R1

Soit A l’ensemble des multi-indices α∈Nn\alpha \in \mathbf{N}^n tels que ∣α∣⩽r|\alpha |\leqslant r et soit uu l’application linéaire f↦(∂αf)α∈Af\mapsto (\partial^{\alpha}f)_{\alpha\in A} de Cr(U;F)\mathscr{C}^r(U; F) dans C(U;F)A\mathscr{C}(U; F)^A.

a) L’application uu est injective, continue, stricte et son image est fermée.

b) L’espace vectoriel topologique Cr(U;F)\mathscr{C}^r(U; F) est complet.

L’application uu est linéaire et injective. Elle est continue et stricte par définition de la topologie de Cr(U;F)\mathscr{C}^r(U; F).

Soit (gα)α∈A(g_{\alpha})_{\alpha\in A} un point de C(U;F)A\mathscr{C}(U; F)^A adhérent à l’image de uu. Il existe un filtre F\mathfrak{F} sur Cr(U;F)\mathscr{C}^r(U; F) tel que l’on ait gα=g_{\alpha}= limf,F∂αf_{f,\mathscr{F}}\partial^{\alpha}f dans C(U;F)\mathscr{C}(U; F) pour tout α∈A\alpha \in A. Soit mm un entier tel que 0⩽m⩽r0\leqslant m\leqslant r. En raisonnant par récurrence sur mm, on déduit du th. 1 de FVR, II, p. 2, que l’application g0g_0 est de classe CmC^m et que l’on a gα=∂αg0g_{\alpha}=\partial^{\alpha}g_0 pour tout α∈Nn\alpha \in \mathbf{N}^n avec ∣α∣⩽m|\alpha |\leqslant m. Ainsi g0g_0 appartient à l’espace Cr(U;F)\mathscr{C}^r(U; F) et son image par uu est (gα)α∈A(g_{\alpha})_{\alpha\in A}. Cela démontre que l’image de uu est fermée, et établit donc l’assertion a).

L’assertion a) implique que l’espace Cr(U;F)\mathscr{C}^r(U; F) est isomorphe à son image dans C(U;F)A\mathscr{C}(U; F)^A; puisque cette image est fermée et que l’espace C(U;F)A\mathscr{C}(U; F)^A est complet (TG, X, p. 9, cor. 3 du th. 2 et TG, II, p. 17, prop. 10), l’espace Cr(U;F)\mathscr{C}^r(U; F) est complet.

Proposition 8 02R2

Supposons que F est de dimension finie. Soient ss un entier tel que 0⩽s<r0\leqslant s < r et V une partie ouverte relativement compacte de U. L’application linéaire f↦f∣Vf\mapsto f|V de Cr(U;F)\mathscr{C}^r(U; F) dans Cs(V;F)\mathscr{C}^s(V; F) est compacte.

Soit W l’ensemble des fonctions f∈Cr(U;F)f\in \mathscr{C}^r(U; F) dont les dérivées partielles d’ordre ⩽r\leqslant r prennent en tout point de V une valeur de norme inférieure à 1. L’ensemble W est un voisinage de 0 dans l’espace Cr(U;F)\mathscr{C}^r(U; F). Soit α\alpha un multi-indice tel que ∣α∣⩽s|\alpha |\leqslant s. Considérons l’ensemble H des fonctions de la forme (∂αf)∣V(\partial^{\alpha}f)|V pour ff dans W. L’ensemble H est une partie équicontinue de C(V;F)\mathscr{C}(V; F) (TG, X, p. 10) d’après le théorème des accroissements finis (VAR, R, 2.2.3). Par ailleurs, pour tout x∈Vx\in V, l’image de H par l’application g↦g(x)g\mapsto g(x) est une partie bornée, donc relativement compacte, de F. D’après le théorème d’Ascoli (TG, X, p. 18, cor. 2), l’ensemble H est relativement compact dans C(V;F)\mathscr{C}(V; F). Cela démontre que l’application linéaire f↦(∂αf)∣Vf\mapsto (\partial^{\alpha}f)|V de Cr(U;F)\mathscr{C}^r(U; F) dans C(V;F)\mathscr{C}(V; F) est compacte. La proposition résulte alors du lemme 3 et des remarques 5 et 6 de III, p. 3.

6. Restriction de sections différentiables d’un fibré vectoriel

Soient rr un entier positif, X une variété différentielle de classe CrC^r localement de dimension finie et E un fibré vectoriel (réel ou complexe) de base X et de classe CrC^r. Pour tout ouvert U de X, notons Sr(U;E)\mathscr{S}^r(U; E) l’espace vectoriel (noté SEr(U)\mathscr{S}_E^r(U) dans VAR, R1, 7.4, p. 74) des sections de classe CrC^r de E au-dessus de U, muni de la topologie de la CrC^r-convergence compacte.

Lemme 4 02R3

Soit U\mathscr{U} un recouvrement ouvert de X. L’application u:f↦(f∣U)U∈Uu:f\mapsto (f|U)_{U\in\mathscr{U}} de Sr(X;E)\mathscr{S}^r(X; E) dans ∏U∈USr(U;E)\prod_{U\in\mathscr{U}}\mathscr{S}^r(U; E) est linéaire, injective, continue et stricte. Son image est fermée.

L’application uu est linéaire, injective et continue. En vertu de TG, IX, p. 43, prop. 1 et p. 48, cor. 1, toute partie compacte de X possède un recouvrement fini (Ci)i∈I(C_i)_{i\in I} où, pour chaque i∈Ii\in I, l’ensemble CiC_i est une partie compacte de l’un des ouverts du recouvrement U\mathscr{U}. Il en résulte que l’application linéaire uu est stricte. Enfin, son image est fermée, puisque elle est constituée des familles (fU)U∈U(f_U)_{U\in\mathscr{U}} telles que fUf_U et fVf_V coïncident dans U∩VU\cap V pour tous U et V dans U\mathscr{U}.

Proposition 9 02R4

L’espace Sr(X;E)\mathscr{S}^r(X; E) est complet.

Supposons d’abord qu’il existe un entier n⩾0n\geqslant 0 et un espace de Banach F tels que X soit une partie ouverte de Rn\mathbf{R}^n et E le fibré vectoriel trivial X×FX\times F de base X et de fibre F. Dans ce cas, l’espace vectoriel topologique Sr(X;E)\mathscr{S}^r(X; E) est isomorphe à Cr(X;F)\mathscr{C}^r(X; F), et le résultat découle du lemme 3 de III, p. 34.

Dans le cas général, soit U\mathscr{U} un recouvrement ouvert de X par des domaines de cartes tel que pour tout U∈UU\in \mathscr{U}, la restriction de E à U est trivialisable. D’après le lemme ci-dessus, l’espace Sr(X;E)\mathscr{S}^r(X; E) est isomorphe à l’image de l’application linéaire f↦(f∣U)U∈Uf\mapsto (f|U)_{U\in\mathscr{U}}, qui est fermée dans le produit des espaces Sr(U;E)\mathscr{S}^r(U; E) pour U dans U\mathscr{U}. D’après le cas précédent, chacun des espaces Sr(U;E)\mathscr{S}^r(U; E) est complet, donc leur produit est complet (TG, II, p. 17, prop. 10). Par conséquent Sr(X;E)\mathscr{S}^r(X; E) est complet.

Remarque 02R5

Soit U\mathscr{U} un recouvrement ouvert de X par des domaines de cartes cU=(U,φU,RnU)c_U= (U, \varphi_U,\mathbf{R}^{n_U}) tel que pour tout U∈UU\in \mathscr{U}, la restriction de E à U est trivialisable de type FUF_U, où FUF_U est un espace de Banach. Pour tout U∈UU\in \mathscr{U}, on identifie une section ff de E sur U à une application fUf_U de φU(U)\varphi_U(U) dans FUF_U. Il résulte de la preuve de la prop. 9 que la topologie de l’espace Sr(X;E)\mathscr{S}^r(X; E) est définie par la famille des semi-normes pU,C,αp_{U,C,\alpha} telles que

pU,C,α(f)=p_{U,C,\alpha}(f) = supx∈C∥(∂αfU)(x)∥_{x\in C}\|(\partial^{\alpha}f_U)(x)\|, où U parcourt U,C\mathscr{U}, C parcourt l’ensemble des parties compactes de φU(U)\varphi_U(U) et α∈NnU\alpha \in \mathbf{N}^{n_U} l’ensemble des multi-indices tels que ∣α∣⩽r|\alpha |\leqslant r.

Proposition 10 02R6

Supposons que le fibré vectoriel E soit localement de rang fini. Soient ss un entier tel que 0⩽s<r0\leqslant s < r et Y une partie ouverte relativement compacte de X. L’application linéaire f↦f∣Yf\mapsto f|Y de Sr(X;E)\mathscr{S}^r(X; E) dans Ss(Y;E)\mathscr{S}^s(Y; E) est compacte.

Supposons d’abord qu’il existe un entier n⩾0n\geqslant 0 et un espace de Banach F de dimension finie tels que X soit une partie ouverte de Rn\mathbf{R}^n et E le fibré vectoriel trivial X×FX\times F de base X et de fibre F. Dans ce cas, les espaces vectoriels topologiques Sr(X;E)\mathscr{S}^r(X; E) et Ss(Y;E)\mathscr{S}^s(Y; E) sont isomorphes à Cr(X;F)\mathscr{C}^r(X; F) et Cs(Y;F)\mathscr{C}^s(Y; F), respectivement, et la prop. 10 est conséquence de la prop. 8.

Passons au cas général. Soit C une partie compacte de X contenant Y. Pour tout point xx de C, choisissons un voisinage ouvert U(x)U(x) de xx dans X qui soit un domaine de carte au-dessus duquel le fibré vectoriel E est trivialisable. Choisissons par ailleurs un voisinage ouvert relativement compact V(x)V(x) de xx dans U(x)U(x). Comme l’ensemble C est compact, il est recouvert par une famille finie (V(x1),...,V(xm))(V(x_1), . . . ,V(x_m)) de tels ouverts. Pour tout ii, posons Ui=U(xi)U_i= U(x_i) et Yi=V(xi)∩YY_i= V(x_i)\cap Y. Alors YiY_i est une partie ouverte relativement compacte de UiU_i et l’on a Y=Y1∪⋯∪YmY = Y_1\cup \cdots \cup Y_m. Les applications linéaires f↦f∣Uif\mapsto f|U_i de Sr(X;E)\mathscr{S}^r(X; E) dans Sr(Ui;E)\mathscr{S}^r(U_i; E) sont continues et les applications linéaires g↦g∣Yig\mapsto g|Y_i de Sr(Ui;E)\mathscr{S}^r(U_i; E) dans Ss(Yi;E)\mathscr{S}^s(Y_i; E) sont compactes d’après la première partie de la démonstration. Les applications linéaires f↦f∣Yif\mapsto f|Y_i de Sr(X;E)\mathscr{S}^r(X; E) dans Ss(Yi;E)\mathscr{S}^s(Y_i; E) sont donc compactes (prop. 3 de III, p. 5). Compte tenu du lemme 4, appliqué au recouvrement de Y par les ouverts YiY_i, et des remarques 5 et 6 de III, p. 3, l’application linéaire f↦f∣Yf\mapsto f|Y de Sr(X;E)\mathscr{S}^r(X; E) dans Ss(Y;E)\mathscr{S}^s(Y; E) est compacte, ce qui termine la démonstration.

7. Restriction de sections analytiques d’un fibré vectoriel

Soient X une variété analytique complexe localement de dimension finie et E un fibré vectoriel analytique de base X (VAR, p. 35 et VAR, p. 70). Notons Sω(X;E)\mathscr{S}^{\omega}(X; E) l’espace vectoriel des sections analytiques de E sur X, muni de la topologie de la convergence compacte.

Lemme 5 02R7

Soient X0X_0 la variété analytique réelle sous-jacente à X et E0E_0 le fibré vectoriel complexe sur X0X_0 sous-jacent à E.

a) Le sous-espace vectoriel Sω(X;E)\mathscr{S}^{\omega}(X; E) de S0(X0;E0)\mathscr{S}^0(X_0; E_0) est fermé, et l’injection de Sω(X;E)\mathscr{S}^{\omega}(X; E) dans S0(X0;E0)\mathscr{S}^0(X_0; E_0) est continue et stricte ;

b) L’injection canonique de Sω(X;E)\mathscr{S}^{\omega}(X; E) dans S1(X0;E0)\mathscr{S}^1(X_0; E_0) est continue.

Supposons d’abord qu’il existe un entier n⩾0n\geqslant 0 et un espace de Banach F tels que X soit un ouvert de Cn\mathbf{C}^n et E le fibré vectoriel trivial X×FX\times F. Dans ce cas, les espaces vectoriels topologiques Sω(X;E)\mathscr{S}^{\omega}(X; E), S0(X0;E0)\mathscr{S}^0(X_0; E_0) et S1(X0;E0)\mathscr{S}^1(X_0; E_0) sont isomorphes à Cω(X;F),C0(X0;F)\mathscr{C}^{\omega}(X; F),\mathscr{C}^0(X_0; F) et C1(X0;F)\mathscr{C}^1(X_0; F) respectivement, et l’espace S0(X0;E0)\mathscr{S}^0(X_0; E_0) est métrisable (TG, X, p. 20, cor. de la prop. 1). Le lemme résulte alors de VAR, 3.3.2, p. 28.

Passons au cas général. Soit F\mathfrak{F} un filtre sur Sω(X;E)\mathscr{S}^{\omega}(X; E) qui converge dans l’espace S0(X0;E0)\mathscr{S}^0(X_0; E_0) vers une limite ff. Il s’agit de démontrer que ff appartient à Sω(X;E)\mathscr{S}^{\omega}(X; E) et que le filtre F\mathfrak{F} converge vers ff dans l’espace S1(X0;E0)\mathscr{S}^1(X_0; E_0). Cet énoncé est de nature locale, donc résulte de la première partie de la démonstration.

Proposition 11 02R8

Supposons que le fibré vectoriel E soit localement de rang fini. Soit Y une partie ouverte relativement compacte de X. L’application de restriction f↦f∣Yf\mapsto f|Y de Sω(X;E)\mathscr{S}^{\omega}(X; E) dans Sω(Y;E)\mathscr{S}^{\omega}(Y; E) est compacte.

Avec les notations du lemme 5, on a un diagramme commutatif

Sω(X;E)←i→S1(X0;E0) \mathscr{S}^{\omega}(X; E)\leftarrow_i\rightarrow \mathscr{S}^1(X_0; E_0)
→←u→←v(3) \rightarrow \leftarrow_u\rightarrow \leftarrow_v \tag{3}
Sω(Y;E)←j→S0(Y0;E0) \mathscr{S}^{\omega}(Y; E)\leftarrow_j\rightarrow \mathscr{S}^0(Y_0; E_0)

où ii et jj sont les injections canoniques et u,vu,v les applications de restriction. L’application ii est continue (lemme 5, b)), et l’application uu est compacte (prop. 10). Comme l’injection canonique jj est continue, stricte et d’image fermée (lemme 5, a)), l’application uu est compacte (remarque 5 de III, p. 3).

Corollaire 02R9

Soient X une variété analytique complexe compacte et E un fibré vectoriel analytique de base X, localement de rang fini. L’espace vectoriel Sω(X;E)\mathscr{S}^{\omega}(X; E) est de dimension finie.

Étant compacte, la variété analytique X est localement de dimension finie. D’après la prop. 11, l’application identique de Sω(X;E)\mathscr{S}^{\omega}(X; E) est une application linéaire compacte. Cela implique que l’espace Sω(X;E)\mathscr{S}^{\omega}(X; E) est de dimension finie (remarque 3 de III, p. 2).

Exercices

See the exercises for § 2.

Transcribed from the printed volume. Not translated.