Introduction

Dans les chapitres III à V de ce Livre, nous considérons en détail l’algèbre des endomorphismes d’un espace vectoriel topologique réel ou complexe. Dans le cas des espaces de dimension finie, les principales propriétés des éléments de cette algèbre, pris individuellement, résultent de la décomposition de Jordan (A, VII, p. 42, § 5, n$^o9$). On étudie ici leur généralisation aux espaces de dimension infinie, qui est cependant plus délicate.

Dans le chapitre III, nous considérons, dans un cadre fort général, les applications linéaires compactes entre espaces vectoriels topologiques. Ce sont celles dont les propriétés spectrales se rapprochent le plus du cas de la dimension finie. Par exemple, dans le cas particulier des espaces de Banach, les éléments non nuls du spectre d’un endomorphisme compact sont des valeurs propres généralisées de multiplicité spectrale finie.

Dans le contexte des espaces hilbertiens, une classification et une structure maniable se dégagent. C’est l’objet du chapitre IV. Il commence par l’étude des opérateurs compacts dans les espaces hilbertiens : leur description par les valeurs singulières, ainsi que leur diagonalisation dans le cas d’un endomorphisme normal, sont tout analogues aux propriétés connues pour un espace de dimension finie. Plus généralement, le théorème spectral fournit des modèles simples des endomorphismes normaux des espaces hilbertiens.

Certaines applications importantes, qui concernent par exemple les opérateurs différentiels, mais aussi la Mécanique quantique, requièrent une théorie plus subtile : celle des applications linéaires — non nécessairement continues — définies sur un sous-espace dense d’un espace hilbertien, que nous appelons opérateurs partiels. Dans ce cadre, la

xi définition même d’un opérateur auto-adjoint ou normal demande une grande précision si l’on veut éviter des bévues grossières. Une fois ces définitions acquises, une classification semblable à celle des endomorphismes continus émerge ; le calcul fonctionnel pour les applications universellement mesurables, bornées ou non, fournit des liens étroits entre endomorphismes normaux continus et opérateurs partiels normaux.

En passant, nous aurons évoqué les endomorphismes normaux à trace, et en particulier les endomorphismes intégraux à noyau dans un espace hilbertien $L^2(X, \mu)$. On sait l’importance cruciale qu’a, dans la théorie des formes et représentations automorphes, la formule qui établit que la trace d’un tel endomorphisme, lorsqu’elle existe, est l’intégrale du noyau sur la diagonale. Nous consacrons également un paragraphe aux définitions et propriétés fondamentales des distributions et distributions tempérées dans $\mathbf{R}^n$. Ces notions fournissent non seulement la présentation la plus commode des principes fondamentaux de la théorie de Fourier euclidienne (cf. II, § 1), mais elles permettent aussi d’identifier les domaines de nombreux opérateurs différentiels importants.

Enfin, dans le chapitre V, nous relions l’étude des endomorphismes des espaces hilbertiens à celle des représentations unitaires des groupes. Après quelques considérations générales élémentaires, parmi lesquelles le lemme de Schur est l’énoncé le plus important, nous étudions le cas des groupes localement compacts. Nous considérons ensuite les fonctions de type positif, et présentons leurs premières applications. L’une d’entre elles est le théorème de Gelfand–Naimark–Segal, qui affirme que toute algèbre stellaire est isomorphe à une sous-algèbre fermée de l’algèbre des endomorphismes d’un espace hilbertien. D’autres concernent des propriétés fondamentales de l’espace des représentations unitaires irréductibles d’un groupe localement compact, tout particulièrement le théorème de Gelfand–Raikov, qui établit que ces représentations séparent les points. Dans le dernier paragraphe de ce chapitre, nous démontrons les résultats fondamentaux concernant les représentations des groupes compacts, qui nous ont servi dans le chapitre IX de Groupes et algèbres de Lie.

En plus des articles et mémoires originaux, nous avons bénéficié tout particulièrement de la lecture des ouvrages qui suivent :

A. Borel, Représentations de groupes localement compacts, Lecture Notes in Mathematics 276, Springer, 1972.

M. Reed and B. Simon, Methods of Mathematical Physics, Academic Press, Vol. 1, 1980 et Vol. 2, 1975.

K. Schmüdgen, Unbounded Self-adjoint Operators on Hilbert Space, Graduate Texts in Mathematics 265, Springer, 2012.

Dans les chapitres et livres précédents, les références suivantes à « TS, à paraître », doivent être modifiées ainsi :

EVT, V, p. 35, ligne 1. Au lieu de « TS, IV, § 6 », lire « (TS, IV, p. 160,

remarque) ».

INT, IX, p. 94, § 6, n$^o12$. Au lieu de « On peut démontrer une réciproque . . .

bornée », lire « La réciproque de la prop. 11 est un cas particulier de TS, V,

p. 455, th. 5. »

LIE, IX, p. 61, § 6, n$^o4$, ligne 6. Au lieu de « TS, à paraître », lire « TS, III,

p. 36, prop. 9 ».

LIE, IX, p. 63, § 6, n$^o4$, ligne 6. Au lieu de « TS, à paraître », lire « TS, III,

p. 36, rem. ».

LIE, IX, p. 66, § 7, note 1. Au lieu de « à un chapitre à paraître », lire « au

paragraphe 4 du chapitre V ».

LIE, IX, p. 69, § 7, n$^o2$. Au lieu de « alors d’après TS », lire « alors (TS, V,

p. 464, prop. 6) ».

LIE, IX, p. 71, § 7, n$^o3$. Au lieu de « qui, d’après TS, est un isomorphisme »,

lire « qui, d’après TS, V, p. 469, cor. 2, est un isomorphisme. »

LIE, IX, p. 72, § 7, n$^o4$. Au lieu de « (TS) », lire « (TS, V, p. 459, cor. 3) ».

LIE, IX, p. 74, § 7, n$^o4$. Après « de l’espace des fonctions représentatives centrales

sur G », ajouter « (TS, V, p. 469, cor. 2, a)) » ; après « de l’espace ZL$^2(G)$

des fonctions centrales de carré intégrable sur G », ajouter « (TS, V, p. 468,

prop. 9). »

LIE, IX, p. 78, § 8, n$^o1$. Au lieu de « Dans ce numéro, on rappelle des définitions

et résultats de TS », lire « On rappelle des définitions et résultats de TS, V,

p. 386, n$^o8$; p. 392, n$^o10$; p. 470, n$^o7$. »

LIE, IX, p. 84, § 8, n$^o3$. Au lieu de « Rappelons (TS) les formules », lire « On a

(TS, V, p. 467, formules (1) et (2)) les formules ».

LIE, IX, p. 89, § 9, n$^o1$. Au lieu de « TS, III, §2, n$^o7$, prop. 16 », lire « TS, III,

p. 67, prop. 10 ».

LIE, IX, p. 90, § 9, n$^o1$. Au lieu de « TS, III, §2, n$^o6$ », lire « TS, III, p. 61,

no. 4 ».

LIE, IX, p. 91, § 9, n$^o2$. Au lieu de « TS, à paraître », lire « TS, III, p. 36,

prop. 9 et TS, V, p. 464, prop. 7 ».

LIE, IX, p. 92, note 1. Au lieu de « (TS, à paraître) », lire « (TS, V, p. 379,

déf. 3) ».

LIE, IX, p. 99, appendice 1, n$^o1$. Au lieu de « (TS, à paraître) », lire « (TS, V,

p. 464, remarque 4) ».

LIE, IX, p. 128, exercice 3 (b) du §9. Au lieu de « (TS, à paraître) », lire « (Utiliser

le théorème de Peter–Weyl, TS, V, p. 462, th. 1) ».

TS, I, p. 103, exemple 6. Au lieu de « V, à paraître », lire « V, p. 442, th. 2. » TS, I, p. 173, exerc. 5, d). Au lieu de « III, à paraître », lire « III, p. 82, § 6. » TS, II, p. 237, n$^o9$. Au lieu de « IV, à paraître », lire « IV, p. 196, § 3 ».

TS, II, p. 251, n$^o1$. Au lieu de « V, à paraître », lire « V, p. 425, prop. 10 ».