Note historique

(N.-B. — Les chiffres romains renvoient à la bibliographie placée à la fin de cette note.)

Les notions de limite et de continuité remontent à l’antiquité; on ne saurait en faire une histoire complète sans étudier systématiquement de ce point de vue, non seulement les mathématiciens, mais aussi les philosophes grecs et en particulier Aristote, ni non plus sans poursuivre l’évolution de ces idées à travers les mathématiques de la Renaissance et les débuts du Calcul différentiel et intégral. Une telle étude, qu’il serait certes intéressant d’entreprendre, dépasserait de beaucoup le cadre de cette note.

C’est Riemann qui doit être considéré comme le créateur de la topologie, comme de tant d’autres branches de la mathématique moderne: c’est lui en effet qui, le premier, chercha à dégager la notion d’espace topologique, conçut l’idée d’une théorie autonome de ces espaces, définit des invariants (les « nombres de Betti ») qui devaient jouer le plus grand rôle dans le développement ultérieur de la topologie, et en donna les premières applications à l’analyse (périodes des intégrales abéliennes). Mais le mouvement d’idées de la première moitié du xixe siècle n’avait pas été sans préparer la voie à Riemann de plus d’une manière. En effet, le désir d’asseoir les mathématiques sur une base solide, qui a été cause de tant de recherches importantes durant tout le xixe siècle et jusqu’à nos jours, avait conduit à définir correctement la notion de série convergente et de suite de nombres tendant vers une limite (Cauchy, Abel) et celle de fonction continue (Bolzano, Cauchy). D’autre part, la représentation géométrique (par des points du plan) des nombres complexes, ou, comme on avait dit jusque-là, « imaginaires » (qualifiés parfois aussi, au xviiiie siècle, de nombres « impossibles »), représentation due à Gauss et Argand, était devenue familière à la plupart des mathématiciens: elle constituait un progrès du même ordre que de nos jours l’adoption du langage géométrique dans l’étude de l’espace de Hilbert, et contenait en germe la possibilité d’une représentation géométrique de tout objet susceptible de variation continue; Gauss, qui par ailleurs était naturellement amené à de telles conceptions par ses recherches sur les fondements de la géométrie, sur la géométrie non-euclidienne, sur les surfaces courbes, semble avoir eu déjà cette possibilité en vue, car il se sert des mots de « grandeur deux fois étendue » en définissant (indépendamment d’Argand et des mathématiciens français) la représentation géométrique des imaginaires ((I), p. 101–103 et 175–178).

Ce sont d’une part ses recherches sur les fonctions algébriques et leurs intégrales, d’autre part ses réflexions (largement inspirées par l’étude des travaux de Gauss) sur les fondements de la géométrie, qui amenèrent Riemann à formuler un programme d’études qui est celui même de la topologie moderne, et à donner à ce programme un commencement de réalisation. Voici par exemple comment il s’exprime dans sa Théorie des fonctions abéliennes ((II), p. 91):

« Dans l’étude des fonctions qui s’obtiennent par l’intégration de différentielles exactes, quelques théorèmes d’analysis situs sont presque indispensables. Sous ce nom, qui a été employé par Leibniz, quoique peut-être avec un sens quelque peu différent, il est permis de désigner la partie de la théorie des grandeurs continues qui étudie ces grandeurs, non pas comme indépendantes de leur position et mesurables les unes au moyen des autres, mais en faisant abstraction de toute idée de mesure et étudiant seulement leurs rapports de position et d’inclusion. Je me réserve de traiter cet objet plus tard, d’une manière complètement indépendante de toute mesure... »

Et dans sa célèbre Leçon inaugurale « Sur les hypothèses qui servent de fondement à la géométrie » ((II), p. 272):

« …. La notion générale de grandeur plusieurs fois étendue,$^1$ qui contient celle de grandeur spatiale comme cas particulier, est restée complètement inexplorée... » (p. 272).

« …. La notion de grandeur suppose un élément susceptible de différentes déterminations. Suivant qu’on peut ou non passer d’une détermination à une autre par transitions continues, ces déterminations forment une multiplicité continue (dont elles s’appelleront les points) ou une multiplicité discrète » (p. 273).

« …. La mesure consiste en une superposition des grandeurs à comparer; pour mesurer, il faut donc un moyen d’amener une grandeur sur une autre. En l’absence d’un tel moyen, on ne peut comparer deux grandeurs que si l’une est une partie de l’autre… Les études qu’on peut alors faire à leur sujet forment une partie de la théorie des grandeurs, indépendante de la théorie de la mesure, et où les grandeurs ne sont pas considérées comme ayant une existence indépendante de leur position, ni comme exprimables au moyen d’une unité de mesure, mais comme des parties d’une multiplicité. De telles études sont devenues une nécessité dans plusieurs parties des mathématiques, en particulier pour la théorie des fonctions analytiques multiformes... » (p. 274).

« ….La détermination de la position dans une multiplicité donnée est ainsi ramenée, chaque fois que cela est possible, à des déterminations numériques en nombre fini. Il y a, il est vrai, des multiplicités, dans lesquelles la détermination de la position exige, non pas un nombre fini, mais une suite infinie ou bien une multiplicité continue de déterminations de grandeurs. De telles multiplicités sont formées par exemple par les déterminations possibles d’une fonction dans un domaine donné, les positions d’une figure dans l’espace, etc. » (p. 276).

On remarquera, dans cette dernière phrase, la première idée d’une étude des espaces fonctionnels; déjà, dans la Dissertation de Riemann, d’ailleurs, la même idée se trouve exprimée: « L’ensemble de ces fonctions », dit-il à propos du problème de minimum connu sous le nom de principe de Dirichlet, « forme un domaine connexe, fermé en soi » ((II), p. 30), ce qui, sous une forme imparfaite, est néanmoins le germe de la démonstration que Hilbert devait donner plus tard du principe de

$^1$ Riemann entend par là, comme la suite le montre, une partie d’un espace topologique à un nombre quelconque de dimensions.

Dirichlet, et même de la plupart des applications des espaces fonctionnels au calcul des variations.

Comme nous avons dit, Riemann donna un commencement d’exécution à ce programme grandiose, en définissant les « nombres de Betti », d’abord d’une surface ((II), p. 92–93), puis ((II), p. 479–482; cf. aussi (III)) d’une multiplicité à un nombre quelconque de dimensions, et en appliquant cette définition à la théorie des intégrales; là-dessus, et sur le développement considérable qu’a pris cette théorie depuis Riemann, nous renvoyons le lecteur aux Notes historiques qui suivront, dans ce Traité, les chapitres de Topologie algébrique.

Quant à la théorie générale des espaces topologiques, telle qu’elle avait été entrevue par Riemann, il fallait, pour qu’elle se développât, que la théorie des nombres réels, des ensembles de nombres, des ensembles de points sur la droite, dans le plan et dans l’espace, fût d’abord étudiée plus systématiquement qu’elle ne l’était du temps de Riemann: cette étude était liée, d’autre part, aux recherches (à demi philosophiques chez Bolzano, essentiellement mathématiques chez Dedekind) sur la nature du nombre irrationnel, ainsi qu’aux progrès de la théorie des fonctions de variable réelle (à laquelle Riemann lui-même apporta une importante contribution par sa définition de l’intégrale et sa théorie des séries trigonométriques, et qui fit l’objet, entre autres, de travaux de du Bois-Reymond, Dini, Weierstrass); elle fut l’œuvre de la seconde moitié du xixe siècle et tout particulièrement de Cantor, qui le premier définit (tout d’abord sur la droite, puis dans l’espace euclidien à n dimensions) les notions de point d’accumulation, d’ensemble fermé, parfait, et obtint les résultats essentiels sur la structure de ces ensembles sur la droite (cf. Note historique du chap. IV): on consultera là-dessus, non seulement les Œuvres de Cantor (IV), mais aussi sa très intéressante correspondance avec Dedekind (V), où l’on trouvera nettement exprimée aussi l’idée du nombre de dimensions considéré comme invariant topologique. Les progrès ultérieurs de la théorie sont exposés par exemple, sous forme mi-historique, mi-systématique, dans le livre de Schoenflies (VI): de beaucoup le plus important fut le théorème de Borel–Lebesgue, c’est-à-dire le fait que tout ensemble fermé borné, dans l’espace euclidien $\mathbf{R}^n$ à n dimensions (cf. VI, § 1, no 1), satisfait à l’axiome (C'') de I, p. 59 (théorème démontré d’abord par Borel pour un intervalle fermé sur la droite et une famille dénombrable d’intervalles ouverts le recouvrant).

Les idées de Cantor avaient d’abord rencontré une assez vive opposition (cf. Note historique du Livre I, chap. I–IV). Du moins sa théorie des ensembles de points sur la droite et dans le plan fut-elle bientôt utilisée et largement répandue par les écoles françaises et allemandes de théorie des fonctions (Jordan, Poincaré, Klein, Mittag–Leffler, puis Hadamard, Borel, Baire, Lebesgue, etc.): les premiers volumes de la collection Borel, en particulier, contiennent chacun un exposé élémentaire de cette théorie (v. par ex. (VII)). À mesure que ces idées se répandaient, on commençait de divers côtés à songer à leur application possible aux ensembles, non plus de points, mais de courbes ou de fonctions: idée qui se fait jour, par exemple, dès 1883, dans le titre « Sur les courbes limites d’une variété de courbes » d’un mémoire d’Ascoli (VIII), et qui s’exprime dans une communication d’Hadamard au congrès des mathématiciens de Zürich en 1896 (IX); elle est étroitement liée aussi à l’introduction des « fonctions de ligne » par Volterra en 1887, et à la création du « calcul fonctionnel », ou théorie des fonctions dont l’argument est une fonction (là-dessus, on pourra consulter l’ouvrage de Volterra sur l’Analyse fonctionnelle (X)). D’autre part, dans le célèbre mémoire (XI) où Hilbert, reprenant sur ce point les idées de Riemann, démontrait l’existence du minimum dans le principe de Dirichlet, et inaugurait la « méthode directe » du calcul des variations, on voyait apparaître nettement l’intérêt qu’il y a à considérer des ensembles de fonctions où soit valable le principe de Bolzano-Weierstrass, c’est-à-dire où toute suite contienne une suite partielle convergente; de tels ensembles commençaient d’ailleurs à jouer un rôle important, non seulement en calcul des variations, mais dans la théorie des fonctions de variable réelle (Ascoli, Arzelà), et un peu plus tard dans celle des fonctions de variable complexe (Vitali, Carathéodory, Montel). Enfin l’étude des équations fonctionnelles, et tout particulièrement la résolution par Fredholm du type d’équation qui porte son nom, habituait à considérer une fonction comme un argument, et un ensemble de fonctions comme un ensemble de points, à propos duquel il était tout aussi naturel d’employer un langage géométrique qu’à propos des points d’un espace euclidien à $n$ dimensions (espace qui, lui aussi, échappe à l’« intuition », et, pour cette raison, est resté longtemps un objet de méfiance pour beaucoup de mathématiciens). En particulier, les mémorables travaux de Hilbert sur les équations intégrales (XII) aboutissaient à la définition et à l’étude géométrique de l’espace de Hilbert par Erhard Schmidt (XIV), en analogie complète avec la géométrie euclidienne.

Cependant, la notion de théorie axiomatique avait pris une importance de plus en plus grande, grâce surtout à de nombreux travaux sur les fondements de la géométrie, parmi lesquels ceux de Hilbert (XIII) exercèrent une influence particulièrement décisive; au cours de ces travaux mêmes, Hilbert avait été amené à poser justement, dès 1902 ((XIII), p. 810), une première définition axiomatique de la « multiplicité deux fois étendue » au sens de Riemann, définition qui constituait, disait-il, « le fondement d’un traitement axiomatique rigoureux de l’analysis situs », et utilisait déjà les voisinages (en un sens restreint par les exigences du problème auquel se limitait alors Hilbert).

Les premières tentatives pour dégager ce qu’il y a de commun aux propriétés des ensembles de points et de fonctions (sans intervention d’une notion de « distance ») furent faites par Fréchet (XV) et F. Riesz (XVI); mais le premier, partant de la notion de limite dénombrable, ne réussit pas à construire, pour les espaces non métrisables, un système d’axiomes commode et fécond; du moins reconnut-il la parenté entre le principe de Bolzano–Weierstrass (qui n’est autre que l’axiome (C) de I, p. 59, restreint aux suites dénombrables), et le théorème de Borel–Lebesgue (c’est-à-dire l’axiome (C'') de I, p. 59; c’est à ce propos qu’il introduisit le mot de « compact », bien que dans un sens quelque peu différent de celui qu’on lui donne dans ce traité. Quant à F. Riesz, qui partait de la notion de point d’accumulation (ou plutôt, ce qui revient au même, d’ensemble « dérivé »), sa théorie était encore incomplète, et resta d’ailleurs à l’état d’ébauche.

Avec Hausdorff ((XVII), chap. 7-8-9) commence la topologie générale telle qu’on l’entend aujourd’hui. Reprenant la notion de voisinage (mais entendant sous ce nom ce que, dans la terminologie du présent Livre, il faudrait appeler « voisinage ouvert »), il sut choisir, parmi les axiomes de Hilbert sur les voisinages dans le plan, ceux qui pouvaient donner à sa théorie à la fois toute la précision et toute la généralité désirables. Les axiomes qu’il prenait ainsi comme point de départ étaient essentiellement (aux différences près qu’entraînait sa notion de voisinage) les axiomes (V_I), (V_{II}), (V_{III}), (V_{IV}) de I, p. 3, et (H) de I, p. 51, et le chapitre où il en développe les conséquences est resté un modèle de théorie axiomatique, abstraite mais d’avance adaptée aux applications. Ce fut là, tout naturellement, le point de départ des recherches ultérieures sur la topologie générale, et principalement des travaux de l’école de Moscou, orientés en grande partie vers le problème de métrisation (cf. Note historique du chap. IX): nous devons en retenir surtout ici la définition, par Alexandroff et Urysohn, des espaces compacts (sous le nom d’ « espaces bicompaacts »), puis la démonstration par Tychonoff (XIX) de la compacité des produits d’espaces compacts. Enfin, l’introduction des filtres par H. Cartan (XX), tout en apportant un instrument très précieux en vue de toute sorte d’applications (où il se substitue avantageusement à la notion de « convergence à la Moore–Smith » (XVIII)), est venue, grâce au théorème des ultrafiltres (I, p. 39, th. 1), achever d’éclaircir et de simplifier la théorie.

(I) C. F. Gauss, Werke, vol. II, Göttingen, 1863. (II) B. Riemann, Gesammelte mathematische Werke, 2e éd., Leipzig (Teubner), 1892. (III) B. Riemann, in Lettere di E. Betti a P. Tardy, Rend. Accad. Lincei (V), t. XXIV¹ (1915), p. 517–519. (IV) G. Cantor, Gesammelte Abhandlungen, Berlin (Springer), 1932. (V) G. Cantor, R. Dedekind, Briefwechsel, Actual. Scient. et Ind., n° 518, Paris (Hermann), 1937. (VI) A. Schoenflies, Entwickelung der Mengenlehre und ihrer Anwendungen, 1re partie, 2e éd., Leipzig-Berlin (Teubner), 1913. (VII) E. Borel, Leçons sur la théorie des fonctions, 2e éd., Paris (Gauthier-Villars), 1914. (VIII) G. Ascoli, Le curve limiti di une varietà data di curve, Mem. Accad. Lincei, (III), t. XVIII (1883), p. 521–586. (IX) J. Hadamard, Sur certaines applications possibles de la théorie des ensembles, Verhandl. Intern. Math.-Kongress, Zürich, 1898, p. 201–202. (X) V. Volterra, Theory of Functionals, London–Glasgow (Blackie & Son), 1930. (XI) D. Hilbert, Gesammelte Abhandlungen, t. III, Berlin (Springer), 1935, p. 10–37 (= Jahresber der D. M. V., t. VIII (1900), p. 184, et Math. Ann., t. LIX (1904), p. 161). (XII) D. Hilbert, Grundzüge einer allgemeinen Theorie der Integralgleichungen, 2e éd., Leipzig–Berlin (Teubner), 1924. (XIII) D. Hilbert, Grundlagen der Geometrie, 7e éd., Leipzig–Berlin (Teubner), 1930. (XIV) E. Schmidt, Ueber die Auflösung linearer Gleichungen mit unendlich vielen Unbekannten, Rend. Palermo, t. XXV (1908), p. 53–77. (XV) M. Fréchet, Sur quelques points du calcul fonctionnel, Rend. Palermo, t. XXII (1906), p. 1–74. (XVI) F. Riesz, Stetigkeitsbegriff und abstrakte Mengenlehre, Atti del IV Congresso Intern. dei Matem., Bologna, 1908, t. II, p. 18–24. (XVII) F. Hausdorff, Grundzüge der Mengenlehre, 1re éd., Leipzig (Veit), 1914. (XVIII) E. H. Moore and H. L. Smith, A general theory of limits, Amer. Journ. of Math., t. XLIV (1922), p. 102–121. (XIX) A. Tychonoff, Über die topologische Erweiterung von Räumen, Math. Ann., t. CII (1930), p. 544–561. (XX) H. Cartan, Théorie des filtres; Filtres et ultrafiltres, C. R. Acad. Sc. Paris, t. CCV (1937), p. 595–598 et 777–779.