Note historique

(Chapitres 1 à 4)

«Aliquot selectos homines rem intra quinquennium absolvere posse puto» Leibniz ((XII b), t. VII, p. 187)

(N.-B. — Les chiffres romains renvoient à la bibliographie placée à la fin de cette note.)

L’étude de ce que l’on a coutume d’appeler les « fondements des Mathématiques », qui s’est poursuivie sans relâche depuis le début du xixe siècle, n’a pu être menée à bien que grâce à un effort parallèle de systématisation de la Logique, tout au moins dans celles de ses parties qui régissent l’enchaînement des propositions mathématiques. Aussi ne peut-on dissocier l’histoire de la Théorie des ensembles et de la formalisation des mathématiques de celle de la «Logique mathématique ». Mais la logique traditionnelle, comme celle des philosophes modernes, couvre en principe un champ d’applications beaucoup plus vaste que la Mathématique. Le lecteur ne doit donc pas s’attendre à trouver dans ce qui suit une histoire de la Logique, même sous une forme très sommaire; nous nous sommes bornés autant que possible à ne retracer l’évolution de la Logique que dans la mesure où elle a réagi sur celle de la Mathématique. C’est ainsi que nous ne dirons rien des logiques non classiques (logiques à plus de deux valeurs, logiques modales); à plus forte raison ne pourrons-nous aborder l’historique des controverses qui, des Sophistes à l’École de Vienne, n’ont cessé de diviser les philosophes quant à la possibilité et à la manière d’appliquer la Logique aux objets du monde sensible ou aux concepts de l’esprit humain.

Qu’il y ait eu une mathématique préhellénique fort développée, c’est ce qui ne saurait aujourd’hui être mis en doute. Non seulement les notions (déjà fort abstraites) de nombre entier et de mesure des grandeurs sont-elles couramment utilisées dans les documents les plus anciens qui nous soient parvenus d’Égypte ou de Chaldée, mais l’algèbre babylonienne, par l’élégance et la sûreté de ses méthodes, ne saurait se concevoir comme une simple collection de problèmes résolus par tâtonnements empiriques. Et, si on ne rencontre dans les textes rien qui ressemble à une « démonstration » au sens formel du mot, on est en droit de penser que la découverte de tels procédés de résolution, dont la généralité transparaît sous les applications numériques particulières, n’a pu s’effectuer sans un minimum d’enchaînements logiques (peut-être pas entièrement conscients, mais plutôt du genre de ceux sur lesquels s’appuie un algébriste moderne lorsqu’il entreprend un calcul, avant d’en « mettre en forme » tous les détails) ((I), p. 203 sqq.).

L’originalité essentielle des Grecs consiste précisément en un effort conscient pour ranger les démonstrations mathématiques en une succession telle que le passage d’un chaînon au suivant ne laisse aucune place au doute et contraigne l’assentiment universel. Que les mathématiciens grecs se soient servis au cours de leurs recherches, tout comme les modernes, de raisonnements « heuristiques » plutôt que probants, c’est ce que démontrerait par exemple (s’il en était besoin) le « traité de la méthode » d’Archimède (IV bis); on notera aussi, chez celui-ci, des allusions à des résultats « trouvés, mais non démontrés » par des mathématiciens antérieurs.¹ Mais, dès les premiers textes détaillés qui nous soient connus (et qui datent du milieu du vᵉ siècle), le « canon » idéal d’un texte mathématique est bien fixé. Il trouvera sa réalisation la plus achevée chez les grands classiques, Euclide, Archimède et Apollonius; la notion de démonstration, chez ces auteurs, ne diffère en rien de la nôtre.

Nous n’avons aucun texte nous permettant de suivre les premiers pas de cette « méthode déductive », qui nous apparaît déjà proche de la perfection au moment même où nous en constatons l’existence. On peut seulement penser qu’elle s’inscrit assez naturellement dans la perpétuelle recherche d’« explications » du monde, qui caractérise la pensée grecque et qui est si visible déjà chez les philosophes ioniens du viiᵉ siècle; en outre, la tradition est unanime à attribuer le développement et la mise au point de la méthode à l’école pythagoricienne, à une époque qui se situe entre la fin du viᵉ et le milieu du vᵉ siècle.

C’est sur cette mathématique « déductive », pleinement consciente de ses buts et de ses méthodes, que va s’exercer la réflexion philosophique et mathématique des âges suivants. Nous verrons d’une part s’édifier peu à peu la Logique « formelle » sur le modèle des mathématiques, pour aboutir à la création des langages formalisés; d’autre part, principalement à partir du début du xixe siècle, on s’interrogera de plus en plus sur les concepts de base de la Mathématique, et on s’efforcera d’en éclaircir la nature, surtout après l’avènement de la Théorie des ensembles.

La formalisation de la Logique

L’impression générale qui semble résulter des textes (fort lacunaires) que nous possédons sur la pensée philosophique grecque du vᵉ siècle, est qu’elle est dominée par un effort de plus en plus conscient pour étendre à tout le champ de la pensée humaine les procédés d’articulation du discours mis en œuvre avec tant de succès

¹ Notamment Démocrite, à qui Archimède attribue la découverte de la formule donnant le volume d’une pyramide ((IV bis), p. 13). Cette allusion est à rapprocher d’un fragment célèbre attribué à Démocrite (mais d’authenticité contestée), où il déclare: « personne ne m’a jamais surpassé dans la construction de figures au moyen de preuves, pas même les « harpédonaptes » égyptiens, comme on les appelle » (H. Diels, Die Fragmente der Vorsokratiker. 2te Aufl., t. I, p. 439 et t. II. 1, p. 727–728, Berlin (Weidmann), 1906–07). La remarque d’Archimède et le fait qu’on n’a jamais trouvé de démonstration (au sens classique) dans les textes égyptiens qui nous sont parvenus, conduisent à penser que les « preuves » auxquelles fait allusion Démocrite n’étaient plus considérées commes telles à l’époque classique, et ne le seraient pas non plus aujourd’hui.

par la rhétorique et la mathématique contemporaines — en d'autres termes, pour créer la Logique au sens le plus général de ce mot. Le ton des écrits philosophiques subit à cette époque un brusque changement: alors qu’au vii\textsuperscript{e} ou au vi\textsuperscript{e} siècle les philosophes affirment ou vaticinent (ou tout au plus ébauchent de vagues raisonnements, fondés sur de tout aussi vagues analogies), à partir de Parménide et surtout de Zénon, ils argumentent, et cherchent à dégager des principes généraux qui puissent servir de base à leur dialectique: c’est chez Parménide qu’on trouve la première affirmation du principe du tiers exclu, et les démonstrations « par l’absurde » de Zénon d’Elée sont restées célèbres. Mais Zénon écrit au milieu du v\textsuperscript{e} siècle; et, quelles que soient les incertitudes de notre documentation,\footnote{Le plus bel exemple classique de raisonnement par l’absurde en mathématiques est la démonstration de l’irrationalité de $\sqrt{2}$, à laquelle Aristote fait plusieurs fois allusion; mais les érudits modernes ne sont pas parvenus à dater cette découverte avec quelque précision, certains la plaçant au début et d’autres tout à la fin du v\textsuperscript{e} siècle (voir Note hist. de TG, IV, et les références citées à ce propos).} il est très vraisemblable qu’à cette époque, les mathématiciens, dans leur propre sphère, se servaient couramment de ces principes.

Comme nous l’avons dit plus haut, il ne nous appartient pas de retracer les innombrables difficultés qui surgissent à chaque pas dans la gestation de cette Logique, et les polémiques qui en résultent, des Eléates à Platon et Aristote, en passant par les Sophistes; relevons seulement ici le rôle que jouent dans cette évolution la culture assidue de l’art oratoire et l’analyse du langage qui en est un corollaire, développements que l’on s’accorde à attribuer principalement aux Sophistes du v\textsuperscript{e} siècle. D’autre part, si l’influence des mathématiques n’est pas toujours reconnue explicitement, elle n’en est pas moins manifeste, en particulier dans les écrits de Platon et d’Aristote. On a pu dire que Platon était presque obsédé par les mathématiques; sans être lui-même un inventeur dans ce domaine, il s’est, à partir d’une certaine époque de sa vie, mis au courant des découvertes des mathématiciens contemporains (dont beaucoup étaient ses amis ou ses élèves), et n’a plus cessé de s’y intéresser de la manière la plus directe, allant jusqu’à suggérer de nouvelles directions de recherche; aussi est-ce constamment que, sous sa plume, les mathématiques viennent servir d’illustration ou de modèle (et même parfois alimenter, comme chez les Pythagoriciens, son penchant vers le mysticisme). Quant à son élève Aristote, il n’a pu manquer de recevoir le minimum de formation mathématique qui était exigé des élèves de l’Académie; et on a fait un volume des passages de son œuvre qui se rapportent aux mathématiques ou y font allusion (\textit{II bis}); mais il ne semble jamais avoir fait grand effort pour garder le contact avec le mouvement mathématique de son époque, et il ne cite dans ce domaine que des résultats qui avaient été vulgarisés depuis longtemps. Ce décalage ne fera d’ailleurs que s’accentuer chez la plupart des philosophes postérieurs, dont beaucoup, faute de préparation technique, s’imagineront en toute bonne foi parler des mathématiques en connaissance de cause, alors qu’ils ne feront que se référer à un stade depuis longtemps dépassé dans l’évolution de celles-ci.

L’aboutissement de cette période, en ce qui concerne la Logique, est l’œuvre monumentale d’Aristote (II), dont le grand mérite est d’avoir réussi à systématiser et codifier pour la première fois des procédés de raisonnement restés vagues ou informulés chez ses prédécesseurs.¹ Il nous faut surtout retenir ici, pour notre objet, la thèse générale de cette œuvre, savoir qu’il est possible de réduire tout raisonnement correct à l’application systématique d’un petit nombre de règles immuables, indépendantes de la nature particulière des objets dont il est question (indépendance clairement mise en évidence par la notation des concepts ou des propositions à l’aide de lettres — vraisemblablement empruntée par Aristote aux mathématiciens). Mais Aristote concentre à peu près exclusivement son attention sur un type particulier de relations et d’enchaînements logiques, constituant ce qu’il appelle le « syllogisme » : il s’agit essentiellement de relations que nous traduirions à l’heure actuelle sous la forme $A \subset B$ ou $A \cap B \neq \varnothing$ en langage de théorie des ensembles,² et de la manière d’enchaîner ces relations ou leurs négations, au moyen du schéma

Aristote était encore trop averti des mathématiques de son époque pour ne pas s’être aperçu que les schémas de ce genre n’étaient pas suffisants pour rendre compte de toutes les opérations logiques des mathématiciens, ni à plus forte raison des autres applications de la Logique ((II), An. Pr. I, 35; (II bis), p. 25–26).³ Du moins l’étude approfondie des diverses formes de « syllogisme » à laquelle il se livre (et qui est presque entièrement consacrée à l’élucidation des perpétuelles difficultés que soulève l’ambiguïté ou l’obscurité des termes sur lesquels porte le raisonnement) lui donne-t-elle entre autres l’occasion de formuler des règles pour prendre la négation d’une proposition ((II), An. Pr. I, 46). C’est aussi à Aristote

¹ Malgré la simplicité et l’« évidence » que paraissent présenter pour nous les règles logiques formulées par Aristote, il n’est que de les replacer dans leur cadre historique pour apprécier les difficultés qui s’opposaient à une conception précise de ces règles, et l’effort qu’a dû déployer Aristote pour y parvenir : Platon, dans ses dialogues, où il s’adresse à un public cultivé, laisse encore ses personnages s’embrouiller sur des questions aussi élémentaires que les rapports entre la négation de $A \subset B$ et la relation $A \cap B = \varnothing$ (en langage moderne), quitte à faire apparaître par la suite la réponse correcte (cf. R. Robinson, Plato’s consciousness of fallacy, Mind, t. LI (1942), p. 97–114).

² Les énoncés correspondants d’Aristote sont « Tout A est B » et « Quelque A est B » ; dans ces notations A (le « sujet ») et B (le « prédicat ») remplacent des concepts, et dire que « Tout A est un B » signifie que l’on peut attribuer le concept B à tout être auquel on peut attribuer le concept A (A est le concept « homme » et B le concept « mortel » dans l’exemple classique). L’interprétation que nous en donnons consiste à considérer les ensembles d’êtres auxquels s’appliquent respectivement les concepts A et B ; c’est le point de vue dit « de l’extension », déjà connu d’Aristote. Mais ce dernier considère surtout la relation « Tout A est B » d’un autre point de vue, dit « de la compréhension », où B est envisagé comme un des concepts qui constituent en quelque sorte le concept plus complexe A, ou, comme dit Aristote, lui « appartiennent ». Au premier abord, les deux points de vue paraissent aussi naturels l’un que l’autre, mais le point de vue « de la compréhension » a été une source constante de difficultés dans le développement de la Logique (il paraît plus éloigné de l’intuition que le premier, et entraîne assez facilement à des erreurs, notamment dans les schémas où interviennent des négations ; cf. (XII bis), p. 21–32).

³ Pour une discussion critique du syllogisme et de ses insuffisances, voir par exemple ((XII bis), p. 432–441) ou ((XXXII), p. 44–50).

que revient le mérite d’avoir distingué avec une grande netteté le rôle des propositions « universelles » de celui des propositions « particulières », première ébauche des quantificateurs.¹ Mais on sait trop comment l’influence de ses écrits (souvent interprétés de façon étroite et inintelligente), qui reste encore très sensible jusque bien avant dans le xixe siècle, devait encourager les philosophes dans leur négligence de l’étude des mathématiques, et bloquer les progrès de la Logique formelle.²

Toutefois cette dernière continue à progresser dans l’Antiquité, au sein des écoles mégarique et stoïcienne, rivales des Péripatéticiens. Nos renseignements sur ces doctrines sont malheureusement tous de seconde main, souvent transmis par des adversaires ou de médiocres commentateurs. Le progrès essentiel accompli par ces logiciens consiste, semble-t-il, en la fondation d’un « calcul propositionnel » au sens où on l’entend aujourd’hui: au lieu de se borner, comme Aristote, aux propositions de la forme particulière $A \subset B$, ils énoncent des règles concernant des propositions entièrement indéterminées. En outre, ils avaient analysé les rapports logiques entre ces règles de façon si approfondie qu’ils savaient les déduire toutes de cinq d’entre elles, posées comme « indémontrables », par des procédés très semblables à ceux que nous avons décrits au chap. I, §§ 2 et 3 (V). Malheureusement leur influence fut assez éphémère, et leurs résultats devaient sombrer dans l’oubli jusqu’au jour où ils furent redécouverts par les logiciens du xixe siècle. Le maître incontesté, en Logique, reste Aristote jusqu’au xviiie siècle; on sait en particulier que les philosophes scolastiques sont entièrement sous son influence, et si leur contribution à la logique formelle est loin d’être négligeable (VI), elle ne comporte aucun progrès de premier plan par rapport à l’acquit des philosophes de l’Antiquité.

Il convient d’ailleurs de noter ici qu’il ne semble pas que les travaux d’Aristote ou de ses successeurs aient en un retentissement notable sur les mathématiques. Les mathématiciens grecs poursuivent leurs recherches dans la voie ouverte par les Pythagoriciens et leurs successeurs du iv e siècle (Théodore, Théétète, Eudoxe) sans se soucier apparemment de logique formelle dans la présentation de leurs résultats: constatation qui ne doit guère étonner quand on compare la souplesse et la précision acquises, dès cette époque, par le raisonnement mathématique, à l’état fort rudimentaire de la logique aristotélicienne. Et lorsque la logique va dépasser ce stade, ce sont encore les nouvelles acquisitions des mathématiques qui la guideront dans son évolution.

Avec le développement de l’algèbre, on ne pouvait en effet manquer d’être frappé par l’analogie entre les règles de la Logique formelle et les règles de l’algèbre, les unes comme les autres ayant le caractère commun de s’appliquer à des objets (propositions ou nombres) non précisés. Et lorsqu’au xviiie siècle la

¹ L’absence de véritables quantificateurs (au sens moderne) jusqu’à la fin du xixe siècle, a été une des causes de la stagnation de la Logique formelle. ² On cite le cas d’un universitaire éminent qui, dans une conférence faite à Princeton en présence de Gödel, aurait dit que rien de nouveau ne s’était fait en Logique depuis Aristote!

notation algébrique a pris sa forme définitive entre les mains de Viète et de Descartes, on voit presque aussitôt apparaître divers essais d’une écriture symbolique destinée à représenter les opérations logiques; mais, avant Leibniz, ces tentatives, comme par exemple celle d’Hérigone (1644) pour noter les démonstrations de la Géométrie élémentaire, ou celle de Pell (1659) pour noter celles de l’Arithmétique, restent très superficielles et ne conduisent à aucun progrès dans l’analyse du raisonnement mathématique.

Avec Leibniz, on est en présence d’un philosophe qui est aussi un mathématicien de premier plan, et qui va savoir tirer de son expérience mathématique le germe des idées qui feront sortir la logique formelle de l’impasse scolastique.¹ Esprit universel s’il en fut jamais, source inépuisable d’idées originales et fécondes, Leibniz devait s’intéresser d’autant plus à la Logique qu’elle s’insérait au cœur même de ses grands projets de formalisation du langage et de la pensée, auxquels il ne cessa de travailler toute sa vie. Rompu dès son enfance à la logique scolastique, il avait été séduit par l’idée (remontant à Raymond Lulle) d’une méthode qui résoudrait tous les concepts humains en concepts primitifs, constituant un « Alphabet des pensées humaines », et les recombinerait de façon quasi mécanique pour obtenir toutes les propositions vraies ((XII b), t. VII, p. 185; cf. (XII bis), chap. II).

Très jeune aussi, il avait conçu une autre idée beaucoup plus originale, celle de l’utilité des notations symboliques comme « fil d’Ariane » de la pensée:² « La véritable methode », dit-il, « nous doit fournir un filum Ariadnes, c’est-à-dire un certain moyen sensible et grossier, qui conduise l’esprit comme sont les lignes tracées en geometrie et les formes des operations qu’on prescrit aux apprentifs en Arithmetique. Sans cela nostre esprit ne scauroit faire un long chemin sans s’egarer. » ((XII b), t. VII, p. 22; cf. (XII bis), p. 90). Peu au courant des mathématiques de son époque jusque vers sa 25e année, c’est d’abord sous forme de « langue universelle » qu’il présente ses projets ((XII bis), chap. III); mais dès qu’il entre en contact avec l’Algèbre, il l’adopte pour modèle de sa « Caractéristique universelle ». Il entend par là une sorte de langage symbolique, capable d’exprimer sans ambiguïté toutes les pensées

¹ Bien que Descartes et (à un moindre degré) Pascal aient consacré une partie de leur œuvre philosophique aux fondements des mathématiques, leur contribution aux progrès de la Logique formelle est négligeable. Sans doute faut-il en voir la raison dans la tendance fondamentale de leur pensée, l’effort d’émancipation de la tutelle scolastique, qui les portait à rejeter tout ce qui pouvait s’y rattacher, et en premier lieu la Logique formelle. De fait, dans ses Réflexions sur l’esprit géométrique, Pascal, comme il le reconnaît lui-même, se borne essentiellement à couler en formules bien frappées les principes connus des démonstrations euclidiennes (par exemple, le fameux précepte: « Substituer toujours mentalement les définitions à la place des définis » ((XI), t. IX, p. 280) était essentiellement connu d’Aristote ((II), Top., VI, 4; (II bis), p. 87)). Quant à Descartes, les règles de raisonnement qu’il pose sont avant tout des préceptes psychologiques (assez vagues) et non des critères logiques; comme le lui reproche Leibniz ((XII bis), p. 94 et 202–203), elles n’ont par suite qu’une portée subjective.

² Bien entendu, l’intérêt d’un tel symbolisme n’avait pas échappé aux prédécesseurs de Leibniz en ce qui concerne les mathématiques, et Descartes, par exemple, recommande de remplacer des figures entières « par des signes très courts » (xvième Règle pour la direction de l’esprit; (X), t. X, p. 454). Mais personne avant Leibniz n’avait insisté avec autant de vigueur sur la portée universelle de ce principe.

humaines, de renforcer notre pouvoir de déduction, d’éviter les erreurs par un effort d’attention tout mécanique, enfin construit de telle sorte que « les chimeres, que celuy même qui les avance n’entend pas, ne pourront pas estre écrites en ces caracteres » ((XII a), t. I, p. 187). Dans les innombrables passages de ses écrits où Leibniz fait allusion à ce projet grandiose et aux progrès qu’entraînerait sa réalisation (cf. (XII bis), chap. IV et VI), on voit avec quelle clarté il concevait la notion de langage formalisé, pure combinaison de signes dont seul importe l’enchaînement¹ de sorte qu’une machine serait capable de fournir tous les théorèmes,² et que toutes les controverses se résoudraient par un simple calcul ((XII b), t. VII, p. 198–203). Si ces espoirs peuvent paraître démesurés, il n’en est pas moins vrai que c’est à cette tendance constante de la pensée de Leibniz qu’il faut rattacher une bonne part de son œuvre mathématique, à commencer par ses travaux sur le symbolisme du Calcul infinitésimal (voir Note hist. de FVR, III); il en était lui-même parfaitement conscient, et reliait explicitement aussi à sa « Caractéristique » ses idées sur la notation indicelle et les déterminants (XII a), t. II, 240; cf. (XII bis), p. 481–487) et son ébauche de « Calcul géométrique » (voir Note hist. de A, III; cf. (XII bis), chap. IX). Mais dans son esprit, la pièce essentielle devait en être la Logique symbolique, ou, comme il dit, un « Calculus ratiocinator », et s’il ne parvint pas à créer ce calcul, du moins le voyons-nous s’y essayer à trois reprises au moins. Dans une première tentative, il a l’idée d’associer à chaque terme « primitif » un nombre premier, tout terme composé de plusieurs termes primitifs étant représenté par le produit des nombres premiers correspondants³; il cherche à traduire dans ce système les règles usuelles du syllogisme, mais se heurte à des complications considérables causées par la négation (qu’il essaie, assez naturellement, de représenter par le changement de signe) et abandonne rapidement cette voie ((XII c), p. 42–96; cf. (XII bis), p. 326–344). Dans des essais ultérieurs, il cherche à donner à la logique aristotélicienne une forme plus algébrique; tantôt il conserve la notation AB pour la conjonction de deux concepts, tantôt il utilise la notation A + B⁴; il observe (en notation multiplicative) la loi d’idempotence AA = A, remarque qu’on peut remplacer la proposition « tout A est B » par l’égalité A = AB et qu’on peut retrouver à partir de là la plupart des règles d’Aristote par un pur calcul algébrique ((XII c), p. 229–237 et 356–399; cf. (XII bis), p. 345–364); il a aussi l’idée du concept vide (« non Ens »), et reconnaît par exemple l’équivalence des propositions « tout A est B » et « A.(non B) n’est pas » (loc. cit.). En outre, il remarque

¹ Il est frappant de le voir citer comme exemples de raisonnement « en forme », « un compte de receveur » ou même un texte judiciaire ((XII b), t. IV, p. 295). ² On sait que cette conception d’une « machine logique » est utilisée de nos jours en métamathématique, où elle rend de grands services ((XLVIII), chap. XIII). ³ L’idée a été reprise avec succès par Gödel dans ses travaux de métamathématique, sous une forme légèrement différente (cf. (XLIV a) et (XLVIII), p. 254). ⁴ Leibniz ne cherche à introduire dans son calcul la disjonction que dans quelques fragments (où il la note A + B) et ne semble pas avoir réussi à manier simultanément cette opération et la conjonction de façon satisfaisante ((XII bis), p. 363).

que son calcul logique s’applique non seulement à la logique des concepts, mais aussi à celle des propositions ((XII c), p. 377). Il paraît donc très proche du « calcul booléien ».

Malheureusement, il semble qu’il n’ait pas réussi à se dégager complètement de l’influence scolastique; non seulement il se propose à peu près uniquement pour but de son calcul la transcription, dans ses notations, des règles du syllogisme,$^1$ mais il va jusqu’à sacrifier ses idées les plus heureuses au désir de retrouver intégralement les règles d’Aristote, même celles qui étaient incompatibles avec la notion d’ensemble vide.$^2$

Les travaux de Leibniz restèrent en grande partie inédits jusqu’au début du xx\textsuperscript{e} siècle, et n’eurent que peu d’influence directe. Pendant tout le xviii\textsuperscript{e} et le début du xix\textsuperscript{e} siècle, divers auteurs (de Segner, J. Lambert, Ploucquet, Holland, De Castillon, Gergonne) ébauchent des tentatives semblables à celles de Leibniz, sans jamais dépasser sensiblement le point où s’était arrêté celui-ci; leurs travaux n’eurent qu’un très faible retentissement, ce qui fait que la plupart d’entre eux ignorent tout des résultats de leurs prédécesseurs.$^3$ C’est d’ailleurs dans les mêmes conditions qu’écrit G. Boole, qui doit être considéré comme le véritable créateur de la logique symbolique moderne (XVI). Son idée maîtresse consiste à se placer systématiquement au point de vue de l’« extension », donc à calculer directement sur les ensembles, en notant $xy$ l’intersection de deux ensembles, et $x + y$ leur réunion lorsque $x$ et $y$ n’ont pas d’élément commun. Il introduit en outre un « univers » noté $1$ (ensemble de tous les objets) et l’ensemble vide noté $0$, et il écrit $1 - x$ le complémentaire de $x$. Comme l’avait fait Leibniz, il interprète la relation d’inclusion par la relation $xy = x$ (d’où il tire sans peine la justification des règles du syllogisme classique) et ses notations pour la réunion et le complémentaire donnent à son système une souplesse qui avait manqué à ses devanciers.$^4$ En outre, en associant à toute proposition l’ensemble des « cas » où elle est vérifiée, il interprète la relation d’implication comme une inclusion, et son calcul des ensembles lui donne de cette façon les règles du « calcul propositionnel ».

Dans la seconde moitié du xix\textsuperscript{e} siècle, le système de Boole sert de base aux travaux d’une active école de logiciens, qui l’améliorent et le complètent sur divers points. C’est ainsi que Jevons (1864) élargit le sens de l’opération de

$^1$ Leibniz savait fort bien que la logique aristotélicienne était insuffisante pour traduire formellement les textes mathématiques, mais, malgré quelques tentatives, il ne parvint jamais à l’améliorer à cet égard ((XII bis), p. 435 et 560).

$^2$ Il s’agit des règles dites « de conversion » basées sur le postulat que « Tout A est un B » entraîne « Quelque A est un B », ce qui suppose naturellement que A n’est pas vide.

$^3$ L’influence de Kant, à partir du milieu du xviii\textsuperscript{e} siècle, entre sans doute pour une part dans le peu d’intérêt suscité par la logique formelle à cette époque; il estime que « nous n’avons besoin d’aucune invention nouvelle en logique », la forme donnée à celle-ci par Aristote étant suffisante pour toutes les applications qu’on en peut faire (Werke, t. VIII, Berlin (B. Cassirer), 1923, p. 340). Sur les conceptions dogmatiques de Kant à propos des mathématiques et de la logique, on pourra consulter l’article de L. Couturat, Revue de Métaph. et de Morale, t. XII (1904), p. 321–383.

$^4$ Notons en particulier que Boole utilise la distributivité de l’intersection par rapport à la réunion, qui paraît avoir été remarquée pour la première fois par J. Lambert.

réunion $x + y$ en l’étendant au cas où $x$ et $y$ sont quelconques; A. de Morgan en 1858 et C. S. Peirce en 1867 démontrent les relation de dualité

De Morgan aborde aussi, en 1860, l’étude des relations, définissant l’inversion et la composition des relations binaires (c’est-à-dire les opérations qui correspondent aux opérations $\overline{G}$ et $G_1 \circ G_2$ sur les graphes).$^2$ Tous ces travaux se trouvent systématiquement exposés et développés dans le massif et prolixe ouvrage de Schröder (XXIII). Mais il est assez curieux de noter que les logiciens dont nous venons de parler ne paraissent guère s’intéresser à l’application de leurs résultats aux mathématiques, et que, tout au contraire, Boole et Schröder notamment semblent avoir pour but principal de développer l’algèbre « booléienne » en calquant ses méthodes et ses problèmes sur l’algèbre classique (souvent de façon assez artificielle). Il faut sans doute voir les raisons de cette attitude dans le fait que le calcul booléien manquait encore de commodité pour transcrire la plupart des raisonnements mathématiques,$^3$ et ne fournissait ainsi qu’une réponse très partielle au grand rêve de Leibniz. La construction de formalismes mieux adaptés aux mathématiques — dont l’introduction des variables et des quantificateurs, due indépendamment à Frege (XXIV) et C. S. Peirce (XXII b)), constitue l’étape capitale — fut l’œuvre de logiciens et de mathématiciens qui, à la différence des précédents, avaient avant tout en vue les applications aux fondements des mathématiques.

Le projet de Frege ((XXIV b) et c)) était de fonder l’arithmétique sur une logique formalisée en une « écriture des concepts » (Begriffschrift) et nous reviendrons plus loin sur la façon dont il définit les entiers naturels. Ses ouvrages se caractérisent par une précision et une minutie extrêmes dans l’analyse des concepts; c’est en raison de cette tendance qu’il introduit mainte distinction qui s’est révélée d’une grande importance en logique moderne: par exemple, c’est lui qui le premier distingue entre l’énoncé d’une proposition et l’assertion que cette proposition est vraie, entre la relation d’appartenance et celle d’inclusion, entre un objet $x$ et l’ensemble $\{x\}$ réduit à ce seul objet, etc. Sa logique formalisée, qui comporte non seulement des « variables » au sens utilisé en mathématiques, mais

1 Il faut noter que des énoncés équivalents à ces règles se trouvent déjà chez certains philosophes scolastiques ((VI), p. 67 sqq.). 2 Toutefois, la notion de produit « cartésien » de deux ensembles quelconques ne paraît explicitement introduite que par G. Cantor ((XXV), p. 286); c’est aussi Cantor qui définit le premier l’exponentiation $A^B$ (loc. cit., p. 287); la notion générale de produit infini est due à A. N. Whitehead (Amer. Journ. of Math., t. XXIV, (1902), p. 369). L’utilisation des graphes de relations est assez récente; si l’on excepte bien entendu le cas classique des fonctions numériques de variables réelles, elle semble apparaître pour la première fois chez les géomètres italiens, notamment C. Segre, dans leur étude des correspondances algébriques. 3 Pour chaque relation obtenue à partir d’une ou de plusieurs relations données par application de nos quantificateurs, il faudrait, dans ce calcul, introduite une notation ad hoc, du type des notations $\overline{G}$ et $G_1 \circ G_2$ (cf. par exemple (XXII b)).

aussi des « variables propositionnelles » représentant des relations indéterminées, et susceptibles de quantification, devait plus tard (à travers l’œuvre de Russell et Whitehead) fournir l’outil fondamental de la métamathématique. Malheureusement, les symboles qu’il adopte sont peu suggestifs, d’une effroyable complexité typographique et fort éloignés de la pratique des mathématiciens; ce qui eut pour effet d’en détourner ces derniers et de réduire considérablement l’influence de Frege sur ses contemporains.

Le but de Peano était à la fois plus vaste et plus terre à terre; il s’agissait de publier un « Formulaire de mathématiques », écrit entièrement en langage formalisé et contenant, non seulement la logique mathématique, mais tous les résultats des branches des mathématiques les plus importantes. La rapidité avec laquelle il parvint à réaliser cet ambitieux projet, aidé d’une pléiade de collaborateurs enthousiastes (Vailati, Pieri, Padoa, Vacca, Vivanti, Fano, Burali-Forti) témoigne de l’excellence du symbolisme qu’il avait adopté: suivant de près la pratique courante des mathématiciens, et introduisant de nombreux symboles abréviateurs bien choisis, son langage reste en outre assez aisément lisible, grâce notamment à un ingénieux système de remplacement des parenthèses par des points de séparation (XXIX c)). Bien des notations dues à Peano sont aujourd’hui adoptées par la plupart des mathématiciens: citons $\in, \supset$ (mais, contrairement à l’usage actuel, au sens de « est contenu » ou « implique »)$^1$, $\cup, \cap, A - B$ (ensemble des différences $a - b$, où $a \in A$ et $b \in B$). D’autre part, c’est dans le « Formulaire » qu’on trouve pour la première fois une analyse poussée de la notion générale de fonction, de celles d’image directe$^2$ et d’image réciproque, et la remarque qu’une suite n’est qu’une fonction définie dans $\mathbf{N}$. Mais la quantification, chez Peano, est soumise à des restrictions gênantes (on ne peut en principe quantifier, dans son système, que des relations de la forme $A \Rightarrow B, A \Leftrightarrow B$ ou $A = B$). En outre, le zèle presque fanatique de certains de ses disciples prêtait aisément le flanc au ridicule; la critique, souvent injuste, de H. Poincaré en particulier, porta un coup sensible à l’école de Peano et fit obstacle à la diffusion de ses doctrines dans le monde mathématique.

Avec Frege et Peano sont acquis les éléments essentiels des langages formalisés utilisés aujourd’hui. Le plus répandu est sans doute celui forgé par Russell et Whitehead dans leur grand ouvrage « Principia Mathematica », qui associe heureusement la précision de Frege et la commodité de Peano (XXXVII). La plupart des langages formalisés actuels ne s’en distinguent que par des modifications d’importance secondaire, visant à en simplifier l’emploi. Parmi les plus ingénieuses, citons l’écriture « fonctionnelle » des relations (par exemple $\in xy$ au lieu de $x \in y$), imaginée par Lukasiewicz, grâce à laquelle on peut supprimer totalement les parenthèses; mais la plus intéressante est sans doute l’introduction

$^1$ Cela indique bien à quel point était enracinée, même chez lui, la vieille habitude de penser « en compréhension » plutôt qu’« en extension ». $^2$ L’introduction de celle-ci semble due à Dedekind, dans son ouvrage « Was sind und was sollen die Zahlen », dont nous parlerons plus loin ((XXVI), t. III, p. 348).

par Hilbert du symbole $\tau$, qui permet de considérer comme des signes abréviateurs les quantificateurs $\exists$ et $\forall$, d’éviter l’introduction du symbole fonctionnel « universel » $\iota$ de Peano et Russell (qui ne s’applique qu’à des relations fonctionnelles), et enfin dispense de formuler l’axiome de choix dans la théorie des ensembles ((XXXI), p. 183).¹

La notion de vérité en mathématique

Les mathématiciens ont toujours été persuadés qu’ils démontrent des « vérités » ou des « propositions vraies »; une telle conviction ne peut évidemment être que d’ordre sentimental ou métaphysique, et ce n’est pas en se plaçant sur le terrain de la mathématique qu’on peut la justifier, ni même lui donner un sens qui n’en fasse pas une tautologie. L’histoire du concept de vérité en mathématique relève donc de l’histoire de la philosophie et non de celle des mathématiques; mais l’évolution de ce concept a eu une influence indéniable sur celle des mathématiques, et à ce titre nous ne pouvons la passer sous silence.

Observons d’abord qu’il est aussi rare de voir un mathématicien en possession d’une forte culture philosophique que de voir un philosophe qui ait des connaissances étendues en mathématique; les vues des mathématiciens sur les questions d’ordre philosophique, même quand ces questions ont trait à leur science, sont le plus souvent des opinions reçues de seconde ou de troisième main, provenant de sources de valeur douteuse. Mais, justement de ce fait, ce sont ces opinions moyennes qui intéressent l’historien des mathématiques, au moins autant que les vues originales de penseurs tels que Descartes ou Leibniz (pour en citer deux qui ont été aussi des mathématiciens de premier ordre), Platon (qui s’est du moins tenu au courant des mathématiques de son époque), Aristote ou Kant (dont on ne pourrait en dire autant).

La notion traditionnelle de vérité mathématique est celle qui remonte à la Renaissance. Dans cette conception, il n’y a pas grande différence entre les objets dont traitent les mathématiciens et ceux dont traitent les sciences de la nature; les uns et les autres sont connaissables, et l’homme a prise sur eux à la fois par l’intuition et le raisonnement; il n’y a lieu de mettre en doute ni l’intuition ni le raisonnement, qui ne sont faillibles que si on ne les emploie pas comme il faut. « Il faudrait », dit Pascal, « avoir tout à fait l’esprit faux pour mal raisonner sur des principes si gros qu’il est presque impossible qu’ils échappent » ((XI), t. XII, p. 9). Descartes, dans son poêle, se convainc qu’« il n’y a eu que les seuls Mathématiciens qui ont pu trouver quelques démonstrations, c’est-à-dire quelques raisons certaines et évidentes » ((X), t. VI, p. 19), et cela (si l’on s’en tient à son récit) bien avant d’avoir bâti une métaphysique dans laquelle « cela même », dit-il, « que j’ai tantôt pris pour règle, à savoir que les choses que nous concevons très clairement et très distinctement sont toutes

¹ On prendra garde que ce que Hilbert désigne par $\tau_x(A)$ à cet endroit est noté $\tau_x(\text{non } A)$ au chap. I.

vraies, n’est assuré qu’à cause que Dieu est ou existe et qu’il est un être parfait » ((X), t. VI, p. 38). Si Leibniz objecte à Descartes qu’on ne voit pas à quoi on reconnaît qu’une idée est « claire et distincte »,¹ il considère, lui aussi, les axiomes comme des conséquences évidentes et inéluctables des définitions, dès que l’on en comprend les termes.² Il ne faut pas oublier d’ailleurs que, dans le langage de cette époque, les mathématiques comprennent bien des sciences que nous ne reconnaissons plus comme telles, et parfois jusqu’à l’art de l’ingénieur; et dans la confiance qu’elles inspirent, le surprenant succès de leurs applications à la « philosophie naturelle », aux « arts mécaniques », à la navigation, entre pour une grande part.

Dans cette manière de voir, les axiomes ne sont pas plus susceptibles d’être discutés ou mis en doute que les règles du raisonnement; tout au plus peut-on laisser à chacun le choix, suivant ses préférences, de raisonner « à la manière des anciens » ou de laisser libre cours à son intuition. Le choix du point de départ est aussi question de préférence individuelle, et on voit apparaître de nombreuses « éditions » d’Euclide où la solide charpente logique des Éléments est étrangement travestie; on donne du calcul infinitésimal, de la mécanique rationnelle, des exposés prétendument déductifs dont les bases sont singulièrement mal assises; et Spinoza était peut-être de bonne foi en donnant son Éthique pour démontrée à la manière des géomètres « more geometrico demonstrata ». Si l’on a peine à trouver, au xviiie siècle, deux mathématiciens d’accord sur quelque question que ce soit, si les polémiques sont quotidiennes, interminables et acrimonieuses, la notion de vérité n’en reste pas moins hors de cause. « N’y ayant qu’une vérité de chaque chose », dit Descartes, « quiconque la trouve en sait autant qu’on peut en savoir » ((X), t. VI, p. 21).

Bien qu’aucun texte mathématique grec de haute époque ne se soit conservé sur ces questions, il est probable que le point de vue des mathématiciens grecs sur ce sujet a été beaucoup plus nuancé. C’est à l’expérience seulement que les règles de raisonnement ont pu s’élaborer au point d’inspirer une complète confiance; avant qu’elles pussent être considérées comme au-dessus de toute discussion, il a fallu nécessairement passer par bien des tâtonnements et des paralogismes. Ce serait

¹ « Ceux qui nous ont donné des méthodes » dit-il à ce propos « donnent sans doute de beaux préceptes, mais non pas le moyen de les observer » ((XII b), t. VII, p. 21). Et ailleurs, raillant les règles cartésiennes, il les compare aux recettes des alchimistes : « Prends ce qu’il faut, opère comme tu le dois, et tu obtiendras ce que tu souhaites! » ((XII b), t. IV, p. 329).

² Sur ce point, Leibniz est encore sous l’influence scolastique; il pense toujours aux propositions comme établissant un rapport de « sujet » à « prédicat » entre concepts. Dès que l’on a résolu les concepts en concepts « primitifs » (ce qui, nous l’avons vu, est une de ses idées fondamentales), tout se ramène, pour Leibniz, à vérifier des relations d’« inclusion » au moyen de ce qu’il appelle les « axiomes identiques » (essentiellement les propositions A = A et A ⊂ A) et du principe de « substitution des équivalents » (si A = B, on peut partout remplacer A par B, notre schéma S6 de I, p. 38) ((XII bis), p. 184–206). Il est intéressant à ce propos de remarquer que, conformément à son désir de tout ramener à la Logique et de « démontrer tout ce qui est démontrable », Leibniz démontre la symétrie et la transitivité de la relation d’égalité, à partir de l’axiome A = A et du principe de substitution des équivalents, obtenant ainsi essentiellement les démonstrations que nous avons données dans I, p. 39–40 ((XII a), t. VII, p. 77–78).

méconnaître aussi l’esprit critique des Grecs, leur goût pour la discussion et pour la sophistique, que d’imaginer que les « axiomes » mêmes que Pascal jugeait les plus évidents (et que, suivant une légende répandue par sa sœur, il aurait, avec un instinct infaillible, découverts de lui-même dans son enfance) n’ont pas fait l’objet de longues discussions. Dans un domaine qui n’est pas celui de la géométrie proprement dite, les paradoxes des Eléates nous ont conservé quelque trace de telles polémiques; et Archimède, lorsqu’il fait observer ((IV), p. 265) que ses prédécesseurs se sont servi en plusieurs circonstances de l’axiome auquel nous avons l’habitude de donner son nom, ajoute que ce qui est démontré au moyen de cet axiome « a été admis non moins que ce qui est démontré sans lui », et qu’il lui suffit que ses propres résultats soient admis au même titre. Platon, conformément à ses vues métaphysiques, présente la mathématique comme un moyen d’accès à une « vérité en soi », et les objets dont elle traite comme ayant une existence propre dans le monde des idées; il n’en caractérise pas moins avec précision la méthode mathématique dans un passage célèbre de la République: « Ceux qui s’occupent de géométrie et d’arithmétique... supposent le pair et l’impair, trois espèces d’angles; ils les traitent comme choses connues; une fois cela supposé, ils estiment qu’ils n’ont plus à en rendre compte ni à eux-mêmes ni aux autres, [le regardant] comme clair à chacun; et, partant de là, ils procèdent par ordre, pour en arriver d’un commun accord au but que leur recherche s’était proposé » (Livre VI, 510 c–e). Ce qui constitue la démonstration, c’est donc d’abord un point de départ présentant quelque arbitraire (bien que « clair à chacun »), et au-delà duquel, dit-il un peu plus loin, on ne cherche pas à remonter; ensuite, une démarche qui parcourt par ordre une suite d’étapes intermédiaires; enfin, à chaque pas, le consentement de l’interlocuteur garantissant la correction du raisonnement. Il faut ajouter qu’une fois les axiomes posés, aucun nouvel appel à l’intuition n’est en principe admis: Proclus, citant Géminus, rappelle que « nous avons appris des pionniers mêmes de cette science, à ne tenir aucun compte de conclusions simplement plausibles lorsqu’il s’agit des raisonnements qui doivent faire partie de notre doctrine géométrique » ((III), t. I, p. 203).

C’est donc à l’expérience et au feu de la critique qu’ont dû s’élaborer les règles du raisonnement mathématique; et, s’il est vrai, comme on l’a soutenu d’une manière plausible,¹ que le Livre VIII d’Euclide nous a conservé une partie de l’arithmétique d’Archytas, il n’est pas surprenant d’y voir la raideur de raisonnement quelque peu pédantesque qui ne manque pas d’apparaître dans toute école mathématique où l’on découvre ou croit découvrir la « rigueur ». Mais, une fois entrées dans la pratique des mathématiciens, il ne semble pas que ces règles de raisonnement aient jamais été mises en doute jusqu’à une époque toute récente; si, chez Aristote et les Stoïciens, certaines de ces règles sont déduites d’autres par des schémas de raisonnement, les règles primitives sont toujours admises comme évidentes. De même, après être remontés jusqu’aux « hypothèses », « axiomes »,

¹ Cf. B. L. van der Waerden, Die Arithmetik der Pythagoreer, Math. Ann., t. CXX (1947), p. 127–153.

« postulats » qui leur parurent fournir un fondement solide à la science de leur époque (tels par exemple qu’ils ont dû se présenter dans les premiers « Éléments », que la tradition attribue à Hippocrate de Chio, vers 450 av. J.-C.), les mathématiciens grecs de la période classique semblent avoir consacré leurs efforts à la découverte de nouveaux résultats plutôt qu’à une critique de ces fondements qui, à cette époque, n’aurait pu manquer d’être stérile; et, toute préoccupation métaphysique mise à part, c’est de cet accord général entre mathématiciens sur les bases de leur science que témoigne le texte de Platon cité ci-dessus.

D’autre part, les mathématiciens grecs ne semblent pas avoir cru pouvoir élucider les « notions premières » qui leur servent de point de départ, ligne droite, surface, rapport des grandeurs; s’ils en donnent des « définitions », c’est visiblement par acquit de conscience et sans se faire d’illusions sur la portée de celles-ci. Il va sans dire qu’en revanche, sur les définitions autres que celles des « notions premières » (définitions souvent dites « nominales », et jouant le même rôle que nos « symboles abréviateurs »), les mathématiciens et philosophes grecs ont eu des idées parfaitement claires. C’est à ce propos qu’intervient explicitement, pour la première fois sans doute, la question d’« existence » en mathématique. Aristote ne manque pas d’observer qu’une définition n’entraîne pas l’existence de la chose définie, et qu’il faut là-dessus, soit un postulat, soit une démonstration. Sans doute son observation était-elle dérivée de la pratique des mathématiciens; en tout cas Euclide prend soin de postuler l’existence du cercle, et de démontrer celle du triangle équilatéral, des parallèles, du carré, etc. à mesure qu’il les introduit dans ses raisonnements ((III), Livre I); ces démonstrations sont des « constructions »; autrement dit, il exibite, en s’appuyant sur les axiomes, des objets mathématiques dont il démontre qu’ils satisfont aux définitions qu’il s’agit de justifier.

Nous voyons ainsi la mathématique grecque, à l’époque classique, aboutir à une sorte de certitude empirique (quelles qu’en puissent être les bases métaphysiques chez tel ou tel philosophe); si on ne conçoit pas qu’on puisse mettre en question les règles du raisonnement, le succès de la science grecque, et le sentiment que l’on a de l’inopportunité d’une révision critique, sont pour beaucoup dans la confiance qu’inspirent les axiomes proprement dits, confiance qui est plutôt de l’ordre de celle (presque illimitée, elle aussi) qu’on attachait au siècle dernier aux principes de la physique théorique. C’est d’ailleurs ce que suggère l’adage de l’école « nihil est in intellectu quod non prius fuerit in sensu », contre lequel justement s’élève Descartes, comme ne donnant pas de base assez ferme à ce que Descartes entendait tirer de l’usage de la raison.

Il faut descendre jusqu’au début du xixe siècle pour voir les mathématiciens revenir de l’arrogance d’un Descartes (sans parler de celle d’un Kant, ou de celle d’un Hegel, ce dernier quelque peu en retard, comme il convient, sur la science de son époque),¹ à une position aussi nuancée que celle des Grecs. Le premier

¹ Dans sa dissertation inaugurale, il « démontre » qu’il ne peut exister que sept planètes, l’année même où on en découvrait une huitième.

coup porté aux conceptions classiques est l’édification de la géométrie non-euclidienne hyperbolique par Gauss, Lobatschevsky et Bolyai au début du siècle. Nous n’entreprendrons pas de retracer ici en détail la genèse de cette découverte, aboutissement de nombreuses tentatives infructueuses pour démontrer le postulat des parallèles (voir Note hist. de A, IX). Sur le moment, son effet sur les principes des mathématiques n’est peut-être pas aussi profond qu’on le dit parfois. Elle oblige simplement à abandonner les prétentions du siècle précédent à la « vérité absolue » de la géométrie euclidienne, et à plus forte raison, le point de vue leibnizien des définitions impliquant les axiomes; ces derniers n’apparaissent plus du tout comme « évidents », mais bien comme des hypothèses dont il s’agit de voir si elles sont adaptées à la représentation mathématique du monde sensible. Gauss et Lobatschevsky croient que le débat entre les diverses géométries possibles peut être tranché par l’expérience ((XV), p. 76). C’est aussi le point de vue de Riemann, dont la célèbre Leçon inaugurale « Sur les hypothèses qui servent de fondement à la géométrie » a pour but de fournir un cadre mathématique général aux divers phénomènes naturels: « Reste à résoudre », dit-il, « la question de savoir en quelle mesure et jusqu’à quel point ces hypothèses se trouvent confirmées par l’expérience » ((XIX), p. 284). Mais c’est là un problème qui visiblement n’a plus rien à faire avec la Mathématique; et aucun des auteurs précédents ne semble mettre en doute que, même si une « géométrie » ne correspond pas à la réalité expérimentale, ses théorèmes n’en continuent pas moins à être des « vérités mathématiques ».¹

Toutefois, s’il en est ainsi, ce n’est certes plus à une confiance illimitée en l’« intuition géométrique » classique qu’il faut attribuer une telle conviction; la description que Riemann cherche à donner des « multiplicités n fois étendues », objet de son travail, ne s’appuie sur des considérations « intuitives »² que pour arriver à justifier l’introduction des « coordonnées locales »; à partir de ce moment, il se sent apparemment en terrain solide, savoir celui de l’Analyse. Mais cette dernière est fondée en définitive sur le concept de nombre réel, resté jusque-là de nature très intuitive; et les progrès de la théorie des fonctions conduisaient à cet égard à des résultats bien troublants: avec les recherches de Riemann lui-même sur l’intégration, et plus encore avec les exemples de courbes sans tangente, construits par Bolzano et Weierstrass, c’est toute la pathologie des mathématiques qui commençait. Depuis un siècle, nous avons vu tant de monstres de cette espèce que nous sommes un peu blasés, et qu’il faut accumuler les caractères tératologiques les plus biscornus pour arriver encore à nous étonner. Mais l’effet produit sur la plupart des mathématiciens de xixe siècle allait du dégoût à la consternation:

¹ Cf. les arguments de Poincaré en faveur de la « simplicité » et de la « commodité » de la géométrie euclidienne ((XXXIII a), p. 67), ainsi que l’analyse par laquelle, un peu plus loin, il arrive à la conclusion que l’expérience ne fournit pas de critère absolu pour le choix d’une géométrie plutôt qu’une autre comme cadre des phénomènes naturels. ² Encore ce mot n’est-il justifié que pour $n \leq 3$; pour de plus grandes valeurs de $n$, il s’agit en réalité d’un raisonnement par analogie.

« Comment », se demande H. Poincaré, « l’intuition peut-elle nous tromper à ce point? » ((XXXIII b), p. 19); et Hermite (non sans une pointe d’humour dont les commentateurs de cette phrase célèbre ne semblent pas tous s’être aperçus) déclare qu’il se « détourne avec effroi et horreur de cette plaie lamentable des fonctions continues qui n’ont point de dérivée » ((XXVII), t. II, p. 318). Le plus grave était qu’on ne pouvait plus mettre ces phénomènes, si contraires au sens commun, sur le compte de notions mal élucidées, comme au temps des « indivisibles », puisqu’ils survenaient après la réforme de Bolzano, Abel et Cauchy, qui avait permis de fonder la notion de limite de façon aussi rigoureuse que la théorie des proportions. C’est donc bien au caractère grossier et incomplet de notre intuition géométrique qu’il fallait s’en prendre, et on comprend que depuis lors elle soit restée discreditede à juste titre en tant que moyen de preuve.

Cette constatation devait inéluctablement réagir sur les mathématiques classiques, à commencer par la géométrie. Quelque respect que l’on témoignât à la construction axiomatique d’Euclide, on n’avait pas été sans y relever plus d’une imperfection, et cela dès l’antiquité. C’est le postulat des parallèles qui avait été l’objet du plus grand nombre de critiques et de tentatives de démonstration; mais les continuateurs et commentateurs d’Euclide avaient aussi cherché à démontrer d’autres postulats (notamment celui de l’égalité des angles droits) ou reconnu l’insuffisance de certaines définitions, comme celles de la droite ou du plan. Au xvi\textsuperscript{e} siècle, Clavius, un éditeur des Éléments, note l’absence d’un postulat garantissant l’existence de la quatrième proportionnelle; de son côté, Leibniz remarque qu’Euclide utilise l’intuition géométrique sans le mentionner explicitement, par exemple lorsqu’il admet (Éléments, Livre I, prop. 1) que deux cercles dont chacun passe par le centre de l’autre ont un point commun ((XII b), t. VII, p. 166). Gauss (qui lui-même ne se privait pas de se servir de telles considérations topologiques) attire l’attention sur le rôle joué dans les constructions euclidiennes par la notion d’un point (ou d’une droite) situé « entre » deux autres, notion qui n’est cependant pas définie ((XIV), t. VIII, p. 222). Enfin, l’usage des déplacements — notamment dans les « cas d’égalité des triangles » — longtemps admis comme allant de soi,\footnote{Il faut noter cependant que, dès le xvi\textsuperscript{e} siècle, un commentateur d’Euclide, J. Peletier, proteste contre ce moyen de démonstration, en termes voisins de ceux des critiques modernes ((III), t. I, p. 249).} devait bientôt apparaître à la critique du xix\textsuperscript{e} siècle comme reposant aussi sur des axiomes non formulés. On aboutit ainsi, dans la période de 1860 à 1885, à diverses révisions partielles des débuts de la géométrie (Helmholtz, Méray, Houël) tendant à remédier à certaines de ces lacunes. Mais c’est seulement chez M. Pasch (XXVIII) que l’abandon de tout appel à l’intuition est un programme nettement formulé et suivi avec une parfaite rigueur. Le succès de son entreprise lui valut bientôt de nombreux émules qui, principalement entre 1890 et 1910, donnent des présentations assez variées des axiomes de la géométrie euclidienne. Les plus célèbres de ces ouvrages furent celui de Peano, écrit dans son langage symbolique (XXIX b), et surtout les « Grundlagen der Geometrie » de Hilbert (XXX), parus en 1899, livre qui, par la lucidité et la profondeur de l’exposé, devait aussitôt devenir, à juste titre, la charte de l’axiomatique moderne, jusqu’à faire oublier ses devanciers. C’est qu’en effet, non content d’y donner un système complet d’axiomes pour la géométrie euclidienne, Hilbert classe ces axiomes en divers groupements de nature différente, et s’attache à déterminer la portée exacte de chacun de ces groupes d’axiomes, non seulement en développant les conséquences logiques de chacun d’eux isolément, mais encore en discutant les diverses « géométries » obtenues lorsqu’on supprime ou modifie certains de ces axiomes (géométries dont celles de Lobatschevsky et de Riemann n’apparaissent plus que comme des cas particuliers¹); il met ainsi clairement en relief, dans un domaine considéré jusque-là comme un des plus proches de la réalité sensible, la liberté dont dispose le mathématicien dans le choix de ses postulats. Malgré le désarroi causé chez plus d’un philosophe par ces « métagéométries » aux propriétés étranges, la thèse des « Grundlagen » fut rapidement adoptée de façon à peu près unanime par les mathématiciens; H. Poincaré, pourtant peu suspect de partialité en faveur du formalisme, reconnaît en 1902 que les axiomes de la géométrie sont des conventions, pour laquelle la notion de « vérité », telle qu’on l’entend d’habitude, n’a plus de sens ((XXXIII a), p. 66–67). La « vérité mathématique » réside ainsi uniquement dans la déduction logique à partir des prémisses posées arbitrairement par les axiomes. Comme on le verra plus loin, la validité des règles de raisonnement suivant lesquelles s’opèrent ces déductions devait elle-même bientôt être remise en question, amenant ainsi une refonte complète des conceptions de base des mathématiques.

Objets, modèles, structures

A) Objets et structures mathématiques. — De l’Antiquité au xixe siècle, il y a un commun accord sur ce que sont les objets principaux du mathématicien; ce sont ceux-là mêmes que mentionne Platon dans le passage cité plus haut: les nombres, les grandeurs et les figures. Si, au début, il faut y joindre les objets et phénomènes dont s’occupent la Mécanique, l’Astronomie, l’Optique et la Musique, ces disciplines « mathématiques » sont toujours nettement séparées, chez les Grecs, de l’Arithmétique et de la Géométrie, et à partir de la Renaissance elles accèdent assez vite au rang de sciences indépendantes.

Quelles que soient les nuances philosophiques dont se colore la conception des objets mathématiques chez tel ou tel mathématicien ou philosophe, il y a au moins un point sur lequel il y a unanimité; c’est que ces objets nous sont donnés et qu’il n’est pas en notre pouvoir de leur attribuer des propriétés arbitraires, de

¹ Celle qui semble avoir le plus frappé les contemporains est la géométrie « non-archimédienne », c’est-à-dire la géométrie ayant pour corps de base un corps ordonné non archimédien (commutatif ou non), qui (dans le cas commutatif) avait été introduite quelques années auparavant par Veronese (Fondamenti di geometria, Padova, 1891).

même qu’un physicien ne peut changer un phénomène naturel. À vrai dire, il entre sans doute pour une part dans ces vues des réactions d’ordre psychologique, qu’il ne nous appartient pas d’approfondir, mais que connaît bien tout mathématicien lorsqu’il s’épuise en vains efforts pour saisir une démonstration qui semble se dérober sans cesse. De là à assimiler cette résistance aux obstacles que nous oppose le monde sensible, il n’y a qu’un pas ; et même aujourd’hui, plus d’un, qui affiche un intrinsègant formalisme, souscrirait volontiers, dans son for intérieur, à cet aveu d’Hermite : « Je crois que les nombres et les fonctions de l’Analyse ne sont pas le produit arbitraire de notre esprit ; je pense qu’ils existent en dehors de nous, avec le même caractère de nécessité que les choses de la réalité objective, et nous les rencontrons ou les découvrons, et les étudions, comme les physiciens, les chimistes et les zoologistes » ((XXVII), t. II, p. 398).

Il n’est pas question, dans la conception classique des mathématiques, de s’écarter de l’étude des nombres et des figures ; mais cette doctrine officielle, à laquelle tout mathématicien se croit tenu d’apporter son adhésion verbale, ne laisse pas de constituer peu à peu une gêne intolérable, à mesure que s’accumulent les idées nouvelles. L’embarras des algébristes devant les nombres négatifs ne cesse guère que lorsque la Géométrie analytique en donne une « interprétation » commode ; mais, en plein xviii\textsuperscript{e} siècle encore, d’Alembert (pourtant « positiviste » convaincu), discutant de la question dans l’Encyclopédie (XIII), perd courage tout à coup après une colonne d’explications assez confuses, et se contente de conclure que « les règles des opérations algébriques sur les quantités négatives sont admises généralement par tout le monde et reçues généralement comme exactes, quelque idée qu’on attache d’ailleurs à ces quantités ». Pour les nombres imaginaires, le scandale est bien plus grand encore ; car si ce sont des racines « impossibles » et si (jusque vers 1800) on ne voit aucun moyen de les « interpréter », comment peut-on sans contradiction parler de ces êtres indéfinissables, et surtout pourquoi les introduire ? D’Alembert ici garde un silence prudent et ne pose même pas ces questions, sans doute parce qu’il reconnaît qu’il ne pourrait y répondre autrement que ne le faisait naïvement A. Girard un siècle plus tôt (IX) : « On pourroit dire : à quoy sert ces solutions qui sont impossibles ? Je réponds : pour trois choses, pour la certitude de la reigle générale, et qu’il n’y a point d’autres solutions, et pour son utilité. »

En Analyse, la situation, au xviii\textsuperscript{e} siècle, n’est guère meilleure. C’est une heureuse circonstance que la Géométrie analytique soit apparue, comme à point nommé, pour donner une « représentation » sous forme de figure géométrique, de la grande création du xvii\textsuperscript{e} siècle, la notion de fonction, et aider ainsi puissamment (chez Fermat, Pascal ou Barrow) à la naissance du Calcul infinitésimal (cf. Note hist. de FVR, III). Mais on sait par contre à quelles controverses philosophico-mathématiques devaient donner lieu les notions d’infiniment petit et d’indivisible. Et si d’Alembert est ici plus heureux, et reconnaît que dans la « métaphysique » du Calcul infinitésimal il n’y a rien d’autre que la notion de limite, il ne peut, pas plus que ses contemporains, comprendre le sens véritable des développements en séries divergentes, et expliquer le paradoxe de résultats exacts obtenus au bout de calculs sur des expressions dépourvues de toute interprétation numérique. Enfin, même dans le domaine de la « certitude géométrique », le cadre euclidien éclate : lorsque Stirling en 1717, n’hésite pas à dire qu’une certaine courbe a un « point double imaginaire à l’infini »,¹ il serait certes bien en peine de rattacher un tel « objet » aux notions communément reçues ; et Poncelet, qui, au début du xixe siècle, donne un développement considérable à de telles idées en fondant la géométrie projective, se contente encore d’invoquer comme justification un « principe de continuité » tout métaphysique.

On conçoit que, dans ces conditions (et au moment même où, paradoxalement, on proclame avec le plus de force la « vérité absolue » des mathématiques), la notion de démonstration semble s’estomper de plus en plus au cours du xviiiie siècle, puisqu’on est hors d’état de fixer, à la manière des Grecs, les notions sur lesquelles on raisonne, et leurs propriétés fondamentales. Le retour vers la rigueur, qui se déclenche au début du xixe siècle, apporte quelque amélioration à cet état de choses, mais n’arrête pas pour autant le flot des notions nouvelles : on voit ainsi apparaître en Algèbre les imaginaires de Galois, les nombres idéaux de Kummer, que suivent vecteurs et quaternions, espaces n-dimensionnels, multivecteurs et tenseurs, sans parler de l’algèbre booléenne. Sans doute un des grands progrès (qui permet justement le retour à la rigueur, sans rien perdre des conquêtes des âges précédents) est la possibilité de donner des « modèles » de ces nouvelles notions en termes plus classiques : les nombres idéaux ou les imaginaires de Galois s’interprètent par la théorie des congruences, la géométrie n-dimensionnelle n’apparaît (si l’on veut) que comme un pur langage pour exprimer des résultats d’algèbre « à n variables » ; et pour les nombres imaginaires classiques — doit la représentation géométrique par les points d’un plan marque le début de cet épanouissement de l’Algèbre — on a bientôt le choix entre ce « modèle » géométrique et une interprétation en termes de congruences (cf. Note hist. de A, V). Mais les mathématiciens commencent enfin à sentir nettement que c’est là lutter contre la pente naturelle où les entraînent leurs travaux, et qu’il doit être légitime, en mathématiques, de raisonner sur des objets qui n’ont aucune « interprétation » sensible : « Il n’est pas de l’essence de la mathématique », dit Boole en 1854, « de s’occuper des idées de nombre et de quantité » ((XVI b), p. 13).²

¹ J. Stirling, Lineae tertii ordinis Newtonianae... (1717). ² Leibniz, à cet égard, apparaît encore comme un précurseur : « la Mathématique universelle » dit-il, « est, pour ainsi dire, la Logique de l’imagination », et doit traiter « de tout ce qui, dans le domaine de l’imagination, est susceptible de détermination exacte » ((XII c), p. 348 ; cf. (XII bis), p. 290–291) ; et pour lui, la pièce maîtresse de la Mathématique ainsi conçue est ce qu’il appelle la « Combinatoire » ou « Art des formules », par quoi il entend essentiellement la science des relations abstraites entre les objets mathématiques. Mais alors que jusque-là les relations considérées en mathématiques étaient presque exclusivement des relations de grandeur (égalité, inégalité, proportion) Leibniz conçoit bien d’autres types de relations qui, à son avis, auraient dû être étudiées systématiquement par les mathématiciens, comme la relation d’inclusion, ou ce qu’il appelle la relation de « détermination » univoque ou plurivoque (c’est-à-dire les notions d’application et de correspondance) ((XII bis), p. 307–310).

La même préoccupation conduit Grassmann, dans son « Ausdehnungslehre » de 1844, à présenter son calcul sous une forme d’où les notions de nombre ou d’être géométrique sont tout d’abord exclues.¹ Et un peu plus tard, Riemann, dans sa Leçon inaugurale, prend soin au début de ne pas parler de « points », mais bien de « déterminations » (Bestimmungsweise), dans sa description des « multiplicités n fois étendues », et souligne que, dans une telle multiplicité, les « relations métriques » (Massverhältnisse) « ne peuvent s’étudier que pour des grandeurs abstraites et se représenter que par des formules ; sous certaines conditions, on peut cependant les décomposer en relations dont chacune prise isolément est susceptible d’une représentation géométrique, et par là il est possible d’exprimer les résultats de calcul sous forme géométrique » ((XIX), p. 276).

A partir de ce moment, l’élargissement de la méthode axiomatique est un fait acquis. Si, pendant quelque temps encore, on croit utile de contrôler, quand il se peut, les résultats « abstraits » par l’intuition géométrique, du moins est-il admis que les objets « classiques » ne sont plus les seuls dont le mathématicien puisse légitimement faire l’étude. C’est que — justement à cause des multiples « interprétations » ou « modèles » possibles — on a reconnu que la « nature » des objets mathématiques est au fond secondaire, et qu’il importe assez peu, par exemple, que l’on présente un résultat comme théorème de géométrie « pure », ou comme un théorème d’algèbre par le truchement de la géométrie analytique. En d’autres termes, l’essence des mathématiques — cette notion fuyante qu’on n’avait pu jusqu’alors exprimer que sous des noms vagues tels que « règle générale » ou « métaphysique » — apparaît comme l’étude des relations entre des objets qui ne sont plus (volontairement) connus et décrits que par quelques-unes de leurs propriétés, celles précisément que l’on met comme axiomes à la base de leur théorie. C’est ce qu’avait déjà clairement vu Boole en 1847, quand il écrivait que la mathématique traite « des opérations considérées en elles-mêmes, indépendamment des matières diverses auxquelles elles peuvent être appliquées » ((XVI a), p. 3). Hankel, en 1867, inaugurant l’axiomatisation de l’algèbre, défend une mathématique « purement intellectuelle, une pure théorie des formes, qui a pour objet, non la combinaison des grandeurs, ou de leurs images, les nombres, mais des choses de la pensée (« Gedankendinge ») auxquelles il peut

Beaucoup d’autres idées modernes apparaissent sous sa plume à ce propos : il remarque que les diverses relations d’équivalence de la géométrie classique ont en commun les propriétés de symétrie et de transitivité ; il conçoit aussi la notion de relation compatible avec une relation d’équivalence, et note expressément qu’une relation quelconque n’a pas nécessairement cette propriété ((XII bis), p. 313–315). Bien entendu, il préconise là comme partout l’usage d’un langage formalisé, et introduit même un signe destiné à noter une relation indéterminée ((XII bis), p. 301).

¹ Il faut reconnaître que son langage, d’allure très philosophique, n’était guère fait pour séduire la plupart des mathématiciens, qui se sentent mal à l’aise devant une formule telle que la suivante : « La mathématique pure est la science de l’être particulier en tant qu’il est né dans la pensée » (Die Wissenschaft des besonderen Seins als eines durch das Denken gewordenen). Mais le contexte fait voir que Grassmann entendait par là de façon assez nette la mathématique axiomatique au sens moderne (sauf qu’il suit assez curieusement Leibniz en considérant que les bases de cette « science formelle », comme il dit, sont les définitions et non les axiomes) ; en tout cas, il insiste, comme Boole, sur le fait que « le nom de science des grandeurs ne convient pas à l’ensemble des mathématiques » ((XVII), t. I₁, p. 22–23).

correspondre des objets ou relations effectives, bien qu'une telle correspondance ne soit pas nécessaire » ((XX), p. 10). Cantor, en 1883, fait écho à cette revendication d'une « libre mathématique », en proclamant, que « la mathématique est entièrement libre dans son développement, et ses concepts ne sont liés que par la nécessité d'être non contradictoires, et coordonnés aux concepts antérieurement introduits par des définitions précises » ((XXV), p. 182). Enfin, la révision de la géométrie euclidienne achève de répandre et de populariser ces idées. Pasch lui-même, pourtant encore attaché à une certaine « réalité » des êtres géométriques, reconnaît que la géométrie est en fait indépendante de leur signification, et consiste purement en l'étude de leurs relations ((XXVIII), p. 90); conception que Hilbert pousse à son terme logique en soulignant que les noms mêmes des notions de base d'une théorie mathématique peuvent être choisis à volonté,\footnote{Suivant une anecdote célèbre, Hilbert exprimait volontiers cette idée en disant que l'on pouvait remplacer les mots « point » « droite » et « plan » par « table », « chaise » et « verre à bière » sans rien changer à la géométrie. Il est curieux de trouver déjà chez d'Alembert une anticipation de cette boutade: « On peut donner aux mots tels sens qu'on veut » écrit-il dans l'Encyclopédie ((XIII), article Définition); « [on pourrait] faire à la rigueur des éléments de Géométrie exacts( mais ridicules) en appelant triangle ce qu'on appelle ordinairement cercle ».} et que Poincaré exprime en disant que les axiomes sont des « définitions déguisées », renversant ainsi complètement le point de vue scolastique.

On serait donc tenté de dire que la notion moderne de « structure » est acquise en substance vers 1900; en fait, il faudra encore une trentaine d'années d'apprentissage pour qu'elle apparaisse en pleine lumière. Il n'est sans doute pas difficile de reconnaître des structures de même espèce lorsqu'elles sont de nature assez simple; pour la structure de groupe, par exemple, ce point est atteint dès le milieu du xixe siècle. Mais au même moment, on voit encore Hankel lutter — sans y parvenir tout à fait — pour dégager les idées générales de corps et d'extension, qu'il n'arrive à exprimer que sous forme d'un « principe de permanence » à demi métaphysique (XX), et qui seront seulement formulées de façon définitive par Steinitz 40 ans plus tard. Surtout il a été assez difficile, en cette matière, de se libérer de l'impression que les objets mathématiques nous sont « donnés » avec leur structure; et seule une assez longue pratique de l'Analyse fonctionnelle a pu familiariser les mathématiciens modernes avec l'idée que, par exemple, il y a plusieurs topologies « naturelles » sur les nombres rationnels, et plusieurs mesures sur la droite numérique. Avec cette dissociation s'est finalement réalisé le passage à la définition générale des structures, telle qu'elle a été donnée dans ce Livre.

B) Modèles et isomorphismes — On aura remarqué à plusieurs reprises l'intervention de la notion de « modèle » ou d'« interprétation » d'une théorie mathématique à l'aide d'une autre. Ce n'est pas là une idée récente, et on peut sans doute y voir une manifestation sans cesse renaissante d'un sentiment profond de l'unité des diverses « sciences mathématiques ». S'il faut tenir pour authentique la traditionnelle maxime « Toutes choses sont nombres » des premiers Pythagoriciens,

1 Suivant une anecdote célèbre, Hilbert exprimait volontiers cette idée en disant que l'on pouvait remplacer les mots « point » « droite » et « plan » par « table », « chaise » et « verre à bière » sans rien changer à la géométrie. Il est curieux de trouver déjà chez d'Alembert une anticipation de cette boutade: « On peut donner aux mots tels sens qu'on veut » écrit-il dans l'Encyclopédie ((XIII), article Définition); « [on pourrait] faire à la rigueur des éléments de Géométrie exacts( mais ridicules) en appelant triangle ce qu'on appelle ordinairement cercle ».

on peut la considérer comme la trace d'une première tentative pour ramener la géométrie et l'algèbre de l'époque à l'arithmétique. Bien que la découverte des irrationnelles semblât clore pour toujours cette voie, la réaction qu'elle déclencha dans les mathématiques grecques fut un second essai de synthèse prenant cette fois la géométrie pour base, et y englobant entre autres les méthodes de résolution des équations algébriques héritées des Babyloniens.¹ On sait que cette conception devait subsister jusqu'à la réforme fondamentale de R. Bombelli et de Descartes, assimilant toute mesure de grandeur à une mesure de longueur (autrement dit, à un nombre réel ; cf. Note hist. de TG, IV). Mais avec la création de la géométrie analytique par Descartes et Fermat, la tendance est de nouveau renversée, et une fusion bien plus étroite de la géométrie et de l'algèbre est obtenue, mais cette fois au profit de l'algèbre. Du coup, d'ailleurs, Descartes va plus loin, et conçoit l'unité essentielle de « toutes ces sciences qu'on nomme communément Mathématiques... Encore que leurs objets soient différents », dit-il, « elles ne laissent pas de s'accorder toutes, en ce qu'elles n'y considèrent autre chose que les divers rapports ou proportions qui s'y trouvent » ((X), t. VI, p. 19–20).² Toutefois, ce point de vue tendait seulement à faire de l'Algèbre la science mathématique fondamentale; conclusion contre laquelle proteste vigoureusement Leibniz, qui lui aussi, on l'a vu, conçoit une « Mathématique universelle », mais sur un plan bien plus vaste et déjà tout proche des idées modernes. Précisant l'« accord » dont parlait Descartes, il entrevoit en effet, pour la première fois, la notion générale d'isomorphie (qu'il appelle « similitude »), et la possibilité d'« identifier » des relations ou opérations isomorphes; il en donne comme exemple l'addition et la multiplication ((XII bis), p. 301–303). Mais ces vues audacieuses restèrent sans écho chez les contemporains, et il faut attendre l'élargissement de l'Algèbre qui s'effectue vers le milieu du xixe siècle pour voir s'amorcer la réalisation des rêves leibniziens. Nous avons déjà souligné que c'est à ce moment que les « modèles » se multiplient et qu'on s'habitue à passer d'une théorie à une autre par simple changement de langage; l'exemple le plus frappant en est peut-être la dualité en géométrie projective, où la pratique, fréquente à l'époque, d'imprimer face à face, sur deux colonnes, les théorèmes « duaux » l'un de l'autre, est sans doute pour beaucoup dans la prise de conscience de la notion d'isomorphie. D'un point de vue plus technique, il est certain que la notion de groupes isomorphes est connue de Gauss pour les groupes commutatifs, de Galois pour les groupes de permutations (cf. Notes hist. de A, I et A, III); elle est acquise de façon générale pour des groupes quelconques

¹ L'arithmétique reste toutefois en dehors de cette synthèse; et on sait qu'Euclide, après avoir développé la théorie générale des proportions entre grandeurs quelconques, développe indépendamment la théorie des nombres rationnels, au lieu de les considérer comme cas particuliers de rapports de grandeurs.

² Il est assez curieux, à ce propos, de voir Descartes rapprocher de l'arithmétique et des « combinaisons de nombres », les « arts... où l'ordre règne davantage, comme sont ceux des artisans qui font de la toile ou des tapis, ou ceux des femmes qui brodent ou font de la dentelle » ((X), t. X, p. 403) comme par une anticipation des études modernes sur la symétrie et ses rapports avec la notion de groupe (cf. H. Weyl, Symmetry, Princeton Univ. Press, 1952).

vers le milieu du xixe siècle.¹ Par la suite, avec chaque nouvelle théorie axiomatique, on se trouva naturellement amené à définir une notion d’isomorphisme; mais c’est seulement avec la notion moderne de structure que l’on a finalement reconnu que toute structure porte en elle une notion d’isomorphisme, et qu’il n’est pas besoin d’en donner une définition particulière pour chaque espèce de structure.

C) L’arithmétisation des mathématiques classiques. — L’usage de plus en plus répandu de la notion de « modèle » allait aussi permettre au xixe siècle de réaliser l’unification des mathématiques rêvée par les Pythagoriciens. Au début du siècle, le nombre entier et la grandeur continue paraissaient toujours aussi inconciliables que dans l’antiquité; les nombres réels restaient liés à la notion de grandeur géométrique (tout au moins à celle de longueur), et c’est à cette dernière qu’on avait fait appel pour les « modèles » des nombres négatifs et des nombres imaginaires. Même le nombre rationnel était traditionnellement rattaché à l’idée du « partage » d’une grandeur en parties égales; seuls les entiers restaient à part, comme des « produits exclusifs de notre esprit » ainsi que dit Gauss en 1832, en les opposant à la notion d’espace ((XIV), t. VIII, p. 201). Les premiers efforts pour rapprocher l’Arithmétique de l’Analyse portèrent d’abord sur les nombres rationnels (positifs et négatifs) et sont dûs à Martin Ohm (1822); ils furent repris vers 1860 par plusieurs auteurs, notamment Grassmann, Hankel et Weierstrass (dans ses cours non publiés); c’est à ce dernier que paraît due l’idée d’obtenir un « modèle » des nombres rationnels positifs ou des nombres entiers négatifs en considérant des classes de couples d’entiers naturels. Mais le pas le plus important restait à faire, à savoir trouver un « modèle » des nombres irrationnels dans la théorie des nombres rationnels; vers 1870, c’était devenu un problème urgent, vu la nécessité, après la découverte des phénomènes « pathologiques » en Analyse, d’éliminer toute trace d’intuition géométrique et de la notion vague de « grandeur » dans la définition des nombres réels. On sait que ce problème fut résolu vers cette époque, à peu près simultanément par Cantor, Dedekind, Méray et Weierstrass, et suivant des méthodes assez différentes (voir Note hist. de TG, IV).

A partir de ce moment, les entiers sont devenus le fondement de toutes les mathématiques classiques. En outre, les « modèles » fondés sur l’Arithmétique acquièrent encore plus d’importance avec l’extension de la méthode axiomatique et la conception des objets mathématiques comme libres créations de l’esprit. Il subsistait en effet une restriction à cette liberté revendiquée par Cantor, la question d’« existence » qui avait déjà préoccupé les Grecs, et qui se posait ici de façon bien plus pressante, puisque précisément tout appel à une représentation intuitive était maintenant abandonné. Nous verrons plus loin de quel maelström philosophico-mathématique la notion d’« existence » devait être le centre dans

¹ Le mot même d’« isomorphisme » est introduit dans la théorie des groupes vers la même époque; mais au début, il sert à désigner aussi les homomorphismes surjectifs, qualifiés d’« isomorphismes méridriques », alors que les isomorphismes proprement dits sont appelés « isomorphismes holoédriques »; cette terminologie restera en usage jusqu’aux travaux d’E. Noether.

les premières années du xx\textsuperscript{e} siècle. Mais au xix\textsuperscript{e} siècle on n’en est pas encore là, et démontrer l’existence d’un objet mathématique ayant des propriétés données, c’est simplement, comme pour Euclide, « construire » un objet ayant les propriétés indiquées. C’est à quoi servaient précisément les « modèles » arithmétiques : une fois les nombres réels « interprétés » en termes d’entiers, les nombres complexes et la géométrie euclidienne l’étaient aussi, grâce à la Géométrie analytique, et il en était de même de tous les êtres algébriques nouveaux introduits depuis le début du siècle; enfin — découverte qui avait eu un grand retentissement — Beltrami et Klein avaient même obtenu des « modèles » euclidiens des géométries non-euclidiennes de Lobatschevsky et de Riemann, et par suite « arithmétisé » (et par là complètement justifié) ces théories qui au premier abord avaient suscité tant de méfiance.

D) L’axiomatisation de l’arithmétique. — Il était dans la ligne de cette évolution que l’on se tournât ensuite vers les fondements de l’arithmétique elle-même, et de fait c’est ce que l’on constate aux environs de 1880. Il ne semble pas qu’avant le xix\textsuperscript{e} siècle on ait cherché à définir l’addition et la multiplication des entiers naturels autrement que par un appel direct à l’intuition ; Leibniz est le seul qui, fidèle à ses principes, signale expressément que des « vérités » aussi « évidentes » que $2 + 2 = 4$ n’en sont pas moins susceptibles de démonstration si on réfléchit aux définitions des nombres qui y figurent ((XII b), t. IV, p. 403; cf. (XII bis), p. 203); et il ne considérait nullement la commutativité de l’addition et de la multiplication comme allant de soi.\footnote{Comme exemple d’opérations non commutatives, il indique la soustraction, la division et l’exponentiation ((XII b), t. VII, p. 31); il avait même un moment essayé d’introduire de telles opérations dans son calcul logique ((XII bis), p. 353).} Mais il ne pousse pas plus loin ses réflexions à ce sujet, et vers le milieu du xix\textsuperscript{e} siècle, aucun progrès n’avait encore été fait dans ce sens: Weierstrass lui-même, dont les cours contribuèrent beaucoup à répandre le point de vue « arithmétisant », ne paraît pas avoir ressenti le besoin d’une clarification logique de la théorie des entiers. Les premiers pas dans cette direction semblent dûs à Grassmann, qui, en 1861 ((XVII), t. $\mathrm{II}_2$, p. 295) donne une définition de l’addition et de la multiplication des entiers, et démontre leurs propriétés fondamentales (commutativité, associativité, distributivité) en n’utilisant que l’opération $x \mapsto x + 1$ et le principe de récurrence. Ce dernier avait été clairement conçu et employé pour la première fois au xvii\textsuperscript{e} siècle par B. Pascal ((XI) t. III, p. 456)\footnote{Voir H. Freudenthal, Zur Geschichte der vollständigen Induktion, Arch. Int. Hist. Sci., t. XXIII (1953), p. 17.} — encore qu’on en trouve dans l’Antiquité des applications plus ou moins conscientes — et était couramment utilisé par les mathématiciens depuis la seconde moitié du xvii\textsuperscript{e} siècle. Mais ce n’est qu’en 1888 que Dedekind ((XXVI), t. III, p. 359–361) énonce un système complet d’axiomes pour l’arithmétique (système reproduit 3 ans plus tard par Peano et connu d’ordinaire sous son nom (XXIX a)), qui comprenait en particulier une formulation précise du principe de récurrence (que Grassmann emploie encore sans l’énoncer explicitement).

Avec cette axiomatisation, il semblait que l’on eût atteint les fondements définitifs des mathématiques. En fait, au moment même où l’on formulait clairement les axioms de l’arithmétique, celle-ci, pour beaucoup de mathématiciens (à commencer par Dedekind et Peano eux-mêmes) était déjà déchue de ce rôle de science primordiale, en faveur de la dernière venue des théories mathématiques, la théorie des ensembles; et les controverses qui allaient se dérouler autour de la notion d’entier ne peuvent être isolées de la grande « crise des fondements » des années 1900–1930.

La théorie des ensembles.

On peut dire que de tout temps, mathématiciens et philosophes ont utilisé des raisonnements de théorie des ensembles de façon plus ou moins consciente; mais dans l’histoire de leurs conceptions à ce sujet, il faut nettement séparer toutes les questions liées à l’idée de nombre cardinal (et en particulier à la notion d’infini) de celles qui ne font intervenir que les notions d’appartenance et d’inclusion. Ces dernières sont des plus intuitives et ne paraissent jamais avoir soulevé de controverses: c’est sur elles qu’on peut le plus facilement fonder une théorie du syllogisme (comme devaient le montrer Leibniz et Euler), ou des axiomes comme « le tout est plus grand que la partie », sans parler de ce qui, en géométrie, concerne les intersections de courbes et de surfaces. Jusqu’à la fin du xixe siècle, on ne fait non plus aucune difficulté pour parler de l’ensemble (ou « classe » chez certains auteurs) des objets possédant telle ou telle propriété donnée¹; et la « définition » célèbre donnée par Cantor (« Par ensemble on entend un groupement en un tout d’objets bien distincts de notre intuition ou de notre pensée » (XXV), p. 282) ne soulèvera, au moment de sa publication, à peu près aucune objection.² Il en est tout autrement dès qu’à la notion d’ensemble viennent se mêler celles de nombre ou de grandeur. La question de la divisibilité indéfinie de l’étendue (sans doute posée dès les premiers Pythagoriciens) devait, comme on sait, conduire à des difficultés philosophiques considérables: des Eléates à Bolzano et Cantor, mathématiciens et philosophes se heurteront sans succès au paradoxe de la grandeur finie composée d’une infinité de points dépourvus de grandeur. Il serait sans intérêt pour nous de retracer, même sommairement, les polémiques interminables et passionnées que suscite ce problème, qui constituait un terrain particulièrement favorable aux divagations métaphysiques ou théologiques; notons seulement le point de vue auquel, dès l’Antiquité, s’arrêtent la plupart des mathématiciens. Il consiste essentiellement à refuser le débat, faute de pouvoir le

¹ Nous avons vu plus haut que Boole n’hésite même pas à introduire dans son calcul logique l’« Univers » l, ensemble de tous les objets; il ne semble pas qu’à l’époque on ait critiqué cette conception, bien qu’elle soit rejetée par Aristote, qui donne une démonstration, assez obscure, visant à en prouver l’absurdité ((II), Met. B., 3, 998 b). ² Frege semble être un des rares mathématiciens contemporains qui, non sans raison, se soit élevé contre le vague de semblables « définitions » ((XXIV c), t. I, p. 2).

trancher de façon irréfutable — attitude que nous retrouverons chez les formalistes modernes : de même que ces derniers s’arrangent pour éliminer toute intervention d’ensembles « paradoxaux » (voir ci-dessous, IV, pp. 63–64) les mathématiciens classiques évitent soigneusement d’introduire dans leurs raisonnements l’« infini actuel » (c’est-à-dire des ensembles comportant une infinité d’objets conçus comme existant simultanément, au moins dans la pensée), et se contentent de l’« infini potentiel », c’est-à-dire de la possibilité d’augmenter toute grandeur donnée (ou de la diminuer s’il s’agit d’une grandeur « continue »).¹ Si ce point de vue comportait une certaine dose d’hypocrisie,² il permettait toutefois de développer la plus grande partie de la mathématique classique (y compris la théorie des proportions et plus tard le Calcul infinitésimal)³ ; il paraissait même un excellent garde-fou, surtout après les querelles suscitées par les infiniment petits, et était devenu un dogme à peu près universellement admis jusque bien avant dans le xixe siècle.

Un premier germe de la notion générale d’équipotence apparaît dans une remarque de Galilée ((VIII), t. VIII, p. 78–80) : il observe que l’application $n \mapsto n^2$ établit une correspondance biunivoque entre les entiers naturels et leurs carrés et par suite que l’axiome « le tout est plus grand que la partie » ne saurait s’appliquer aux ensembles infinis. Mais bien loin d’inaugurer une étude rationnelle des ensembles infinis, cette remarque ne paraît avoir eu d’autre effet que de renforcer la méfiance vis-à-vis de l’infini actuel ; c’est déjà la conclusion de Galilée lui-même, et Cauchy, en 1833, ne le cite que pour approuver son attitude.

Les nécessités de l’Analyse — et particulièrement l’étude approfondie des

¹ Un exemple typique de cette conception est l’énoncé d’Euclide : « Pour toute quantité donnée de nombres premiers, il y en a un plus grand » que nous exprimons aujourd’hui en disant que l’ensemble des nombres premiers est infini.

² Classiquement, on a évidemment le droit de dire qu’un point appartient à une droite, mais tirer de là la conclusion qu’une droite est « composée de points » serait violer le tabou de l’infini actuel, et Aristote consacre de long développements à justifier cette interdiction. C’est vraisemblablement pour échapper à toute objection de ce genre qu’au xixe siècle, beaucoup de mathématiciens évitent de parler d’ensembles, et raisonnent systématiquement « en compréhension » ; par exemple, Galois ne parle pas de corps de nombres, mais seulement des propriétés communes à tous les éléments d’un tel corps. Même Pasch et Hilbert, dans leurs présentations axiomatiques de la géométrie euclidienne, s’abstiennent encore de dire que les droites et plans sont des ensembles de points ; Peano est le seul qui utilise librement le langage de la théorie des ensembles en géométrie élémentaire.

³ Il faut voir sans doute la raison de ce fait dans la circonstance que les ensembles envisagés dans les mathématiques classiques appartiennent à un petit nombre de types simples, et peuvent pour la plupart être complètement décrits par un nombre fini de « paramètres » numériques, si bien que leur considération se ramène en définitive à celle d’un ensemble fini de nombres (il en est ainsi par exemple des courbes et surfaces algébriques, qui pendant longtemps sont à peu près seules à constituer les « figures » de la géométrie classique). Avant que les progrès de l’Analyse n’imposent, au xixe siècle, la considération de parties arbitraires de la droite ou de $\mathbf{R}^n$, on ne trouve que rarement des ensembles qui s’écartent des types précédents ; par exemple, Leibniz, toujours original, envisage comme « lieu géométrique » le disque fermé privé de son centre, ou (par un curieux pressentiment de la théorie des idéaux) considère qu’en arithmétique un entier est « le genre » de l’ensemble de ses multiples, et remarque que l’ensemble des multiples de 6 est l’intersection de l’ensemble des multiples de 2 et de l’ensemble des multiples de 3 ((XII b), t. VII, p. 292). À partir du début du xixe siècle, on se familiarise, en algèbre et en théorie des nombres, avec les ensembles de ce dernier type, comme les classes de formes quadratiques, introduites par Gauss, ou les corps et idéaux, définis par Dedekind avant la révolution cantorienne.

fonctions de variables réelles, qui se poursuit durant tout le xixe siècle — sont à l’origine de ce qui allait devenir la théorie moderne des ensembles. Lorsque Bolzano, en 1817, démontre l’existence de la borne inférieure d’un ensemble minoré dans $\mathbf{R}$, il raisonne encore, comme la plupart de ses contemporains, « en compréhension », parlant non pas d’un ensemble quelconque de nombres réels, mais d’une propriété arbitraire de ces derniers. Mais quand, 30 ans plus tard, il rédige ses « Paradoxien des Unendlichen » (XVIII) (publiés en 1851, trois ans après sa mort), il n’hésite pas à revendiquer le droit à l’existence pour l’« infini actuel » et à parler d’ensembles arbitraires. Il définit, dans ce travail, la notion générale d’équipotence de deux ensembles, et démontre que deux intervalles compacts dans $\mathbf{R}$ non réduits à un point sont équipotents; il observe aussi que la différence caractéristique entre ensembles finis et ensembles infinis consiste en ce qu’un ensemble infini E est équipotent à un sous-ensemble distinct de E, mais il ne donne aucune démonstration convaincante de cette assertion. Le ton général de cet ouvrage est d’ailleurs beaucoup plus philosophique que mathématique, et faute de dissocier de façon suffisamment nette la notion de puissance d’un ensemble de celle de grandeur ou d’ordre d’infinitude, Bolzano échoue dans ses tentatives pour former des ensembles infinis de puissances de plus en plus grandes, et se laisse entraîner à cette occasion à mêler à ses raisonnements des considérations sur les séries divergentes qui sont totalement dépourvues de sens.

C’est au génie de G. Cantor qu’est due la création de la théorie des ensembles telle qu’on l’entend aujourd’hui. Lui aussi part de l’Analyse, et ses travaux sur les séries trigonométriques, inspirés par ceux de Riemann, l’amènent naturellement, en 1872, à un premier essai de classification des ensembles « exceptionnels » qui se présentent dans cette théorie,$^1$ au moyen de la notion d’« ensembles dérivés » successifs, qu’il introduit à cette occasion. C’est sans doute à propos de ces recherches, et aussi de sa méthode pour définir les nombres réels, que Cantor commence à s’intéresser aux problèmes d’équipotence, car en 1873 il remarque que l’ensemble des nombres rationnels (ou l’ensemble des nombres algébriques) est dénombrable; et dans sa correspondance avec Dedekind, qui débute vers cette date (XXV bis), on le voit poser la question de l’équipotence entre l’ensemble des entiers et l’ensemble des nombres réels, qu’il parvient à résoudre par la négative quelques semaines plus tard. Puis, dès 1874, c’est le problème de la dimension qui le préoccupe, et pendant trois ans, il cherche en vain à établir l’impossibilité d’une correspondance biunivoque entre $\mathbf{R}$ et $\mathbf{R}^n$ ($n > 1$), avant d’arriver, à sa propre stupéfaction,$^2$ à définir une telle correspondance. En possession de ces résultats aussi nouveaux que surprenants, il se consacre entièrement à la théorie des ensembles. Dans une série de 6 mémoires publiés aux Mathematische Annalen entre 1878 et 1884, il aborde à la fois les problèmes d’équipotence, la théorie des

$^1$ Il s’agit des ensembles $E \subset \mathbf{R}$ tels que, si une série trigonométrique $\sum_{-\infty}^{+\infty} c_n e^{nix}$ converge vers 0 sauf aux points de E, on ait nécessairement $c_n = 0$ pour tout $n$ ((XXV), p. 99).

$^2$ « Je le vois, mais je ne le crois pas » écrit-il à Dedekind ((XXV bis), p. 34; en français dans le texte).

ensembles totalement ordonnés, les propriétés topologiques de $\mathbf{R}$ et de $\mathbf{R}^n$ et le problème de la mesure; et il est admirable de voir avec quelle netteté se dégagent peu à peu, entre ses mains, ces notions qui paraissaient si inextricablement enchevêtrées dans la conception classique du « continu ». Dès 1880, il a l’idée d’itérer « transfiniment » la formation des « ensembles dérivés »; mais cette idée ne prend corps que deux ans plus tard, avec l’introduction des ensembles bien ordonnés, une des découvertes les plus originales de Cantor, grâce à laquelle il peut aborder une étude détaillée des nombres cardinaux et formuler le « problème du continu » (XXV).

Il était impossible que des conceptions aussi hardies, renversant une tradition deux fois millénaire, et conduisant à des résultats aussi inattendus et d’apparence si paradoxale, fussent acceptées sans résistance. De fait, parmi les mathématiciens alors influents en Allemagne, Weierstrass fut le seul à suivre avec quelque faveur les travaux de Cantor (son ancien élève); ce dernier devait se heurter par contre à l’opposition irréductible de Schwarz et surtout de Kronecker.¹ C’est, semble-t-il, autant la tension constante engendrée par l’opposition à ses idées, que ses efforts infructueux pour démontrer l’hypothèse du continu, qui amenèrent chez Cantor les premiers symptômes d’une maladie nerveuse dont sa productivité mathématique devait se ressentir.² Il ne reprit vraiment intérêt à la théorie des ensembles que vers 1887, et ses dernières publications datent de 1895–97; il y développe surtout la théorie des ensembles totalement ordonnés et le calcul des ordinaux. Il avait aussi démontré en 1890 l’inégalité $m < 2^n$; cependant, non seulement le problème du continu restait sans réponse, mais il subsistait dans la théorie des cardinaux une lacune plus sérieuse, car Cantor n’avait pu établir l’existence d’une relation de bon ordre entre cardinaux quelconques. Cette lacune devait être comblée, d’une part par le théorème de F. Bernstein (1897) montrant que les relations $a \leq b$ et $b \leq a$ entraînent $a = b$,³ et surtout par le théorème de Zermelo (XXXVI a) prouvant l’existence d’un bon ordre sur tout ensemble — théorème conjecturé dès 1883 par Cantor ((XXV), p. 169).

Cependant Dedekind, dès le début, n’avait cessé de suivre avec un intérêt soutenu les recherches de Cantor; mais alors que ce dernier concentrait son attention sur les ensembles infinis et leur classification, Dedekind poursuivait ses propres réflexions sur la notion de nombre (qui l’avaient déjà conduit à sa définition des nombres irrationnels par les « coupures »). Dans son opuscule Was sind und was sollen die Zahlen, publié en 1888, mais dont l’essentiel date de 1872–78 ((XXVI), t. III, p. 335), il montre comment la notion d’entier naturel (sur la-

¹ Les contemporains de Kronecker ont fait de fréquentes allusions à sa position doctrinale sur les fondements des mathématiques; il est à présumer qu’il s’est exprimé plus explicitement dans les contacts personnels que dans ses publications (où, en ce qui concerne le rôle des entiers naturels, il ne fait que reprendre des remarques sur l’« arithmétisation », assez banales vers 1880) (cf. H. Weber, Leopold Kronecker, Math. Ann., t. XLIII, (1893), p. 1–25, en particulier p. 14–15). ² Sur cette période de la vie de Cantor, voir A. Schoenflies, Acta Math., t. L (1928), p. 1–23. ³ Ce théorème avait déjà été obtenu par Dedekind en 1887, mais sa démonstration ne fut pas publiée ((XXVI), t. III, p. 447).

quelle, on l’a vu, avait fini par reposer toute la Mathématique classique) pouvait elle-même être dérivée des notions fondamentales de la théorie des ensembles. Développant (sans doute le premier de façon explicite) les propriétés élémentaires des applications quelconques d’un ensemble dans un autre (négligées jusque-là par Cantor, qui ne s’intéressait qu’aux correspondances biunivoques), il introduit, pour tout application $f$ d’un ensemble $E$ dans lui-même, la notion de « chaîne » d’un élément $a \in E$ relativement à $f$, savoir l’intersection des ensembles $K \subset E$ tels que $a \in K$ et $f(K) \subset K$.¹ Il prend ensuite comme définition d’un ensemble infini $E$ le fait qu’il existe une application injective $\varphi$ de $E$ dans $E$ telle que $\varphi(E) \neq E^2$; si en outre il existe une telle application $\varphi$ et un élément $a \notin \varphi(E)$ pour lequel $E$ soit la chaîne de $a$, Dedekind dit que $E$ est « simplement infini », remarque que les « axiomes de Peano » sont alors vérifiés et montre (avant Peano) comment à partir de là s’obtiennent tous les théorèmes élémentaires d’arithmétique. Seul manque à son exposé l’axiome de l’infini, que Dedekind (à la suite de Bolzano) croit pouvoir démontrer en considérant le « monde des pensées » humaines (« Gedankenwelt ») comme un ensemble.³

D’un autre côté, Dedekind avait été amené par ses travaux d’arithmétique (et notamment la théorie des idéaux) à envisager la notion d’ensemble ordonné sous un aspect plus général que Cantor. Alors que ce dernier se borne exclusivement aux ensembles totalement ordonnés,⁴ Dedekind aborde le cas général, et fait notamment une étude approfondie des ensembles réticulés ((XXVI), t. II, p. 236–271). Ces travaux ne furent guère remarqués à l’époque; bien que leurs résultats, retrouvés par divers auteurs, aient fait l’objet de nombreuses publications depuis 1935, leur importance historique tient bien moins aux possibilités d’application, assez minces sans doute, de cette théorie, qu’au fait qu’ils ont

¹ C’est sur une notion très analogue que repose la seconde démonstration donnée par Zermelo de son théorème ((XXXVI b); voir III, p. 75, exerc. 6).

² Nous avons vu que Bolzano avait déjà noté cette caractérisation des ensembles infinis, mais son travail (assez peu répandu, semble-t-il, dans les milieux mathématiques) était inconnu de Dedekind au moment où celui-ci écrivait « Was sind und was sollen die Zahlen ».

³ Une autre méthode pour définir la notion d’entier naturel et pour en établir les propriétés fondamentales avait été proposée par Frege en 1884 (XXIV b). Il cherche tout d’abord à donner à la notion de cardinal d’un ensemble un sens plus précis que Cantor; à cette époque ce dernier n’avait défini que les notions d’ensembles équipotents et d’ensemble ayant une puissance au plus égale à celle d’un autre, et la définition de « nombre cardinal » qu’il devait donner plus tard ((XXV), p. 282) est aussi obscure et inutilisable que la définition de la droite chez Euclide. Frege, toujours soucieux de précision, a l’idée de prendre comme définition du cardinal d’un ensemble $A$ l’ensemble de tous les ensembles équipotents à $A$ ((XXIV b), § 68); puis, ayant défini $\varphi(a) = a + 1$ pour tout cardinal ($\S 76$), il se place dans l’ensemble $C$ de tous les cardinaux, et définit la relation « $b$ est un $\varphi$-successeur de $a$ » comme signifiant que $b$ appartient à l’intersection de tous les ensembles $X \subset C$ tels que $\varphi(a) \in X$ et $\varphi(X) \subset X$ ($\S 79$). Enfin, il définit un entier naturel comme un $\varphi$-successeur de $0$ ($\S 83$; toutes ces définitions sont bien entendu exprimées par Frege dans son langage de la « logique des concepts »). Malheureusement, cette construction devait se révéler défectueuse, l’ensemble $C$ et l’ensemble des ensembles équipotents à un ensemble $A$ étant « paradoxaux » (voir ci-dessous).

⁴ Il est curieux de noter que, parmi ces derniers, Cantor ne voulut jamais admettre l’existence des groupes ordonnés « non archimédiens » parce qu’ils introduisaient la notion d’« infiniment petit actuel » ((XXV), p. 156 et 172). De telles relations d’ordre s’étaient naturellement présentées dans les recherches de Du Bois-Reymond sur les ordres d’infinitude (cf. Note hist. de FVR, VI) et furent étudiées de façon systématique par Veronese (Fundamenta di geometria, Padova, 1891).

constitué un des premiers exemples de construction axiomatique soignée. Par contre, les premiers résultats de Cantor sur les ensembles dénombrables ou ayant la puissance du continu devaient rapidement avoir de multiples et importantes applications jusque dans les questions les plus classiques de l’Analyse¹ (sans parler naturellement des parties de l’œuvre cantorienne qui inauguraient la Topologie générale et la théorie de la mesure; voir là-dessus les Notes historiques de TG et INT). En outre, dès les dernières années du xixe siècle apparaissent les premières utilisations du principe d’induction transfinie, devenu, surtout après la démonstration du théorème de Zermelo, un outil indispensable dans toutes les parties des mathématiques modernes. Kuratowski devait, en 1922, donner une version souvent plus maniable de ce principe, évitant l’utilisation des ensembles bien ordonnés ((XL), p. 89); c’est sous cette forme, retrouvée plus tard par Zorn (XLV), qu’il est principalement employé à l’époque actuelle.²

Vers la fin du xixe siècle, les conceptions essentielles de Cantor avaient donc gain de cause.³ Nous avons vu que, vers cette même époque, la formalisation des mathématiques s’achève et que l’emploi de la méthode axiomatique est à peu près universellement admis. En d’autres termes, le travail intense des années 1875–1895 avait mis les mathématiciens en possession de l’essentiel des matières exposées dans ce Livre. Cependant, c’est à cette même époque que s’ouvrait une « crise des fondements » d’une rare violence, qui allait secouer le monde mathématique pendant plus de 30 ans, et sembler par moments compromettre, non seulement toutes ces acquisitions récentes, mais même les parties les plus classiques de la Mathématique.

Les paradoxes de la théorie des ensembles et la crise des fondements

Les premiers ensembles « paradoxaux » apparurent dans la théorie des cardinaux et des ordinaux. En 1897, Burali-Forti remarque que l’on ne peut considérer qu’il existe un ensemble formé de tous les ordinaux, car cet ensemble serait bien ordonné, et par suite isomorphe à un de ses segments distincts de lui-même, ce qui est absurde.⁴ En 1899, Cantor observe (dans une lettre à Dedekind) que l’on ne peut non plus dire que les cardinaux forment un ensemble, ni parler

¹ Dès 1874, Weierstrass avait signalé, dans une lettre à Du Bois-Reymond, une application aux fonctions de variable réelle du théorème de Cantor sur la possibilité de ranger les nombres rationnels en une suite (Acta Math., t. XXX (1924), p. 206).

² De ce fait, l’intérêt qui s’attachait aux ordinaux de Cantor a beaucoup décru; d’une façon générale, d’ailleurs, beaucoup des résultats de Cantor et de ses successeurs sur l’arithmétique des ordinaux et les cardinaux non dénombrables sont jusqu’ici restés assez isolés.

³ La consécration officielle de la théorie des ensembles se manifeste dès le premier Congrès international des mathématiciens (Zurich, 1897), où Hadamard et Hurwitz en signalent d’importantes applications à l’Analyse. L’influence grandissante de Hilbert à cette époque contribua beaucoup à répandre les idées de Cantor, surtout en Allemagne.

⁴ C. Burali-Forti, Sopra un teorema del Sig. G. Cantor, Atti Acad. Torino, t. XXXII (1896–97), p. 229–237. Cette remarque avait déjà été faite par Cantor en 1896 (dans une lettre à Hilbert, non publiée).

de « l’ensemble de tous les ensembles » sans aboutir à une contradiction (l’ensemble des parties de ce dernier « ensemble » $\Omega$ serait équipotent à une partie de $\Omega$, ce qui est contraire à l’inégalité $m < 2^{m}$) ((XXV), p. 444–448). En 1905 enfin, Russell, analysant la démonstration de cette inégalité, montre que le raisonnement qui l’établit prouve (sans faire appel à la théorie des cardinaux) que la notion de « l’ensemble des ensembles qui ne sont pas éléments d’eux-mêmes » est, elle aussi, contradictoire (XXXVII).

On pouvait penser que de telles « antinomies » ne se manifesterait que dans des régions périphériques des mathématiques, caractérisées par la considération d’ensembles d’une « grandeur » inaccessible à l’intuition. Mais d’autres « paradoxes » devaient bientôt menacer les parties les plus classiques des mathématiques. Berry et Russell (XXXVII), simplifiant un raisonnement de J. Richard (XXXIV), observent en effet que l’ensemble des entiers dont la définition peut s’exprimer en moins de seize mots français est fini, mais qu’il est cependant contradictoire de définir un entier comme « le plus petit entier qui n’est pas définissable en moins de seize mots français », car cette définition ne comporte que quinze mots.

Bien que de tels raisonnements, si éloignés de l’usage courant des mathématiciens, aient pu paraître à beaucoup d’entre eux comme des sortes de calembours, ils n’en indiquaient pas moins la nécessité d’une révision des bases des mathématiques, destinée à éliminer les « paradoxes » de cette nature. Mais s’il y avait unanimité sur l’urgence de cette révision, des divergences radicales devaient bientôt surgir touchant la manière de la réaliser. Pour un premier groupe de mathématiciens, soit « idéalistes », soit « formalistes »,² la situation créée par les « paradoxes » de la théorie des ensembles est très analogue à celle qui résultait, en géométrie, de la découverte des géométries non-euclidiennes ou des courbes « pathologiques » (comme les courbes sans tangente); elle doit conduire à une conclusion semblable, mais plus générale, savoir qu’il est vain de chercher à fonder une théorie mathématique quelconque par un appel (explicite ou non) à l’« intuition ». On peut résumer cette position avec les mots mêmes du principal adversaire de l’école formaliste: « Le formaliste », dit Brouwer ((XXXVIII a), p. 83), « soutient que la raison humaine n’a pas à sa disposition d’images exactes des lignes droites ou des nombres supérieurs à dix, par exemple... Il est vrai que de certaines relations entre entités mathématiques, que nous prenons comme axiomes, nous déduisons d’autres relations d’après des règles fixes, avec la conviction que de cette façon nous dérivons des

¹ Le raisonnement de Russell est à rapprocher des paradoxes antiques dont le type est le célèbre « Menteur », sujet d’innombrables commentaires dans la Logique formelle classique: il s’agit de savoir si l’homme qui dit « Je mens » dit ou non la vérité en prononçant ces paroles (cf. A. Rüstow, Der Lügner, Diss. Erlangen, 1910).

² Les divergences entre ces deux écoles sont surtout d’ordre philosophique, et nous ne pouvons ici entrer dans plus de détails à ce sujet; l’essentiel est qu’elles se rejoignent sur le terrain proprement mathématique. Par exemple, Hadamard, représentant typique des « idéalistes », adopte, en ce qui concerne la validité des raisonnements de théorie des ensembles, un point de vue très voisin des formalistes, mais sans l’exprimer sous une forme axiomatique ((XXXV), p. 271).

vérités d’autres vérités par un raisonnement logique... [Mais] pour le formaliste, l’exactitude mathématique ne réside que dans le développement de la suite des relations, et est indépendante de la signification que l’on pourrait vouloir donner à ces relations ou aux entités qu’elles relient. »

Il s’agit donc, pour le formaliste, de donner à la théorie des ensembles une base axiomatique tout à fait analogue à celle de la géométrie élémentaire, où on ne s’occupe pas de savoir ce que sont les « choses » que l’on appelle « ensembles », ni ce que signifie la relation $x \in y$, mais où on énumère les conditions imposées à cette dernière relation; bien entendu, cela doit être fait de façon à inclure, autant que possible, tous les résultats de la théorie de Cantor, tout en rendant impossible l’existence des ensembles « paradoxaux ». Le premier exemple d’une telle axiomatisation fut donné par Zermelo en 1908 (XXXVI c); il évite les ensembles « trop grands » par l’introduction d’un « axiome de sélection (Aussonderung) », une propriété $P\{x\}$ ne déterminant un ensemble formé des éléments qui la possèdent que si $P\{x\}$ entraîne déjà une relation de la forme $x \in A$.\footnote{Par exemple, le paradoxe de Russell ne deviendrait valable dans le système de Zermelo que si l’on y démontrait la relation $(\exists z)((x \notin x) \Rightarrow (x \in z))$; bien entendu, une telle démonstration, si l’on venait à l’obtenir, aurait pour conséquence immédiate la nécessité d’une modification substantielle du système en question.} Mais l’élimination des paradoxes analogues au « paradoxe de Richard » ne pouvait se faire qu’en restreignant le sens attaché à la notion de « propriété »; là-dessus, Zermelo se contente de décrire de façon fort vague un type de propriétés qu’il appelle « \emph{definit} », et d’indiquer qu’il faut se limiter à ces dernières dans l’application de l’axiome de sélection. Ce point fut précisé par Skolem (XXXIX) et Fraenkel (XLI)\footnote{Skolem (XXXIX) et Fraenkel (XLI) ont aussi remarqué que les axiomes de Zermelo ne permettaient pas de démontrer, par exemple, l’existence de cardinaux non dénombrables $m$ tels que, pour tout cardinal $n < m$, on ait $2^n < m$. On a vu (III, p. 90, exerc. 21) qu’en renforçant l’axiome de sélection (schéma S8, II, p. 4), on peut démontrer l’existence de tels cardinaux; l’axiome ainsi introduit est une variante de ceux proposés par Skolem et Fraenkel.}; comme l’observèrent ceux-ci, son élucidation exige qu’on se place dans un système complètement formalisé (comme celui décrit dans les chap. I et II de ce Livre), où les notions de « propriété » et de « relation » ont perdu toute « signification » et sont devenues de simples désignations pour des assemblages formés suivant des règles explicites. Cela nécessite bien entendu qu’on fasse entrer dans le système les règles de Logique utilisées, ce qui n’était pas encore le cas dans le système de Zermelo-Fraenkel; à cela près, c’est essentiellement ce dernier système qui a été décrit aux chap. I et II.

D’autres axiomatisations de la théorie des ensembles ont été proposées par la suite. Citons principalement celle de von Neumann (XLIII $a$ et $b$) qui, plus que le système de Zermelo-Fraenkel, se rapproche de la conception primitive de Cantor: ce dernier, pour éviter les ensembles paradoxaux, avait déjà proposé ((XXV), p. 445–448), dans sa correspondance avec Dedekind, de distinguer deux sortes d’ensembles, les « multiplicités » (« Vielheiten ») et les « ensembles » (« Mengen ») proprement dits, les seconds se caractérisant en ce qu’ils peuvent être pensés comme un seul objet. C’est cette idée que précise von Neumann en distinguant deux types d’objets, les « ensembles » et les « classes »; dans son système (à peu près complètement formalisé), les classes se distinguent des ensembles en ce qu’elles ne peuvent être placées à gauche du signe $\in$. Un des avantages d’un tel système est qu’il réhabilite la notion de « classe universelle » utilisée par les logiciens du xixe siècle (qui naturellement n’est pas un ensemble); signalons aussi que le système de von Neumann évite (pour la théorie des ensembles) l’introduction de schémas d’axiomes, remplacés par des axiomes convenables (ce qui en rend l’étude logique plus facile). Des variantes du système de von Neumann ont été données par Bernays et Gödel (XLIV b).

L’élimination des paradoxes semble bien obtenue par les systèmes précédents, mais au prix de restrictions qui ne peuvent manquer de paraître très arbitraires. À la décharge du système de Zermelo-Fraenkel, on peut dire qu’il se borne à formuler des interdictions qui ne font que sanctionner la pratique courante dans les applications de la notion d’ensemble aux diverses théories mathématiques. Les systèmes de von Neumann et de Gödel sont plus éloignés des conceptions usuelles; en revanche, il n’est pas exclu qu’il soit plus aisé d’insérer certaines théories mathématiques encore à leur début dans le cadre fourni par de tels systèmes plutôt que dans le cadre plus étroit du système de Zermelo-Fraenkel.

On ne saurait certes affirmer qu’aucune de ces solutions donne l’impression d’être définitive. Si elles satisfont les formalistes, c’est que ces derniers refusent de prendre en considération les réactions psychologiques individuelles de chaque mathématicien; ils estiment qu’un langage formalisé a rempli sa tâche lorsqu’il peut transcrire les raisonnements mathématiques sous une forme dépourvue d’ambiguïté, et servir ainsi de véhicule à la pensée mathématique; libre à chacun, diraient-ils, de penser ce qu’il voudra sur la « nature » des êtres mathématiques ou la « vérité » des théorèmes qu’il utilise, pourvu que ses raisonnements puissent être transcrits dans le langage commun.¹

En d’autres termes, du point de vue philosophique, l’attitude des formalistes consiste à se désintéresser du problème posé par les « paradoxes », en abandonnant la position platonicienne qui visait à attribuer aux notions mathématiques un « contenu » intellectuel commun à tous les mathématiciens. Beaucoup de mathématiciens reculent devant cette rupture avec la tradition. Russell, par exemple, cherche à éviter les paradoxes en analysant leur structure de façon plus approfondie. Reprenant une idée émise d’abord par J. Richard (dans l’article (XXXIV) où il exposait son « paradoxe ») et développée ensuite par H. Poincaré (XXXIII c), Russell et Whitehead observent que les définitions des ensembles paradoxaux

¹ Hilbert, toutefois, paraît avoir toujours cru à une « vérité » mathématique objective ((XXX), p. 315 et 323). Même des formalistes qui, comme H. Curry, ont une position très voisine de celle que nous venons de résumer, repoussent avec une sorte d’indignation l’idée que les mathématiques pourraient être considérées comme un simple jeu, et veulent absolument y voir une « science objective » (H. Curry, Outlines of a formalist philosophy of mathematics, Amsterdam (North Holland Publ. Co.), 1951, p. 57).

violent toutes le principe suivant, dit « principe du cercle vicieux » : « Un élément dont la définition implique la totalité des éléments d’un ensemble, ne peut appartenir à cet ensemble » ((XXXVII), t. I, p. 40). Aussi est-ce cet énoncé qui sert de base aux Principia, et c’est pour le respecter qu’est développée dans cet ouvrage la « théorie des types ». Comme celle de Frege dont elle est inspirée, la logique de Russell et Whitehead (beaucoup plus vaste que la logique mathématique utilisée au chap. I de ce Livre) possède des « variables propositionnelles »; la théorie des types procède à un classement entre ces diverses variables, dont les grandes lignes sont les suivantes. Partant d’un « domaine d’individus » non précisés et qui peuvent être qualifiés d’« objets d’ordre 0 », les relations où les variables (libres ou liées) sont des individus, sont dites « objets du premier ordre »; et de façon générale, les relations où les variables sont des objets d’ordre $\leq n$ (une au moins étant d’ordre $n$) sont dites « objets d’ordre $n + 1$ ».¹ Un ensemble d’objets d’ordre $n$ ne peut alors être défini que par une relation d’ordre $n + 1$, condition qui permet d’éliminer sans peine les ensembles paradoxaux.² Mais le principe de la « hiérarchie des types » est si restrictif qu’en y adhérant strictement on aboutirait à une mathématique d’une inextricable complexité.³ Pour échapper à cette conséquence, Russell et Whitehead sont contraints d’introduire un « axiome de réductibilité » affirmant l’existence, pour toute relation entre « individus », d’une relation du premier ordre, qui lui soit équivalente; condition tout aussi arbitraire que les axiomes des formalistes, et qui réduit considérablement l’intérêt de la construction des Principia. Aussi le système de Russell et Whitehead a-t-il eu plus de succès chez les logiciens que chez les mathématiciens; il n’est d’ailleurs pas entièrement formalisé,⁴ et il en résulte de nombreuses obscurités de détail. Divers efforts ont été faits pour simplifier et clarifier ce système (Ramsey, Chwistek, Quine, Rosser); tendant à utiliser des langages de plus en plus complètement formalisés, ces auteurs remplacent les règles des Principia (qui avaient encore un certain fondement intuitif) par des restrictions ne tenant compte que de l’écriture des assemblages considérés; non seulement ces règles paraissent alors tout aussi gratuites que les interdictions formulées dans les systèmes de Zermelo-

¹ Ce n’est là en réalité que le début de la classification des « types », dont on ne saurait rendre compte fidèlement sans entrer dans de très longs développements; le lecteur désireux d’explications plus détaillées pourra se reporter notamment à l’introduction du t. II des Principia Mathematica (XXXVII).

² Dans le système de Russell et Whitehead, la relation $x \in x$ ne peut donc être écrite légitimement, au contraire du système de Zermelo-Fraenkel, par exemple (cf. II, p. 3).

³ Par exemple, l’égalité n’est pas une notion primitive dans le système des Principia: deux objets $a, b$ sont égaux si pour toute propriété $P\{x\}, P\{a\}$ et $P\{b\}$ sont des propositions équivalentes. Mais cette définition n’a pas de sens en théorie des types: il faudrait, pour lui en donner un, spécifier au moins l’« ordre » de $P$, et on serait ainsi amené à distinguer une infinité de relations d’égalité! Zermelo avait d’ailleurs remarqué, dès 1908 (XXXVI b), que de nombreuses définitions des mathématiques classiques (par exemple celle de la borne inférieure d’un ensemble dans $\mathbf{R}$) ne respectent pas le « principe du cercle vicieux », et que l’adoption de ce principe risquait donc de jeter l’interdit sur des parties importantes des théories mathématiques les plus traditionnelles.

⁴ Russell et Whitehead (comme déjà Frege) s’en tiennent à la position classique touchant les formules mathématiques, qui doivent toujours pour eux avoir un « sens » se rapportant à une activité sous-jacente de la pensée.

Fraenkel ou de von Neumann, mais, étant plus éloignées de la pratique des mathématiciens, elles ont, dans plusieurs cas, conduit à des conséquences inacceptables, que n’avait pas prévues l’auteur (comme la paradoxe de Burali-Forti, ou la négation de l’axiome de choix).

Pour les mathématiciens des écoles précédentes, il s’agit avant tout de ne renoncer à aucune part de l’héritage du passé : « Du paradis que Cantor a créé pour nous », dit Hilbert ((XXX), p. 274), « nul ne doit pouvoir nous chasser. » Pour ce faire, ils sont disposés à accepter des limitations aux raisonnements mathématiques, peu essentielles parce que conformes à l’usage, mais qui ne paraissent pas imposées par nos habitudes mentales et l’intuition de la notion d’ensemble. Tout leur semble préférable à l’intrusion de la psychologie dans les critères de validité des mathématiques; et plutôt que de « faire entrer en ligne de compte les propriétés de nos cerveaux », comme dit Hadamard ((XXXV), p. 370), ils se résignent à imposer au domaine mathématique des bornes en grande partie arbitraires pourvu qu’elles enferment la Mathématique classique et ne risquent pas d’entraver les progrès ultérieurs.

Toute différente est l’attitude des mathématiciens se rattachant à la tendance dont il nous reste à parler. Si les formalistes acceptent de renoncer au contrôle des « yeux de l’esprit » en ce qui concerne le raisonnement mathématique, les mathématiciens que l’on a appelé « empiristes », « réalistes » ou « intuitionnistes » se refusent à cette abdication; il leur faut une sorte de certitude intérieure garantissant l’« existence » des objets mathématiques dont ils s’occupent. Tant qu’il ne s’agissait que de renoncer à l’intuition spatiale, il n’y avait pas eu d’objection sérieuse, puisque les « modèles » arithmétiques permettaient de se retrancher derrière la notion intuitive des entiers. Mais des oppositions irréductibles se manifestent lorsqu’il est question de ramener la notion d’entier à celle (beaucoup moins précise intuitivement) d’ensemble, puis d’imposer au maniement des ensembles des barrières sans fondement intuitif. Le premier en date de ces opposants (et celui qui, par l’autorité de son génie, devait exercer le plus d’influence) fut H. Poincaré; ayant admis, non seulement le point de vue axiomatique touchant la géométrie et l’arithmétisation de l’Analyse, mais aussi une bonne partie de la théorie de Cantor (qu’il fut un des premiers à appliquer avec fruit dans ses travaux), il se refuse par contre à concevoir que l’arithmétique puisse, elle aussi, être justiciable d’un traitement axiomatique; le principe d’induction complète lui paraît en particulier une intuition fondamentale de notre esprit, où il est impossible de voir une pure convention¹ (XXXIII c). Hostile par principe aux langages formalisés, dont il contestait l’utilité, il confond constamment la notion d’entier dans les mathématiques formalisées, et

¹ Poincaré va jusqu’à dire en substance qu’il est impossible de définir une structure vérifiant tous les axiomes de Peano, à l’exception du principe d’induction complète (XXXIII a); l’exemple (dû à Padoa) des entiers avec l’application $x \mapsto x + 2$ remplaçant $x \mapsto x + 1$ montre que cette assertion est inexacte. Il est curieux de la trouver déjà chez Frege, presque dans les mêmes termes ((XXIV b), p. 21 e).

l’utilisation des entiers dans la théorie de la démonstration, qui s’ébauchait alors, et dont nous parlerons plus loin ; sans doute était-il difficile à cette époque de faire aussi nettement qu’aujourd’hui — après 50 années d’études et de discussion — cette distinction qu’avaient pourtant bien sentie un Hilbert ou un Russell.

Les critiques de cette nature se multiplient après l’introduction de l’axiome de choix par Zermelo en 1904 (XXXVI a). Son utilisation dans mainte démonstration antérieure d’Analyse ou de théorie des ensembles était jusque-là passée à peu près inaperçue¹ ; c’est en suivant une idée suggérée par Erhard Schmidt que Zermelo, énonçant explicitement cet axiome (d’ailleurs sous les deux formes données dans E, R, § 4, n° 10) en déduisit de façon ingénieuse une démonstration satisfaisante (que nous avons essentiellement reproduite dans III, p. 19) de l’existence d’un bon ordre sur tout ensemble. Venant en même temps que les « paradoxes », il semble que ce nouveau mode de raisonnement, par son allure insolite, ait jeté la confusion chez beaucoup de mathématiciens ; il n’est que de voir les étranges malentendus qui surgissent à ce propos, dans le tome suivant des Mathematische Annalen, sous la plume de mathématiciens aussi familiers avec les méthodes cantoriennes que Schoenflies et F. Bernstein. Les critiques d’E. Borel, publiées dans ce même volume, sont plus substantielles et se rattachent nettement au point de vue exprimé par H. Poincaré sur les entiers ; elles sont développées et discutées dans un échange de lettres entre E. Borel, Baire, Hadamard et Lebesgue, resté classique dans la tradition mathématique française (XXXV). Borel commence par nier la validité de l’axiome de choix parce qu’il comporte en général une infinité non dénombrable de choix, ce qui est inconcevable pour l’intuition. Mais Hadamard et Lebesgue observent que l’infinité dénombrable de choix arbitraires successifs n’est pas plus intuitive, puisqu’elle comporte une infinité d’opérations, qu’il est impossible de concevoir comme s’effectuant réellement. Pour Lebesgue, qui élargit le débat, tout revient à savoir ce qu’on entend quand on dit qu’un être mathématique « existe » ; il faut, pour lui, qu’on « nomme » explicitement une propriété le définissant de façon unique (une propriété « fonctionnelle », dirions-nous) ; pour une fonction comme celle qui sert à Zermelo dans son raisonnement, c’est ce que Lebesgue appelle une « loi » de choix ; si, continue-t-il, on ne satisfait pas à cette exigence, et qu’on se borne à « penser » à cette fonction au lieu de la « nommer », est-on sûr qu’au cours du raisonnement on pense toujours à la même ((XXXV), p. 267) ? D’ailleurs, ceci amène Lebesgue à de nouveaux doutes ; déjà la question du choix d’un seul élément dans un ensemble lui paraît soulever des difficultés : il faut qu’on soit sûr qu’un tel élément « existe », c'est-à-dire qu'on puisse « nommer » au moins un des éléments de l'ensemble¹. Peut-on alors parler d'« existence » d'un ensemble dont on ne sait pas « nommer » chaque élément? Déjà Baire n'hésite pas à nier l'« existence » de l'ensemble des parties d'un ensemble infini donné (loc. cit., p. 263–264); en vain Hadamard observe-t-il que ces exigences conduisent à renoncer même à parler de l'ensemble des nombres réels: c'est bien à cette conclusion que finit par se rallier E. Borel. Mis à part le fait que le dénombrable semble avoir acquis droit de cité, on est à peu près revenu à la position classique des adversaires de l'« infini actuel ».

Toutes ces objections n'avaient rien de très systématique; il était réservé à Brouwer et à son école d'entreprendre une refonte complète des mathématiques guidée par des principes semblables, mais encore bien plus radicaux. Nous ne saurions ici entreprendre de résumer une doctrine aussi complexe que l'intuitionnisme, qui participe autant de la psychologie que des mathématiques, et nous nous bornerons à en indiquer quelques-uns des traits les plus frappants, renvoyant pour plus de détails aux travaux de Brouwer lui-même (XXXVIII) et à l'exposé de Heyting (XLVI). Pour Brouwer, la Mathématique est identique à la partie « exacte » de notre pensée, basée sur l'intuition première de la suite des entiers naturels, et qu'il est impossible de traduire sans mutilations en un système formel. Elle n'est d'ailleurs « exacte » que dans l'esprit des mathématiciens, et il est chimérique d'espérer forger un instrument de communication entre eux qui ne soit pas sujet à toutes les imperfections et ambiguïtés du langage; on peut, tout au plus, espérer éveiller chez l'interlocuteur un état d'esprit favorable par des descriptions plus ou moins vagues ((XLVI), p. 11–13). La mathématique intuitionniste n'attache guère plus d'importance à la logique qu'au langage: une démonstration n'est pas concluante en vertu de règles logiques fixées une fois pour toutes, mais en raison de l'« évidence immédiate » de chacun de ses chaînons. Cette « évidence » doit en outre être interprétée de façon encore plus restrictive que par E. Borel et ses partisans: c'est ainsi qu'en mathématique intuitionniste, on ne peut dire qu'une relation de la forme « R ou (non R) » est vraie (principe du tiers exclu), à moins que, pour tout système de valeurs données aux variables figurant dans R, on ne puisse démontrer que l'une des deux propositions R, « non R » est vraie; par exemple, de l'équation $ab = 0$ entre deux nombres réels, on ne peut conclure « $a = 0$ ou $b = 0$ », car il est facile de former des exemples explicites de nombres réels $a, b$ pour lesquels on a $ab = 0$ sans que l'on sache, à l'heure actuelle, démontrer aucune des deux propositions $a = 0, b = 0$ ((XLVI), p. 21).

¹ Le prétendu « choix » d'un élément dans un ensemble n'a en fait rien à voir avec l'axiome de choix; il s'agit d'une simple façon de parler, et partout où on s'exprime de cette manière, on ne fait en réalité qu'utiliser la méthode de la constante auxiliaire (I, p. 28), qui ne repose que sur les règles logiques les plus élémentaires (où le signe $\tau$ n'intervient pas). Bien entendu, l'application de cette méthode à un ensemble A exige que l'on ait démontré que $A \neq \varnothing$; c'est sur ce point que porte l'argumentation de Lebesgue, car une telle démonstration n'est valable pour lui que si précisément on a « nommé » un élément de A. Par exemple, Lebesgue ne considère pas comme valable le raisonnement de Cantor prouvant l'existence des nombres transcendants; cette existence n'est prouvée pour lui que parce qu'il est possible de « nommer » des nombres transcendants, tels que les nombres de Liouville ou les nombres $e$ ou $\pi$.

On ne s’étonnera pas si, à partir de tels principes, les mathématiciens intuitionnistes aboutissent à des résultats fort différents des théorèmes classiques. Toute une partie de ces derniers disparaît, par exemple la plupart des théorèmes « existentiels » en Analyse (comme les théorèmes de Bolzano et de Weierstrass pour les fonctions numériques); si une fonction d’une variable réelle « existe » au sens intuitionniste, elle est ipso facto continue; une suite bornée monotone de nombres réels n’a pas nécessairement de limite. D’autre part, beaucoup de notions classiques se ramifient, pour l’intuitionniste, en plusieurs notions fondamentalement distinctes: il y a ainsi deux notions de convergence (pour une suite de nombres réels) et huit de dénombrabilité. Il va sans dire que l’induction transfinie et ses applications à l’Analyse moderne sont (comme la plus grande partie de la théorie de Cantor) condamnées sans appel.

C’est seulement de cette façon, selon Brouwer, que les propositions mathématiques peuvent acquérir un « contenu »; les raisonnements formalistes qui vont au-delà de ce qu’admet l’intuitionnisme sont jugés sans valeur, puisque l’on ne peut plus leur donner un « sens » auquel la notion intuitive de « vérité » pourrait s’appliquer. Il est clair que de pareils jugements ne peuvent reposer que sur une notion préalable de « vérité », de nature psychologique ou métaphysique. C’est dire pratiquement qu’ils échappent à toute discussion.

Il n’est pas douteux que les vigoureuses attaques venues du camp intuitionniste n’aient forcé quelque temps non seulement les écoles mathématiques d’avant-garde, mais même les partisans de la mathématique traditionnelle, à se mettre sur la défensive. Un mathématicien célèbre a reconnu avoir été impressionné par ces attaques au point d’avoir volontairement renfermé ses travaux dans des branches des mathématiques jugées « sûres ». Mais de tels cas ont dû être peu fréquents. L’école intuitionniste, dont le souvenir n’est sans doute destiné à subsister qu’à titre de curiosité historique, aura du moins rendu le service d’avoir obligé ses adversaires, c’est-à-dire en définitive l’immense majorité des mathématiciens, à préciser leurs positions et à prendre plus clairement conscience des raisons (les unes d’ordre logique, les autres d’ordre sentimental) de leur confiance dans la mathématique.

La métamathématique

L’absence de contradiction a de tout temps été considérée comme une condition sine qua non de toute mathématique, et dès l’époque d’Aristote, la logique était assez développée pour qu’on sût parfaitement que d’une théorie contradictoire, on peut déduire n’importe quoi. Les preuves d’« existence », considérées comme indispensables depuis l’Antiquité, n’avaient visiblement pas d’autre but que de garantir que l’introduction d’un nouveau concept ne risquait pas d’entraîner contradiction, particulièrement quand ce concept était trop compliqué pour tomber immédiatement sous l’« intuition ». Nous avons vu comment cette exigence était devenue plus impérieuse avec l’avènement du point de vue axiomatique au xixe siècle, et comment la construction de « modèles » arithmétiques y avait répondu. Mais l’arithmétique elle-même pouvait-elle être contradictoire? Question qu’on n’aurait sans doute pas songé à se poser avant la fin du xixe siècle, tant les entiers paraissaient appartenir à ce qu’il y a de plus sûr dans notre intuition; mais après les « paradoxes » tout semblait remis en question, et on comprend que le sentiment d’insécurité qu’ils avaient créé ait conduit les mathématiciens, vers 1900, à se pencher avec plus d’attention sur le problème de la non-contradiction de l’arithmétique, afin de sauver au moins du naufrage les mathématiques classiques. Aussi ce problème est-il le second de ceux qu’énumérait Hilbert dans sa célèbre conférence au Congrès international de 1900 ((XXXI), p. 229–301). Ce faisant, il posait un principe nouveau qui devait avoir un grand retentissement: alors que dans la logique traditionnelle la non-contradiction d’un concept ne faisait que le rendre « possible », elle équivaut pour Hilbert (tout au moins pour les concepts mathématiques définis axiomatiquement) à l’existence de ce concept. Cela impliquait apparemment la nécessité de démontrer a priori la non-contradiction d’une théorie mathématique avant même de pouvoir la développer de façon légitime; c’est bien ainsi que l’entend H. Poincaré qui, pour battre en brèche le formalisme, reprend à son compte l’idée de Hilbert, en soulignant avec un malin plaisir à quel point les formalistes étaient loin à cette époque de pouvoir la réaliser ((XXXIII c), p. 163). Nous verrons plus loin comment Hilbert devait relever le défi; mais auparavant il nous faut noter ici que, sous l’influence de son autorité et de celle de Poincaré, les exigences posées par ce dernier devaient pendant longtemps être acceptées sans réserve aussi bien par les formalistes que par leurs adversaires. Une conséquence fut la croyance, très répandue aussi chez les formalistes, que la théorie de la démonstration de Hilbert faisait partie intégrante de la mathématique, dont elle constituait les indispensables prolégomènes. Nous avons dit dans l’Introduction pourquoi ce dogme ne nous paraît pas justifié¹, et nous considérons que l’intervention de la métamathématique dans l’exposé de la logique et des mathématiques peut et doit être réduite à la partie très élémentaire qui traite du maniement des symboles abréviateurs et des critères déductifs. Il ne s’agit pas ainsi, contrairement à ce que prétend Poincaré, de « revendiquer la liberté de la contradiction », mais bien plutôt de considérer, avec Hadamard, que l’absence de contradiction, lors même qu’elle ne se démontre pas, se constate ((XXXV), p. 270).

Il nous reste à donner une brève esquisse historique des efforts de Hilbert et de son école; bien que la théorie de la démonstration ne soit pas abordée

¹ En pure doctrine formaliste, les mots « il existe » dans un texte formalisé n’ont pas plus de « signification » que les autres, et il n’y a pas à considérer d’autre type d’« existence » dans les démonstrations formalisées.

dans ce Traité, il n’est pas sans intérêt de retracer sommairement, non seulement l’évolution qui devait finalement conduire au résultat négatif de Gödel et justifier a posteriori le scepticisme d’Hadamard, mais aussi tous les progrès qui en ont dé- coulé, touchant la connaissance du mécanisme des raisonnements mathématiques, et qui font de la métamathématique moderne une science autonome d’un intérêt incontestable.

Dès 1904, dans une conférence au Congrès international ((XXX), p. 247–261), Hilbert s’attaque au problème de la non-contradiction de l’arithmétique. Il constate d’abord qu’il ne peut être question de la démontrer en ayant recours à un modèle,¹ et indique à grands traits le principe d’une autre méthode : il propose de considérer les propositions vraies de l’arithmétique formalisée comme des assemblages de signes sans signification, et de prouver qu’en utilisant les règles gouvernant la formation et l’enchaînement de ces assemblages, on ne peut jamais obtenir un assemblage qui soit une proposition vraie et dont la négation soit aussi une proposition vraie. Il ébauche même une démonstration de cette nature pour un formalisme moins étendu que celui de l’arithmétique ; mais, comme l’observe peu après H. Poincaré ((XXXIII c), p. 185), cette démonstration fait essentiellement usage du principe de récurrence, et paraît donc reposer sur un cercle vicieux. Hilbert ne répondit pas immédiatement à cette critique, et une quinzaine d’années s’écoula sans que personne tentât de développer ses idées ; c’est en 1917 seulement que (mû par le désir de répondre aux attaques des intuitionnistes) il s’attelle de nouveau au problème des fondements des mathématiques, dont il ne cessera désormais de s’occuper jusqu’à la fin de sa carrière scientifique. Dans ses travaux sur ce sujet, qui s’échelonnent de 1920 à 1930 environ, et auxquels participe activement toute une école de jeunes mathématiciens (Ackermann, Bernays, Herbrand, von Neumann), Hilbert dégage peu à peu les principes de sa « théorie de la démonstration » de façon plus précise : reconnaissant implicitement le bien-fondé de la critique de Poincaré, il admet qu’en métamathématique, les raisonnements arithmétiques utilisés ne peuvent se fonder que sur notre intuition des entiers (et non sur l’arithmétique formalisée) ; pour ce faire, il paraît essentiel de restreindre ces raisonnements à des « procédés finis » (« finite Prozesse ») d’un type admis par les intuitionnistes ; par exemple, une démonstration par l’absurde ne peut prouver l’existence métamathématique d’un assemblage ou d’une suite d’assemblages, il faut en donner une loi de construction explicite.² D’autre part Hilbert élargit dans deux directions son programme initial : non seulement il aborde la non-contradiction de l’arithmétique, mais il aspire aussi à démontrer la non-contradiction de la théorie des nombres réels et

¹ Les « modèles » fournis par les définitions de Dedekind ou de Frege ne feraient que déplacer la question, en la ramenant à la non-contradiction de la Théorie des ensembles, problème sans aucun doute plus difficile que la non-contradiction de l’Arithmétique, et qui devait le paraître bien davantage encore à une époque où aucune tentative sérieuse pour éviter les « paradoxes » n’avait été proposée. ² Pour une description détaillée et précise des procédés finis admis en métamathématique, on pourra consulter, par exemple, la thèse de J. Herbrand (XLII).

même celle de la théorie des ensembles¹; en outre, aux problèmes de non-contradiction viennent s’ajouter ceux d’indépendance des axiomes, de catégoricité et de décision. Nous allons passer rapidement en revue ces diverses questions et signaler les principales recherches qu’elles ont suscitées.

Démontrer l’indépendance d’un système de propositions $A_1, A_2, \ldots, A_n$ consiste à montrer que, pour chaque indice $i$, $A_i$ n’est pas un théorème dans la théorie $\mathscr{T}_i$ obtenue en prenant comme axiomes les $A_j$ d’indice $j \neq i$. Ce point sera établi si on connaît une théorie non contradictoire $\mathscr{T}_i'$ dans laquelle les $A_j$ ($j \neq i$) sont des théorèmes, ainsi que « non $A_i$ »; on peut ainsi considérer le problème sous deux aspects suivant que l’on admet ou non que certaines théories (comme l’arithmétique ou la théorie des ensembles) sont non contradictoires. Dans le second cas, on a affaire à un problème de non-contradiction « absolue ». Au contraire, le premier type de problèmes se résout comme les problèmes de non-contradiction « relative », par construction de « modèles » appropriés, et de nombreuses démonstrations de cette nature ont été imaginées, bien avant que la mathématique n’eût pris un aspect complètement formalisé : il suffit de rappeler les modèles de la géométrie non-euclidienne, les questions d’indépendance des axiomes de la géométrie élémentaire traitées par Hilbert dans les « Grundlagen der Geometrie » (XXX), ainsi que les travaux de Steinitz sur l’axiomatisation de l’Algèbre et ceux de Hausdorff et de ses successeurs sur celle de la Topologie.

Une théorie $\mathscr{T}$ est dite catégorique si, pour toute proposition $A$ de $\mathscr{T}$ (ne contenant aucune lettre autre que les constantes de $\mathscr{T}$), l’une des deux propositions $A$, (non $A$), est un théorème de $\mathscr{T}$.² Si l’on met à part certains formalismes très rudimentaires, dont on prouve aisément la catégoricité ((XXXII), p. 35; cf. I, p. 50, exerc. 7), les résultats obtenus dans cette voie sont essentiellement négatifs ; le premier en date est dû à K. Gödel (XLIV a) qui a montré que, si $\mathscr{T}$ est non contradictoire et si les axiomes de l’arithmétique formalisée sont des théorèmes de $\mathscr{T}$, alors $\mathscr{T}$ n’est pas catégorique. L’idée fondamentale de son ingénieuse méthode consiste à établir une correspondance biunivoque (bien entendu, au moyen de « procédés finis ») entre les énoncés métamathématiques et certaines propositions de l’arithmétique formalisée ; nous nous bornerons à en esquisser les grandes lignes.³ A chaque assemblage $A$ qui est un terme ou une relation de $\mathscr{T}$, on commence par associer (par un procédé de construction explicite, applicable quasi mécaniquement) un entier $g(A)$, de façon biunivoque. De même, à chaque démonstration $D$ de $\mathscr{T}$ (considérée comme succession d’assemblages ; cf. I, p. 22) on peut associer un entier $h(D)$ de façon biunivoque. Enfin, on peut donner un procédé de construction

¹ Lorsqu’on parle de la non-contradiction de la théorie des nombres réels, on suppose que celle-ci est définie axiomatiquement, sans utiliser la théorie des ensembles (ou tout au moins en s’abstenant de faire usage de certains axiomes de cette dernière, comme l’axiome de choix ou l’axiome de l’ensemble des parties). ² On exprime souvent cela en disant que si $A$ n’est pas un théorème de $\mathscr{T}$, la théorie $\mathscr{T}'$ obtenu en ajoutant $A$ aux axiomes de $\mathscr{T}$ est contradictoire. ³ Pour plus de détails, voir (XLIV a) ou ((XLVIII), p. 181–258).

explicite d'une relation $P^{x,y,z}$ de $\mathscr{T}$,$^1$ telle que, dans $\mathscr{T}$, $P^{x,y,z}$ entraîne que $x, y, z$ sont des entiers, et vérifie les deux conditions suivantes:

1° si D est une démonstration de $A^{\lambda}$, où $A^{x}$ est une relation de $\mathscr{T}$, et $\lambda$ est un entier explicité (c'est-à-dire un terme de $\mathscr{T}$ qui est un entier), alors $P^{\lambda}, g(A^{x}), h(D)$ est un théorème de $\mathscr{T}$;

2° si l'entier explicité $\mu$ n'est pas de la forme $h(D)$, ou si $\mu = h(D)$ et si D n'est pas une démonstration de $A^{\lambda}$, alors (non $P^{\lambda}, g(A^{x}), \mu$) est un théorème de $\mathscr{T}$.

Soit alors $S^{x}$ la relation (non$(\exists z)P^{x, x, z}$), et soit $\gamma = g(S^{x})$, qui est un terme de $\mathscr{T}$. Si $\mathscr{T}$ n'est pas contradictoire il n'y a aucune démonstration de la proposition $S^{\gamma}$ dans $\mathscr{T}$. En effet, si D était une telle démonstration, $P^{\gamma}, g(S^{x}), h(D)$ serait un théorème de $\mathscr{T}$; mais cette relation n'est autre que $P^{\gamma}, \gamma, h(D)$, et par suite $(\exists z)P^{\gamma}, \gamma, z$ serait aussi un théorème de $\mathscr{T}$; comme cette dernière relation est équivalente à (non $S^{\gamma}$), $\mathscr{T}$ serait contradictoire. D'autre part, ce qui vient d'être dit montre que pour tout entier explicité $\mu$, (non $P^{\gamma}, \gamma, \mu$) est un théorème de $\mathscr{T}$. Il en résulte qu'il n'y a aucune démonstration, dans $\mathscr{T}$, de (non $S^{\gamma}$), car cette dernière relation est équivalente à $(\exists z)P^{\gamma}, \gamma, z$ et l'existence d'un entier $\mu$ tel que $P^{\gamma}, \gamma, \mu$ entraînerait que $\mathscr{T}$ est contradictoire, en vertu de ce qui précède.$^2$ Ce théorème métamathématique de Gödel a été généralisé ultérieurement dans diverses directions ((XLVIII), chap. XI).$^3$

1 La description détaillée de $g(A), h(D)$ et $P^{x, y, z}$ est fort longue et minutieuse, et l'écriture de $P^{x, y, z}$ exigerait un nombre de signes tellement grand qu'elle est pratiquement impossible: c'est le genre de difficultés dont nous avons parlé dans l'Introduction, mais aucun mathématicien ne pense que cela diminue en rien la valeur de ces constructions.

2 En fait, cette dernière partie du raisonnement suppose un peu plus que la non-contradiction de $\mathscr{T}$, savoir ce que l'on appelle la « $\omega$-non-contradiction » de $\mathscr{T}$: cela signifie qu'il n'y a pas de relation $R^{x}$ dans $\mathscr{T}$ telle que $R^{x}$ entraîne $x \in \mathbf{N}$ et que, pour chaque entier explicité $\mu$, $R^{\mu}$ soit un théorème de $\mathscr{T}$, bien que $(\exists x)(x \in \mathbf{N} \text{ et } \text{non } R^{x})$ soit aussi un théorème de $\mathscr{T}$. Rosser a d'ailleurs montré qu'on peut modifier le raisonnement de Gödel de façon à ne supposer que la non-contradiction de $\mathscr{T}$ ((XLVIII), p. 208).

3 On notera l'analogie du raisonnement du Gödel avec le sophisme du menteur; la proposition $S^{\gamma}$ affirme sa propre fausseté, quand on l'interprète en termes métamathématiques! On remarquera aussi que la proposition

La relation S

Le problème de la décision (« Entscheidungsproblem ») est sans doute le plus ambitieux de tous ceux que se pose la métamathématique : il s’agit de savoir si, pour un langage formalisé donné, on peut imaginer un « procédé universel » quasi mécanique qui, appliqué à n’importe quelle relation du formalisme considéré, indique en un nombre fini d’opérations si cette relation est vraie ou non. La solution de ce problème faisait déjà partie en substance des grands desseins de Leibniz, et il semble qu’un moment l’école de Hilbert ait cru sa réalisation toute proche. Il est de fait que l’on peut décrire de tels procédés pour des formalismes comportant peu de signes primitifs et d’axiomes ((XLVIII), p. 136–141 ; cf. I, p. 50, exerc. 7). Mais les efforts faits pour préciser le problème de la décision, en délimitant exactement ce qu’il faut entendre par « procédé universel » n’ont jusqu’ici abouti qu’à des résultats négatifs ((XLVIII), p. 432–439). D’ailleurs, la solution du problème de la décision pour une théorie $\mathscr{T}$ permet aussitôt de savoir si $\mathscr{T}$ est ou non contradictoire, puisqu’il suffit d’appliquer le « procédé universel » à une relation de $\mathscr{T}$ et à sa négation ; et nous allons voir qu’il est exclu qu’on puisse résoudre la question de cette manière pour les théories mathématiques usuelles.\footnote{On distinguera soigneusement le problème de la décision de la croyance, partagée par de nombreux mathématiciens, et souvent exprimée avec vigueur par Hilbert en particulier, que pour toute proposition mathématique, on finira un jour par savoir si elle est vraie, fausse ou indécidable. C’est là un pur acte de foi, dont la critique échappe à notre discussion.}

C’est en effet dans la question de la non-contradiction des théories mathématiques — l’origine et le cœur même de la Métamathématique — que les résultats se sont révélés les plus décevants. Pendant les années 1920–1930, Hilbert et son école avaient développé des méthodes nouvelles pour aborder ces problèmes ; après avoir démontré la non-contradiction de formalismes partiels, couvrant une partie de l’arithmétique (cf. (XLII), (XLIII c)), ils croyaient toucher au but et démontrer, non seulement la non-contradiction de l’arithmétique, mais aussi celle de la théorie des ensembles, lorsque Gödel, s’appuyant sur la non-catégoricité de l’arithmétique, en déduisit l’impossibilité de démontrer, par les « procédés finis » de Hilbert, la non-contradiction de toute théorie $\mathscr{T}$ contenant cette dernière.$^1$

Le théorème de Gödel ne ferme cependant pas entièrement la porte aux tentatives de démonstration de non-contradiction, pourvu que l’on abandonne (tout au moins partiellement) les restrictions de Hilbert touchant les « procédés finis ». C’est ainsi que Gentzen, en 1936 (XLVII), parvint à démontrer la non-contradiction de l’arithmétique formalisée, en utilisant « intuitivement » l’induction transfinie jusqu’à l’ordinal dénombrable $\varepsilon_0$ (III, p. 89, exerc. 14).$^2$ La valeur de « certitude » que l’on peut attribuer à un tel raisonnement est sans doute moins probante que pour ceux qui satisfont aux exigences initiales de Hilbert, et est essentiellement affaire de psychologie personnelle pour chaque mathématicien ; il n’en reste pas moins vrai que de semblables « démonstrations » utilisant l’induction transfinie « intuitive » jusqu’à un ordinal donné, seraient considérées comme un important progrès si elles s’appliquaient, par exemple, à la théorie des nombres réels ou à une partie substantielle de la théorie des ensembles.

$^1$ Avec les notations introduites ci-dessus, le résultat précis de Gödel est le suivant. Dire que $\mathscr{T}$ n’est pas contradictoire signifie qu’il n’y a pas de démonstration, dans $\mathscr{T}$, de la relation $0 \neq 0$; cela entraîne par suite, pour tout entier explicité $\mu$, que (non $P\xi 0, g(x \neq x), \mu\xi$) est un théorème de $\mathscr{T}$. Considérons alors la proposition $(\forall z)((z \in \mathbf{N}) \Rightarrow \text{non } P\xi 0, g(x \neq x), z\xi )$, que nous désignerons par C; en « traduisant » en arithmétique formalisée le raisonnement (reproduit plus haut) par lequel on montre métamathématiquement que « si $\mathscr{T}$ est non contradictoire, il n’y a pas de démonstration de S$\xi \gamma$ dans $\mathscr{T}$ », on peut établir que $C \Rightarrow (\text{non } (\exists z)(P\xi \gamma, \gamma, z\xi ))$ est un théorème de $\mathscr{T}$, autrement dit, que $C \Rightarrow S\xi \gamma$ est un théorème de $\mathscr{T}$. Il en résulte que, si $\mathscr{T}$ n’est pas contradictoire, $C$ n’est pas un théorème de $\mathscr{T}$, puisque dans ces conditions $S\xi \gamma$ n’est pas un théorème de $\mathscr{T}$. C’est là l’énoncé exact du théorème de Gödel.

$^2$ Gentzen associe à chaque démonstration D de l’arithmétique formalisée un ordinal $\alpha(D) < \varepsilon_0$; d’autre part, il décrit un procédé qui, à partir de toute démonstration D aboutissant à une contradiction, fournit une démonstration D’ aboutissant aussi à une contradiction et telle que $\alpha(D') < \alpha(D)$; la théorie des ensembles bien ordonnés permet de conclure à l’inexistence d’une telle démonstration D (type de raisonnement qui étend la classique « descente infinie » de la théorie des nombres).