Introduction

Depuis les Grecs, qui dit mathématique dit démonstration; certains doutent même qu’il se trouve, en dehors des mathématiques, des démonstrations au sens précis et rigoureux que ce mot a reçu des Grecs et qu’on entend lui donner ici. On a le droit de dire que ce sens n’a pas varié, car ce qui était une démonstration pour Euclide en est toujours une à nos yeux; et, aux époques où la notion a menacé de s’en perdre et où de ce fait la mathématique s’est trouvée en danger, c’est chez les Grecs qu’on en a recherché les modèles. Mais à ce vénérable héritage sont venues s’ajouter depuis un siècle d’importantes conquêtes.

En effet, l’analyse du mécanisme des démonstrations dans des textes mathématiques bien choisis a permis d’en dégager la structure, du double point de vue du vocabulaire et de la syntaxe. On arrive ainsi à la conclusion qu’un texte mathématique suffisamment explicite pourrait être exprimé dans une langue conventionnelle ne comportant qu’un petit nombre de « mots » invariables assemblés suivant une syntaxe qui consisterait en un petit nombre de règles inviolables: un tel texte est dit formalisé. La description d’une partie d’échecs au moyen de la notation usuelle, une table de logarithmes, sont des textes formalisés; les formules du calcul algébrique ordinaire en seraient aussi, si l’on avait complètement codifié les règles gouvernant l’emploi des parenthèses et qu’on s’y conformât strictement, alors qu’en fait certaines de ces règles ne s’apprennent guère qu’à l’usage, et que l’usage autorise à y faire certaines dérogations.

La vérification d’un texte formalisé ne demande qu’une attention en quelque sorte mécanique, les seules causes d’erreur possibles étant dues à la longueur ou à la complication du texte; c’est pourquoi un mathématicien fait le plus souvent confiance à un confrère qui lui transmet le résultat d’un calcul algébrique, pour peu qu’il sache que ce calcul n’est pas trop long et a été fait avec soin. Par contre, dans un texte non formalisé, on est exposé aux fautes de raisonnement que risquent d’entraîner, par exemple, l’usage abusif de l’intuition, ou le raisonnement par analogie. En fait, le mathématicien qui désire s’assurer de la parfaite correction, ou, comme on dit, de la « rigueur » d’une démonstration ou d’une théorie, ne recourt guère à l’une des formalisations complètes dont on dispose aujourd’hui, ni même le plus souvent aux formalisations partielles et incomplètes fournies par le calcul algébrique et d’autres similaires ; il se contente en général d’amener l’exposé à un point où son expérience et son flair de mathématicien lui enseignent que la traduction en langage formalisé ne serait plus qu’un exercice de patience (sans doute fort pénible). Si, comme il arrive mainte et mainte fois, des doutes viennent à s’élever, c’est en définitive sur la possibilité d’aboutir sans ambiguïté à une telle formalisation qu’ils portent, soit qu’un même mot soit employé en des sens variables suivant le contexte, soit que les règles de la syntaxe aient été violées par l’emploi inconscient de modes de raisonnement non spécifiquement autorisés par elles, soit encore qu’une erreur matérielle ait été commise. Ce dernier cas mis à part, le redressement se fait invariablement, tôt ou tard, par la rédaction de textes se rapprochant de plus en plus d’un texte formalisé, jusqu’à ce que, de l’avis général des mathématiciens, il soit devenu superflu de pousser ce travail plus loin ; autrement dit, c’est par une comparaison, plus ou moins explicite, avec les règles d’un langage formalisé, que se fait l’essai de la correction d’un texte mathématique.

La méthode axiomatique n’est à proprement parler pas autre chose que cet art de rédiger des textes dont la formalisation est facile à concevoir. Ce n’est pas là une invention nouvelle ; mais son emploi systématique comme instrument de découverte est l’un des traits originaux de la mathématique contemporaine. Peu importe en effet, s’il s’agit d’écrire ou de lire un texte formalisé, qu’on attache aux mots ou signes de ce texte telle ou telle signification, ou même qu’on ne leur en attache aucune ; seule importe l’observation correcte des règles de la syntaxe. C’est ainsi qu’un même calcul algébrique, comme chacun sait, peut servir à résoudre des problèmes portant sur des kilogrammes ou des francs, sur des paraboles ou des mouvements uniformément accélérés. Ce même avantage s’attache, et pour les mêmes raisons, à tout texte rédigé suivant la méthode axiomatique : une fois établis les théorèmes de la Topologie générale, on peut les appliquer à volonté à l’espace ordinaire, à l’espace de Hilbert, à bien d’autres encore. Cette faculté de donner des contenus multiples aux mots ou notions premières d’une théorie est même une importante source d’enrichissement de l’intuition du mathématicien, qui n’est pas nécessairement de nature spatiale ou sensible comme on le croit parfois, mais qui est plutôt une certaine connaissance du comportement des êtres mathématiques, aidée souvent par des images de nature très variée, mais fondée avant tout sur leur fréquentation journalière. On est souvent amené ainsi à étudier avec fruit, dans une théorie, des propriétés traditionnellement négligées dans celle-ci, mais étudiées systématiquement dans une théorie axiomatique générale dont elle est une particularisation (par exemple des propriétés ayant leur origine historique dans une autre particularisation de cette théorie générale). De plus, et c’est ce qui nous importe particulièrement en ce Traité, la méthode axiomatique permet, lorsqu’on a affaire à des êtres mathématiques complexes, d’en dissocier les propriétés et de les regrouper autour d’un petit nombre de notions, c’est-à-dire, pour employer un mot qui sera défini plus loin avec précision (chap. IV), de les classer suivant les structures auxquelles elles appartiennent (une même structure pouvant intervenir, bien entendu, à propos d’êtres mathématiques divers); c’est ainsi que, parmi les propriétés de la sphère, les unes sont topologiques, d’autres sont algébriques, d’autres encore peuvent être considérées comme relevant de la géométrie différentielle ou de la théorie des groupes de Lie. Quelque artificiel que puisse devenir parfois ce principe de classification dès que s’enchevêtrent les structures, c’est lui qui est à la base de la répartition en Livres des matières formant l’objet de ce Traité.

De même que l’art de parler correctement une langue préexiste à la grammaire, de même la méthode axiomatique a été pratiquée bien avant l’invention des langages formalisés; mais sa pratique consciente ne peut reposer que sur une connaissance des principes généraux gouvernant ces langages et de leurs relations avec les textes mathématiques courants. Nous nous proposons en ce Livre de donner d’abord la description d’un tel langage, et même l’exposé de principes généraux qui pourraient s’appliquer à beaucoup d’autres semblables. Un seul de ces langages suffira toutefois à notre objet. En effet, alors qu’autrefois on a pu croire que chaque branche des mathématiques dépendait d’intuitions particulières qui lui fournissaient notions et vérités premières, ce qui eut entraîné pour chacune la nécessité d’un langage formalisé qui lui appartînt en propre, on sait aujourd’hui qu’il est possible, logiquement parlant, de faire dériver toute la mathématique actuelle d’une source unique, la Théorie des Ensembles. Il nous suffira donc d’exposer les principes d’un langage formalisé unique, d’indiquer comment on pourrait rédiger en ce langage la Théorie des Ensembles, puis de faire voir comment s’insèrent dans celle-ci les diverses branches des mathématiques, au fur et à mesure que notre attention se portera sur elles. Ce faisant, nous ne prétendons pas légiférer pour l’éternité. Il se peut qu’un jour les mathématiciens s’accordent à utiliser des modes de raisonnement non formalisables dans le langage exposé ici; il faudrait alors, sinon changer complètement de langage, tout au moins élargir les règles de la syntaxe. C’est à l’avenir qu’il appartiendra de décider.

Il va de soi que la description du langage formalisé se fait en langage courant, comme celle des règles du jeu d’échecs; nous n’entrerons pas dans la discussion des problèmes psychologiques ou métaphysiques que soulève la validité de l’emploi du langage courant en de telles circonstances (par exemple la possibilité de reconnaître qu’une lettre de l’alphabet est « la même » à deux endroits différents d’une page, etc.). Il n’est guère possible non plus d’entreprendre une telle description sans faire usage de la numération; bien que de bons esprits aient pu sembler embarrassés de ce fait, jusqu’à y voir une pétition de principes, il est clair qu’en l’occurrence les chiffres ne sont utilisés que comme repères (que l’on pourrait d’ailleurs remplacer par d’autres signes tels que des couleurs ou des lettres), et qu’on ne fait aucun raisonnement mathématique lorsqu’on dénombre les signes qui figurent dans une formule explicitée. Nous ne discuterons pas de la possibilité d’enseigner les principes du langage formalisé à des êtres dont le développement intellectuel n’irait pas jusqu’à savoir lire, écrire et compter.

Si la mathématique formalisée était aussi simple que le jeu d’échecs, une fois décrit le langage formalisé que nous avons choisi, il n’y aurait plus qu’à rédiger nos démonstrations dans ce langage, comme l’auteur d’un traité d’échecs écrit dans sa notation les parties qu’il se propose d’enseigner, en les accompagnant au besoin de commentaires. Mais les choses sont loin d’être aussi faciles, et point n’est besoin d’une longue pratique pour s’apercevoir qu’un tel projet est absolument irréalisable; la moindre démonstration du début de la Théorie des Ensembles exigerait déjà des centaines de signes pour être complètement formalisée. Dès le Livre I de ce Traité s’impose donc la nécessité impérieuse d’abréger le texte formalisé par l’introduction de mots nouveaux (dits « symboles abréviateurs ») et des règles de syntaxe additionnelles (dites « critères déductifs ») en assez grand nombre. Ce faisant, on obtient des langages beaucoup plus maniables que le langage formalisé proprement dit, et dont un mathématicien tant soit peu expérimenté a la conviction qu’ils peuvent être considérés comme des transcriptions sténographiques de celui-ci. Mais on n’a déjà plus la certitude que le passage de l’un de ces langages à l’autre pourrait se faire d’une manière purement mécanique; du moins faudrait-il, pour qu’on en fût assuré, compliquer les règles de syntaxe gouvernant l’emploi des mots nouveaux à tel point que leur utilité deviendrait illusoire; là, comme en calcul algébrique et dans l’emploi de presque toutes les notations dont se servent ordinairement les mathématiciens, on préfère un instrument maniable à un autre théoriquement plus parfait, mais par trop incomode.

Comme le verra le lecteur, l’introduction de ce langage condensé s’accompagne de « raisonnements » d’un type particulier, qui appartiennent à ce qu’on appelle la Métamathématique. Cette discipline, faisant complètement abstraction de toute signification qu’on aura pu à l’origine attribuer aux mots ou phrases des textes mathématiques formalisés, considère ces textes comme des objets particulièrement simples, assemblages d’objets préalablement donnés dont seul importe l’ordre qu’on leur assigne. Et, de même par exemple qu’un traité de chimie annonce d’avance le résultat d’une expérience effectuée dans des conditions données, les

« raisonnements » métamathématiques affirmeront d’ordinaire qu’après une succession d’opérations sur un texte d’un type donné, le texte final sera d’un autre type donné. Dans les cas les plus simples, ces affirmations sont à vrai dire de purs truismes (qu’on pourrait par exemple comparer au suivant : « quand, dans un sac de billes contenant des billes noires et des billes blanches, on remplace toutes les billes noires par des billes blanches, il ne reste plus dans le sac que des billes blanches » ; cf. I, p. 17). Mais on rencontre très tôt (cf. I, p. 20) des exemples où l’argumentation prend une tournure typiquement mathématique, avec emploi prédominant d’entiers arbitraires et du raisonnement par récurrence. Si nous avons écarté ci-dessus l’objection contre l’emploi de la numération dans la description d’un langage formalisé, il n’est plus possible ici de nier le danger d’une pétition de principes, puisque, dès le début, on semble faire usage de toutes les ressources de l’arithmétique, alors qu’on se propose, entre autres, d’en exposer les fondements. A cela certains pensent pouvoir répondre que, dans ce genre de raisonnements, ils ne font que décrire des opérations susceptibles d’être effectuées et contrôlées, et pour cette raison ils y puisent une conviction d’un autre ordre que celle qu’ils accordent à la mathématique proprement dite. Il semble plus simple de dire qu’on pourrait se passer de ces raisonnements métamathématiques si la mathématique formalisée était effectivement écrite : au lieu d’utiliser les « critères déductifs », on recommencerait chaque fois les suites d’opérations qu’ils ont pour but d’abréger en prédisant leur résultat. Mais la mathématique formalisée ne peut être écrite tout entière ; force est donc, en définitive, de faire confiance à ce qu’on peut appeler le sens commun du mathématicien ; confiance analogue à celle qu’un comptable ou un ingénieur accorde à une formule ou une table numérique sans soupçonner l’existence des axiomes de Peano, et qui finalement se fonde sur ce qu’elle n’a jamais été démentie par les faits.

Nous abandonnerons donc très tôt la Mathématique formalisée, mais non sans avoir pris soin de tracer avec précision le chemin par lequel on y pourrait revenir. Les facilités qu’apportent les premiers « abus de langage » ainsi introduits nous permettront d’écrire le reste de ce Traité (et en particulier le fascicule de résultats du Livre I) comme le sont en pratique tous les textes mathématiques, c’est-à-dire en partie en langage courant et en partie au moyen de formules constituant des formalisations partielles, particulières et incomplètes, et dont celles du calcul algébrique fournissent l’exemple le plus connu. Souvent même on se servira du langage courant d’une manière bien plus libre encore, par des abus de langage volontaires, par l’omission pure et simple des passages qu’on présume pouvoir être restitués aisément par un lecteur tant soit peu exercé, par des indications intraduisibles en langage formalisé et destinées à faciliter cette restitution. D’autres passages également intraduisibles contiendront des commentaires destinés à rendre plus claire la marche des idées, au besoin par un appel à l’intuition du lecteur ; l’emploi des ressources de la rhétorique devient dès lors légitime, pourvu que demeure inchangée la possibilité de formaliser le texte. Les premiers exemples en seront donnés, dès ce Livre, au chapitre III, qui expose la théorie des entiers et des cardinaux.

Ainsi, rédigé suivant la méthode axiomatique, et conservant toujours présente, comme une sorte d’horizon, la possibilité d’une formalisation totale, notre Traité vise à une rigueur parfaite; prétention que ne démentent point les considérations qui précèdent, ni les feuillets d’errata au moyen desquels nous corrigeons les erreurs qui se glissent de temps à autre dans le texte. Du fait que nous cherchons à nous tenir constamment aussi près d’un texte formalisé qu’il semble possible sans longueurs insupportables, la vérification, en principe, est aisée; les erreurs (inévitables dans une pareille entreprise) peuvent être localisées sans excessive perte de temps, et le risque de les voir entacher de nullité un chapitre ou un Livre entier demeure très faible.

C’est dans le même esprit réaliste que nous envisageons ici la question de la non-contradiction, l’une de celles qui ont le plus préoccupé les logiciens modernes, et qui sont en partie à l’origine de la création des langages formalisés (cf. Note historique des chap. I à IV). On dit qu’une théorie mathématique est contradictoire si l’on y a démontré à la fois un théorème et sa négation; des règles de raisonnement usuelles, qui sont à la base des règles de la syntaxe des langages formalisés, il résulte alors que tout théorème est à la fois vrai et faux dans cette théorie, qui perd en ce cas tout intérêt. Si donc on a abouti involontairement à une contradiction, on ne peut la laisser subsister sans que soit rendue vaine la théorie où elle s’insère.

Peut-on acquérir la certitude que cela n’arrivera jamais? Sans entrer à ce propos dans un débat hors de notre compétence sur la notion même de certitude, observons que la métamathématique peut se proposer d’examiner les problèmes de non-contradiction par ses méthodes propres. Qu’une théorie soit contradictoire revient en effet à dire qu’elle comporte une démonstration formalisée correcte aboutissant à la conclusion $0 \neq 0$. Or la métamathématique peut chercher, par des procédés de raisonnement empruntés à la mathématique, à approfondir la structure de ce texte formalisé supposé écrit, pour arriver enfin à « démontrer » l’impossibilité d’un tel texte. En fait, on a donné de telles « démonstrations » pour certains langages formalisés partiels, moins riches que celui que nous nous proposons d’introduire, mais assez riches pour qu’on y puisse écrire une bonne partie de la mathématique classique. On peut se demander, il est vrai, ce qu’on a « démontré » ainsi; car, si la mathématique était contradictoire, certaines de ses applications aux objets matériels, donc en particulier aux textes formalisés, risqueraient de devenir illusoires; il faudrait, pour échapper à ce dilemme, que la non-contradiction d’un langage formalisé pût être « démontrée » par des raisonnements formalisables dans un langage moins riche et partant plus digne de confiance; or un théorème célèbre de métamathématique, dû à Gödel, dit que cela est impossible s’il s’agit d’un langage du type de celui que nous décrirons, et suffisamment riche en axiomes pour permettre de formuler les résultats de l’arithmétique classique.

Au contraire, dans les démonstrations de non-contradiction « relative » (c’est-à-dire celles qui établissent la non-contradiction d’une théorie en supposant qu’une autre théorie, par exemple celle des ensembles, n’est pas contradictoire), la partie métamathématique du raisonnement (cf. I, p. 30) est tellement simple qu’il ne semble guère possible de la mettre en doute sans renoncer à tout emploi rationnel de nos facultés intellectuelles. Puisque les diverses théories mathématiques sont maintenant rattachées logiquement à la Théorie des Ensembles, il s’ensuit que toute contradiction rencontrée dans une de ces théories donnerait lieu à une contradiction dans la Théorie des Ensembles elle-même. Ce n’est évidemment pas là un argument permettant de conclure à la non-contradiction de la Théorie des Ensembles. Toutefois, depuis 50 ans qu’on a formulé avec assez de précision les axiomes de cette théorie et qu’on s’est appliqué à en tirer des conséquences dans les domaines les plus variés des mathématiques, on n’a jamais rencontré de contradiction, et on est fondé à espérer qu’il ne s’en produira jamais.

S’il en était autrement, c’est que la contradiction observée serait inhérente aux principes mêmes qu’on a mis à la base de la Théorie des Ensembles; ceux-ci seraient donc à modifier, sans compromettre si possible les parties de la mathématique auxquelles on tient le plus; il est clair qu’on n’y parviendrait d’autant plus facilement que l’usage de la méthode axiomatique et d’un langage formalisé aura permis de formuler plus distinctement ces principes et d’en séparer plus nettement les conséquences. C’est d’ailleurs à peu près ce qui s’est passé à date récente, lorsqu’on a éliminé les « paradoxes » de la Théorie des Ensembles par l’adoption d’un langage formalisé essentiellement équivalent à celui que nous décrivons ici; c’est une révision semblable qu’il faudrait entreprendre si ce dernier à son tour se révélait contradictoire.

En résumé, nous croyons que la mathématique est destinée à survivre, et qu’on ne verra jamais les parties essentielles de ce majestueux édifice s’écrouler du fait d’une contradiction soudain manifestée; mais nous ne prétendons pas que cette opinion repose sur autre chose que sur l’expérience. C’est peu, diront certains. Mais voilà vingt-cinq siècles que les mathématiciens ont l’habitude de corriger leurs erreurs et d’en voir leur science enrichie, non appauvrie; cela leur donne le droit d’envisager l’avenir avec sérénité.