1. Cơ sở của toán học; lôgic; lý thuyết tập hợp.
Việc nghiên cứu cái mà người ta thường gọi là "cơ sở của toán học", được tiến hành không ngừng từ đầu thế kỷ 19, đã không thể đi tới chỗ hoàn thành nếu không có sự hỗ trợ của một nỗ lực song song nhằm hệ thống hóa Lôgic, ít nhất là những phần chi phối các mối liên hệ giữa các mệnh đề toán học. Vì vậy không thể tách rời lịch sử của lý thuyết tập hợp và sự hình thức hóa toán học khỏi lịch sử của "Lôgic Toán học". Nhưng lôgic truyền thống, cũng như lôgic của các triết gia hiện đại, về nguyên tắc bao trùm một phạm vi áp dụng rộng lớn hơn Toán học rất nhiều. Do đó độc giả không nên mong tìm thấy trong phần sau đây một lịch sử của Lôgic, dù chỉ dưới một dạng rất tóm lược; chúng tôi đã tự giới hạn, trong chừng mực có thể, vào việc chỉ truy lại sự tiến hóa của Lôgic trong chừng mực nó tác động đến sự tiến hóa của Toán học. Chính vì thế mà chúng tôi sẽ không nói gì về các lôgic phi cổ điển (lôgic đa trị, lôgic mô thái); lại càng không thể bàn đến lịch sử của những cuộc tranh luận mà, từ các nhà Ngụy biện đến Trường phái Vienna, chưa bao giờ ngừng chia rẽ các triết gia cả về khả năng lẫn về cách thức áp dụng Lôgic vào các đối tượng của thế giới thực hay vào các khái niệm của tư duy con người.
Ngày nay, việc đã từng có một nền toán học tiền Hy Lạp phát triển cao không còn là điều phải nghi ngờ nữa. Không những các khái niệm về số nguyên và về phép đo các đại lượng (đã rất trừu tượng) được dùng thông thường trong những tài liệu cổ xưa nhất đã đến tay chúng ta từ Ai Cập hay Chaldée, mà đại số Babylon, do sự thanh nhã và chắc chắn của các phương pháp của nó, không nên bị xem như một tập hợp đơn thuần các bài toán được giải bằng những mò mẫm kinh nghiệm. Và, nếu trong các văn bản không thấy gì giống một "chứng minh" theo nghĩa hình thức của từ này, thì có lý để tin rằng việc phát hiện ra những phương pháp giải như thế, mà tính tổng quát hiện ra qua các áp dụng số riêng biệt, đã không thể có được nếu không có một mức tối thiểu các liên kết lôgic (có lẽ không hoàn toàn có ý thức, nhưng đúng hơn là giống những liên kết mà một nhà đại số hiện đại dựa vào khi bắt tay vào một phép tính, trước khi "trình bày hình thức" mọi chi tiết) ([232], pp. 203 ff.).
Tính độc đáo cốt yếu của người Hy Lạp chính xác nằm ở một nỗ lực có ý thức nhằm sắp xếp các chứng minh toán học thành một dãy sao cho việc chuyển qua từ một mắt xích sang mắt xích kế tiếp không để chỗ nào cho sự nghi ngờ và buộc phải có sự đồng thuận phổ quát.
Rằng các nhà toán học Hy Lạp đã dùng, trong quá trình nghiên cứu của mình, cũng như các nhà toán học hiện đại, những lập luận có tính "heuristic", hơn là có sức thuyết phục, là điều đã được chứng tỏ chẳng hạn (nếu còn cần phải làm vậy), bởi "khảo luận về phương pháp" của Archimedes [153 c]; cũng chú ý rằng trong đó có những ám chỉ tới các kết quả "được tìm ra, nhưng không được chứng minh" bởi các nhà toán học đi trước. Nhưng ngay từ những văn bản chi tiết đầu tiên mà chúng ta biết được (và có niên đại từ giữa thế kỷ V), "quy phạm" lý tưởng của một văn bản toán học đã được xác lập hẳn hoi. Nó sẽ tìm thấy biểu hiện cao nhất của mình nơi các tác phẩm kinh điển lớn, Euclid, Archimedes và Apollonius; khái niệm chứng minh, ở các tác giả này, không khác gì với khái niệm của chúng ta.
Chúng ta không có văn bản nào cho phép theo dõi những bước đầu tiên của "phương pháp suy diễn" này, phương pháp đối với chúng ta dường như đã gần như hoàn hảo đúng vào thời điểm chính xác mà chúng ta nhận biết được sự tồn tại của nó. Chỉ có thể nghĩ rằng nó hòa nhập khá tự nhiên vào sự tìm kiếm thường trực những "giải thích" về thế giới, điều đặc trưng cho tư tưởng Hy Lạp và đã thấy rõ nơi các triết gia Ionia từ thế kỷ VII; hơn nữa, truyền thống là nhất trí trong việc quy cho Trường phái Pythagoras sự phát triển và sự tinh luyện của phương pháp ấy, vào một thời kỳ nằm giữa cuối thế kỷ VI và giữa thế kỷ V.
Chính trên nền toán học "suy diễn" này, hoàn toàn có ý thức về mục tiêu và phương pháp của mình, mà tư tưởng triết học và toán học của các thời kỳ sau sẽ tập trung. Một mặt, chúng ta sẽ thấy sự thiết lập dần dần của Lôgic "hình thức" phỏng theo toán học, để kết luận bằng việc tạo ra các ngôn ngữ hình thức hóa; mặt khác, chủ yếu từ đầu thế kỷ XIX, các khái niệm cơ bản của toán học sẽ ngày càng bị chất vấn, và một nỗ lực lớn sẽ được thực hiện để làm sáng tỏ bản chất của chúng, nhất là sau khi lý thuyết tập hợp ra đời.
SỰ HÌNH THỨC HÓA CỦA LÔGIC.
Ấn tượng chung dường như nổi lên từ các văn bản (rất rời rạc) mà chúng ta có về tư tưởng triết học Hy Lạp ở thế kỷ V là nó bị chi phối bởi một nỗ lực ngày càng có ý thức nhằm mở rộng cho toàn bộ lĩnh vực tư duy con người những quy trình điều khiển tranh luận đã được tu từ học và toán học đương thời vận dụng với thành công lớn đến thế, nói cách khác, nhằm tạo ra Lôgic dưới dạng tổng quát nhất của nó. Giọng điệu của các trước tác triết học
Đáng chú ý là Democritus, người mà Archimedes quy cho việc phát hiện ra công thức cho thể tích của một hình chóp ([153 c], p. 13). Cần đặt ám chỉ này song song với một mảnh văn nổi tiếng được gán cho Democritus (nhưng tính xác thực còn bị tranh cãi), trong đó ông tuyên bố: "Chưa từng có ai vượt tôi trong việc dựng hình bằng các chứng minh, ngay cả những 'harpedonaptes' Ai Cập, như người ta gọi họ." ([89], v. I, p. 439 and v. II, 1, pp. 727-728). Lời bình của Archimedes và sự kiện là các chứng minh (theo nghĩa cổ điển) chưa bao giờ được tìm thấy trong những văn bản Ai Cập đã đến tay chúng ta, khiến chúng tôi nghĩ rằng các "chứng minh" mà Democritus nói tới đã không còn được xem là như vậy trong thời kỳ cổ điển, và ngày nay cũng sẽ không được xem là như vậy.
vào thời kỳ này trải qua một thay đổi đột ngột: trong khi ở các thế kỷ VII và VI các triết gia khẳng định hoặc tiên đoán (hoặc nhiều nhất chỉ phác ra những lập luận mơ hồ, dựa trên những phép loại suy cũng mơ hồ không kém), thì bắt đầu từ Parmenides và đặc biệt là Zenon, họ lập luận và cố rút ra những nguyên lý tổng quát có thể làm cơ sở cho phép biện chứng của họ: chính ở Parmenides người ta gặp phát biểu đầu tiên của nguyên lý bài trung, và những chứng minh "bằng phản chứng" của Zenon xứ Elea vẫn còn nổi tiếng. Nhưng Zenon viết vào giữa thế kỷ V; và, bất chấp những điều không chắc chắn trong tư liệu của chúng ta, rất có thể là vào thời đó, các nhà toán học, trong phạm vi riêng của mình, đã dùng thường xuyên các nguyên lý ấy.
Như chúng tôi đã nói ở trên, ở đây không phải việc của chúng tôi là lần lại vô số khó khăn đầy rẫy ở mỗi bước trong quá trình hình thành của Lôgic này, và những cuộc tranh luận phát sinh từ đó, từ phái Elea đến Plato và Aristotle, qua các Sophist; ở đây chỉ hãy lấy ra vai trò do sự trau dồi chuyên cần nghệ thuật hùng biện và sự phân tích ngôn ngữ, vốn là một trong những hệ quả của nó, đã giữ trong sự tiến hóa này, những phát triển mà người ta nhất trí quy cho chủ yếu các Sophist của thế kỷ V. Mặt khác, dù ảnh hưởng của toán học không phải lúc nào cũng được nhìn nhận một cách tường minh, nó vẫn không kém phần hiển nhiên, đặc biệt trong các trước tác của Plato và Aristotle. Có thể nói Plato gần như bị toán học ám ảnh; tuy bản thân ông không phải là một người phát minh trong lĩnh vực này, ông đã theo sát, sau một thời kỳ nhất định trong đời mình, những khám phá của các nhà toán học đương thời (nhiều người trong số họ là bạn bè hoặc môn đệ của ông), và từ đó về sau không bao giờ ngừng quan tâm theo cách trực tiếp nhất, thậm chí còn đi đến chỗ gợi ra những hướng nghiên cứu mới; vì thế mà không ngừng, trong các trước tác của ông, toán học phục vụ như minh họa hoặc mô hình (và đôi khi thậm chí, như ở các Pythagore, nuôi dưỡng thiên hướng huyền bí của ông). Còn về môn đệ của ông là Aristotle, ông không thể không tiếp nhận cái tối thiểu những nền tảng toán học được đòi hỏi ở học trò của Academy, và người ta đã xuất bản một tập gồm những trích đoạn trong tác phẩm của ông nói về toán học hoặc quy chiếu đến toán học [153 d]; nhưng dường như ông chưa bao giờ cố gắng nhiều để theo kịp những vận động toán học của thời đại mình, và trong lĩnh vực này ông chỉ trích dẫn những kết quả đã được phổ biến từ rất lâu trước đó. Sự chuyển dịch này về sau lại càng trở nên rõ rệt hơn ở đa số các triết gia về sau, nhiều người trong số họ, do thiếu chuẩn bị kỹ thuật, vẫn hoàn toàn thành thực tin rằng mình đang nói về toán học một cách hiểu biết, trong khi thực ra họ chỉ quy chiếu đến một giai đoạn từ lâu đã bị vượt qua trong sự tiến hóa của nó.
Thành quả cuối cùng của thời kỳ này, xét về Lôgic, là công trình đồ sộ của Aristotle [6], mà công lớn là đã thành công trong việc hệ thống hóa và pháp điển hóa lần đầu tiên các thủ tục lập luận mà
Ví dụ cổ điển đẹp nhất về chứng minh phản chứng trong toán học là chứng minh tính vô tỉ của , điều mà Aristotle thường nhắc đến; nhưng các chuyên gia hiện đại đã không thể định niên đại khám phá này một cách chính xác nào, có người đặt nó vào đầu thế kỷ V và có người đặt vào chính cuối thế kỷ ấy (xem p. 148 và các tài liệu dẫn ở đó về chủ đề này).
ở các bậc tiền bối của ông vẫn còn mơ hồ hoặc chưa được phát biểu. Trên hết, ở đây chúng ta phải giữ lại, vì mục đích của mình, luận điểm tổng quát của công trình này, tức là biết rằng có thể rút gọn mọi lập luận đúng về sự áp dụng có hệ thống của một số nhỏ quy tắc bất biến, độc lập với bản tính riêng của các đối tượng đang được xét (một sự độc lập được chứng tỏ rõ ràng bằng biểu diễn các khái niệm hoặc các mệnh đề bằng các chữ cái — có lẽ Aristotle mượn từ các nhà toán học). Nhưng Aristotle hầu như chỉ tập trung sự chú ý của mình vào một kiểu quan hệ và chuỗi lôgic riêng biệt, hợp thành cái mà ông gọi là “tam đoạn luận”: chủ yếu là những quan hệ mà ngày nay ta sẽ dịch dưới dạng hoặc trong ngôn ngữ của lý thuyết tập hợp, và với cách móc nối các quan hệ ấy hoặc các phủ định của chúng, bằng sơ đồ
Aristotle vẫn còn đủ am hiểu toán học của thời đại mình để thấy rằng những sơ đồ kiểu này không đủ để tính đến mọi phép toán lôgic mà các nhà toán học sử dụng, lại càng không đủ cho các ứng dụng khác của Lôgic ([6], An. Pr.,I, 46). Ít nhất thì việc nghiên cứu sâu các dạng khác nhau của “tam đoạn luận” mà ông tiến hành (và hầu như hoàn toàn được dành cho việc làm sáng tỏ những khó khăn thường trực do tính nhập nhằng hoặc tối nghĩa của các đối tượng mà lập luận đặt lên chúng) đã cho ông, trong số những điều khác, cơ hội phát biểu các quy tắc để lấy phủ định của một mệnh đề ([6], An. Pr., I, 46). Cũng chính với Aristotle mà người ta
Mặc cho sự đơn giản và tính “hiển nhiên” mà các quy tắc lôgic do Aristotle phát biểu dường như bày ra trước mắt chúng ta, chỉ cần đặt chúng trở lại trong bối cảnh lịch sử của chúng là đủ để đánh giá những khó khăn đã xuất hiện trong việc cố đạt tới một phát biểu chính xác của các quy tắc ấy, và nỗ lực mà Aristotle hẳn đã phải bỏ ra để thành công: Plato, trong các đối thoại của mình, khi ông hướng tới một công chúng có văn hóa, vẫn để cho các nhân vật của mình mắc vào những câu hỏi sơ đẳng như các quan hệ giữa phủ định của và quan hệ (theo ký hiệu hiện đại), tuy vậy về sau vẫn làm xuất hiện câu trả lời đúng [264].
Các phát biểu tương ứng của Aristotle là “Mọi A đều là B” và “Một số A là B”; trong ký hiệu này A (“chủ từ”) và B (“vị từ”) thay cho các khái niệm, và nói rằng “Mọi A đều là một B” có nghĩa là có thể gán khái niệm B cho mỗi đối tượng mà người ta có thể gán khái niệm A (A là khái niệm “người” và B là khái niệm “phải chết” trong ví dụ cổ điển). Cách giải thích mà ta đưa ra cho điều đó là xét tập hợp các đối tượng mà theo thứ tự tương ứng các khái niệm A và B có thể được áp dụng; đó là điểm nhìn gọi là “ngoại diên”, Aristotle đã biết rồi. Nhưng ông chủ yếu xét quan hệ “Mọi A đều là B” từ một điểm nhìn khác, điểm nhìn “nội hàm”, trong đó B được xem như một trong các khái niệm cấu thành theo một cách nào đó khái niệm phức hơn A, hoặc, như Aristotle nói, “thuộc” về nó. Thoạt nhìn, hai điểm nhìn dường như tự nhiên như nhau, nhưng điểm nhìn “nội hàm” đã là một nguồn thường xuyên gây ra các vấn đề trong sự phát triển của Lôgic (nó có vẻ xa trực giác hơn điểm nhìn thứ nhất, và dẫn khá dễ đến sai lầm, đặc biệt trong các sơ đồ có chứa phủ định; xem [69a], tr.21-32).
Để có một thảo luận phê phán về các tam đoạn luận và những thiếu sót của chúng, xem chẳng hạn ([69a], tr. 432-441) hoặc ([164], tr. 44-50).
được ghi công là đã phân biệt với độ chính xác rất cao vai trò của các mệnh đề “phổ quát” với vai trò của các mệnh đề “đặc thù”, bản phác thảo đầu tiên của các lượng từ. Nhưng người ta biết quá rõ ảnh hưởng của các trước tác của ông (thường được giải thích theo một cách hẹp hòi và không thông minh), những trước tác vẫn còn rất có ảnh hưởng cho đến tận sâu trong thế kỷ XIX, đã khuyến khích các triết gia xao lãng việc nghiên cứu toán học, và ngăn cản sự tiến bộ của Lôgic hình thức.
Tuy nhiên, ngành sau này vẫn tiếp tục tiến bộ trong thời Cổ đại, trong môi trường của các trường phái Megara và Khắc kỷ, là các đối thủ của phái Peripatetic. Đáng tiếc là thông tin của chúng ta về các học thuyết này đều chỉ là gián tiếp, thường do các đối thủ hoặc các nhà bình giải tầm thường truyền lại. Tiến bộ cốt yếu mà các nhà lôgic này đạt được dường như là việc hình thành một "phép tính mệnh đề" theo nghĩa mà ngày nay nó mang: thay vì bị hạn chế, như Aristotle, vào các mệnh đề có dạng riêng , họ phát biểu các quy tắc về những mệnh đề hoàn toàn bất định. Hơn nữa, họ đã phân tích các liên hệ lôgic giữa các quy tắc ấy một cách sâu sắc đến mức họ biết cách suy ra tất cả chúng từ năm quy tắc trong số đó, được đặt ra như là "không chứng minh được", bằng các thủ tục rất giống với các phương pháp hiện đại [23]. Đáng tiếc, ảnh hưởng của họ khá ngắn ngủi, và các kết quả của họ đã rơi vào quên lãng cho đến ngày được các nhà lôgic thế kỷ XIX phát hiện lại. Aristotle vẫn là bậc thầy không thể tranh cãi trong Lôgic cho đến thế kỷ XVII; đặc biệt người ta biết rằng các triết gia kinh viện hoàn toàn ở dưới ảnh hưởng của ông, và nếu đóng góp của họ cho lôgic hình thức còn lâu mới là không đáng kể [25], thì nó không chứa đựng sự tiến bộ nào ở mức cao nhất so với những thành tựu của các triết gia thời Cổ đại.
Tuy nhiên, ở đây cũng nên chú ý rằng dường như các công trình của Aristotle hay các môn đệ kế tiếp ông đã không có một ảnh hưởng đáng kể nào đối với toán học. Các nhà toán học Hy Lạp đã tiến hành nghiên cứu của mình theo con đường do phái Pythagore và các môn đệ của họ ở thế kỷ IV mở ra (Theodorus, Theeta, Eudoxus) mà dường như không bận tâm đến lôgic hình thức trong việc trình bày các kết quả của mình: một nhận xét hầu như không gây ngạc nhiên nếu người ta so sánh tính mềm dẻo và độ chính xác mà lập luận toán học đã đạt được ngay từ thời ấy với trạng thái rất sơ khai của lôgic Aristotle. Và khi lôgic sẽ vượt qua giai đoạn này, thì chính các thành tựu mới của toán học lại sẽ dẫn dắt nó trong sự tiến hóa của mình.
Với sự phát triển của đại số, quả thật không thể không bị đánh động bởi sự tương tự giữa các quy tắc của lôgic hình thức và các quy tắc của đại số, cả hai đều có chung tính chất là có thể áp dụng cho các đối tượng (mệnh đề hoặc số) không được xác định một cách chính xác. Và khi vào thế kỷ XVII, ký hiệu đại số đã mang lấy dạng xác định của nó
Sự vắng mặt của các lượng từ thực sự (theo nghĩa hiện đại) cho đến cuối thế kỷ XIX đã là một trong những lý do của sự đình trệ của Lôgic hình thức. Người ta kể trường hợp một viện sĩ lỗi lạc, tại một hội nghị gần đây ở Princeton với sự hiện diện của Gödel, được cho là đã nói rằng từ Aristotle đến nay không có gì mới được làm trong Lôgic!
trong tay Viète và Descartes, thì gần như ngay lập tức người ta thấy xuất hiện nhiều cố gắng khác nhau nhằm tạo ra một ký hiệu tượng trưng dành cho biểu diễn các phép toán lôgic; nhưng trước Leibniz, các nỗ lực thử nghiệm ấy, chẳng hạn như của Herigone (1644) trong việc ghi lại các chứng minh của Hình học sơ cấp, hay của Pell (1659) trong việc ghi lại các chứng minh của Số học, vẫn còn rất hời hợt và không dẫn đến bất kỳ tiến bộ nào trong giải tích của lập luận toán học.
Với Leibniz, ta đứng trước sự hiện diện của một triết gia đồng thời cũng là một nhà toán học hạng nhất, và người sẽ biết rút ra từ kinh nghiệm toán học của mình mầm mống của những ý tưởng sẽ đưa lôgic hình thức ra khỏi ngõ cụt kinh viện. Một tinh thần phổ quát đúng nghĩa, một nguồn vô tận của những ý tưởng độc đáo và phong phú, Leibniz lại càng quan tâm đến Lôgic hơn nữa vì nó nằm ngay ở trung tâm những dự án lớn của ông nhằm hình thức hóa ngôn ngữ và tư duy, những dự án mà ông không ngừng theo đuổi suốt đời mình. Được đào luyện từ thời niên thiếu trong lôgic kinh viện, ông bị cuốn hút bởi ý tưởng (trở lại từ Raymond Lulle) về một phương pháp sẽ rút gọn mọi khái niệm của con người về các khái niệm nguyên thủy, hợp thành một “Bảng chữ cái của tư duy con người”, rồi tái cấu tạo chúng theo một cách gần như cơ giới để thu được mọi mệnh đề đúng ([198 b], v. VII, p. 185; cf. [69a], chap. II). Khi còn rất trẻ, ông cũng đã hình dung ra một ý tưởng khác độc đáo hơn nhiều, đó là tính hữu ích của các ký hiệu như một “sợi chỉ Ariadne” của tư duy: “Phương pháp đích thực”, ông nói, “phải cung cấp cho chúng ta một filum Ariadnes, nghĩa là một thứ phương tiện cảm tính và thô sơ dẫn dắt tinh thần, giống như các đường được vạch ra trong hình học và kiểu phép tính được quy định cho người học việc trong Số học. Nếu không có điều đó thì tinh thần của chúng ta sẽ không biết làm thế nào đi theo một con đường dài mà không lạc hướng.” ([198 b], v. VII, p. 22; cf. [69 a], p. 90). Hầu như không biết gì về toán học thời đại mình cho đến khoảng năm hai mươi lăm tuổi, lúc đầu ông trình bày các dự án của mình dưới dạng một “ngôn ngữ phổ quát” ([69 a], chap. III); nhưng ngay khi tiếp xúc với Đại số, ông lấy nó làm mô hình cho
Mặc dù Descartes và (ở mức độ thấp hơn) Pascal đã dành một phần công trình triết học của mình cho các nền tảng của toán học, đóng góp của họ vào sự tiến bộ của Lôgic hình thức là không đáng kể. Chắc hẳn điều này bắt nguồn từ khuynh hướng cơ bản trong tư tưởng của họ, là nỗ lực thoát khỏi sự giám hộ kinh viện, khiến họ bác bỏ mọi cái có thể được gắn với nó, và nhất là lôgic hình thức. Thật vậy, trong Những suy tưởng về tinh thần hình học của mình, Pascal, như chính ông thừa nhận, về cốt yếu chỉ hạn chế ở việc đúc các nguyên lý đã biết từ các chứng minh Euclid vào những công thức được diễn đạt chuẩn xác (chẳng hạn, mệnh lệnh nổi tiếng: “Luôn luôn thay thế trong trí óc các định nghĩa vào chỗ của cái được định nghĩa” ([244], v.IX, p.280) về cốt yếu đã được Aristotle biết đến ([6], Top., VI, 4; [153 d], p.187)). Còn đối với Descartes, các luật của lập luận mà ông nêu ra trước hết là những mệnh lệnh tâm lý học (khá mơ hồ) chứ không phải các tiêu chuẩn lôgic; như sự phê phán của Leibniz cho thấy ([69 a], p. 94 and 202-203), do đó chúng chỉ có một tầm mức chủ quan.
Dĩ nhiên, mối quan tâm đối với một ký hiệu như thế đã không thoát khỏi các bậc tiền bối của Leibniz về phương diện toán học, và chẳng hạn Descartes khuyến nghị thay thế các hình trọn vẹn “bằng những ký hiệu rất ngắn” (Quy tắc XVI về sự chỉ đạo của tinh thần; [85 a], v. X, p. 454). Nhưng trước Leibniz không ai đã nhấn mạnh với sức mạnh như thế đến tầm mức phổ quát của nguyên lý này.
“đặc số phổ quát”. Qua đó ông muốn nói đến một kiểu ngôn ngữ ký hiệu, có khả năng biểu đạt không mơ hồ toàn bộ tư duy của con người, tăng cường năng lực lập luận của chúng ta, tránh sai lầm bằng một nỗ lực tập trung hoàn toàn cơ giới, và sau hết được xây dựng sao cho “điều huyễn tưởng mà chính người đưa ra chúng cũng không nghe thấy, sẽ không thể viết ra bằng những ký tự này” ([198 a], v. I, p. 187). Trong vô số đoạn văn trong các trước tác của mình nơi Leibniz gợi lại dự án đồ sộ này và những tiến bộ mà việc thực hiện nó sẽ dẫn đến (cf. [69 a], chap. IV and VI), người ta thấy ông đã hình dung với sự sáng rõ đến mức nào khái niệm về một ngôn ngữ hình thức hóa, một tổ hợp thuần túy các ký hiệu mà chỉ có sự nối kết của chúng là quan trọng, theo cách mà một cỗ máy có thể tạo ra mọi định lý, và mọi tranh cãi sẽ được giải quyết bằng một phép tính đơn giản ([198 b], v. VII, p. 198-203). Nếu những hy vọng ấy có thể có vẻ quá đáng, thì dẫu sao vẫn đúng rằng chính với khuynh hướng thường trực này trong tư tưởng Leibniz mà phải gắn một phần lớn công trình toán học của ông, bắt đầu từ công trình của ông về ký hiệu của phép tính vi phân vô cùng bé (xem p. 190 ff.); bản thân ông ý thức rất rõ điều đó, và còn gắn tường minh với “Đặc số” của mình các ý tưởng của ông về ký hiệu chỉ số và các định thức ([198 a], v. II, p. 204; cf. [69 a], pp. 481-487) cũng như bản phác thảo của ông về “phép tính hình học” (xem pp. 50 and 61 ff.; cf. [69 a], chap IX). Nhưng trong tinh thần ông, phần cốt yếu phải là Lôgic ký hiệu, hay, như ông nói, một “Calculus ratiocinator”, và mặc dù ông không thành công trong việc tạo ra phép tính này, ít nhất ta cũng thấy ông thử làm điều đó ít ra là ba lần. Ở lần thử thứ nhất, ông có ý tưởng gắn với mỗi số hạng “nguyên thủy” một số nguyên tố, mỗi số hạng được tạo nên từ nhiều số hạng nguyên thủy được biểu diễn bởi tích của các số nguyên tố tương ứng; ông tìm cách dịch vào hệ này các luật thông thường của tam đoạn luận, nhưng vấp phải những phức tạp lớn do phép phủ định gây ra (mà ông thử, khá tự nhiên, biểu diễn bằng một sự thay đổi dấu) và nhanh chóng từ bỏ con đường này ([198 c], pp. 42-96; cf. [69 a], pp.326-344). Trong những lần thử về sau, ông tìm cách cho lôgic Aristotle một dạng đại số hơn; đôi khi ông giữ ký hiệu cho phép hội của hai khái niệm; đôi khi ông dùng ký hiệu ^{13} ông ghi nhận (trong ký hiệu nhân) luật lũy đẳng , nhận xét rằng có thể thay thế mệnh đề “mọi A đều là B” bằng đẳng thức và rằng từ đó người ta có thể khôi phục phần lớn các luật của Aristotle bằng một phép tính đại số thuần túy ([198 c], pp. 229-237 and 356-399; cf. [69 a], pp.345-364); ông cũng có ý tưởng về tập rỗng (“non Ens”), và nhận ra
Thật đáng chú ý khi thấy ở đây ông trích dẫn như những ví dụ về lập luận "đúng kiểu", "một bản kê của người sưu tập" hoặc thậm chí một văn bản pháp lý ([198 b], v. IV, p. 295). Người ta biết rằng quan niệm về một "cỗ máy lôgic" này ngày nay được dùng trong siêu toán học, nơi nó rất hữu ích ([181], chap. XIII). Ý tưởng này đã được Gödel tiếp nhận thành công trong công trình của ông về siêu toán học, dưới một dạng hơi khác một chút (x. [130 a] và [181], p. 254). Leibniz chỉ tìm cách đưa phép tuyển vào phép tính của mình trong một vài mảnh bản thảo (ở đó ông ký hiệu nó bằng ) và dường như đã không thành công trong việc xử lý đồng thời phép toán này và phép hội một cách thỏa đáng ([69 a], p. 363).
chẳng hạn sự tương đương của các mệnh đề “mọi A đều là B” và “A.(không B) là không” (loc. cit.). Hơn nữa, ông nhận xét rằng phép tính lôgic của mình không chỉ áp dụng cho lôgic các khái niệm, mà còn cho cả lôgic các mệnh đề ([198 c], p. 377). Do đó, ông dường như đã ở rất gần với “phép tính Boolean”. Đáng tiếc là dường như ông đã không thể hoàn toàn giải phóng mình khỏi ảnh hưởng kinh viện; không những ông gần như chỉ đặt cho phép tính của mình mục đích duy nhất là phiên chép, vào trong ký hiệu của ông, các quy tắc tam đoạn luận, mà ông còn đi xa đến mức hy sinh những ý tưởng đắc ý nhất của mình cho mong muốn khôi phục trọn vẹn các quy tắc của Aristotle, kể cả những quy tắc không tương thích với ý niệm về tập rỗng.
Công trình của Leibniz phần lớn vẫn không được xuất bản cho đến đầu thế kỷ XX, và chỉ có rất ít ảnh hưởng trực tiếp. Trong suốt thế kỷ XVIII và đầu thế kỷ XIX, nhiều tác giả khác nhau (de Segner, J. Lambert, Ploucquet, Holland, De Castillon, Gregonne) đã phác ra những cố gắng tương tự như của Leibniz, mà không bao giờ tiến xa hơn một cách đáng kể quá điểm mà ông đã dừng lại; công trình của họ chỉ có một tác động yếu ớt, điều đó có nghĩa là phần lớn trong số họ đã bỏ qua mọi kết quả do những người đi trước mình đạt được. Dù sao đi nữa, chính trong những điều kiện như vậy mà G. Boole, người phải được coi là người sáng tạo thực sự của lôgic ký hiệu hiện đại [29], đã viết. Ý tưởng chủ chốt của ông là tự đặt mình một cách có hệ thống vào lập trường xét “mở rộng”, do đó tính toán trực tiếp với các tập hợp, và viết cho giao của hai tập hợp, và cho hợp của chúng khi và không có phần tử chung nào. Ông cũng đưa vào một “vũ trụ” ký hiệu bởi 1 (tập hợp của mọi phần tử) và tập rỗng ký hiệu bởi 0, và ông viết cho phần bù của . Cũng như Leibniz đã làm, ông diễn giải quan hệ bao hàm bằng quan hệ (từ đó ông rút ra không khó khăn gì sự biện minh cho các quy tắc của tam đoạn luận cổ điển) và ký hiệu của ông cho phép hợp và phần bù đem lại cho hệ của ông một tính linh hoạt còn thiếu ở các bậc tiền bối của ông. Hơn nữa, bằng cách gắn với mỗi mệnh đề tập hợp các “trường hợp” trong đó nó đúng, ông diễn giải quan hệ kéo theo như một quan hệ bao hàm, và phép tính tập hợp của ông do đó cung cấp cho ông các quy tắc của “phép tính mệnh đề”.
Leibniz biết rất rõ rằng lôgic Aristote là không đủ để phiên dịch một cách hình thức các văn bản toán học, nhưng, mặc dù đã có vài cố gắng, ông không bao giờ thành công trong việc cải tiến nó về mặt này ([69 a], pp. 435 and 560).
Đó là các quy tắc gọi là “đảo” dựa trên tiên đề rằng “Mọi A là một B” kéo theo “Một vài A là một B”, điều này dĩ nhiên giả thiết rằng A không rỗng.
Ảnh hưởng của Kant, từ giữa thế kỷ XVIII, chắc hẳn đã đóng một phần nào đó trong sự thiếu quan tâm mà lôgic hình thức gây ra vào thời kỳ này; ông cho rằng “chúng ta không cần bất kỳ phát minh mới nào trong lôgic”, vì hình dạng mà Aristotle đã trao cho nó là đủ cho mọi ứng dụng có thể làm ra từ nó ([178], v. VIII, p. 340). Về những quan niệm giáo điều của Kant liên quan đến toán học và lôgic, có thể tham khảo [69b].
Chú ý đặc biệt rằng Boole sử dụng tính phân phối của phép giao đối với phép hợp, điều này dường như đã được J. Lambert nhận thấy lần đầu tiên.
Trong nửa sau của thế kỷ XIX, hệ của Boole đã tạo cơ sở cho công trình của một trường phái lôgic gia hoạt động mạnh, những người đã cải tiến và bổ sung nó ở nhiều điểm. Chính như vậy mà Jevons (1864) đã mở rộng ý nghĩa của phép toán hợp bằng cách mở rộng nó tới trường hợp trong đó và là tùy ý; A. de Morgan năm 1858 và C. S. Peirce năm 1867 đã chứng minh các định luật đối ngẫu
De Morgan cũng bắt tay, vào năm 1860, vào việc nghiên cứu các quan hệ, định nghĩa phép nghịch đảo và hợp thành của các quan hệ nhị phân (nghĩa là những phép toán tương ứng với các phép toán và trên các đồ thị). Toàn bộ công trình này được trình bày và phát triển một cách có hệ thống trong công trình đồ sộ và phong phú của Schröder [277]. Nhưng khá thú vị khi lưu ý rằng các nhà lôgic mà chúng tôi vừa nói đến dường như không mấy quan tâm đến việc áp dụng các kết quả của họ vào toán học, và trái lại, đặc biệt Boole và Schröder dường như có mục đích chính là phát triển đại số “Boolean” bằng cách mô phỏng các phương pháp và các bài toán của đại số cổ điển (thường theo một cách khá giả tạo). Những lý do của thái độ này hẳn phải được tìm thấy trong sự kiện là phép tính Boolean khi ấy vẫn còn thiếu một phương tiện để phiên chép phần lớn các lập luận toán học, và do đó chỉ cung cấp một lời đáp rất bộ phận cho giấc mơ lớn của Leibniz. Việc xây dựng một chủ nghĩa hình thức thích nghi hơn với toán học — mà sự đưa vào các biến và lượng từ, do Frege [117 a, b, c] và C. S. Peirce [248 b] thực hiện một cách độc lập, tạo thành chặng chủ yếu — là công trình của những nhà lôgic và nhà toán học mà, khác với những người trên, trước hết nhắm tới các ứng dụng vào nền tảng của toán học.
Dự án của Frege [117 b và c] là tạo ra một nền tảng cho số học dựa trên một logic được hình thức hóa bằng một “văn tự khái niệm” (Begriffsschrift), và chúng tôi sẽ trở lại sau (p. 29) với cách ông định nghĩa các số tự nhiên. Công trình của ông được đặc trưng bởi sự chính xác đến mức cực độ và sự chú ý đến chi tiết trong việc phân tích các khái niệm; chính vì xu hướng ấy mà ông đưa vào rất nhiều sự phân biệt mà về sau hóa ra có tầm quan trọng lớn trong logic hiện đại: chẳng hạn, chính ông là người đầu tiên phân biệt giữa mệnh đề của một mệnh đề và sự khẳng định rằng mệnh đề ấy là đúng, giữa
18 Cần lưu ý rằng những mệnh đề tương đương với các quy tắc này đã thấy có ở một số triết gia kinh viện ([25], p. 67 tt.). 19 Tuy nhiên, khái niệm tích “Descartes” của hai tập hợp tùy ý dường như chỉ được đưa vào một cách tường minh từ G. Cantor ([47], p. 286); cũng chính Cantor là người đầu tiên định nghĩa phép lũy thừa (loc. cit., p. 287); khái niệm tổng quát về một tích vô hạn là do A. N. Whitehead ([333], p. 369). Việc dùng các đồ thị của các quan hệ là khá gần đây; nếu trừ ra, dĩ nhiên, trường hợp cổ điển của các hàm thực của một biến thực, thì nó dường như xuất hiện lần đầu nơi các nhà hình học Ý, đặc biệt là C. Segre, trong nghiên cứu của họ về các tương ứng đại số. 20 Đối với mỗi quan hệ thu được từ một hoặc nhiều quan hệ đã cho bằng cách dùng các lượng từ của chúng tôi, trong phép tính này cần phải đưa vào một ký hiệu ad hoc theo kiểu ký hiệu và (x. chẳng hạn [248 b]).
quan hệ thuộc và quan hệ bao hàm, giữa một đối tượng và tập hợp rút gọn vào đối tượng duy nhất ấy, v.v.. Logic hình thức hóa của ông, vốn không những chứa các "biến" theo nghĩa được dùng trong toán học, mà còn cả các "biến mệnh đề" biểu diễn các quan hệ chưa xác định, có thể chịu lượng hóa, về sau (qua công trình của Russell và Whitehead) đã cung cấp công cụ cơ bản cho siêu toán học. Đáng tiếc là các ký hiệu mà ông dùng không gợi cảm hứng chút nào, có một độ phức tạp in ấn đáng sợ và rất xa rời thực hành của các nhà toán học; kết quả là làm cho chính các nhà toán học ấy quay lưng và làm giảm đáng kể ảnh hưởng của Frege đối với những người cùng thời với ông.
Mục tiêu của Peano đồng thời rộng lớn hơn nhiều và cũng sát thực tế hơn nhiều; nó gồm việc xuất bản một "Công thức tập toán học", được viết hoàn toàn bằng ngôn ngữ hình thức và chứa đựng, không chỉ logic toán học, mà còn tất cả các kết quả của những ngành quan trọng nhất của toán học. Tốc độ mà ông đã xoay xở để hoàn thành dự án đầy tham vọng ấy, với sự trợ giúp của cả một nhóm đông đảo cộng tác viên nhiệt thành (Vailati, Pieri, Padoa, Vacca, Vivanti, Fano, Burali-Forti), là bằng chứng cho tính ưu việt của hệ ký hiệu mà ông đã chọn: theo rất sát thực hành hiện thời của các nhà toán học, và đưa vào nhiều ký hiệu viết tắt được chọn lựa khéo léo, ngôn ngữ của ông đồng thời vẫn khá dễ đọc, đặc biệt nhờ một hệ thống khéo léo thay thế dấu ngoặc bằng các dấu chấm phân cách [246 f]. Nhiều ký hiệu do Peano đặt ra ngày nay được đại đa số các nhà toán học chấp nhận: chúng tôi nêu (nhưng, trái với cách dùng hiện nay, với nghĩa "được chứa trong" hoặc "kéo theo"), (tập hợp các hiệu với và ). Mặt khác, chính trong "Công thức tập" người ta thấy lần đầu tiên một sự phân tích thấu đáo khái niệm tổng quát về hàm, về ảnh trực tiếp và ảnh ngược, và nhận xét rằng một dãy chỉ là một hàm xác định trên . Nhưng sự lượng hóa, ở Peano, lại chịu những hạn chế gây trở ngại (về nguyên tắc, trong hệ của ông chỉ có thể lượng hóa các quan hệ dạng hoặc ). Hơn nữa, lòng nhiệt thành gần như cuồng tín của một vài môn đồ của ông khiến họ rất dễ bị chế giễu; sự phê phán, thường là không chính đáng, đặc biệt của H. Poincaré, đã là một đòn nặng giáng vào trường phái Peano và trở thành một chướng ngại cho việc phổ biến các học thuyết của ông trong thế giới toán học.
Với Frege và Peano, những yếu tố cốt yếu của các ngôn ngữ hình thức được dùng ngày nay đã được thu nhận. Ngôn ngữ được truyền bá rộng rãi nhất hẳn là ngôn ngữ do Russell và Whitehead rèn giũa trong công trình lớn của họ "Principia Mathematica", may mắn kết hợp được sự chính xác của Frege và tính tiện dụng của Peano [266]. Phần lớn các ngôn ngữ hình thức hiện hành chỉ khác nó ở những thay đổi có tầm quan trọng thứ yếu, nhằm làm đơn giản hóa việc sử dụng nó. Trong số những ngôn ngữ khéo léo nhất, chúng tôi nêu lối viết "phiếm hàm" của các quan hệ (chẳng hạn thay vì
Điều này chỉ rõ rằng thói quen cũ suy nghĩ “theo ngoại diên” hơn là “theo nội hàm” đã ăn rễ sâu đến mức nào, ngay cả ở ông.
Việc đưa vào khái niệm này dường như là do Dedekind, trong tác phẩm "Was sind und was sollen die Zahlen", mà chúng tôi sẽ nói đến sau ([79], v. III, p. 348).
), do Lukasiewicz nghĩ ra, nhờ đó có thể hoàn toàn bỏ dấu ngoặc; nhưng điều thú vị nhất chắc chắn là việc Hilbert đưa vào ký hiệu , cho phép xem các lượng từ và như những dấu viết tắt, tránh phải đưa vào ký hiệu phiếm hàm "phổ quát" của Peano và Russell (chỉ được áp dụng cho các quan hệ phiếm hàm), và sau cùng còn tránh được sự cần thiết phải phát biểu tiên đề lựa chọn trong lý thuyết tập hợp ([163 a], v.III, p. 183).
KHÁI NIỆM CHÂN LÝ TRONG TOÁN HỌC.
Các nhà toán học từ lâu vẫn tin chắc rằng họ chứng minh các "chân lý" hay các "mệnh đề đúng"; rõ ràng một niềm tin như vậy chỉ có thể có tính cảm tính hoặc siêu hình, và không phải bằng cách đi vào địa hạt toán học mà người ta có thể biện minh cho nó, thậm chí cũng không thể gán cho nó một ý nghĩa nào đó mà không làm cho nó thành một phép trùng ngôn. Vì vậy, lịch sử của khái niệm chân lý trong toán học thuộc về lịch sử triết học chứ không phải lịch sử toán học; nhưng sự tiến hóa của khái niệm này đã có một ảnh hưởng không thể phủ nhận lên sự tiến hóa của toán học, và vì điều đó chúng ta không thể bỏ qua nó trong im lặng.
Trước hết, hãy chú ý rằng hiếm có một nhà toán học nào sở hữu một nền văn hóa triết học vững chắc cũng như hiếm có một triết gia nào có hiểu biết sâu rộng về toán học; các ý kiến của các nhà toán học về những chủ đề triết học, ngay cả khi các vấn đề ấy liên quan đến lĩnh vực của họ, phần nhiều chỉ là những ý kiến tiếp thu lại qua tay thứ hai hoặc thứ ba, xuất phát từ những nguồn đáng ngờ. Nhưng, chính xác vì thế, chính những ý kiến trung bình ấy lại làm cho nhà sử học toán học quan tâm, ít nhất cũng nhiều như những quan điểm độc đáo của các nhà tư tưởng như Descartes hay Leibniz (để chỉ nhắc đến hai người đồng thời cũng là các nhà toán học hàng đầu), Plato (người ít ra vẫn theo kịp toán học đương thời), Aristotle hay Kant (về những người này thì không thể nói như vậy).
Khái niệm truyền thống về chân lý toán học là khái niệm có nguồn gốc từ thời Phục hưng. Trong quan niệm này, không có khác biệt lớn giữa các đối tượng thuộc mối quan tâm của các nhà toán học và các đối tượng thuộc mối quan tâm của khoa học tự nhiên; cả hai đều có thể được nhận biết và con người đã nắm được cả hai nhờ trực giác cũng như nhờ lý trí; không có cơ sở nào để nghi ngờ trực giác hoặc lý trí, vốn chỉ sai lầm khi được sử dụng không đúng. "Cần phải có", Pascal nói, "một tinh thần hoàn toàn lệch lạc mới lý luận tồi về những nguyên lý lớn lao đến mức hầu như không thể để chúng vuột mất" ([244], v. XII, p. 9). Descartes, bên lò sưởi của mình, đã tự thuyết phục rằng "chỉ có các nhà Toán học mới có thể tìm được vài chứng minh, nghĩa là vài lý do chắc chắn và xác thực" ([85 a], v.VI, p. 19) và rằng (nếu tin câu chuyện của ông) từ lâu trước khi ông xây dựng một siêu hình học trong đó "chính điều ấy", ông nói, "mà trước đây tôi lấy làm quy tắc, tức là những đối tượng mà chúng ta có thể hình dung rất rõ ràng và rất phân biệt đều là đúng, chỉ được bảo đảm vì Thượng đế là hoặc tồn tại, và vì ngài là một hữu thể hoàn hảo" ([85 a], v. VI, p. 38). Nếu Leibniz phản đối Descartes rằng người ta không thể thấy làm sao nhận ra được một ý niệm là "rõ ràng và phân biệt", thì ông cũng xem các tiên đề là hiển nhiên và các hệ quả không thể tranh cãi của các định nghĩa là như thế ngay khi các cách diễn đạt đã được hiểu. Cũng không được quên rằng, trong ngôn ngữ thời ấy, toán học bao gồm nhiều khoa học mà ngày nay ta không còn xem là như vậy nữa, và đôi khi còn đi xa tới cả nghệ thuật của người kỹ sư; và trong sự tin cậy mà chúng gợi lên, những thành công đáng kinh ngạc của các ứng dụng của chúng vào "triết học tự nhiên", vào các "nghệ thuật cơ khí", vào hàng hải, góp một phần lớn.
Trong cách nhìn sự vật như vậy, các tiên đề không dễ bị đem ra bàn cãi hay nghi vấn hơn các quy tắc suy diễn; cùng lắm, người ta để cho mỗi người, tùy theo sở thích của mình, lựa chọn suy luận "theo lối của người xưa" hay để cho trực giác của mình được tự do tung hoành. Việc lựa chọn điểm xuất phát cũng là chuyện sở thích cá nhân, và người ta thấy xuất hiện vô số "ấn bản" của Euclid trong đó bộ khung lôgic vững chắc của Elements trở thành một sự xuyên tạc kỳ quái; người ta đưa ra những trình bày về phép tính vi tích phân và cơ học hữu tỉ, được cho là suy ra từ những cơ sở được xác lập một cách tệ hại đến mức đáng kinh ngạc; và có lẽ Spinoza đã thành thực khi đưa ra Ethics của mình như một tác phẩm được chứng minh theo lối các nhà hình học "more geometrico demonstrata". Nếu khó tìm được trong thế kỷ XVII hai nhà toán học đồng ý với nhau về bất cứ vấn đề nào, nếu những cuộc bút chiến diễn ra hằng ngày, vô tận và cay độc, thì khái niệm chân lý nevertheless vẫn không bị đặt thành vấn đề. "Chỉ có một chân lý duy nhất về mỗi đối tượng", Descartes nói, "ai tìm ra nó thì biết về đối tượng ấy nhiều đến mức có thể biết được" ([85 a], v. VI, p. 21).
Mặc dù không còn văn bản toán học Hy Lạp nào của thời kỳ rực rỡ về các vấn đề này tồn tại, có lẽ quan điểm của các nhà toán học Hy Lạp về chủ đề này có nhiều sắc thái hơn hẳn. Chỉ nhờ kinh nghiệm mà các quy tắc suy diễn mới được xây dựng đến mức tạo được sự tin cậy đầy đủ; trước khi có thể được xem là vượt lên trên mọi bàn cãi, cần phải trải qua chủ yếu là những dò dẫm và những ngụy biện. Cũng sẽ là
"Những người đã cho chúng ta các phương pháp" ông nói trong ngữ cảnh này "không nghi ngờ gì nữa, đã cho những giới luật đẹp đẽ, nhưng không cho phương tiện để tuân theo chúng." ([198 b], v. VII, p. 21). Ở nơi khác, nhạo báng các quy tắc Descartes, ông so sánh chúng với các công thức của các nhà giả kim: "Hãy lấy cái bạn cần, làm như bạn phải làm, và bạn sẽ đạt được điều mà bạn mong muốn!" ([198 b], v. IV, p. 329).
Về điểm này, Leibniz vẫn còn chịu ảnh hưởng kinh viện; ông vẫn nghĩ rằng các mệnh đề thiết lập một mối liên hệ từ “chủ từ” tới “vị từ” giữa các khái niệm. Một khi các khái niệm đã được rút gọn về các khái niệm “nguyên thủy” (mà, như ta đã thấy, là một trong những ý niệm cơ bản của ông), thì đối với Leibniz, mọi sự quy về việc kiểm tra các quan hệ “bao hàm” bằng cái mà ông gọi là các “tiên đề đồng nhất” (về bản chất là các mệnh đề và ) và nguyên lý “thế các tương đương” (nếu , thì có thể được thay thế ở mọi nơi bởi ([69 a], pp. 184-206)). Trong bối cảnh này, thật thú vị khi chú ý rằng, phù hợp với mong muốn của ông là quy mọi sự về Logic và “chứng minh mọi điều có thể chứng minh được”, Leibniz chứng minh tính đối xứng và tính bắc cầu của quan hệ đẳng thức, xuất phát từ tiên đề và nguyên lý thế các tương đương ([198 a], v. VII, pp. 77-78).
Hiểu sai tinh thần phê phán của người Hy Lạp, thị hiếu của họ đối với tranh luận và ngụy biện, là tưởng rằng chính những “tiên đề” mà Pascal cho là hiển nhiên nhất (và mà, theo một truyền thuyết do em gái ông truyền bá, ông đã tự mình khám phá ra từ thuở nhỏ nhờ một bản năng không sai lầm) lại không từng là đối tượng của những cuộc tranh luận lâu dài. Trong một lĩnh vực không phải là hình học theo nghĩa chặt, các nghịch lý của phái Élée đã lưu giữ cho ta vài dấu vết của những cuộc bút chiến ấy; và Archimedes, khi ông nhận xét ([5 b], v. II, p. 265) rằng những người đi trước ông đã dùng trong nhiều trường hợp tiên đề mà ngày nay ta thường gán tên ông cho nó, còn nói thêm rằng điều được chứng minh nhờ tiên đề ấy “đã được chấp nhận không kém gì điều đã được chứng minh mà không cần đến nó”, và rằng chỉ cần các kết quả riêng của ông cũng được chấp nhận trên cùng một cơ sở. Plato, phù hợp với các quan điểm siêu hình của mình, trình bày toán học như một phương tiện để đi tới một “chân lý tự thân” và các đối tượng mà nó khảo sát như có một sự tồn tại thực trong thế giới các ý niệm; tuy vậy, ông vẫn mô tả phương pháp toán học một cách chính xác trong một đoạn nổi tiếng của Cộng hòa: “Những người dính líu tới hình học và số học ... giả định số chẵn và số lẻ, ba loại góc; họ xử lý chúng như những đối tượng đã biết: một khi đã giả định như thế, họ cho rằng không còn cần phải giải trình về chúng, cho chính mình cũng như cho người khác, [vì coi đó] là điều sáng tỏ đối với mỗi người; và từ đó, họ tiến hành theo dãy, nhằm đạt tới, bằng sự đồng thuận chung, mục đích mà nghiên cứu của họ đã gợi ra” ([250], Book VI, 510 c-e). Vậy điều cấu thành một chứng minh trước hết là một điểm xuất phát cung cấp một khởi đầu tùy ý (dù là “sáng tỏ đối với mọi người”), và vượt quá đó, như ông nói thêm một chút về sau, người ta không tìm cách đào sâu; tiếp theo là một cuộc thảo luận đi theo dãy qua một chuỗi các giai đoạn trung gian; sau cùng, ở mỗi bước, sự đồng ý của người đối thoại bảo đảm tính đúng đắn của lập luận. Còn phải thêm rằng một khi các tiên đề đã được phát biểu, thì về nguyên lý không còn được phép viện đến trực giác lần nào nữa: Proclus, khi trích Géminus, nhắc lại rằng “chúng ta đã học được từ chính những người mở đường cho khoa học này là không được chú ý tới các kết luận chỉ có vẻ hợp lý, khi đó là trường hợp của một lập luận phải thuộc về học thuyết hình học của chúng ta” ([153 e], v.I, p. 203).
Như vậy, chính kinh nghiệm và cái vạc của sự phê phán đã làm nên sự công phu xây dựng các quy tắc của lập luận toán học; và nếu quả thật, như người ta đã lập luận một cách có vẻ hợp lý [317 d], rằng Quyển VIII của Euclid đã giữ lại cho ta một phần số học của Archytas, thì không có gì đáng ngạc nhiên khi thấy ở đó sự cứng nhắc của lối lập luận khá pedant, thứ lối lập luận không bao giờ không xuất hiện trong mọi trường phái toán học nơi người ta phát hiện ra hoặc tin là đã phát hiện ra “sự chặt chẽ”. Nhưng, một khi đã đi vào thực hành của các nhà toán học, dường như các quy tắc lập luận ấy chưa bao giờ bị nghi ngờ cho tới thời rất gần đây: nếu ở Aristotle và các nhà Khắc kỷ, một vài quy tắc được suy ra từ các quy tắc khác bằng những sơ đồ lập luận, thì các quy tắc nguyên thủy vẫn luôn được giả định là hiển nhiên. Cũng vậy, một khi đã quay trở lại các “giả thuyết”, “tiên đề” và “công đề” vốn dường như cung cấp cho họ một nền tảng vững chắc cho khoa học của thời đại mình (chẳng hạn như những điều mà, theo truyền thống, họ nêu ra trong những "Elements" đầu tiên được gán cho Hippocrates xứ Chio, khoảng năm 450 trước Công nguyên), các nhà toán học Hy Lạp từ thời kỳ cổ điển dường như đã dồn mọi nỗ lực của mình vào việc khám phá các kết quả mới hơn là vào một sự phê phán các nền tảng ấy, sự phê phán mà vào thời đó không thể không là vô sinh; và, gác sang một bên mọi bận tâm siêu hình, chính sự nhất trí chung này giữa các nhà toán học về các cơ sở của khoa học của họ là điều mà đoạn văn của Plato được trích ở trên làm chứng.
Mặt khác, dường như các nhà toán học Hy Lạp đã không tin là có thể giải thích các "khái niệm nguyên sơ" làm điểm xuất phát cho họ, đường thẳng, mặt, tỉ số các đại lượng; nếu họ đưa ra các "định nghĩa" về chúng, thì hiển nhiên đó là một cơn cắn rứt lương tâm và không hề có ảo tưởng nào về tầm với của chúng. Tất nhiên, trái lại, về những định nghĩa khác với các định nghĩa của các "khái niệm nguyên sơ" (những định nghĩa thường được gọi là "duy danh"), các nhà toán học và triết gia Hy Lạp có những ý niệm hoàn toàn rõ ràng. Chính trong bối cảnh ấy mà lần đầu tiên, hẳn là một cách tường minh, can thiệp vào vấn đề "sự tồn tại" trong toán học. Aristotle không bỏ qua việc nhận thấy rằng một định nghĩa không kéo theo sự tồn tại của đối tượng được định nghĩa, và ngoài ra còn phải có hoặc một tiên đề hoặc một chứng minh. Hẳn nhận xét của ông được dẫn xuất từ thực hành của các nhà toán học; dù sao đi nữa Euclid đã cẩn thận tiên đề hóa sự tồn tại của một đường tròn, và chứng minh sự tồn tại của một tam giác đều, của các đường song song, của một hình vuông, v.v. khi ông đưa chúng vào các lập luận của mình ([153 e], Book I); các chứng minh ấy là những "phép dựng"; nói cách khác, dựa trên các tiên đề, ông nêu ra những đối tượng toán học mà ông chứng minh là thỏa mãn các định nghĩa ông cần để biện minh.
Như vậy ta thấy toán học Hy Lạp ở thời kỳ cổ điển đạt tới một thứ xác tín kinh nghiệm nào đó (dù những cơ sở siêu hình của nó nơi triết gia này hay triết gia khác có thể là gì đi nữa); nếu người ta không thể quan niệm rằng các quy tắc lập luận lại có thể bị đặt lại vấn đề, thì thành công của khoa học Hy Lạp, và cảm giác về tính không thích đáng của một cuộc xét lại phê phán, đóng một vai trò lớn trong sự tin cậy do chính các tiên đề gợi ra, một sự tin cậy thuộc loại khá giống với sự tin cậy (gần như vô hạn cũng vậy) mà người ta đã đặt trong thế kỷ trước vào các nguyên lý của vật lý lý thuyết. Dù sao, đó là điều được gợi ý bởi châm ngôn của trường phái "nihil est in intellectu quod non prius fuerit in sensu", chính xác là điều mà Descartes nổi bật lên để chống lại, vì cho rằng nó không cung cấp một cơ sở đủ vững chắc cho điều mà Descartes hy vọng rút ra từ việc sử dụng lý trí.
Phải hạ xuống đến đầu thế kỷ XIX mới thấy các nhà toán học hồi tỉnh khỏi sự kiêu căng của một Descartes (chưa nói đến sự kiêu căng của một Kant hay của một Hegel, người sau này hơi muộn, theo đúng mốt, về khoa học đương thời của mình), để trở lại một lập trường cân bằng như của người Hy Lạp. Đòn đầu tiên giáng vào các quan niệm cổ điển là sự thiết lập hình học hyperbol không-Euclid
Trong luận án khai mạc của mình, ông "chứng minh" rằng có nhiều nhất bảy hành tinh, đúng vào năm mà hành tinh thứ tám đang được phát hiện.
bởi Gauss, Lobatschevsky và Bolyai vào đầu thế kỷ. Chúng tôi sẽ không thử thuật lại ở đây một cách chi tiết nguồn gốc của khám phá này, kết quả của nhiều nỗ lực không kết quả nhằm chứng minh tiên đề song song (xem [105 a và b]). Vào thời đó, ảnh hưởng của nó lên các nguyên lý của toán học có lẽ không sâu sắc đến thế như đôi khi người ta nói. Nó chỉ buộc phải từ bỏ những tham vọng của thế kỷ trước về “chân lý tuyệt đối” của hình học Euclid, và lại càng buộc phải từ bỏ quan điểm Leibniz cho rằng các định nghĩa kéo theo các tiên đề; các tiên đề này không còn xuất hiện như những điều “hiển nhiên” chút nào nữa, mà đúng hơn như những giả thuyết mà phải xác định xem chúng có thích nghi với biểu diễn toán học của thế giới cảm giác hay không. Gauss và Lobatschevsky tin rằng cuộc tranh luận giữa các hình học khả hữu khác nhau có thể được xác định bằng kinh nghiệm ([206], p. 76). Đó cũng là quan điểm của Riemann, mà Bài giảng khai mạc nổi tiếng “On the hypotheses which form the foundation of geometry” nhằm cung cấp một khuôn khổ toán học tổng quát cho các hiện tượng tự nhiên khác nhau: “Điều còn phải giải quyết”, ông nói, “là vấn đề biết được những giả thuyết này được kinh nghiệm xác nhận đến mức nào và tới điểm nào” ([259 a], p. 284). Nhưng đó hiển nhiên là một bài toán không còn liên quan gì đến Toán học nữa; và dường như không một ai trong các tác giả trước đó đặt lại vấn đề rằng, ngay cả khi một “hình học” không tương ứng với một thực tại thực nghiệm, thì các định lý của nó vẫn không vì thế mà kém là những “chân lý toán học”.
Dẫu vậy, nếu đúng là như thế, thì chắc chắn không còn do một niềm tin vô hạn vào “trực giác hình học” cổ điển mà có một xác tín như vậy; mô tả mà Riemann tìm cách đưa ra về các “đa tạp mở rộng n lần”, đối tượng công trình của ông, chỉ dựa vào những xem xét “trực giác” để đi tới sự biện minh cho việc đưa vào các “tọa độ địa phương”; từ lúc đó trở đi, dường như ông cảm thấy mình đứng trên nền đất vững chắc, tức là nền đất của Giải tích. Nhưng đến lượt giải tích này, rốt cuộc lại được đặt nền trên khái niệm số thực, vốn cho đến khi đó vẫn còn mang tính rất trực giác; và sự tiến bộ trong lý thuyết hàm, về phương diện này, đang dẫn tới những kết quả rất đáng lo ngại: với các nghiên cứu của chính Riemann về tích phân, và còn hơn nữa với các ví dụ về đường cong không có tiếp tuyến, do Bolzano và Weierstrass xây dựng, thì toàn bộ bệnh lý học của toán học đã bắt đầu. Suốt một thế kỷ, người ta đã thấy quá nhiều quái vật thuộc loài này đến mức chúng ta hơi chai lì, và phải tích lũy những đặc trưng quái thai kỳ dị nhất mới còn có thể làm ta kinh ngạc. Nhưng hiệu ứng mà chúng gây ra trên đại đa số các nhà toán học thế kỷ XIX thì từ ghê tởm đến sửng sốt: “Làm sao”, H. Poincaré tự hỏi, “trực giác có thể đánh lừa chúng ta đến mức này?” ([251 d], p. 19); và Hermite (không phải không có một tia hài hước mà các nhà bình luận về câu nói nổi tiếng này
26 Xem các lập luận của Poincaré bênh vực “tính đơn giản” và “tính tiện lợi” của hình học Euclid ([251 c], p. 67), cũng như sự phân tích nhờ đó, ít lâu sau, ông đi đến kết luận rằng kinh nghiệm không cung cấp một tiêu chuẩn tuyệt đối cho việc lựa chọn hình học này hơn một hình học khác làm khuôn khổ cho các hiện tượng tự nhiên. 27 Một lần nữa, từ này chỉ có cơ sở đối với ; với các giá trị lớn hơn của , đó là trường hợp lập luận bằng phép loại suy.
(dường như không phải tất cả đều đã nhận ra) tuyên bố rằng ông "quay lưng lại với nỗi sợ hãi và kinh hoàng trước bệnh dịch đáng thương này của các hàm liên tục không có đạo hàm" ([160], v. II, p. 318). Điều tệ nhất là các hiện tượng ấy, trái hẳn với lẽ thường như vậy, không còn có thể bị quy cho những ý niệm được làm sáng tỏ một cách tồi tệ, như vào thời các "vô cùng bé" (xem p. 173), vì chúng vẫn tồn tại sau cuộc cải cách của Bolzano, Abel và Cauchy, những người đã đặt nền móng cho khái niệm giới hạn một cách chặt chẽ không kém lý thuyết về các tỷ số (xem p. 154). Vì vậy, chính tính chất thô sơ và không đầy đủ của trực giác hình học của chúng ta mới hoàn toàn phải chịu trách nhiệm, và thật hợp lý khi từ đó về sau trực giác ấy bị mất tín nhiệm, hoàn toàn có lý, như một phương tiện chứng minh.
Sự nhận thức này tất yếu đã tác động trở lại lên toán học cổ điển, bắt đầu từ hình học. Dù phép dựng tiên đề của Euclid đã từng được coi trọng đến đâu, người ta cũng đã nhận thấy hơn một sự bất toàn, và điều đó ngay từ thời cổ đại. Tiên đề về các đường song song là đối tượng của số lượng lớn nhất những phê phán và những nỗ lực chứng minh; nhưng các môn đệ và các nhà chú giải Euclid cũng đã tìm cách chứng minh các tiên đề khác (đặc biệt là tiên đề về đẳng thức của các góc vuông) hoặc đã thừa nhận sự không đủ của một số định nghĩa, chẳng hạn như các định nghĩa về đường thẳng hoặc mặt phẳng. Vào thế kỷ XVI, Clavius, một người hiệu đính bộ Elements, ghi nhận sự vắng mặt của một tiên đề bảo đảm sự tồn tại của số hạng tỷ lệ thứ tư; về phần mình, Leibniz nhận xét rằng Euclid sử dụng trực giác hình học mà không nói ra một cách tường minh, chẳng hạn khi ông thừa nhận (Elements, Quyển I, prop. 1) rằng hai đường tròn, mỗi đường đi qua tâm của đường kia, có một điểm chung ([198 b], v. VII, p. 166). Gauss (bản thân ông cũng không tự từ chối việc sử dụng những xem xét tôpô như thế) thu hút sự chú ý đến vai trò được đảm nhiệm trong các phép dựng Euclid bởi khái niệm một điểm (hoặc một đường thẳng) nằm "giữa" hai điểm khác, một khái niệm tuy nhiên không được định nghĩa ([124 a], v. VIII, p. 222). Sau cùng, việc sử dụng các phép dời hình — đặc biệt trong "trường hợp bằng nhau của các tam giác" — từ lâu được giả định là hiển nhiên, chẳng bao lâu đã hiện ra đối với các nhà phê bình thế kỷ XIX như cũng dựa trên những tiên đề không được phát biểu. Như vậy, trong giai đoạn từ 1860 đến 1885, rốt cuộc người ta có những sự sửa đổi bộ phận khác nhau đối với phần mở đầu của hình học (Helmholtz, M\'eray, Houël) nhằm khắc phục một số chỗ thiếu sót ấy. Nhưng chỉ với M. Pasch [245] thì việc từ bỏ mọi sự viện dẫn đến trực giác mới là một chương trình được phát biểu đúng nghĩa và được theo đuổi với đầy đủ sự chặt chẽ. Thành công của công trình của ông chẳng bao lâu đã đem lại cho ông nhiều người noi theo; chủ yếu từ 1890 đến 1910, họ đã đưa ra những phát biểu rất đa dạng về các tiên đề của hình học Euclid. Nổi tiếng nhất trong các công trình ấy là những công trình của Peano, viết bằng ngôn ngữ ký hiệu của ông [246 d], và nhất là "Grundlagen der Geometrie" của Hilbert [163 c], xuất bản năm 1899, một cuốn sách mà, do tính sáng rõ và chiều sâu trong trình bày của nó, đã ngay lập tức trở thành,
Tuy nhiên phải lưu ý rằng, ngay từ thế kỷ XVI, một nhà chú giải Euclid là J. Peletier đã phản đối phương tiện chứng minh này, bằng những lời lẽ gần với các nhà phê bình hiện đại ([153 e], v. I, p. 249).
một cách hoàn toàn chính đáng, bản hiến chương của phương pháp tiên đề hiện đại, đến mức làm cho người ta quên đi các bậc tiền bối của nó. Thật vậy, không bằng lòng với việc đưa ra ở đó một hệ tiên đề đầy đủ cho hình học Euclid, Hilbert còn phân loại các tiên đề ấy thành những nhóm khác nhau thuộc những kiểu khác nhau, và đặt mục tiêu xác định phạm vi ảnh hưởng chính xác của từng nhóm tiên đề ấy, không những bằng cách triển khai các hệ quả lôgic của mỗi nhóm khi xét riêng rẽ, mà còn bằng cách thảo luận các "hình học" khác nhau thu được khi người ta bỏ đi hoặc sửa đổi một số tiên đề ấy (trong số các hình học mà ở đó các hình học của Lobatschevsky và của Riemann chỉ xuất hiện như những trường hợp riêng); như vậy ông làm xuất hiện rõ ràng, trong một lĩnh vực cho đến lúc đó còn được coi là một trong những lĩnh vực gần nhất với thực tại của cảm giác, sự tự do mà nhà toán học có trong việc lựa chọn các tiên đề. Bất chấp sự rối loạn gây ra cho không ít triết gia bởi các "siêu hình học" có những tính chất kỳ lạ ấy, luận đề của "Grundlagen" đã nhanh chóng được các nhà toán học chấp nhận gần như nhất trí; H. Poincaré, tuy khó có thể bị buộc tội là thiên vị chủ nghĩa hình thức, đã thừa nhận vào năm 1902 rằng các tiên đề của hình học là những quy ước, đối với chúng khái niệm "chân lý", theo nghĩa người ta thường hiểu, không còn có ý nghĩa gì nữa ([251 c], pp. 66-67). Vì vậy, "chân lý toán học" chỉ duy nhất nằm trong suy diễn lôgic xuất phát từ những tiền đề được các tiên đề đặt ra một cách tùy ý. Như sẽ thấy về sau (pp. 35 ff.), bản thân tính hợp thức của các quy tắc lập luận được dùng để thực hiện những suy diễn ấy cũng chẳng bao lâu đã bị đặt thành vấn đề, do đó đưa đến một sự cải biến hoàn toàn các quan niệm cơ bản của toán học.
CÁC ĐỐI TƯỢNG, MÔ HÌNH VÀ CẤU TRÚC.
A) Các đối tượng và các cấu trúc của toán học. — Từ thời Cổ đại đến thế kỷ XIX, có một sự hiểu chung về những gì là các đối tượng chính của các nhà toán học; đó chính là những đối tượng được Plato nhắc đến trong đoạn đã trích dẫn ở trên (p. 13); các số, các đại lượng và các hình. Nếu lúc đầu cần thêm vào đó các đối tượng và hiện tượng là đối tượng của Cơ học, Thiên văn học, Quang học và Âm nhạc, thì các bộ môn "toán học" ấy, ở người Hy Lạp, luôn luôn được tách biệt rõ ràng khỏi Số học và Hình học, và kể từ thời Phục hưng chúng khá nhanh chóng đạt tới hạng của những khoa học độc lập.
Dù là với những sắc thái triết học nào mà quan niệm về các đối tượng toán học được tô màu nơi nhà toán học hay triết gia này hay khác, thì ít nhất có một điểm mà mọi người đều nhất trí: đó là các đối tượng ấy được ban cho chúng ta và chúng ta không có quyền gán cho chúng những tính chất tùy ý, cũng như một nhà vật lý không thể thay đổi một hiện tượng tự nhiên. Nói cho đúng, các phản ứng tâm lý hẳn tạo thành một phần
Loại dường như đã gây ấn tượng sâu sắc nhất đối với những người cùng thời với ông là hình học "phi-Archimedes", nghĩa là hình học lấy làm trường cơ sở một trường có thứ tự phi-Archimedes (giao hoán hay không) mà (trong trường hợp giao hoán) Veronese đã đưa vào vài năm trước đó [318].
của các quan điểm ấy, những phản ứng mà chúng ta không phải theo đuổi, nhưng mỗi nhà toán học đều biết đến khi anh ta tự làm kiệt sức trong những nỗ lực vô ích nhằm nắm bắt một chứng minh dường như cứ mãi tuột khỏi tay. Từ đó đến chỗ đồng nhất sự kháng cự này với những chướng ngại mà thế giới cảm giác đặt ra trên đường chúng ta chỉ có một bước duy nhất; và ngay cả ngày nay, hơn một người, tự nhận là một nhà hình thức luận không khoan nhượng, trong thâm tâm mình vẫn sẽ sẵn sàng tán thành lời thú nhận này của Hermite: "Tôi tin rằng các số và các hàm của Giải tích không phải là kết quả tùy ý của trí óc chúng ta; tôi nghĩ rằng chúng tồn tại bên ngoài chúng ta, với cùng tính cách tất yếu như các sự vật của thực tại khách quan, và chúng ta gặp chúng hoặc phát hiện ra chúng, rồi nghiên cứu chúng, như các nhà vật lý, các nhà hóa học và các nhà động vật học vẫn làm" ([160], v. II, p. 398).
Trong quan niệm cổ điển về toán học, không hề có vấn đề đi chệch khỏi việc nghiên cứu các số và các hình; nhưng học thuyết chính thức này, mà mọi nhà toán học đều tin mình bị buộc phải công khai tán thành, nevertheless từng chút một lại trở thành một gánh nặng không thể chịu nổi, khi các ý tưởng mới tích lũy lại. Sự lúng túng của các nhà đại số trước các số âm chỉ chấm dứt khi Hình học giải tích đem lại cho nó một "cách giải thích" thuận tiện; nhưng mãi đến sâu trong thế kỷ XVIII, d'Alembert, khi bàn về vấn đề này trong Encyclopédie ([75 a], mục NÉGATIF), bỗng mất bình tĩnh sau một cột những lời giải thích khá rối rắm, và chỉ còn biết kết luận rằng "các quy tắc của các phép toán đại số trên các đại lượng âm nói chung được mọi người thừa nhận và nói chung được cảm nhận là khớp, dù ở nơi khác người ta liên kết với các đại lượng ấy ý niệm nào đi nữa". Còn đối với các số ảo thì tai tiếng còn lớn hơn nhiều; bởi nếu đó là những nghiệm "bất khả" và nếu (cho đến khoảng năm 1800) không thấy có cách nào để "giải thích" chúng, thì làm sao người ta có thể, mà không mâu thuẫn, nói về những hữu thể không thể định nghĩa ấy, và nhất là tại sao lại đưa chúng vào? Ở đây d'Alembert giữ một sự im lặng thận trọng và thậm chí không nêu ra các câu hỏi ấy, hẳn vì ông nhận ra rằng mình sẽ không thể trả lời khác hơn điều A. Girard đã làm một cách ngây thơ một thế kỷ trước đó ([129], f. 22): "Người ta có thể nói: những nghiệm bất khả ấy dùng để làm gì? Tôi trả lời: cho ba điều, cho sự chắc chắn của quy tắc tổng quát, và rằng không có nghiệm nào khác, và cho tính hữu ích của nó."
Trong Giải tích, tình hình ở thế kỷ XVII cũng không tốt hơn. Thật là một hoàn cảnh may mắn khi Hình học giải tích đã xuất hiện, như thể đúng vào một điểm đã định, để đem lại một "biểu diễn" dưới dạng một hình hình học cho sáng tạo lớn của thế kỷ XVII, khái niệm hàm, và nhờ đó trợ giúp mạnh mẽ (với Fermat, Pascal hay Barrow) cho sự ra đời của phép tính vi tích phân (x. p. 193). Nhưng mặt khác người ta cũng biết rằng các khái niệm về cái vô hạn bé và cái bất khả phân sẽ gây ra những cuộc tranh cãi triết học-toán học đến mức nào. Và nếu ở đây d'Alembert thành công hơn, và thừa nhận rằng trong "siêu hình học" của phép tính vi tích phân không có gì khác ngoài khái niệm giới hạn ([75 a], các mục DIFFÉRENTIEL và LIMITE, và [75 b]), thì ông cũng không thể hơn những người cùng thời hiểu được ý nghĩa thực sự của khai triển thành chuỗi phân kỳ, và giải thích nghịch lý của những kết quả khớp thu được ở cuối những phép tính với những biểu thức không có bất kỳ cách diễn giải số học nào. Sau hết, ngay cả trong lĩnh vực của "sự chắc chắn hình học", khuôn khổ Euclid cũng vỡ tung: khi Stirling, năm 1717, không ngần ngại nói rằng một đường cong nào đó có một "điểm ảo kép ở vô cực" ([299], p. 93 của bản in mới), hẳn ông sẽ lúng túng nếu phải nối một "đối tượng" như thế với những khái niệm được hiểu theo nghĩa thông thường; và Poncelet, người vào đầu thế kỷ XIX đã phát triển đáng kể những ý tưởng như thế khi sáng lập hình học xạ ảnh (xem p. 131), vẫn chỉ bằng lòng viện dẫn để biện minh một "nguyên lý liên tục" hoàn toàn mang tính siêu hình.
Người ta có thể hình dung rằng, trong những điều kiện ấy (và đúng vào lúc mà, một cách nghịch lý, "chân lý tuyệt đối" của toán học được tuyên xưng với lực mạnh lớn nhất), khái niệm chứng minh dường như ngày càng trở nên mờ nhạt trong suốt thế kỷ XVIII, vì không thể nào đặt ra, như người Hy Lạp đã làm, các khái niệm mà lập luận được tiến hành trên đó, và các tính chất cơ bản của chúng. Sự quay trở lại với tính chặt chẽ, bắt đầu từ đầu thế kỷ XIX, có đem lại một vài cải thiện cho tình trạng này, nhưng vì thế mà không ngăn được dòng các khái niệm mới: người ta thấy do đó trong Đại số xuất hiện các ảo số của Galois ([123], p. 113-127), các số iđêan của Kummer [188 b], rồi tiếp theo là các vectơ và quaternion, các không gian chiều , các đa vectơ và tenxơ (xem pp. 61 ff.), chưa kể đến đại số Boole. Chắc chắn có một tiến bộ lớn (chính tiến bộ ấy cho phép quay trở lại với tính chặt chẽ, mà không đánh mất bất cứ thành quả nào của các thời kỳ trước) cùng với khả năng cho các "mô hình" đối với những khái niệm mới này bằng những thuật ngữ cổ điển hơn: các số iđêan hoặc các ảo số của Galois được giải thích bằng lý thuyết đồng dư (xem pp. 82 ff.), hình học chiều chỉ xuất hiện (nếu muốn) như một ngôn ngữ thuần túy để phát biểu các kết quả đại số "với n biến"; và đối với các số ảo cổ điển - mà sự biểu diễn hình học bằng các điểm của một mặt phẳng (xem pp. 161 ff.) đánh dấu sự khởi đầu của sự nở rộ này của Đại số - chẳng bao lâu đã có sự lựa chọn giữa "mô hình" hình học và một cách giải thích bằng đồng dư (cf. p. 82). Nhưng rốt cuộc các nhà toán học bắt đầu cảm thấy rõ rệt rằng đó là chống lại một xu hướng tự nhiên mà công việc của họ đang cuốn họ theo, và rằng trong toán học phải được phép lập luận về những đối tượng không có một "cách giải thích" cảm tính nào: "Không phải bản chất của toán học", Boole nói năm 1854, "là bận tâm đến các ý niệm về số và lượng" ([29], v. II, p. 13).30 Mối bận tâm ấy cũng dẫn Grassmann, trong "Ausdehnungslehre" của ông
30 Leibniz, về phương diện này, lại xuất hiện như một người đi trước: ông nói "Toán học phổ quát", "có thể nói, là Logic của trí tưởng tượng", và phải xử lý "mọi cái trong lĩnh vực của trí tưởng tượng mà có thể chịu một sự xác định chính xác" ([198 c], p. 348; cf. [69 a], pp.290-291); và đối với ông, kiệt tác của Toán học được hiểu như vậy là điều ông gọi là "Combinatorics" hay "Nghệ thuật các công thức", mà ông chủ yếu muốn nói đến khoa học về các quan hệ trừu tượng giữa các đối tượng toán học. Nhưng cũng như cho đến khi đó các quan hệ được xét trong toán học hầu như chỉ là các quan hệ về lượng (đẳng thức, bất đẳng thức, tỉ số), Leibniz hình dung ra nhiều kiểu quan hệ khác mà, theo ý ông, lẽ ra phải được nghiên cứu trong tác phẩm năm 1844 của mình, trình bày phép tính của ông dưới một dạng mà trong đó các khái niệm số hay đối tượng hình học lúc đầu bị loại ra. Và, muộn hơn một chút, Riemann, trong Bài giảng khai mạc của mình, ngay từ đầu đã cẩn thận không nói đến "các điểm", mà đúng hơn nói đến "các cách xác định" (Bestimmungsweise), trong mô tả của ông về những "đa tạp trải rộng lần", và nhấn mạnh rằng, trong một đa tạp như vậy, các "quan hệ metric" (Massverhältnisse) "chỉ có thể được nghiên cứu đối với các đại lượng trừu tượng và chỉ có thể được biểu diễn bằng các công thức; tuy nhiên, trong những điều kiện nhất định, người ta có thể phân tích chúng thành những quan hệ mà mỗi quan hệ, khi được tách riêng ra, có thể chịu một sự biểu diễn hình học, và theo cách đó có thể diễn đạt các kết quả của phép tính dưới một dạng hình học" ([259 a], p. 276).
Từ thời điểm đó, sự khai triển của phương pháp tiên đề là một sự kiện đã hoàn tất. Nếu, thêm một thời gian nữa, người ta còn thấy hữu ích việc kiểm soát, khi có thể, các kết quả "trừu tượng" bằng trực giác hình học, thì ít nhất người ta cũng thừa nhận rằng các đối tượng "cổ điển" không còn là những đối tượng duy nhất mà nhà toán học có thể nghiên cứu một cách chính đáng. Sở dĩ như vậy là vì - chính bởi nhiều "cách giải thích" hay "mô hình" có thể có - người ta đã nhận ra rằng rốt cuộc "bản tính" của các đối tượng toán học là thứ yếu, và chẳng hạn một kết quả được trình bày như một định lý của hình học "thuần túy", hay như một định lý đại số nhờ hình học giải tích, thì điều đó ít quan trọng. Nói cách khác, bản chất của toán học - khái niệm khó nắm bắt này mà cho đến khi ấy chỉ có thể được diễn đạt bằng những tên gọi mơ hồ như "quy tắc chung" hay "siêu hình học" - hiện ra như sự nghiên cứu các quan hệ giữa những đối tượng mà người ta chỉ biết và mô tả (một cách có chủ ý) bằng một vài tính chất của chúng, chính xác là những tính chất được đặt làm tiên đề ở nền tảng của lý thuyết của chúng. Chính điều đó Boole đã thấy rõ ngay từ năm 1847, khi ông viết rằng toán học bàn về "những phép toán được xét tự thân, độc lập với những đối tượng đa dạng mà chúng có thể được áp dụng vào" ([29], v. I, p. 3). Hankel,
một cách có hệ thống bởi các nhà toán học, chẳng hạn như quan hệ bao hàm, hoặc điều mà ông gọi là quan hệ "xác định" đơn trị hay đa trị (nghĩa là các khái niệm ánh xạ và sự tương ứng) ([69 a], pp. 307-310). Nhiều ý tưởng hiện đại khác xuất hiện trong trước tác của ông về chủ đề này: ông nhận xét rằng các quan hệ tương đương khác nhau của hình học cổ điển có chung các tính chất đối xứng và tính bắc cầu; ông cũng hình dung ra khái niệm một quan hệ tương thích với quan hệ tương đương, và ghi nhận rõ ràng rằng một quan hệ tùy ý không nhất thiết có tính chất ấy ([69 a], pp. 313-315). Dĩ nhiên, ở đó cũng như ở nơi khác, ông giả định trước việc sử dụng một ngôn ngữ hình thức hóa, và thậm chí còn đưa vào một ký hiệu nhằm chỉ một quan hệ tùy ý ([69 a], p. 301).
Phải thừa nhận rằng ngôn ngữ của ông, rất thiên về triết học, hầu như không nhằm lôi cuốn đa số các nhà toán học, những người hẳn sẽ cảm thấy không yên tâm trước một công thức như sau: "Toán học thuần túy là khoa học về đối tượng cá biệt xét trong chừng mực nó được sinh ra trong tư duy" (Die Wissenschaft des besonderen Seins als eines durch das Denken gewordenen). Nhưng ngữ cảnh cho thấy Grassmann bởi đó muốn nói, theo một cách khá chính xác, đến toán học tiên đề theo nghĩa hiện đại (trừ việc, khá lạ lùng, ông theo Leibniz khi cho rằng cơ sở của "khoa học hình thức" này, như ông gọi nó, là các định nghĩa chứ không phải các tiên đề); dù sao đi nữa, ông nhấn mạnh, như Boole, vào sự kiện rằng "tên gọi khoa học về các lượng không thích hợp với toàn bộ toán học" ([134], v. I, pp.22-23) và, vào năm 1867, khi khai mở việc tiên đề hóa đại số, ông bảo vệ một nền toán học "thuần túy trí tuệ, một lý thuyết thuần túy về các dạng, có mục đích không phải là sự tổ hợp các lượng, hay các hình ảnh của chúng là các số, mà là các đối tượng của tư duy ("Gedankendinge") mà những đối tượng hay quan hệ hiệu dụng có thể tương ứng với chúng, mặc dù sự tương ứng như vậy không phải là cần thiết" ([146], p. 10). Cantor, vào năm 1883, hưởng ứng đòi hỏi này về một "toán học tự do" bằng cách tuyên bố rằng "toán học hoàn toàn tự do trong sự phát triển của nó, và các khái niệm của nó chỉ bị ràng buộc bởi sự cần thiết phải nhất quán, và được phối hợp với các khái niệm đã được đưa vào trước đó bằng những định nghĩa chính xác" ([47], p.182). Sau cùng, việc xét lại hình học Euclid đã thành công trong việc truyền bá và phổ biến các ý tưởng ấy. Bản thân Pasch, tuy vẫn còn gắn với một "tính hiện thực" nào đó của các đối tượng hình học, thừa nhận rằng trên thực tế hình học là độc lập đối với ý nghĩa của chúng, và chỉ thuần túy gồm việc nghiên cứu các quan hệ của chúng ([245], p. 90); một quan niệm mà Hilbert đẩy tới kết luận lôgic của nó khi nhấn mạnh rằng ngay cả tên gọi của các khái niệm cơ bản của một lý thuyết toán học cũng có thể được chọn một cách tùy ý, và điều mà Poincaré diễn đạt bằng cách nói rằng các tiên đề là những "định nghĩa trá hình", do đó hoàn toàn đảo ngược quan điểm kinh viện.
Do đó người ta có thể bị cám dỗ mà nói rằng khái niệm hiện đại về "cấu trúc" về thực chất đã đạt tới vào khoảng năm 1900; trên thực tế, sẽ còn cần thêm ba mươi năm học việc nữa trước khi nó xuất hiện trong toàn bộ vẻ huy hoàng của mình. Hẳn nhiên không khó lắm để nhận ra các cấu trúc cùng loại khi chúng có bản tính khá đơn giản; chẳng hạn, đối với cấu trúc nhóm, giai đoạn ấy đã đạt được ngay từ giữa thế kỷ XIX. Nhưng đồng thời, ta thấy Hankel vật lộn, mà không hoàn toàn thành công, để làm nổi bật các ý tưởng tổng quát về trường và mở rộng; ông chỉ diễn đạt được chúng dưới dạng một "nguyên lý về sự thường tồn", nửa siêu hình [146], và nguyên lý này chỉ được Steinitz [294 a] phát biểu dưới dạng dứt khoát 40 năm sau. Trên hết, trong vấn đề này, việc tự giải phóng khỏi ấn tượng rằng các đối tượng toán học được "cho sẵn" cho ta cùng với cấu trúc của chúng đã là điều khá khó khăn; chỉ có một sự sử dụng khá lâu dài của Giải tích phiếm hàm mới có thể làm cho các nhà toán học hiện đại quen thuộc với ý tưởng rằng, chẳng hạn, có nhiều tôpô "tự nhiên" trên tập số hữu tỉ, và nhiều độ đo trên trục số. Với sự tách rời này, sự chuyển tiếp sang định nghĩa tổng quát về các cấu trúc cuối cùng đã được thực hiện.
B) Các mô hình và các đẳng cấu. — Người ta đã nhận thấy, trong nhiều dịp, sự can thiệp của khái niệm "mô hình" hay "cách diễn giải" một lý thuyết toán học này bằng một lý thuyết khác. Đó không phải là một ý tưởng gần đây, và không
Như trong một giai thoại nổi tiếng, Hilbert muốn diễn đạt ý tưởng này bằng cách nói rằng người ta có thể thay các từ "point", "straight line" và "plane" bằng "table", "chair" và "beer mug" mà không làm thay đổi chút nào toàn bộ hình học. Thật là kỳ lạ khi người ta đã có thể thấy ngay ở d'Alembert một sự báo trước của lối chơi chữ này: "Người ta có thể gán cho các từ bất cứ ý nghĩa nào mình muốn", ông viết trong Encyclopédie ([75 a], mục DÉFINITION); "[người ta] nói cho đúng ra có thể tạo ra những phần của Hình học khớp (nhưng lố bịch) bằng cách đặt tên tam giác cho cái mà thông thường người ta gọi là đường tròn".
khó có thể nghi ngờ rằng điều có thể thấy ở đây là một biểu hiện tái diễn không ngừng của một cảm thức sâu sắc về sự thống nhất của các "khoa học toán học" khác nhau. Nếu có thể xem như xác thực châm ngôn truyền thống "Mọi sự đều là số" của những người Pythagore đầu tiên, thì có thể coi đó là dấu vết của một cố gắng đầu tiên nhằm quy hình học và đại số đương thời về số học. Mặc dù việc phát hiện ra các số vô tỉ dường như đã khép lại con đường ấy vĩnh viễn, phản ứng mà nó làm nảy sinh trong toán học Hy Lạp lại là một cố gắng tổng hợp thứ hai, lần này lấy hình học làm cơ sở, và hấp thụ, trong số những thứ khác, các phương pháp giải các phương trình đại số thừa hưởng từ người Babylon.33 Người ta biết rằng quan niệm ấy đã kéo dài cho đến cuộc cải cách cơ bản của R. Bombelli và Descartes, đồng nhất mọi độ đo của đại lượng với một độ đo độ dài (nói cách khác, với một số thực; xem p. 151). Nhưng với sự sáng tạo hình học giải tích bởi Descartes và Fermat, khuynh hướng ấy lại đảo ngược, và một sự dung hợp chặt chẽ hơn nhiều giữa hình học và đại số đạt được, nhưng lần này có lợi cho đại số. Hơn nữa, ở nơi khác, Descartes còn đi xa hơn và quan niệm sự thống nhất cốt yếu của "tất cả các khoa học này mà người ta thường gọi là Toán học ... Dù các đối tượng của chúng khác nhau", ông nói, "chúng vẫn không ngừng hội tụ, ở chỗ chúng không xét gì khác ngoài các quan hệ hay tỉ số khác nhau có thể tìm thấy ở đó" ([85 a], v. VI, pp. 19-20).34 Tuy nhiên, quan điểm này chỉ có xu hướng làm cho Đại số thành khoa học toán học cơ bản; đó là một kết luận mà Leibniz phản đối mạnh mẽ, chính ông cũng, như đã thấy, quan niệm một "Toán học phổ quát", nhưng ở một quy mô rộng lớn hơn nhiều và đã khá gần với các ý tưởng hiện đại. Khi làm chính xác "sự phù hợp" mà Descartes nói tới, thật vậy, lần đầu tiên ông thoáng thấy khái niệm tổng quát về đẳng cấu (mà ông gọi là "similitude"), và khả năng "đồng nhất hóa" các quan hệ hoặc các phép toán đẳng cấu; ông nêu ví dụ là phép cộng và phép nhân ([69 a], pp. 301-303). Nhưng những quan điểm táo bạo này vẫn không gây được tiếng vang nào nơi những người đương thời của ông, và phải đợi đến sự khai triển của Đại số diễn ra vào khoảng giữa thế kỷ XIX (xem pp. 51 ff.) mới thấy những khởi đầu của việc thực hiện các giấc mơ Leibniz. Chúng tôi đã nhấn mạnh rằng chính vào lúc đó các "mô hình" nhân lên và việc chuyển từ lý thuyết này sang lý thuyết khác bằng một sự thay đổi ngôn ngữ đơn giản trở thành thông lệ; ví dụ nổi bật nhất về điều này có lẽ là tính đối ngẫu trong hình học xạ ảnh (xem p. 132), nơi thực hành thường gặp vào thời ấy là in đối diện nhau, thành hai cột, các định lý "đối ngẫu" với nhau, hẳn là
33 Tuy nhiên số học vẫn ở ngoài sự tổng hợp này; và người ta biết rằng Euclid, sau khi đã phát triển lý thuyết tổng quát về các tỉ số giữa các đại lượng tùy ý, lại phát triển một cách độc lập lý thuyết về các số hữu tỉ, thay vì xem chúng như những trường hợp riêng của các tỉ số giữa các đại lượng (xem pp. 148). 34 Ở điểm này, khá thú vị khi thấy Descartes tiến gần tới số học và tới "các tổ hợp của các số", tới "các nghệ thuật ... nơi trật tự ngự trị đầy đủ hơn, như các nghề của những người thợ làm vải hoặc thảm, hay của những phụ nữ thêu hoặc làm đăng ten" ([85 a], v. X, p. 403), như thể báo trước các nghiên cứu hiện đại về đối xứng và các quan hệ của nó với khái niệm nhóm (xem [331 c]).
đóng một vai trò lớn trong việc hiện thực hóa đầy đủ khái niệm đẳng cấu. Từ một quan điểm kỹ thuật hơn, chắc chắn khái niệm các nhóm đẳng cấu đối với các nhóm Abel đã được Gauss biết đến, đối với các nhóm thế thì được Galois biết đến (xem pp. 51 ff.); nó được xác lập một cách tổng quát cho một nhóm bất kỳ vào khoảng giữa thế kỷ XIX.35 Sau đó, với mỗi lý thuyết tiên đề mới, việc định nghĩa một khái niệm đẳng cấu là một sự phát triển tự nhiên; nhưng chỉ với khái niệm hiện đại về cấu trúc thì cuối cùng người ta mới nhận ra rằng mọi cấu trúc đều mang trong bản thân nó một khái niệm đẳng cấu, và không cần phải cho một định nghĩa riêng về nó cho mỗi kiểu cấu trúc.
C) Số học hóa toán học cổ điển. — Việc sử dụng ngày càng rộng rãi khái niệm "mô hình" cũng đã cho phép thực hiện trong thế kỷ XIX sự thống nhất toán học mà các nhà Pythagoras hằng mơ ước. Vào đầu thế kỷ, số tự nhiên và các đại lượng liên tục dường như vẫn không thể dung hòa được như trong thời cổ đại; các số thực vẫn gắn với khái niệm đại lượng hình học (ít nhất là với khái niệm độ dài), và chính khái niệm sau này đã được viện đến cho các "mô hình" của số âm và số ảo. Ngay cả các số hữu tỉ theo truyền thống cũng gắn với ý niệm tách một đại lượng thành các phần bằng nhau; chỉ có các số tự nhiên là đứng riêng ra, "chỉ riêng là sản phẩm của tinh thần chúng ta" như Gauss nói năm 1832, khi đối lập chúng với khái niệm không gian ([124 a], v. VIII, p. 201). Những nỗ lực đầu tiên nhằm đưa Số học và Giải tích lại gần nhau thoạt tiên được thực hiện với các số hữu tỉ (dương và âm) và là của Martin Ohm (1822); chúng lại được nhiều tác giả, đặc biệt là Grassmann, Hankel và Weierstrass (trong các bài giảng chưa xuất bản của ông), tiếp tục vào khoảng năm 1860; dường như chính Weierstrass là người đã nảy ra ý tưởng thu được một "mô hình" của các số hữu tỉ dương hoặc của các số nguyên âm bằng cách xét các lớp của các cặp số tự nhiên. Nhưng bước quan trọng nhất vẫn còn phải thực hiện, đó là tìm một "mô hình" của các số vô tỉ trong lý thuyết các số hữu tỉ; vào khoảng năm 1870, điều đó đã trở thành một bài toán cấp bách, do sự cần thiết, sau khi phát hiện ra các hiện tượng "bệnh lý" trong Giải tích, phải loại bỏ mọi dấu vết của trực giác hình học khỏi khái niệm mơ hồ "đại lượng" trong định nghĩa các số thực. Người ta biết rằng bài toán này đã được giải quyết vào khoảng thời gian ấy, gần như đồng thời bởi Cantor, Dedekind, Méray và Weierstrass, với những phương pháp khá khác nhau (xem p. 155).
Kể từ thời điểm đó, các số tự nhiên trở thành nền tảng của toàn bộ toán học cổ điển. Hơn nữa, các "mô hình" dựa trên Số học lại càng có tầm quan trọng lớn hơn cùng với sự mở rộng của phương pháp tiên đề và quan niệm các đối tượng toán học như những sáng tạo tự do của tinh thần. Thực ra vẫn còn một hạn chế đối với sự tự do mà Cantor đòi hỏi, đó là vấn đề "tồn tại", vốn đã làm người Hy Lạp bận tâm, và ở đây đã nảy sinh theo một cách
35 Chính từ "isomorphism" cũng được đưa vào trong lý thuyết nhóm vào khoảng cùng thời gian ấy; nhưng lúc đầu nó được dùng để chỉ các đồng cấu toàn ánh, được gọi là "các đẳng cấu merihedral", còn các đẳng cấu thực sự thì được gọi là "các đẳng cấu holohedral"; thuật ngữ này vẫn còn được dùng cho đến công trình của E. Noether.
trực tiếp hơn nhiều, chính xác là vì mọi sự viện dẫn đến một biểu diễn trực quan nay đã bị từ bỏ. Ta sẽ thấy sau này (pp. 36 ff.) khái niệm “tồn tại” đã trở thành tâm của một cơn xoáy triết học-toán học như thế nào trong những năm đầu của thế kỷ XX. Nhưng trong thế kỷ XIX thì người ta chưa đi đến đó, và để chứng minh sự tồn tại của một đối tượng toán học có những tính chất cho trước, người ta chỉ đơn giản, như đối với Euclid, là “xây dựng” một đối tượng có những tính chất đã cho. Chính xác đó là công dụng của các “mô hình” số học: một khi các số thực đã được “diễn giải” bằng các số tự nhiên, thì các số phức và hình học Euclid cũng vậy, nhờ Hình học giải tích, và tất cả các đối tượng đại số mới được đưa vào kể từ đầu thế kỷ cũng thế; cuối cùng — một phát hiện đã gây ảnh hưởng lớn — Beltrami và Klein thậm chí còn thu được các “mô hình” Euclid của các hình học phi Euclid của Lobatschevsky và của Riemann (xem p. 134), và do đó đã “số học hóa” (và nhờ thế biện minh hoàn toàn cho) các lý thuyết này, vốn thoạt nhìn đã làm nảy sinh sự ngờ vực như vậy.
D) Tiên đề hóa số học.—Chính theo chiều hướng của sự tiến hóa này mà đã diễn ra một bước ngoặt tiếp theo hướng tới những nền tảng của chính số học, và quả thực đó là điều có thể thấy vào khoảng năm 1880. Dường như trước thế kỷ XIX chưa từng có nỗ lực nào nhằm định nghĩa phép cộng và phép nhân của các số tự nhiên ngoài việc viện dẫn trực tiếp tới trực giác; Leibniz là người duy nhất, trung thành với các nguyên lý của mình, đã minh nhiên cảnh báo rằng những “chân lý” “hiển nhiên” như cũng không kém phần có thể được chứng minh nếu người ta suy nghĩ về các định nghĩa của những số liên quan ([198 b], v. IV, p. 403; cf. [69 a], p. 203); và ông hoàn toàn không xem tính giao hoán của phép cộng và phép nhân là nội tại. Nhưng ông không đẩy xa hơn những suy nghĩ của mình về chủ đề này, và vào khoảng giữa thế kỷ XIX vẫn chưa có tiến bộ nào theo hướng ấy: bản thân Weierstrass, mà các bài giảng của ông đã góp phần đáng kể vào việc mở rộng quan điểm “số học hóa”, dường như cũng không cảm thấy cần phải làm sáng tỏ về mặt lôgic lý thuyết các số tự nhiên. Những bước đầu tiên theo hướng này dường như là của Grassmann; năm 1861 ([134], v. II, p. 295) ông đưa ra một định nghĩa của phép cộng và phép nhân cho các số tự nhiên, và chứng minh các tính chất cơ bản của chúng (tính giao hoán, tính kết hợp, tính phân phối) chỉ bằng phép toán và Nguyên lý quy nạp. Nguyên lý sau này đã được B. Pascal quan niệm rõ ràng và sử dụng lần đầu tiên vào thế kỷ XVII ([244], v. III, p. 456) — mặc dù người ta có thể tìm thấy trong thời Cổ đại một vài ứng dụng ít nhiều có ý thức của nó — và đã được các nhà toán học sử dụng thường xuyên kể từ nửa sau thế kỷ XVII. Nhưng mãi đến năm 1888 Dedekind ([79], v. III, pp.359-361) mới phát biểu một hệ tiên đề đầy đủ cho số học (một hệ được Peano lặp lại 3 năm sau và thường được biết dưới tên ông [246 c]), trong đó có chứa trong
Như những ví dụ về các phép toán không giao hoán, ông chỉ ra phép trừ, phép chia và phép lũy thừa ([198 b], v. VII, p. 31); đã có một thời ông thậm chí còn thử đưa những phép toán như thế vào phép tính lôgic của mình ([69 a], p. 353). Xem thêm [45], đặc biệt là một phát biểu chính xác của nguyên lý quy nạp (mà Grassmann đã dùng nhưng không phát biểu nó một cách tường minh).
Với sự tiên đề hóa này, người ta tưởng rằng những nền tảng dứt khoát của toán học đã đạt tới. Thật vậy, đúng vào lúc các tiên đề của số học đang được phát biểu rõ ràng, thì chính những tiên đề ấy, đối với nhiều nhà toán học (bắt đầu từ chính Dedekind và Peano), đã bị tước mất vai trò khoa học cơ sở nguyên thủy này, để nhường chỗ cho kẻ đến sau cùng trong các lý thuyết của toán học, lý thuyết tập hợp; và những cuộc tranh luận sau đó sẽ bùng lên quanh khái niệm số nguyên không thể được tách rời khỏi cuộc "khủng hoảng nền tảng" lớn của những năm 1900-1930.
LÝ THUYẾT TẬP HỢP.
Có thể nói rằng vào mọi thời đại, các nhà toán học và các triết gia đã dùng, một cách ít nhiều có ý thức, những lập luận có suy xét của lý thuyết tập hợp; nhưng trong lịch sử các quan niệm của họ về chủ đề này, cần phải phân biệt thật rạch ròi mọi vấn đề gắn với ý niệm số lực lượng (và đặc biệt với khái niệm vô hạn) với những vấn đề chỉ đưa vào các khái niệm thuộc và bao hàm. Những khái niệm sau này thuộc vào loại trực giác nhất và dường như chưa bao giờ gây ra tranh cãi: chính trên chúng mà người ta có thể dễ dàng nhất xây dựng một lý thuyết về tam đoạn luận (như Leibniz và Euler sẽ chỉ cho ta thấy), hoặc những tiên đề như "toàn thể lớn hơn tổng các phần của nó", chưa kể đến những gì, trong hình học, liên quan đến các giao của đường cong và mặt. Cho đến cuối thế kỷ XIX, không có bài toán nào nảy sinh khi nói về tập hợp (hay "lớp" ở một vài tác giả) các đối tượng có tính chất này hay tính chất kia đã cho;38 và "định nghĩa" nổi tiếng mà Cantor đưa ra ("Bởi một tập hợp, người ta hiểu là một sự tập hợp lại thành một toàn thể các đối tượng hoàn toàn phân biệt trong trực giác hay trong tư duy của chúng ta" ([47], p. 282)) khi được công bố hầu như không vấp phải phản đối nào.39 Hoàn toàn khác đi ngay khi khái niệm tập hợp bị trộn lẫn với khái niệm số hay lượng. Vấn đề tính khả phân vô hạn của đường thẳng (hẳn là đã được đặt ra từ những người Pythagore đầu tiên) như đã biết, đã dẫn tới những khó khăn triết học đáng kể: từ phái Elea đến Bolzano và Cantor, các nhà toán học và các triết gia sẽ lao vào một cách vô hiệu trước nghịch lý về lượng hữu hạn được tạo nên từ một vô hạn các điểm không có kích thước. Đối với chúng ta, sẽ không có ích gì khi lần lại, dù chỉ sơ lược, những cuộc bút chiến bất tận và sôi nổi do bài toán này gây ra, một bài toán đã tạo nên một mảnh đất đặc biệt thuận lợi cho những digression siêu hình học hay thần học; ta chỉ lưu ý đến quan điểm
38 Ta đã thấy ở trên rằng Boole thậm chí không ngần ngại đưa vào phép tính lôgic của mình một "Vũ trụ" 1, tập hợp của mọi đối tượng; dường như vào thời đó quan niệm này đã không bị phê phán, mặc dù nó đã bị Aristotle bác bỏ, người đã đưa ra một chứng minh, khá tối nghĩa, nhằm chỉ ra tính phi lý của nó ([6], Met. B, 3, 998 b). 39 Frege dường như là một trong số ít các nhà toán học đương thời, không phải không có lý do, đã lên tiếng chống lại làn sóng những "định nghĩa" tương tự như thế ([117 c], v. I, p. 2).
mà phần lớn các nhà toán học, từ thời Cổ đại, đã dừng lại. Về bản chất, nó hệ ở việc từ chối tranh luận, vì không thể kết luận theo một cách không thể bác bỏ được nữa, một thái độ mà ta sẽ gặp lại nơi các nhà hình thức luận hiện đại; cũng như những người sau này thu xếp để loại bỏ sự can thiệp của những tập hợp "nghịch lý" (xem dưới đây pp. 31 ff.), các nhà toán học cổ điển cẩn thận tránh đưa vào lập luận của mình "vô hạn hiện thực" (tức là những tập hợp gồm một vô hạn các đối tượng được quan niệm là tồn tại đồng thời, ít nhất là trong tư duy của họ), và chỉ bằng lòng với "vô hạn tiềm năng", tức là khả năng tăng mọi lượng đã cho (hoặc giảm nó nếu đó là trường hợp của một lượng "liên tục").40 Nếu quan điểm này có chứa một mức độ nào đó của sự giả hình,41 thì dù sao nó cũng đã cho phép phát triển phần lớn toán học cổ điển (kể cả lý thuyết các tỷ số và về sau là phép tính vi phân và tích phân);42 nó thậm chí còn có vẻ là một sự bảo đảm tuyệt hảo, nhất là sau những cuộc cãi vã do vô cùng bé gây nên, và đã trở thành một giáo điều gần như được chấp nhận phổ biến cho đến tận sâu trong thế kỷ XIX.
Một tia lóe đầu tiên của khái niệm tổng quát về đẳng lực xuất hiện trong một nhận xét của Galileo ([122 b], v. VIII, pp. 78-80): ông nhận thấy rằng ánh xạ thiết lập một sự tương ứng song ánh giữa các số tự nhiên và các bình phương của chúng và từ đó suy ra rằng tiên đề "toàn thể lớn hơn phần"
40 Một ví dụ điển hình của quan niệm này là mệnh đề của Euclid: "Với mỗi số lượng cho trước các số nguyên tố, có một số lớn hơn" mà ngày nay ta phát biểu bằng cách nói rằng tập hợp các số nguyên tố là vô hạn. 41 Theo quan niệt cổ điển, hiển nhiên người ta có quyền nói rằng một điểm thuộc về một đường thẳng, nhưng rút ra từ đó rằng một đường thẳng "gồm các điểm" thì sẽ là vi phạm điều cấm kỵ về vô hạn thực tại, và Aristotle dành những khai triển dài để biện minh cho sự cấm đoán ấy. Có lẽ chính để tránh mọi phản bác thuộc loại này mà trong thế kỷ XIX nhiều nhà toán học tránh nói về tập hợp, và lập luận một cách có hệ thống "bằng sự mô tả"; chẳng hạn, Galois không nói về trường các số, mà chỉ nói về các tính chất chung cho mọi phần tử của một trường như vậy. Ngay cả Pasch và Hilbert, trong các trình bày tiên đề của họ về hình học Euclid, vẫn còn kiêng không nói rằng các đường thẳng và các mặt phẳng là những tập hợp điểm; Peano là người duy nhất sử dụng một cách tự do ngôn ngữ của lý thuyết tập hợp trong hình học sơ cấp. 42 Không còn nghi ngờ gì nữa, lý do của sự việc này phải được tìm trong hoàn cảnh rằng các tập hợp xuất hiện trong toán học cổ điển thuộc về một số nhỏ các kiểu đơn giản, và phần lớn có thể được mô tả hoàn toàn bằng một số hữu hạn các "tham số" số học, đến mức việc nghiên cứu chúng rốt cuộc quy về việc nghiên cứu một tập hợp hữu hạn các số (quả thực là như vậy, chẳng hạn đối với các đường cong và mặt đại số, vốn trong một thời gian dài hầu như là những "hình" duy nhất của hình học cổ điển). Trước khi sự tiến triển của Giải tích áp đặt, trong thế kỷ XIX, việc xét các tập con tùy ý của đường thẳng hay của , người ta chỉ khá hiếm khi gặp những tập hợp lệch khỏi các kiểu nói trên; chẳng hạn Leibniz, luôn luôn độc đáo, xem như một "quỹ tích hình học" đĩa đóng bị tước mất tâm của nó, hoặc (trong một linh cảm kỳ lạ về lý thuyết iđêan) cho rằng trong số học một số nguyên là "kiểu" của tập hợp các bội của nó, và nhận xét rằng tập hợp các bội của 6 là giao của tập hợp các bội của 2 và tập hợp các bội của 3 ([198 b], v. VII, p. 292). Từ đầu thế kỷ XIX, người ta trở nên quen thuộc, trong đại số và trong lý thuyết số, với các tập hợp thuộc kiểu cuối cùng này, như các lớp dạng toàn phương do Gauss đưa vào, hoặc các trường và iđêan do Dedekind định nghĩa trước cuộc cách mạng Cantor.
không thể được áp dụng cho một tập hợp vô hạn. Nhưng thay vì khai mở một sự nghiên cứu hữu tỉ về các tập hợp vô hạn, nhận xét này dường như không có tác dụng nào khác hơn là làm tăng thêm sự ngờ vực đối với vô hạn thực tại; đó đã là kết luận của chính Galileo, và Cauchy, vào năm 1833, chỉ dẫn lại ông để tán thành thái độ ấy.
Những nhu cầu của Giải tích - và đặc biệt là sự nghiên cứu sâu các hàm của biến thực, vốn diễn ra suốt cả thế kỷ XIX - là ở nguồn gốc của điều sẽ trở thành lý thuyết tập hợp hiện đại. Khi Bolzano, vào năm 1817, chứng minh sự tồn tại của cận dưới đúng của một tập hợp bị chặn dưới trong [27 c], ông vẫn còn lập luận, như phần lớn những người cùng thời, "bằng sự mô tả", không nói về một tập hợp tùy ý các số thực, mà nói về một tính chất tùy ý của các số ấy. Nhưng khi, 30 năm sau, ông viết tác phẩm "Paradoxien des Unendlichen" [27 b] của mình (xuất bản năm 1851, ba năm sau khi ông qua đời), ông không ngần ngại đòi quyền thừa nhận sự tồn tại của "vô hạn thực tại" và nói về các tập hợp tùy ý. Trong tác phẩm này, ông định nghĩa khái niệm tổng quát về sự đẳng lực của hai tập hợp, và chứng minh rằng hai khoảng compact trong là đẳng lực; ông cũng ghi nhận rằng sự khác biệt có đặc trưng giữa các tập hợp hữu hạn và các tập hợp vô hạn nằm ở chỗ một tập hợp vô hạn E là đẳng lực với một tập con phân biệt với E, nhưng ông không đưa ra được một chứng minh nào có sức thuyết phục cho mệnh đề ấy. Dù sao đi nữa, giọng điệu chung của công trình này mang tính triết học hơn là toán học, và do không tách bạch đủ rõ khái niệm lực của một tập hợp với khái niệm kích thước hay cấp của vô hạn, Bolzano thất bại trong các cố gắng xây dựng những tập hợp vô hạn có lực ngày càng lớn, và nhân đó để mình bị lôi cuốn vào việc trộn lẫn lập luận của mình với những xem xét về các chuỗi phân kỳ hoàn toàn vô nghĩa.
Chính nhờ thiên tài của G. Cantor mà lý thuyết tập hợp như ta biết ngày nay đã được tạo ra. Ông cũng xuất phát từ Giải tích, và các công trình của ông về chuỗi lượng giác, được gợi hứng từ các công trình của Riemann, đã tự nhiên đưa ông, vào năm 1872, đến một cố gắng đầu tiên nhằm phân loại những tập hợp "ngoại lệ" xuất hiện trong lý thuyết này, bằng khái niệm các "tập dẫn xuất" liên tiếp, mà ông đưa vào tại đây. Hẳn là chính trong mối liên hệ với những nghiên cứu ấy, và cả với phương pháp của ông để định nghĩa các số thực ([47], pp. 92-97), mà Cantor bắt đầu quan tâm đến các bài toán về đẳng lực, bởi vì vào năm 1873, ông nhận thấy rằng tập hợp các số hữu tỉ (hay tập hợp các số đại số) là đếm được; và trong thư từ trao đổi của ông với Dedekind, bắt đầu vào khoảng thời gian ấy [48], ta thấy ông nêu ra bài toán về sự đẳng lực giữa tập hợp các số nguyên và tập hợp các số thực, mà vài tuần sau ông đã giải được theo nghĩa phủ định. Rồi, bắt đầu từ năm 1874, chính bài toán về chiều làm ông bận tâm, và trong ba năm ông tìm kiếm vô ích cách thiết lập tính bất khả của một sự tương ứng song ánh giữa và , trước khi thành công, để
Đây là trường hợp các tập hợp sao cho, nếu một chuỗi lượng giác hội tụ đến 0 trừ tại các điểm của , thì tất yếu suy ra với mọi ([47], p. 99).
khi hết sức ngạc nhiên, trong việc định nghĩa một sự tương ứng như vậy. Có được những kết quả vừa mới mẻ vừa đáng kinh ngạc như thế, ông dành toàn bộ tâm sức cho lý thuyết tập hợp. Trong một chuỗi gồm 6 hồi ký công bố trên Mathematische Annalen từ 1878 đến 1884, ông đồng thời giải quyết các bài toán về đẳng lực, lý thuyết các tập hợp được sắp thứ tự toàn phần, các tính chất tôpô của và của và bài toán độ đo; và thật đáng khâm phục khi thấy với sự sáng rõ nào mà những khái niệm này dần dần xuất hiện trong tay ông, những khái niệm tưởng như gắn bó rối rắm đến thế với quan niệm cổ điển về "continuum". Từ năm 1880, ông có ý tưởng lặp lại một cách "siêu hạn" phép dựng các "tập dẫn xuất"; nhưng ý tưởng này chỉ thực sự trở nên sống động hai năm sau đó, với việc đưa vào các tập hợp được sắp thứ tự tốt, một trong những phát minh độc đáo nhất của Cantor, nhờ đó ông có thể bắt tay vào việc nghiên cứu chi tiết các số lực lượng và phát biểu "bài toán continuum" [47].
Không thể nào những quan niệm táo bạo như thế, đảo ngược một truyền thống kéo dài hai nghìn năm, và dẫn đến những kết quả vừa bất ngờ vừa có vẻ nghịch lý như vậy, lại được chấp nhận mà không gặp sự kháng cự. Thực vậy, trong số các nhà toán học có ảnh hưởng ở Đức vào thời đó, Weierstrass là người duy nhất đón nhận với một ít thiện cảm công trình của Cantor (người học trò cũ của ông); trái lại, Cantor đã vấp phải sự chống đối bất khả quy của Schwarz và nhất là của Kronecker. Có vẻ như chính sự căng thẳng thường xuyên do sự chống đối đối với các ý tưởng của ông gây ra, cũng như những nỗ lực vô ích của ông nhằm chứng minh giả thuyết continuum, đã gây nên ở Cantor những triệu chứng đầu tiên của một chứng bệnh thần kinh, khiến năng suất toán học của ông bị tổn hại. Mãi đến năm 1887 ông mới thật sự quan tâm trở lại đến lý thuyết tập hợp, và những công bố cuối cùng của ông có niên đại từ 1895-1897; ở đó ông chủ yếu phát triển lý thuyết các tập hợp được sắp thứ tự toàn phần và phép tính các số thứ tự. Ông cũng đã chứng minh vào năm 1890 bất đẳng thức ; tuy nhiên, không những bài toán continuum vẫn không có lời giải đáp, mà trong lý thuyết các lực lượng còn tồn tại một chỗ khuyết nghiêm trọng hơn, vì Cantor đã không thể thiết lập sự tồn tại của một sắp thứ tự tốt giữa các lực lượng tùy ý. Chỗ khuyết này sắp được lấp đầy, một mặt bởi định lý của F. Bernstein (1897) cho thấy rằng các quan hệ và kéo theo , và trên hết bởi định lý của Zermelo [342 a] chứng minh sự tồn tại của một thứ tự tốt trên mọi tập hợp — một định lý mà Cantor đã phỏng đoán từ năm 1883 ([47], p. 169).
"Tôi nhìn thấy điều đó, nhưng tôi không tin điều đó", ông viết cho Dedekind ([48], p. 34); bằng tiếng Pháp trong nguyên văn).
Những người đương thời với Kronecker thường xuyên ám chỉ đến lập trường giáo điều của ông về các nền tảng của toán học; phải giả định rằng trong các tiếp xúc riêng ông phát biểu minh bạch hơn là trong các công bố của mình (nơi, xét về vai trò của các số tự nhiên, ông chỉ nhắc lại vài nhận xét khá tầm thường về "số học hóa" vào khoảng năm 1880) (x. [327 b], đặc biệt pp. 14-15).
Về giai đoạn này trong cuộc đời Cantor, xem [275 b].
Định lý này đã được Dedekind thu được từ năm 1887, nhưng chứng minh của nó đã không được công bố ([79], v. III, p. 447).
Tuy nhiên Dedekind, ngay từ đầu, đã không ngừng theo dõi với một sự quan tâm bền bỉ các nghiên cứu của Cantor; nhưng trong khi Cantor tập trung sự chú ý của mình vào các tập vô hạn và sự phân loại chúng, Dedekind lại theo đuổi các suy nghĩ riêng của mình về khái niệm số (vốn đã dẫn ông đến định nghĩa các số vô tỉ bằng các “lát cắt”). Trong cuốn sách mỏng Was sind und was sollen die Zahlen, công bố năm 1888, nhưng phần cốt yếu có từ 1872-78 ([79], v. III, p. 335), ông chỉ ra làm thế nào khái niệm số tự nhiên (mà, như đã thấy, toàn bộ Toán học cổ điển rốt cuộc đã dựa vào) tự nó cũng có thể được dẫn xuất từ những khái niệm cơ bản của lý thuyết tập hợp. Phát triển (có lẽ là lần đầu tiên một cách tường minh) các tính chất sơ cấp của các ánh xạ tùy ý từ tập hợp này sang tập hợp khác (bị bỏ qua cho đến Cantor, người chỉ quan tâm đến các sự tương ứng song ánh), ông đưa vào, với mỗi ánh xạ của một tập hợp vào chính nó, khái niệm “xích” của một phần tử đối với , tức là giao của các tập hợp sao cho và .48 Sau đó ông lấy làm định nghĩa của một tập vô hạn sự kiện là tồn tại một ánh xạ song ánh từ vào sao cho ;49 hơn nữa, nếu tồn tại một ánh xạ như vậy và một phần tử mà đối với chúng là xích của , thì Dedekind nói rằng là “đơn vô hạn”, nhận thấy rằng khi đó “các tiên đề của Peano” được thỏa mãn và chỉ ra (trước Peano) làm thế nào từ đó người ta thu được tất cả các định lý của số học sơ cấp. Phần duy nhất còn thiếu trong trình bày của ông là tiên đề vô hạn mà Dedekind (theo Bolzano) tin rằng mình có thể chứng minh bằng cách xem “thế giới tư duy” của con người (“Gedankenwelt”) như một tập hợp.50
Theo một hướng khác, Dedekind, do công trình của ông về số học (và đặc biệt là lý thuyết các iđêan), đã được dẫn tới việc xét khái niệm tập hợp có thứ tự một cách càng nhiều hơn
48 Chính trên một khái niệm rất tương tự mà chứng minh thứ hai do Zermelo đưa ra cho định lý của ông dựa vào [342 b]. 49 Ta đã thấy rằng Bolzano đã ghi nhận trước đó sự đặc trưng hoá này của các tập hợp vô hạn, nhưng công trình của ông (hầu như không được phổ biến, có vẻ vậy, trong các giới toán học) vẫn không được Dedekind biết tới vào lúc ông viết “Was sind und was sollen die Zahlen”. 50 Một phương pháp khác để xác định khái niệm số tự nhiên và để thiết lập các tính chất cơ bản đã được Frege đề xuất năm 1884 [117 b]. Trước hết ông tìm cách đem lại cho khái niệm lực lượng của một tập hợp một ý nghĩa chính xác hơn Cantor; vào thời điểm đó Cantor mới chỉ xác định các khái niệm về những tập hợp tương đương lực lượng và về các tập hợp có một lũy thừa nhiều nhất là bằng lũy thừa của một tập hợp khác, và định nghĩa về “số lực lượng” mà về sau ông sẽ đưa ra ([47], p. 282) cũng tối nghĩa và không dùng được như định nghĩa đường thẳng trong Euclid. Frege, luôn luôn cẩn trọng về mặt chính xác, nảy ra ý tưởng lấy làm định nghĩa lực lượng của một tập hợp tập hợp của mọi tập hợp tương đương lực lượng với ([117 b], §68); rồi, sau khi đã xác định cho mọi lực lượng (), ông đặt mình trong tập hợp của mọi lực lượng, và xác định quan hệ “ là một -hậu tố của ” theo nghĩa là thuộc giao của mọi tập hợp sao cho và (). Cuối cùng, ông xác định một số tự nhiên là một -hậu tố của 0 (; dĩ nhiên mọi định nghĩa này đều được Frege diễn đạt bằng ngôn ngữ của ông về “lôgic của các khái niệm”). Đáng tiếc là phép dựng này đã bộc lộ là có khuyết tật, tập hợp hay tập hợp các tập hợp tương đương lực lượng với một tập hợp là “nghịch lý” (xem dưới đây).
khung cảnh tổng quát hơn Cantor. Trong khi Cantor chỉ hạn chế mình một cách độc nhất vào các tập hợp được sắp thứ tự toàn phần, Dedekind xử lý trường hợp tổng quát, và đặc biệt thực hiện một nghiên cứu sâu sắc về các dàn ([79], v. II, pp. 236-271). Công trình này hầu như không được chú ý vào thời đó; mặc dù những kết quả ấy, được nhiều tác giả tìm lại, đã là đối tượng của vô số công bố từ năm 1935, tầm quan trọng lịch sử của chúng phát sinh ít hơn nhiều từ những khả năng áp dụng, có lẽ quả thật là khá mỏng, của lý thuyết này, mà từ sự kiện rằng chúng đã cấu thành một trong những ví dụ đầu tiên của một phép dựng tiên đề cẩn thận. Mặt khác, những kết quả đầu tiên của Cantor về các tập hợp đếm được hoặc có lực lượng của continuum đã sớm có nhiều ứng dụng quan trọng cho đến tận những vấn đề cổ điển nhất của giải tích (dĩ nhiên không nói đến những phần trong công trình của Cantor đã khai mở Tôpô tổng quát và lý thuyết độ đo; về điểm đó xem pp. 141 và 221). Hơn nữa, từ những năm cuối của thế kỷ XIX, những cách sử dụng đầu tiên của nguyên lý quy nạp siêu hạn đã xuất hiện, và nó đã trở thành, đặc biệt sau chứng minh định lý của Zermelo, một công cụ không thể thiếu trong mọi phần của toán học hiện đại. Năm 1922, Kuratowski đã đưa ra một phiên bản của nguyên lý này, thường dễ dùng hơn, tránh việc sử dụng các tập hợp sắp tốt ([189 a], p. 89); chính dưới dạng này, về sau lại được Zorn tìm lại [344], mà nó chủ yếu được dùng ở thời nay.
Như vậy, vào cuối thế kỷ XIX, những khái niệm cốt yếu của Cantor đã thắng thế. Ta đã thấy rằng, vào khoảng thời gian ấy, sự hình thức hoá toán học được hoàn thành và việc sử dụng phương pháp tiên đề hầu như được chấp nhận phổ biến. Nhưng đồng thời, một “khủng hoảng nền tảng” dữ dội hiếm có đang bùng nổ, nó đã làm rung chuyển thế giới toán học trong hơn 30 năm, và đôi khi dường như đe doạ, không những mọi thành tựu mới đạt được, mà ngay cả những phần cổ điển nhất của Toán học.
Thật thú vị khi lưu ý rằng, trong số những tập hợp sau này, Cantor không bao giờ muốn thừa nhận sự tồn tại của các nhóm có thứ tự “phi Archimedes” vì chúng đưa vào khái niệm “vô cùng bé hiện thực” ([47], pp. 156 and 172). Những quan hệ thứ tự như vậy nảy sinh một cách tự nhiên trong các nghiên cứu của Du Bois-Reymond về các cấp vô hạn (cf. p. 202) và đã được Veronese [318] nghiên cứu có hệ thống.
Ngay từ năm 1874, Weierstrass đã báo tin, trong một bức thư gửi Du Bois-Reymond, về một ứng dụng vào các hàm của một biến thực của định lý Cantor về khả năng viết các số hữu tỉ thành một dãy ([329 b], p. 206).
Vì thế mà mối quan tâm dành cho các số thứ tự của Cantor đã suy giảm rất nhiều; nói chung, dù sao đi nữa, nhiều kết quả của Cantor và các người kế tục ông về số học của các số thứ tự và các lực lượng không đếm được cho đến nay vẫn còn khá biệt lập.
Sự tôn phong chính thức của lý thuyết tập hợp đã biểu lộ ngay từ Đại hội quốc tế các nhà toán học lần thứ nhất (Zurich, 1897), nơi Hadamard [141] và Hurwitz báo tin về những ứng dụng quan trọng vào giải tích. Ảnh hưởng ngày càng tăng của Hilbert vào thời đó đã góp phần rất lớn vào việc truyền bá các tư tưởng của Cantor, đặc biệt ở Đức.
CÁC NGHỊCH LÝ CỦA LÝ THUYẾT TẬP HỢP VÀ CUỘC KHỦNG HOẢNG NỀN TẢNG.
Những tập hợp "nghịch lý" đầu tiên xuất hiện trong lý thuyết các số lực và số thứ tự. Năm 1897, Burali-Forti nhận thấy rằng người ta không thể xét sự tồn tại của một tập hợp gồm tất cả các số thứ tự, vì tập hợp này sẽ được sắp thứ tự tốt, và do đó đẳng cấu với một trong các đoạn của nó phân biệt với toàn thể, điều đó là phi lý [42].55 Năm 1899, Cantor nhận thấy (trong một bức thư gửi Dedekind) rằng không còn có thể nói đến các số lực tạo thành một tập hợp, cũng như nói đến "tập hợp của mọi tập hợp" mà không dẫn tới mâu thuẫn (tập hợp các tập con của "tập hợp" sau này sẽ đẳng lực với một tập con của , điều này trái với bất đẳng thức ) ([47], tr. 444-448). Cuối cùng, năm 1905, Russell khi phân tích chứng minh của bất đẳng thức này đã chỉ ra rằng lập luận thiết lập nó cũng chứng minh (không cần viện đến lý thuyết các số lực) rằng khái niệm về "tập hợp của mọi tập hợp không là phần tử của chính mình" cũng tự nó mâu thuẫn [266].56
Người ta có thể tin rằng những "phảninomie" như vậy chỉ biểu hiện ở những vùng ngoại biên của toán học, được đặc trưng bởi việc xét các tập hợp có một "kích thước" mà trực giác không thể vươn tới. Nhưng những "nghịch lý" khác chẳng bao lâu đã đe dọa ngay những phần cổ điển nhất của toán học. Berry và Russell ([266], t. I, tr.63-64), bằng cách đơn giản hóa một lập luận của J. Richard [258], thực vậy đã nhận thấy rằng tập hợp các số nguyên mà định nghĩa của chúng có thể được diễn đạt bằng ít hơn mười sáu từ tiếng Anh là hữu hạn, nhưng rằng dù vậy việc định nghĩa một số nguyên là "số nguyên nhỏ nhất không định nghĩa được bằng ít hơn mười sáu từ tiếng Anh" lại là mâu thuẫn, bởi vì định nghĩa này chỉ gồm mười lăm từ.
Mặc dù những lập luận như vậy, rất xa với những lập luận mà các nhà toán học thường dùng, có thể đã hiện ra trước nhiều người trong số họ như một loại câu đố, nhưng dẫu sao chúng vẫn chỉ ra sự cần thiết phải xét lại các cơ sở của toán học, nhằm loại bỏ những "nghịch lý" thuộc bản chất này. Nhưng tuy có sự nhất trí về tính cấp bách của việc xét lại ấy, những bất đồng căn bản chẳng bao lâu đã xuất hiện về cách thực hiện nó. Đối với một nhóm thứ nhất các nhà toán học, dù là những người theo thuyết "duy niệm", dù là những người theo thuyết "hình thức",57 tình hình do những "nghịch lý" của lý thuyết tập hợp tạo ra rất tương tự với tình hình đã nảy sinh, trong hình học, từ việc phát hiện các hình học phi Euclid
55 Nhận xét này đã được Cantor nêu ra từ năm 1896 (trong một bức thư gửi Hilbert, chưa công bố). 56 Lập luận của Russell gần với các nghịch lý thời cổ đại mà kiểu mẫu là "Kẻ nói dối" nổi tiếng, đối tượng của vô số lời bình luận trong Lôgic hình thức cổ điển: vấn đề là biết người nói "Tôi nói dối" thì có nói sự thật hay không khi phát biểu những lời ấy (x. [267]). 57 Sự khác biệt giữa hai trường phái này chủ yếu có tính triết học, và ở đây chúng tôi không thể đi sâu hơn vào chủ đề ấy; cốt yếu là trên bình diện toán học theo đúng nghĩa, chúng gặp nhau. Chẳng hạn, Hadamard, một đại diện điển hình của những người theo thuyết "duy niệm", chấp nhận, về mặt tính hợp lệ của các lập luận trong lý thuyết tập hợp, một quan điểm rất gần với các nhà hình thức, nhưng không biểu thị nó dưới dạng tiên đề hóa ([12], p. 271).
hay từ các đường cong "bệnh lý" (chẳng hạn các đường cong không có tiếp tuyến); nó phải dẫn đến một kết luận tương tự, nhưng tổng quát hơn, tức là vô vọng nếu muốn xây dựng một lý thuyết toán học tùy ý trên sự viện dẫn (tường minh hay không) đến "trực giác". Lập trường này có thể được tóm tắt bằng chính những lời của đối thủ chính của trường phái hình thức: "Nhà hình thức", Brouwer nói ([39 a], p. 83), "thừa nhận rằng lý trí con người không có trong tay những hình ảnh khớp về các đường thẳng hay về các số lớn hơn mười chẳng hạn... Quả thật, từ một số quan hệ giữa các thực thể toán học mà ta lấy làm tiên đề, ta có thể suy ra những quan hệ khác theo những quy tắc cố định, với niềm tin rằng bằng cách ấy ta rút ra chân lý từ những chân lý khác bằng lập luận lôgic... [Nhưng] đối với nhà hình thức, tính chính xác toán học chỉ nằm trong sự triển khai dãy các quan hệ, và độc lập với ý nghĩa mà người ta có thể muốn gán cho các quan hệ hay các thực thể mà chúng liên kết."
Vậy nên, đối với nhà hình thức, vấn đề là đem lại cho lý thuyết tập hợp một cơ sở tiên đề hoàn toàn tương tự với cơ sở của hình học sơ cấp, trong đó người ta không bận tâm những "đối tượng" được gọi là "tập hợp" là gì, cũng không bận tâm phải hiểu quan hệ theo nghĩa nào, mà người ta liệt kê các điều kiện phải áp đặt lên quan hệ sau này; dĩ nhiên, điều đó phải được thực hiện sao cho, trong chừng mực có thể, bao hàm mọi kết quả của lý thuyết Cantor, đồng thời làm cho các tập hợp "nghịch lý" không thể tồn tại. Ví dụ đầu tiên của một tiên đề hóa như vậy được Zermelo đưa ra năm 1908 [342 c]; ông tránh các tập hợp "quá lớn" bằng việc đưa vào một "tiên đề chọn lọc (Aussonderung)", theo đó một tính chất chỉ xác định một tập hợp tạo bởi các phần tử có tính chất ấy nếu đã kéo theo một quan hệ dạng .58 Nhưng việc loại bỏ những nghịch lý tương tự như "nghịch lý Richard" chỉ có thể được thực hiện bằng cách hạn chế ý nghĩa gắn với khái niệm "tính chất"; về điểm này, Zermelo chỉ tự bằng lòng mô tả bằng những thuật ngữ rất mơ hồ một kiểu tính chất mà ông gọi là "được xác định", và chỉ ra rằng phải tự giới hạn ở những tính chất sau này trong việc áp dụng tiên đề chọn lọc. Điểm này đã được Skolem [286 a] và Fraenkel [113 b] làm cho chính xác; như họ đã nhận thấy, việc làm sáng tỏ nó buộc ta phải đặt mình vào trong một hệ được hình thức hóa hoàn toàn, trong đó các khái niệm "tính chất" và "quan hệ" đã mất mọi "ý nghĩa" và đã trở thành những tên gọi đơn giản cho các sưu tập được tạo thành theo những quy tắc tường minh. Dĩ nhiên điều đó đòi hỏi rằng phải đưa vào trong hệ các quy tắc Lôgic được sử dụng, điều chưa có trong hệ Zermelo-Fraenkel.
Những sự tiên đề hóa khác của lý thuyết tập hợp đã được đề xuất tiếp theo sau đó. Ta hãy nhắc chủ yếu đến tiên đề hóa của von Neumann [342 a và c], tiên đề hóa này, hơn hệ của Zermelo-Fraenkel, gần với quan niệm nguyên thủy của Cantor hơn: chính Cantor, để tránh các tập hợp nghịch lý, đã từng đề nghị ([47], tr. 445-448), trong thư từ của ông với Dedekind, phân biệt
58 Chẳng hạn, nghịch lý Russell chỉ trở thành có hiệu lực trong hệ của Zermelo nếu ở đó người ta có thể chứng minh quan hệ ; dĩ nhiên, một chứng minh như vậy, nếu có thể thu được, sẽ có hệ quả ngay lập tức là sự cần thiết phải sửa đổi một cách đáng kể hệ đang xét.
giữa hai loại tập hợp, các “đa thể” (“Vielheiten”) và các “tập hợp” (“Mengen”) theo nghĩa thực sự, loại thứ hai được đặc trưng ở chỗ chúng có thể được tư duy như một đối tượng duy nhất. Chính ý tưởng ấy được von Neumann làm cho chính xác khi phân biệt hai kiểu đối tượng, “tập hợp” và “lớp”; trong hệ của ông (hầu như được hình thức hóa hoàn toàn), các lớp được phân biệt với các tập hợp ở chỗ chúng không thể được đặt ở bên trái dấu . Một trong những ưu điểm của một hệ như thế là nó phục hồi khái niệm “lớp phổ quát” mà các nhà lôgic học thế kỷ XIX đã dùng (đương nhiên đó không phải là một tập hợp); ta cũng lưu ý rằng hệ của von Neumann tránh được (đối với lý thuyết tập hợp) việc đưa vào các lược đồ tiên đề, được thay bằng những tiên đề thích hợp (điều này làm cho việc nghiên cứu lôgic của nó dễ hơn). Một vài biến thể của hệ von Neumann đã được Bernays và Gödel đưa ra [130 b].
Việc loại bỏ các nghịch lý dường như đã được thực hiện tốt bởi các hệ trên, nhưng với cái giá là những hạn chế không thể không có vẻ rất tùy ý. Để bênh vực hệ Zermelo-Fraenkel, có thể nói rằng nó chỉ hạn chế mình vào việc phát biểu những sự hạn chế chỉ chuẩn nhận thực hành hiện hành trong các ứng dụng của khái niệm tập hợp vào các lý thuyết toán học khác nhau. Các hệ của von Neumann và của Gödel xa các quan niệm thông thường hơn; mặt khác, không loại trừ rằng sẽ dễ lồng một số lý thuyết toán học còn đang ở buổi đầu của chúng vào khuôn khổ do các hệ ấy cung cấp hơn là vào khuôn khổ hẹp hơn của hệ Zermelo-Fraenkel.
Chắc chắn người ta không thể khẳng định rằng bất cứ lời giải nào trong số các lời giải ấy lại gây ấn tượng là có tính chất dứt khoát. Nếu chúng làm thỏa mãn các nhà hình thức luận, thì đó là vì những người này từ chối lưu tâm đến các phản ứng tâm lý cá nhân của từng nhà toán học; họ giả thiết rằng một ngôn ngữ được hình thức hóa đã hoàn thành nhiệm vụ của nó khi nó có thể phiên các lập luận toán học thành một dạng không có mơ hồ, do đó hữu ích như một phương tiện chuyên chở tư duy toán học; mỗi người đều tự do, theo như họ nói, suy nghĩ tùy ý về “bản tính” của các đối tượng toán học hoặc về “chân lý” của các định lý mà mình dùng, miễn là lập luận của mình có thể được phiên dịch sang ngôn ngữ chung.59
Nói cách khác, xét từ quan điểm triết học, thái độ của các nhà hình thức luận là không quan tâm đến bài toán do các “nghịch lý” đặt ra, là từ bỏ lập trường Platon vốn nhằm quy cho các khái niệm toán học một “nội dung” trí tuệ chung cho mọi nhà toán học. Nhiều nhà toán học lùi bước trước sự đoạn tuyệt ấy với truyền thống. Chẳng hạn Russell tìm cách tránh các nghịch lý bằng cách phân tích cấu trúc của chúng một cách sâu hơn. Tiếp nhận lại một ý tưởng do J. Richard nêu ra trước tiên (trong bài báo [258] nơi ông trình bày “nghịch lý” của mình) và được H. Poincaré phát triển về sau [251 c], Russell và Whitehead nhận thấy rằng các định nghĩa của các nghịch lý-
59 Tuy nhiên, dường như Hilbert luôn luôn đã tin vào một “chân lý” toán học khách quan ([163 c], tr. 315 và 323). Ngay cả một số nhà hình thức luận mà lập trường, như của H. Curry, rất gần với lập trường mà ta vừa phác họa, cũng bác bỏ với một thứ phẫn nộ ý tưởng cho rằng toán học có thể bị xem như một trò chơi đơn thuần, và tuyệt đối muốn thấy ở đó một “khoa học khách quan” ([73], p. 57).
các tập hợp nghịch lý đều vi phạm nguyên lý sau đây, được gọi là “nguyên lý vòng luẩn quẩn”: “Một phần tử mà định nghĩa của nó bao hàm toàn thể các phần tử của một tập hợp thì không thể thuộc tập hợp đó” ([266], v. I, p. 40). Cũng chính mệnh đề này làm cơ sở cho Principia, và chính để thỏa mãn nó mà “lý thuyết kiểu” được phát triển trong công trình này. Cũng như logic của Frege, là nguồn cảm hứng của nó, logic của Russell và Whitehead chứa các “biến mệnh đề”; lý thuyết kiểu tiến hành phân loại các biến khác nhau ấy, mà các nét chính là như sau. Xuất phát từ một “miền các cá thể” không được xác định và có thể được xem là “các đối tượng cấp 0”, các quan hệ trong đó các biến (tự do hoặc bị ràng buộc) là các cá thể được gọi là “các đối tượng cấp một”; và nói chung, các quan hệ trong đó các biến là các đối tượng cấp (ít nhất một biến có cấp ) được gọi là “các đối tượng cấp ”. Khi đó, một tập hợp các đối tượng cấp chỉ có thể được định nghĩa bởi một quan hệ cấp , một điều kiện cho phép loại bỏ không khó khăn các tập hợp nghịch lý. Nhưng nguyên lý của “thứ bậc các kiểu” quá hạn chế, đến nỗi nếu tuân thủ nó một cách nghiêm ngặt thì người ta đi đến một nền toán học có độ phức tạp không thể gỡ rối. Để thoát khỏi hệ quả này, Russell và Whitehead buộc phải đưa vào một “tiên đề khả quy”, khẳng định sự tồn tại, đối với mọi quan hệ giữa các “cá thể”, của một quan hệ cấp một tương đương với nó; một điều kiện cũng tùy ý chẳng kém gì các tiên đề của phái hình thức, và làm giảm đi đáng kể mối quan tâm đối với phép dựng của Principia. Vì thế hệ của Russell và Whitehead thành công với các nhà logic học hơn là với các nhà toán học; dù sao đi nữa nó cũng chưa được hình thức hóa hoàn toàn, và do đó có nhiều chi tiết tối nghĩa. Nhiều cố gắng khác nhau đã được thực hiện nhằm đơn giản hóa và làm sáng tỏ hệ này (Ramsey, Chwistek, Quine, Rosser); có xu hướng dùng các ngôn ngữ ngày càng được hình thức hóa đầy đủ hơn, các tác giả ấy thay thế các quy tắc của Principia (vốn vẫn còn có một cơ sở trực giác nhất định) bằng những hạn chế chỉ xét đến cách phát biểu của các tổ hợp đang được xé-
Thực ra đó mới chỉ là phần mở đầu của sự phân loại các “kiểu”, mà không thể trình bày một cách trung thành nếu không đi vào những phát triển rất dài; độc giả muốn có những giải thích chi tiết hơn có thể đặc biệt chú ý đến lời dẫn nhập của v. II của Principia Mathematica [266]. Do đó, trong hệ của Russell và Whitehad, quan hệ không thể được viết ra một cách hợp lệ, trái với chẳng hạn hệ Zermelo-Fraenkel. Chẳng hạn, đẳng thức không phải là một khái niệm nguyên thủy trong hệ của Principia: hai đối tượng bằng nhau nếu với mọi tính chất , và là những mệnh đề tương đương. Nhưng định nghĩa này không có nghĩa trong lý thuyết kiểu: để có nghĩa, ít nhất phải chỉ rõ “cấp” của , và như vậy người ta sẽ bị dẫn tới chỗ phân biệt giữa vô số quan hệ đẳng thức! Dù sao, ngay từ năm 1908 [342 b], Zermelo đã nhận xét rằng nhiều định nghĩa toán học cổ điển (chẳng hạn định nghĩa giới hạn dưới của một tập hợp trong ) không tuân theo “nguyên lý vòng luẩn quẩn”, và do đó việc chấp nhận nguyên lý này có nguy cơ loại bỏ những phần quan trọng của các lý thuyết toán học truyền thống nhất. Russell và Whitehead (cũng như trước đó Frege) giữ lập trường cổ điển đối với các công thức toán học, mà đối với họ luôn luôn phải có một “ý nghĩa” gắn với một hoạt động làm nền cho tư duy.
xét; các quy tắc ấy không những có vẻ cũng vô cớ như các điều cấm được phát biểu trong các hệ của Zermelo-Fraenkel hoặc của von Neumann, mà hơn nữa, do xa rời hơn thực hành của các nhà toán học, chúng trong nhiều trường hợp đã dẫn tới những hệ quả không thể chấp nhận được, điều mà tác giả đã không dự liệu (như nghịch lý Burali-Forti, hoặc sự phủ định tiên đề lựa chọn).
Đối với các nhà toán học của những trường phái trước đó, trước hết vấn đề là không từ bỏ bất kỳ phần nào của di sản quá khứ: "Từ thiên đường mà Cantor đã tạo ra cho chúng ta", Hilbert nói ([163 c], p. 274), "không ai được có thể đuổi chúng ta ra". Để làm điều đó, họ sẵn sàng chấp nhận những hạn chế đối với lập luận toán học, hầu như không cốt yếu vì phù hợp với cách dùng, nhưng dường như không bị áp đặt bởi các thói quen tinh thần của chúng ta và ý niệm trực giác về khái niệm tập hợp. Đối với họ, bất cứ điều gì cũng có vẻ đáng ưa hơn sự xâm nhập của tâm lý học vào các tiêu chuẩn về tính hợp lệ trong toán học; và hơn là “tính đến các đặc điểm của bộ não chúng ta”, như Hadamard nói ([12], p. 270), họ cam chịu áp đặt lên lĩnh vực toán học những giới hạn phần lớn là tùy ý, miễn là các giới hạn ấy bao gồm Toán học cổ điển và không có nguy cơ cản trở sự tiến bộ về sau.
Đó là một vấn đề rất khác khi ta xét thái độ của các nhà toán học thuộc khuynh hướng mà chúng ta còn phải nói đến. Nếu những người theo thuyết hình thức chấp nhận sự từ bỏ sự kiểm soát của "con mắt của tâm trí" trong chừng mực liên quan đến lập luận toán học, thì những nhà toán học được gọi là "nhà kinh nghiệm", "nhà hiện thực" hay "nhà trực giác" lại từ chối sự thoái vị ấy; họ phải có một thứ xác tín nội tại bảo đảm cho "sự tồn tại" của các đối tượng toán học mà họ quan tâm. Chừng nào vấn đề chỉ là từ bỏ trực giác không gian, thì không có phản đối nghiêm trọng nào, vì các "mô hình" số học cho phép rút lui về khái niệm trực giác về số nguyên. Nhưng sự đối lập bất khả quy biểu lộ ra khi vấn đề là quy giản khái niệm số nguyên về khái niệm tập hợp (ít chính xác về trực giác hơn nhiều), rồi lại áp đặt lên việc thao tác các tập hợp những rào cản không có nền tảng trực giác. Người đầu tiên theo thời gian trong số các đối thủ ấy (và là người, do uy quyền của thiên tài mình, đã có ảnh hưởng nhiều nhất) là H. Poincaré; tuy đã thừa nhận không những quan điểm tiên đề đối với hình học và việc số học hóa Giải tích, mà cả một phần lớn lý thuyết của Cantor (mà ông là một trong những người đầu tiên vận dụng có kết quả trong công trình của mình), trái lại ông không chấp nhận rằng bản thân số học cũng có thể được biện minh bằng một xử lý tiên đề; đặc biệt nguyên lý quy nạp đầy đủ đối với ông dường như là một trực giác cơ bản của tinh thần chúng ta, trong đó không thể thấy một quy ước thuần túy [251 c]. Về nguyên tắc thù địch với các ngôn ngữ hình thức hóa, mà ông tranh cãi về tính hữu ích, ông thường xuyên lẫn lộn
Poincaré đi xa đến mức về thực chất nói rằng không thể định nghĩa một cấu trúc thỏa mãn mọi tiên đề của Peano, trừ nguyên lý quy nạp đầy đủ ([251 c], p. 65); ví dụ (do Padoa đưa ra) về các số nguyên với ánh xạ thay cho cho thấy mệnh đề này là không chính xác. Điều đáng ngạc nhiên là điều đó đã thấy có ở Frege, gần như bằng đúng những lời ấy ([117 b], p. 21 e).
khái niệm số nguyên trong toán học hình thức hóa với việc sử dụng các số nguyên trong lý thuyết chứng minh, khi đó mới bắt đầu hình thành, và chúng tôi sẽ nói đến sau; không nghi ngờ gì, vào thời ấy thật khó mà tạo ra sự phân biệt này rõ ràng như ngày nay, sau 50 năm nghiên cứu và thảo luận, mặc dù Hilbert hay Russell đã cảm thấy rõ ràng sự phân biệt ấy.
Những phê phán thuộc loại này gia tăng sau khi Zermelo đưa ra tiên đề lựa chọn năm 1904 [342 a]. Việc sử dụng tiên đề này trong nhiều chứng minh trước đó của Giải tích hay lý thuyết tập hợp cho đến lúc ấy hầu như đã qua đi mà không được nhận thấy; chính theo một ý tưởng do Erhard Schmidt gợi ra mà Zermelo, khi phát biểu một cách tường minh tiên đề này, đã suy ra từ nó bằng một cách khéo léo một chứng minh thỏa đáng về sự tồn tại của một thứ tự tốt trên mọi tập hợp. Xuất hiện đồng thời với các "nghịch lý", có vẻ như lối lập luận mới này, bởi dáng vẻ kỳ lạ của nó, đã làm cho không ít nhà toán học rối trí; chỉ cần xem những ngộ nhận kỳ quặc đã nổi lên về chủ đề này trong tập tiếp theo của Mathematische Annalen, dưới chữ ký của những nhà toán học quen thuộc với các phương pháp Cantor như Schoenflies và F. Bernstein. Những phê phán của E. Borel, được công bố trong cùng tập này, thì có thực chất hơn và gắn rõ ràng với quan điểm do H. Poincaré phát biểu về số nguyên; chúng được triển khai và thảo luận trong một cuộc trao đổi thư từ giữa E. Borel, Baire, Hadamard và Lebesgue, những người vẫn ở trong truyền thống cổ điển của toán học Pháp [12]. Borel bắt đầu bằng việc phủ nhận tính hợp lệ của tiên đề lựa chọn vì nói chung nó chứa một vô hạn không đếm được các sự lựa chọn, điều không thể hình dung được bằng trực giác. Nhưng Hadamard và Lebesgue nhận xét rằng một vô hạn đếm được các lựa chọn tùy ý liên tiếp cũng chẳng trực giác hơn, vì nó gồm một vô hạn các thao tác mà không thể hình dung là thực sự diễn ra. Đối với Lebesgue, người đã mở rộng cuộc tranh luận, mọi sự quy về việc biết phải hiểu thế nào khi nói rằng một đối tượng toán học "tồn tại"; đối với ông, cần phải "gọi tên" một cách tường minh một tính chất định nghĩa nó theo một cách duy nhất (một tính chất "phiếm hàm", như ngày nay ta nói); đối với một hàm như hàm được Zermelo dùng trong lập luận của mình, đó là điều Lebesgue gọi là một "luật" lựa chọn; nếu, ông nói tiếp, yêu cầu này không được thỏa mãn, và nếu người ta chỉ giới hạn ở việc "nghĩ" về hàm này thay vì "gọi tên" nó, thì có thể nào chắc chắn rằng trong quá trình lập luận người ta luôn nghĩ đến cùng một sự vật không ([12], p. 267)? Dù sao, điều đó đưa Lebesgue đến những nghi ngờ mới; ngay cả vấn đề lựa chọn một phần tử duy nhất trong một tập hợp dường như với ông cũng đã làm nảy sinh khó khăn: phải bảo đảm rằng một phần tử như thế "tồn tại", nghĩa là người ta có thể "gọi tên" ít nhất một trong các phần tử
Năm 1890, Peano, khi chứng minh định lý của ông về sự tồn tại của các tích phân của phương trình vi phân, nhận xét rằng ông sẽ tự nhiên bị dẫn đến chỗ "áp dụng vô hạn lần một luật tùy ý theo đó với một lớp thì một cá thể của lớp ấy được làm tương ứng"; nhưng ông cũng nói thêm rằng trong mắt ông một lập luận như vậy là không thể chấp nhận được ([246 c], p. 210). Năm 1902, B. Levi đã nhận thấy rằng chính lối lập luận ấy đã được F. Bernstein sử dụng một cách ngầm ẩn trong một chứng minh thuộc lý thuyết số lượng lực [199].
của tập hợp. Khi đó có thể nói đến “sự tồn tại” của một tập hợp mà người ta không biết cách “gọi tên” từng phần tử của nó chăng? Ngay từ Baire đã không ngần ngại phủ nhận “sự tồn tại” của tập hợp tất cả các tập con của một tập hợp vô hạn cho trước (loc. cit., tr. 263-264); Hadamard có nhận xét một cách vô ích rằng những đòi hỏi ấy dẫn đến việc từ bỏ ngay cả khả năng nói về các số thực: chính với kết luận đó mà cuối cùng E. Borel đồng ý. Gạt sang một bên việc tính đếm được dường như đã có được quyền sở hữu vĩnh viễn, người ta hầu như đã quay trở lại lập trường cổ điển của những người chống lại “vô hạn hiện thực”.
Tất cả những phản đối ấy không thật có tính hệ thống; Brouwer và trường phái của ông đã đảm nhận việc cải biến hoàn toàn toán học dưới sự dẫn dắt của những nguyên lý tương tự, nhưng còn triệt để hơn nữa. Chúng tôi không dám tóm lược ở đây một học thuyết phức tạp như thuyết trực giác, vốn chứa đựng tâm lý học cũng nhiều như toán học, và sẽ chỉ giới hạn ở việc chỉ ra vài khía cạnh nổi bật nhất, dẫn chiếu để biết thêm chi tiết đến các công trình của chính Brouwer [39 a and b] và bản trình bày của Heyting [162]. Đối với Brouwer, Toán học đồng nhất với phần “khớp” của tư duy chúng ta, dựa trên trực giác đầu tiên về dãy số tự nhiên, và không thể chuyển dịch nó sang một hệ hình thức mà không làm tổn hại nó. Dù sao đi nữa, nó chỉ “khớp” trong tư duy của các nhà toán học, và hy vọng xây dựng một công cụ giao tiếp giữa họ mà không chịu mọi khuyết điểm và mơ hồ của ngôn ngữ là một ảo tưởng; cùng lắm người ta chỉ có thể hy vọng khơi dậy ở người đối thoại một trạng thái tinh thần thuận lợi bằng những mô tả ít nhiều mơ hồ ([162], tr. 11-13). Toán học trực giác luận hầu như không coi trọng lôgic hơn ngôn ngữ: một chứng minh không có tính kết luận do các quy tắc lôgic được cố định một lần là xong, mà do “hiển nhiên trực tiếp” của từng bước trong đó. Hơn nữa, “hiển nhiên” này phải được hiểu theo nghĩa hạn chế hơn ở E. Borel và các môn đồ của ông: vì thế trong toán học trực giác luận, không thể nói rằng một quan hệ có dạng “ or (not )” là đúng (nguyên lý bài trung), trừ khi đối với mọi hệ giá trị gán cho các biến xuất hiện trong , người ta có thể chứng minh rằng một trong hai mệnh đề , “not ” là đúng; chẳng hạn, từ phương trình giữa hai số thực, không thể kết luận rằng “ or ”, vì dễ tạo ra những ví dụ tường minh về các số thực mà đối với chúng ta có nhưng tại thời điểm hiện tại lại không biết cách chứng minh một trong hai mệnh đề ([162], p. 21).
Việc “lựa chọn” một phần tử trong một tập hợp trên thực tế không hề liên quan gì đến tiên đề lựa chọn; nó chỉ đơn thuần là một cách nói, và ở mọi nơi người ta diễn đạt theo cách ấy, trong thực tế người ta chỉ dùng những quy tắc lôgic sơ cấp nhất (ở đó dấu không xuất hiện). Dĩ nhiên, việc áp dụng các quy tắc ấy cho một tập hợp đòi hỏi rằng người ta đã chứng minh được ; chính ở điểm này mà lập luận của Lebesgue tác động, vì một chứng minh như thế chỉ có giá trị đối với ông chính xác khi người ta đã “gọi tên” được một phần tử của . Chẳng hạn, Lebesgue không coi là có giá trị lập luận của Cantor ([47], tr. 115-118) chứng minh sự tồn tại của các số siêu việt; đối với ông sự tồn tại này chỉ được chứng minh vì có thể “gọi tên” các số siêu việt, như các số Liouville hoặc các số hay .
Không có gì đáng ngạc nhiên khi, xuất phát từ những nguyên lý như vậy, các nhà toán học trực giác luận đi tới những kết quả rất khác với các định lý cổ điển. Cả một phần của các định lý ấy biến mất, chẳng hạn phần lớn các định lý “tồn tại” trong Giải tích (như các định lý của Bolzano và Weierstrass đối với các hàm thực); nếu một hàm của một biến thực “tồn tại” theo nghĩa trực giác luận, thì ipso facto nó liên tục; một dãy đơn điệu bị chặn của các số thực không nhất thiết có giới hạn. Mặt khác, nhiều khái niệm cổ điển đối với nhà trực giác luận lại phân nhánh thành nhiều khái niệm cơ bản phân biệt: vì vậy có hai khái niệm hội tụ (đối với một dãy số thực) và tám khái niệm về tính đếm được. Không cần phải nói rằng quy nạp siêu hạn và các áp dụng của nó vào Giải tích hiện đại đều bị kết án không kháng cáo (cũng như đối với phần lớn lý thuyết của Cantor).
Chỉ theo cách đó mà, theo Brouwer, các mệnh đề toán học mới có thể có được một “nội dung”; các lập luận hình thức vượt quá điều mà các nhà trực giác luận cho phép bị phán xét là vô giá trị, vì người ta không còn có thể gán cho chúng một “ý nghĩa” để khái niệm trực giác về “chân lý” có thể được áp dụng. Rõ ràng rằng những phán xét như vậy chỉ có thể dựa trên một khái niệm “chân lý” có sẵn từ trước, mang bản tính tâm lý hoặc siêu hình. Nói thế trong thực hành có nghĩa là chúng thoát khỏi mọi thảo luận.
Không thể nghi ngờ rằng những cuộc công kích mạnh mẽ xuất phát từ phe trực giác luận đôi khi đã buộc không chỉ các trường phái toán học tiền phong, mà cả những người theo toán học truyền thống, phải chuyển sang thế phòng ngự. Một nhà toán học nổi tiếng đã thừa nhận rằng mình bị các cuộc công kích ấy tác động đến mức đã tự nguyện giới hạn công việc của mình vào những ngành của toán học bị phán là “chắc chắn”. Nhưng những trường hợp như vậy hẳn khó mà thường xuyên. Trường phái trực giác luận, mà ký ức về nó có lẽ chỉ còn được định đoạt tồn tại như một sự tò mò lịch sử, ít nhất cũng đã có ích vì đã buộc các đối thủ của mình, nghĩa là rốt cuộc đại đa số tuyệt đối các nhà toán học, phải xác định chính xác lập trường của họ và nhận thấy rõ hơn những lý do (một số thuộc loại lôgic, số khác thuộc loại tình cảm) của sự tin tưởng của họ vào toán học.
SIÊU TOÁN HỌC
Sự vắng mặt của mâu thuẫn từ mọi thời vẫn được coi là một điều kiện sine qua non đối với toàn bộ toán học, và từ thời Aristotle, lôgic đã phát triển đủ để người ta hoàn toàn biết rõ rằng từ một lý thuyết không nhất quán có thể suy ra bất cứ điều gì. Các chứng minh về “sự tồn tại”, được coi là không thể thiếu từ thời Cổ đại, hiển nhiên không có mục đích nào khác ngoài việc bảo đảm rằng việc đưa vào một khái niệm mới không có nguy cơ kéo theo một mâu thuẫn, đặc biệt khi khái niệm ấy quá phức tạp để ngay lập tức thuộc phạm vi “trực giác”. Ta đã thấy đòi hỏi này trở nên cấp bách hơn như thế nào với sự xuất hiện của quan điểm tiên đề học trong thế kỷ XIX và phép dựng các “mô hình” số học đã đáp ứng nó ra sao. Nhưng bản thân số học, liệu nó có thể không nhất quán chăng? Một câu hỏi chắc hẳn người ta sẽ không nghĩ đến trước cuối thế kỷ XIX, vì các số nguyên dường như thuộc về phần chắc chắn nhất trong trực giác của ta; nhưng sau các “nghịch lý” thì dường như mọi thứ đều bị đặt thành vấn đề, và người ta có thể hiểu rằng cảm giác bất an do chúng tạo ra đã khiến các nhà toán học, vào khoảng năm 1900, chú tâm cẩn trọng hơn đến bài toán về tính không mâu thuẫn của số học, để ít nhất cứu toán học cổ điển khỏi đắm tàu. Vì thế bài toán này là bài toán thứ hai trong số những bài toán mà Hilbert liệt kê trong bài giảng nổi tiếng của ông tại Đại hội quốc tế năm 1900 ([163 a], v. III, pp. 229-301). Khi làm như vậy, ông đã đặt ra một nguyên lý mới vốn sẽ có những hệ quả rất lớn: trong khi ở lôgic truyền thống, tính không mâu thuẫn của một khái niệm chỉ làm cho nó trở thành “khả hữu”, thì đối với Hilbert nó tương đương với sự tồn tại của khái niệm ấy (ít nhất đối với các khái niệm toán học được định nghĩa theo lối tiên đề). Điều này dường như hàm ý sự cần thiết phải chứng minh tiên nghiệm tính không mâu thuẫn của một lý thuyết toán học trước cả khi có thể phát triển nó một cách chính đáng; chính theo cách đó mà H. Poincaré hiểu nó khi, để chọc thủng chủ nghĩa hình thức, ông tiếp nhận ý tưởng của Hilbert, và nhấn mạnh với một niềm thích thú tinh quái mức độ mà ở giai đoạn ấy các nhà hình thức còn xa mới có thể thực hiện được điều đó ([251 c], p. 163). Ta sẽ thấy về sau Hilbert đã nhận lời thách thức như thế nào; nhưng trước đó, cần ghi nhận ở đây rằng, dưới ảnh hưởng uy tín của ông và của Poincaré, những yêu sách do chính Poincaré đặt ra đã được chấp nhận trong một thời gian dài không dè dặt, cả bởi các nhà hình thức lẫn các đối thủ của họ. Một hệ quả là niềm tin, rất phổ biến trong các nhà hình thức, rằng lý thuyết chứng minh của Hilbert là một bộ phận nguyên vẹn của toán học, mà nó cấu thành phần dẫn nhập không thể thiếu. Theo chúng tôi, giáo điều này không có vẻ được biện minh, và chúng tôi cho rằng sự can thiệp của siêu toán học vào việc trình bày lôgic và toán học có thể và phải được giảm xuống phần hết sức sơ cấp liên quan đến việc thao tác các ký hiệu viết tắt và các tiêu chuẩn suy diễn. Vì vậy, trái với điều Poincaré nghĩ, ở đây không phải là chuyện “đòi hỏi sự không mâu thuẫn”, mà đúng hơn là coi, cùng với Hadamard, rằng sự vắng mặt của mâu thuẫn, ngay cả khi chưa được chứng minh, là một điều được ghi nhận ([12], p. 270).
Còn lại đối với chúng ta là phác ra ngắn gọn lịch sử các nỗ lực của Hilbert và trường phái của ông, và tóm tắt sự tiến triển rốt cuộc đã dẫn đến kết quả phủ định của Gödel và biện minh hậu nghiệm cho thái độ hoài nghi của Hadamard, nhưng cũng đồng thời toàn bộ những tiến bộ tiếp theo từ đó, liên quan đến sự hiểu biết về cơ chế của lập luận toán học, và khiến cho siêu toán học hiện đại trở thành một khoa học tự trị có giá trị không thể tranh cãi.
Trong một học thuyết hình thức thuần túy, các từ “tồn tại” trong một văn bản đã hình thức hóa không có “ý nghĩa” nhiều hơn bất kỳ từ nào khác, và không cần phải xét đến những kiểu “tồn tại” khác trong các chứng minh đã hình thức hóa.
Ngay từ năm 1904, trong một bài giảng tại Đại hội quốc tế ([163 c], tr. 247-261), Hilbert đã tấn công bài toán về tính không mâu thuẫn của số học. Trước hết ông nhận thấy rằng không thể có chuyện chứng minh điều đó bằng cách sử dụng một mô hình, và phác ra các nguyên lý của một phương pháp khác: ông đề nghị xem các mệnh đề đúng của số học đã được hình thức hoá như những tập hợp các dấu không có ý nghĩa, và chứng minh rằng khi sử dụng các quy tắc chi phối sự hình thành và sự liên kết của các tập hợp ấy, không thể thu được một tập hợp vừa là một mệnh đề đúng vừa có phủ định của nó cũng là một mệnh đề đúng. Ông thậm chí còn phác hoạ một chứng minh thuộc loại này cho một hình thức luận kém rộng hơn hình thức luận của số học; nhưng, như H. Poincaré đã nhận thấy không lâu sau đó ([251 c], p. 185), chứng minh này sử dụng một cách cốt yếu nguyên lý truy hồi, và vì thế dường như dựa trên một vòng luẩn quẩn. Hilbert đã không trả lời ngay lời phê phán này, và khoảng mười lăm năm đã trôi qua mà không có ai cố gắng phát triển các ý tưởng của ông; mãi đến năm 1917 ông mới lại tự mình gắn bó với bài toán về các nền tảng của toán học (được thúc đẩy bởi mong muốn đáp lại các công kích của phái trực giác luận), và từ nay cho đến hết sự nghiệp khoa học của mình, ông sẽ không ngừng xem xét bài toán ấy. Trong công trình của ông về chủ đề này, trải dài xấp xỉ từ 1920 đến 1930, và trong đó có sự tham gia của cả một trường phái các nhà toán học trẻ (Ackermann, Bernays, Herbrand, von Neumann), Hilbert dần dần làm nổi bật các nguyên lý của "lý thuyết chứng minh" của ông một cách chính xác hơn: mặc nhiên thừa nhận tính đúng đắn của lời phê phán của Poincaré, ông thừa nhận rằng trong siêu toán học, lập luận số học được sử dụng chỉ có thể dựa trên trực giác của chúng ta về các số nguyên (chứ không phải trên số học đã được hình thức hoá); để làm điều đó, dường như cốt yếu là phải hạn chế lập luận ấy vào các "thủ tục hữu hạn" ("finite Prozesse") thuộc kiểu mà phái trực giác luận chấp nhận: chẳng hạn, một chứng minh phản chứng không thể chứng minh sự tồn tại siêu toán học của một tập hợp hoặc một dãy các tập hợp, mà phải có một luật phép dựng tường minh. Mặt khác, Hilbert mở rộng theo hai hướng chương trình ban đầu của mình: ông không những khảo sát tính không mâu thuẫn của số học, mà còn mong chứng minh tính không mâu thuẫn của lý thuyết số thực và thậm chí cả của lý thuyết tập hợp; hơn nữa, vào các bài toán về tính không mâu thuẫn còn được thêm vào các bài toán về tính độc lập của các tiên đề, về tính đầy đủ và về tính quyết định. Chúng tôi sẽ điểm qua nhanh các vấn đề khác nhau ấy và chỉ ra các công trình nghiên cứu chính mà chúng đã làm nảy sinh.
Các "mô hình" do các định nghĩa của Dedekind hoặc Frege cung cấp chỉ chuyển dời câu hỏi, bằng cách quy nó về tính không mâu thuẫn của Lý thuyết tập hợp, một bài toán chắc chắn là khó hơn tính không mâu thuẫn của Số học, và còn được thấy là khó hơn nữa vào một thời kỳ khi chưa có cố gắng nghiêm túc nào được đề xuất để tránh các "nghịch lý".
Để có một mô tả chi tiết và chính xác hơn về các thủ tục hữu hạn được chấp nhận trong siêu toán học, chẳng hạn người ta có thể tham khảo luận án của J. Herbrand [158].
Khi nói đến tính không mâu thuẫn của lý thuyết số thực, người ta giả định rằng lý thuyết này được xác định bằng phương pháp tiên đề, không sử dụng lý thuyết tập hợp (hoặc ít nhất là tránh sử dụng một số tiên đề của lý thuyết sau này, như tiên đề lựa chọn hoặc tiên đề về tập hợp các tập con).
1. CƠ SỞ CỦA TOÁN HỌC; LÔGIC; LÝ THUYẾT TẬP HỢP.
Chứng minh tính độc lập của một hệ các mệnh đề là việc chỉ ra rằng, với mỗi chỉ số , không phải là một định lý trong lý thuyết thu được khi lấy làm tiên đề các có chỉ số . Điểm này sẽ được thiết lập nếu người ta biết một lý thuyết không mâu thuẫn trong đó các là các định lý, cũng như "không phải "; do đó người ta có thể xét bài toán theo hai cách tuỳ theo có hay không cho phép rằng một số lý thuyết nào đó (chẳng hạn số học hoặc lý thuyết tập hợp) là không mâu thuẫn. Trong trường hợp thứ hai, người ta phải xử lý một bài toán về tính không mâu thuẫn "tuyệt đối". Trái lại, kiểu bài toán thứ nhất quy về một bài toán về tính không mâu thuẫn "tương đối", bằng phương tiện một phép dựng các "mô hình" thích hợp, và nhiều chứng minh thuộc loại này đã được nghĩ ra từ rất lâu trước khi toán học mang một diện mạo hoàn toàn được hình thức hoá: chỉ cần nhắc lại các mô hình của hình học phi Euclid (xem p. 133), các vấn đề về tính độc lập của các tiên đề của hình học sơ cấp được Hilbert xử lý trong "Grundlagen der Geometrie" [163 c], cũng như các công trình của Steinitz về việc tiên đề hoá Đại số và các công trình của Hausdorff cùng những người kế tục ông về việc tiên đề hoá Tôpô.
Một lý thuyết được gọi là đầy đủ nếu, với mọi mệnh đề của (không chứa chữ nào khác ngoài các hằng của ), một trong hai mệnh đề (phủ định của ), là một định lý của . Nếu gạt sang một bên một số hình thức luận rất sơ đẳng nào đó, mà tính đầy đủ được chứng minh dễ dàng ([164], p. 35), thì các kết quả thu được trong lĩnh vực này về căn bản là mang tính phủ định; kết quả đầu tiên theo thời gian là của K. Gödel [130 a], người đã chỉ ra rằng, nếu là phi mâu thuẫn và nếu các tiên đề của số học hình thức hóa là các định lý của , thì không đầy đủ. Ý tưởng cơ bản của phương pháp khéo léo của ông là thiết lập một sự tương ứng song ánh (dĩ nhiên, bằng những "quá trình hữu hạn") giữa các phát biểu siêu toán học và một số mệnh đề nào đó trong số học hình thức hóa; ở đây chúng tôi chỉ tự giới hạn ở một phác họa đại thể. Với mỗi tập hợp là một số hạng hoặc một quan hệ của , trước hết người ta gán (bằng một thủ tục là một phép dựng tường minh, có thể áp dụng gần như máy móc) một số nguyên , theo cách song ánh. Tương tự, với mỗi chứng minh của (được xét như một dãy các tập hợp), người ta có thể gán một số nguyên , theo cách song ánh. Cuối cùng, người ta có thể cho một thủ tục để dựng tường minh một quan hệ của , sao cho, trong , đòi hỏi rằng là các số nguyên, và thỏa mãn hai điều kiện sau:
1° nếu là một chứng minh của , trong đó là một quan hệ của , và là một số nguyên tường minh (nghĩa là một số hạng của là một số nguyên), thì là một định lý của ;
Điều này thường được phát biểu bằng cách nói rằng nếu không phải là một định lý của , thì lý thuyết thu được bằng cách thêm vào các tiên đề của là mâu thuẫn.
Để biết thêm chi tiết, xem [130 a] hoặc ([181], pp. 181-258).
Mô tả chi tiết của và rất dài và tỉ mỉ, và việc viết ra sẽ đòi hỏi một số ký hiệu lớn đến mức trên thực tế là không thể được, nhưng không nhà toán học nào cho rằng điều đó làm giảm đi dưới bất kỳ phương diện nào giá trị của các phép dựng này.
2° nếu số nguyên tường minh không có dạng , hoặc nếu và nếu không phải là một chứng minh của , thì (phủ định của ) là một định lý của .
Khi đó, gọi là quan hệ (phủ định của ), và đặt , là một số hạng của . Nếu là phi mâu thuẫn, thì không có chứng minh nào của mệnh đề trong . Thật vậy, nếu là một chứng minh như thế, thì sẽ là một định lý của ; nhưng quan hệ này chẳng qua chính là , và suy ra cũng sẽ là một định lý của ; vì quan hệ sau cùng này tương đương với (phủ định của ), nên sẽ mâu thuẫn. Mặt khác, điều vừa nói cho thấy rằng với mọi số nguyên tự nhiên tường minh , (phủ định của ) là một định lý của . Kết quả là không có chứng minh nào, trong , của (phủ định của ), vì quan hệ sau cùng này tương đương với và sự tồn tại của một số nguyên tự nhiên sao cho sẽ đòi hỏi rằng mâu thuẫn, do điều đã nói ở trước. Định lý siêu toán học này của Gödel về sau đã được tổng quát hóa theo nhiều hướng ([181], chap. XI).
là đúng theo trực giác, vì người ta có một chứng minh trong của (phủ định của ) với mỗi số nguyên tự nhiên tường minh ; tuy nhiên mệnh đề này lại không chứng minh được trong . Tình huống này cần được so sánh với một kết quả trước đây do Löwenheim và Skolem thu được (xem [286 a]): tác giả sau định nghĩa, theo siêu toán học, một quan hệ giữa hai số nguyên tự nhiên mà, nếu viết , thì thỏa mãn các tiên đề của von Neumann cho lý thuyết tập hợp. Thoạt nhìn từ đó nảy sinh một "nghịch lý" mới, vì trong "mô hình" này mọi tập vô hạn đều sẽ đếm được, trái với bất đẳng thức của Cantor . Nhưng thật ra, "quan hệ" do Skolem định nghĩa không thể được viết trong lý thuyết tập hợp hình thức hóa, cũng như "định lý" phát biểu rằng tập hợp các tập con của một tập vô hạn chỉ có một vô hạn đếm được các "phần tử". Tận đáy, "nghịch lý" này chỉ là một dạng tinh vi hơn của nhận xét tầm thường rằng ta sẽ không bao giờ có thể viết ra hơn một số hữu hạn các sưu tập trong một lý thuyết hình thức hóa, và do đó thật phi lý khi quan niệm một tập không đếm được các số hạng của lý thuyết; một nhận xét gần với nhận xét đã dẫn tới "nghịch lý của Richard". Một lập luận tương tự chứng minh rằng việc hình thức hóa lý thuyết tập hợp là điều không thể thiếu nếu người ta muốn bảo toàn những điểm cốt yếu của phép dựng Cantor. Các nhà toán học dường như cũng đồng ý đi đến kết luận rằng chỉ có một sự phù hợp bề ngoài giữa các quan niệm "trực giác" của chúng ta về khái niệm tập hợp hoặc số nguyên tự nhiên, với các hình thức luận được giả thiết là dùng để giải thích chúng; sự bất đồng bắt đầu khi vấn đề là phải chọn giữa cái này và cái kia.
Thật ra, phần sau này của lập luận giả thiết nhiều hơn một chút so với tính phi mâu thuẫn của , cụ thể là điều được gọi là "ω-phi mâu thuẫn" của : điều đó có nghĩa là không có quan hệ nào trong sao cho kéo theo và sao cho, với mỗi số nguyên tự nhiên tường minh , là một định lý của mặc dù cũng là một định lý của . Ngoài ra, Rosser đã chỉ ra rằng có thể sửa đổi lập luận của Gödel sao cho chỉ cần giả thiết tính phi mâu thuẫn của ([181], p. 208).
Cần lưu ý sự tương tự giữa lập luận của Gödel với ngụy biện của kẻ nói dối: mệnh đề khẳng định chính tính sai của nó, khi người ta diễn giải nó theo các thuật ngữ siêu toán học! Người ta cũng nhận thấy rằng mệnh đề đang xét không gắn với bất cứ bài toán toán học nào theo một cách tự nhiên. Điều thú vị hơn nhiều là nếu ký hiệu lý thuyết tập hợp (với hệ tiên đề của von Neumann-Bernays), cả giả thuyết continuum lẫn phủ định của nó đều không chứng minh được trong . Kết quả đáng chú ý này đã được thiết lập trong hai giai đoạn: năm 1940, Gödel đã chứng minh rằng lý thuyết thu được bằng cách thêm vào giả thuyết continuum là không mâu thuẫn [130 b]; rồi năm 1963, P. Cohen đã chứng minh điều tương tự khi thêm vào quan hệ (hoặc với một số nguyên tự nhiên tùy ý ) [67].
Bài toán quyết định ("Entscheidungsproblem") không nghi ngờ gì là tham vọng nhất trong tất cả các bài toán được nêu ra trong siêu toán học: nó hệ tại ở việc biết liệu, đối với một ngôn ngữ hình thức cho trước, người ta có thể hình dung ra một "thủ tục phổ quát" gần như cơ giới mà, khi được áp dụng cho mọi quan hệ của hình thức luận đang xét, sẽ chỉ ra sau một số hữu hạn phép toán rằng quan hệ ấy là đúng hay không. Việc giải bài toán này đã là một phần trong dự đồ lớn của Leibniz, và có vẻ như vào một thời người ta trong trường phái Hilbert đã tin rằng việc thực hiện nó đã ở rất gần. Thực tế là người ta có thể mô tả những thủ tục như thế cho các hình thức luận chỉ chứa ít ký hiệu nguyên thủy và tiên đề ([181], pp. 136-141). Nhưng những nỗ lực nhằm làm cho bài toán quyết định được xác định chính xác, bằng cách phác rõ điều phải hiểu là "thủ tục phổ quát", cho đến nay chỉ đưa đến những kết quả phủ định ([181], pp.432-439). Ngoài ra, lời giải của bài toán quyết định đối với một lý thuyết kéo theo ngay lập tức việc biết liệu là phi mâu thuẫn hay không, vì chỉ cần áp dụng "thủ tục phổ quát" cho một quan hệ của và phủ định của nó; và ta sẽ thấy rằng không thể giải quyết vấn đề theo cách ấy đối với các lý thuyết toán học thông thường.
Quả thật chính trong vấn đề về tính phi mâu thuẫn của các lý thuyết toán học, nguồn gốc và trung tâm đích thực của Siêu toán học, mà các kết quả đã tỏ ra gây thất vọng nhất. Trong các năm 1920-1930, Hilbert và trường phái của ông đã phát triển những phương pháp mới để công kích các vấn đề ấy; sau khi đã chứng minh tính phi mâu thuẫn của các hình thức luận bộ phận, bao quát một phần của số học (xem [158], [324 d]), họ tin rằng mình đã đạt mục tiêu và đã chứng minh được không những tính phi mâu thuẫn của số học mà cả tính phi mâu thuẫn của lý thuyết tập hợp, thì Gödel, dựa vào tính không đầy đủ của số học, đã suy ra từ đó tính không thể chứng minh được, bằng những "thủ tục hữu hạn" của Hilbert, tính phi mâu thuẫn của mọi lý thuyết chứa lý thuyết sau này.
Một vấn đề lân cận là vấn đề về sự tồn tại của những "thuật toán" để giải một số bài toán nào đó, một vấn đề mà ở đây chúng tôi không thể khảo sát (Turing, Post, P. Novikov).
Cần phân biệt cẩn thận bài toán quyết định với niềm tin, được nhiều nhà toán học chia sẻ, và thường được Hilbert đặc biệt diễn đạt một cách mạnh mẽ, rằng đối với mọi mệnh đề toán học, cuối cùng rồi một ngày nào đó người ta sẽ biết nó là đúng, sai hay không thể quyết định được. Đó là một hành vi đức tin thuần túy, mà sự phê phán nó nằm ngoài phạm vi bàn luận của chúng tôi.
Với ký hiệu đã đưa vào ở trên, kết quả chính xác của Gödel là như sau. Nói rằng là phi mâu thuẫn có nghĩa là không có chứng minh nào, trong , của quan hệ
Tuy nhiên, định lý của Gödel không hoàn toàn đóng cánh cửa đối với những cố gắng chứng minh tính phi mâu thuẫn, miễn là người ta từ bỏ (ít ra là một phần) những hạn chế của Hilbert liên quan đến các "thủ tục hữu hạn". Chính theo hướng đó mà Gentzen năm 1936 [127] đã thành công trong việc chứng minh tính phi mâu thuẫn của số học hình thức hóa, bằng cách dùng một cách "trực giác" quy nạp siêu hạn đến số thứ tự đếm được . Giá trị của "độ xác tín" mà người ta có thể gắn cho kiểu lập luận như vậy chắc chắn là kém sức thuyết phục hơn đối với kiểu lập luận thỏa mãn các đòi hỏi ban đầu của Hilbert, và về căn bản là một vấn đề tâm lý cá nhân của từng nhà toán học; nhưng dẫu sao vẫn đúng rằng những "chứng minh" tương tự, dùng quy nạp siêu hạn "trực giác" đến một số thứ tự cho trước, sẽ được xem là một tiến bộ quan trọng nếu chúng có thể được áp dụng, chẳng hạn, cho lý thuyết số thực hoặc cho một phần đáng kể của lý thuyết tập hợp.
; như một hệ quả, điều này đòi hỏi rằng đối với mọi số nguyên minh thị , (not ) là một định lý của . Vậy hãy xét mệnh đề , mà ta sẽ ký hiệu là ; bằng cách "dịch" vào số học hình thức lập luận (được nhắc lại ở trên) nhờ đó người ta chứng tỏ về mặt siêu toán học rằng "nếu là phi mâu thuẫn, thì không có chứng minh nào rằng thuộc ", người ta có thể thiết lập rằng là một định lý của , nói cách khác, rằng là một định lý của . Suy ra rằng, nếu là phi mâu thuẫn, thì không phải là một định lý của , vì trong những điều kiện ấy không phải là một định lý của . Đó là phát biểu chính xác của định lý Gödel.
Gentzen gắn với mỗi chứng minh của số học hình thức hóa một số thứ tự ; mặt khác, ông mô tả một thủ tục mà, xuất phát từ mỗi chứng minh kết thúc bằng một mâu thuẫn, tạo ra một chứng minh cũng kết thúc bằng một mâu thuẫn và sao cho ; lý thuyết về các tập hợp có thứ tự tốt cho phép ta kết luận rằng một chứng minh như thế không thể tồn tại (một kiểu lập luận mở rộng phép "đi xuống vô hạn" cổ điển của lý thuyết số).