CINQUIEME CHAPITRE.FONDEMENTS ETHNOMETHODOLOGIQUES DE LA PREUVE.
L'objectivité
Une connaissance n'est pas séparable de l'activité de celui qui connaît. Cette activité elle-même repose sur un sens partagé par les différents membres d'un groupe. On pourrait penser qu'il existe des domaines dans lesquels règne une objectivité réelle. Par exemple, les mathématiques, en tant qu'elles sont a priori, sont considérées comme le symbole de l'objectivité. Une analyse des données historiques des mathématiques montrent qu'en réalité une vérité mathématique est une vérité partagée par les membres d'un groupe à un moment donné. En effet, le sens attribué aux concepts est le résultat d'une création. Le sens n'est pas contenu dans une liste de symboles, il est forgé par celui qui regarde ces symboles. On ne cherche pas ici à parler de la vérité ou de la relativité des mathématiques, mais à étudier la façon dont les mathématiciens font leur travail.
Robert Blanché explique à ce propos que le postulat des parallèles <chez Euclide> faisait à l'intuition spatiale un appel explicite, mais
apparemment exceptionnel. En réalité, c'est tout au long des démonstrations qu'elle est invoquée, et Poincaré pouvait justement dire que, dans cette vaste. construction où les anciens ne trouvaient aucun défaut logique, toutes les pièces sont dues à l'intuition (...) Mais le texte ne le dit point expressément ; il laisse croire que les figures ne sont là que comme de simples auxiliaires du raisonnement, qui doublent en quelque sorte la démonstration logique par une illustration sensible, sans lui être indispensables. I1 n'en est rien : supprimez la figure, tracée ou imaginée, et la démonstration s'écroule. N'allons pas plus loin que la première proposition d'Euclide, qui est un problème construire un triangle équilatéral sur un segment de droite donné AB. On décrit deux cercles de rayon AB, l'un de A comme centre, l'autre de B : le point d'intersection M, dont la distance à A ou à B est celle du rayon AB, sera le troisième sommet cherché. Mais pour qui ne voit pas ou ne se représente pas mentalement la figure, la démonstration est déficiente . comment sait-on que les deux cercles se coupent ? L'existence du point M a été montrée, non démontrée (284).
L'histoire des mathématiques est essentiellement l'histoire de la résolution de trois problèmes . d'abord expliquer la notion de preuve rigoureuse ; ensuite caractériser l'objet mathématique et enfin comprendre ce qu'est une découverte mathématique.
On peut schématiquement distinguer quatre types de réponses à ces questions, ce qui conduit à quatre familles de mathématiciens
284 :Robert Blanché, L'axiomatique, P.U.F., 1959, pp. 4-7.
Le platonisme.
Cette conception suppose que la mathématique est une science et qu'en tant que telle, elle a un objet. Les mathématiques sont donc une découverte et non pas une invention. L'accord des mathématiciens s'explique par le fait qu'ils décrivent tous les mêmes objets. Les mathématiques sont donc objectives, et ne contiennent aucune convention, tout juste des préférences. Les platoniciens estiment en particulier qu'il existe une logique universelle permettant de déterminer les propriétés des Idées mathématiques. La logique peut s'accommoder de formalismes différents, qui ne sont pas autre chose que des transcriptions plus ou moins commodes. Mais, fondamentalement, le principe du tiers exclu doit être admis (ce qui constitue, on le verra, une forme particulière d'inférence inductive dès qu'il est appliqué à des ensembles infinis). Les platoniciens admettent l'existence d'ensemble défini comme un groupement en un tout d'objets bien distincts de notre intuition et de notre pensée (285). Ce qui les conduit à admettre l'existence simultanée de tous les êtres mathématiques, et donc celle de l'infini actuel (position de Leibniz et de Cantor).
285: Cantor, Gesammelte Abhandlungen, Heidelberg, Springer-Verlag, 1932, et Hildesheim, G. Olmsg, 1966, p. 282.
Le formalisme.
Les formalistes proposent de vider les propositions mathématiques de tout contenu. Ils considèrent que les mathématiques ne consistent qu'en un bon maniement de symboles. Cette conception a été développée par Hilbert (puis par le groupe Bourbaki). Ils considèrent qu'une proposition est vraie si elle peut se déduire d'un nombre fini d'axiomes au moyen d'un nombre fini d'opérations strictement réglementées. Gödel, en montrant que toute théorie contenant au moins l'arithmétique contient des résultats vrais mais non démontrables, a porté un coup très sévère au programme d'Hilbert.
L'empirisme.
La vérité d'une proposition est déterminée par l'adhésion des mathématiciens. La question de savoir quel est le statut ontologique de l'objet mathématique n'a pas de sens. Les mathématiques sont le résultat d'une convention et peuvent être révoquées en doute du jour au lendemain par accord réciproque des acteurs.
Le constructivisme.
Les constructivistes (souvent appelés aussi intuitionnistes) inscrivent les mathématiques dans l'esprit humain doué d'une intuition fondamentale, celle de comprendre la fonction successeur, celle qui permet de passer de n à n + 1. Toutes les mathématiques doivent être construites à partir de cette intuition, c'est-à-dire à partir des nombres entiers. Les constructivistes refusent le principe du tiers exclu en ce qui concerne les ensembles infinis ainsi que l'infini en acte.
En dépit de leurs divergences philosophiques, ces mathématiciens se rejoignent sur l'essentiel, c'est-à-dire qu'ils reconnaissent la valeur de la preuve en mathématique. Bien sûr les constructivistes n'utilisent pas des règles identiques que les platoniciens. Mais nul ne cherche à étudier l'activité mathématique en tant que telle.
Application au théorème de Gödel
Avant d'entamer l'étude technique du théorème de Gödel, rappelons quelle en est la teneur. L'expression théorème de Gödel est abusive dans la mesure où il démontra en deux et qu'il en démontra presque un troisième.
Gödel démontra en 1931 qu'une arithmétique non contradictoire ne pouvait constituer un système complet et qu'il existait nécessairement en son sein des énoncés indécidables.
Il démontra ensuite que la non-contradiction de l'arithmétique est l'un des énoncés indécidables de l'arithmétique. Enfin, il a presque démontré que si le système S est cohérent, alors il existe une proposition p de S telle que ni p ni -p ne sont décidables à l'intérieur du système. Il s'agit là d'une généralisation abusive qui n'est pas de Gödel lui-même.
De manière intuitive, on peut dire que Gödel montre qu'à l'intérieur des Principia Mathematica de Russell et Whitehead (ou d'un système équivalent), il est possible de construire une proposition P qui
1_est démontrable d'après les prémisses et les axiomes du système, mais qui
2_dit d'elle-même qu'elle est indémontrable.
En conséquence, si P est démontrée à l'intérieur du système, son caractère indémontrable peut également être démontrée. Mais, si P est syntaxiquement démontrable et sémantiquement non démontrable, (étant bien entendu que les axiomes de départ sont cohérents), alors P est indécidable dans les termes mêmes du système.
Données méthodologiques.
. Un système S est cohérent si et seulement s'il n'existe aucune expression bien formée (ebf) E telle que E et -E puissent être démontrées. La notion de cohérence est fondamentale si on veut éviter que toute ebf devienne un théorème du système. On connaît en effet la tautologie d'après laquelle ex falso sequitur quodlibet : p • -p • q. Un système incohérent n'est donc pas un système impossible mais au contraire un système dans lequel tout est possible.
. Un système S est complet si et seulement si pour toute proposition p il existe une inférence permettant d'affirmer p ou -p. I1 est clair qu'un système incohérent est automatiquement complet.
. D'autres données méthodologiques (qui ont fait l'objet d'un cours de logique à Paris VIII) sont fournies en appendice.
Le corps de la preuve du théorème de Gödel est un ensemble de preuves que certaines fonctions et relations sont primitivement récursives et que certains modes de construction de fonctions et de relations à partir d'autres fonctions et relations, préserve la récursivité primitive. Nous ne discuterons pas ici l'intégralité de la preuve et nous nous bornerons à examiner certains passages particulièrement révélateur de la façon de procéder d'un logicien. Nous utiliserons et discuterons le commentaire d'Eric Livingston sur ce sujet (286).
286: cf. Eric Livingston, The Ethnomethodological Foundations of Mathematics, Routledge et Kegan Paul, 1986.
Exposé de la preuve
1. Les fonctions Zn(x) = 0, 1, 2, ... sont primitives récursives.
2. Les fonctions obtenues par permutations des variables, spécification des variables, substitutions des variables par des constantes dans une fonction primitive récursive, sont primitives récursives.
3. L'addition, la multiplication, l'exponentiation et une soustraction limitée sont des fonctions primitives récursives.
4. Soit f une fonction numérique à (m + 1) places et soient
y f (X1, . . , Xm, k)
¾
k=0
et y f(X1, ..., Xm, k)
1
k=0
les appellations respectives des fonctions
(X1 ,…, Xm) • f (X1, …., Xm) +…+ f (X1,…..,Xm , y) et (X1,….,Xm , y) • f(X1,...,Xm , 0)...f(X1,...,Xm , y).
alors, si f est une fonction primitive récursive, _ et ( ?) le sont aussi.
5 ( ?). =, , <, sont des relations primitives récursives.
6. Les connecteurs logiques - , & , appliqués à des relations primitivement récursives donnent des fonctions primitives récursives.
7. La relation obtenue en substituant une fonction primitive récursive par une variable dans une relation primitive récursive est primitive récursive.
8. Soit R une relation numérique à (m + 1) place et soient
(z) ² y R(X1,…., Xm, z) et Ez² y R (X1,…. Xm, z)des appellations d'une
relation à (m + 1) places applicables à (X1, ...,Xm,y) si R(Xl,...,Xm,z)
s'applique respectivement à pour tout z²y ou à quelque z²y. Si R est une fonction primitive récursive, alors (z)² y R(X1, ...,Xm , z) et Ez² y R(X1, ...,Xm , z) le sont également.
9. Si T1, ...,Tv sont des relations primitivement récursives, disjointes et à m-places, alors la fonction définie par l'équation
g1(X1,...,Xm) si T1 (X1, … , Xm)
g2(X1,...,Xm) si T2 (X1, ... , Xm)
f((X1, ..., Xm)=
gv(Xl, ..., Xm) si Tv(X1, ... ,Xm)
h(X1, ...,Xm) si (X1, ...,Xm) Ti
pour tout I² i² v
est primitive récursive.
10. Si R est une relation numérique à (m + 1) places, soit uz² R(Xl, ...,Xm,z) une appellation de la fonction définie par l'équation le plus petit z² y tel que
R(Xl, ...,Xm,z), s'il existe.
m z² R(Xl,…, Xm,z) = 0 dans les autres cas.
11. La fonction numérique à deux places x/y (x divise y sans reste) est primitive récursive.
12. Soit prem(x) applicable si et seulement si x est un nombre premier. Alors prem(x) est une relation primitive récursive.
13. Etant donnée la fonction pn, pour chaque n, le n-ième nombre premier est primitif récursif.
14. La fonction (x) n donnant l'exponentiation de pn dans une factorisation première de x est primitive récursive.
((X)0 : =(0)n : = 0)
15. Soit la fonction L(x) donnant le plus grand nombre premier (dans la série ordonnée des nombres premiers) avec une exponentiation différente de 0 dans une factorisation première de x, ou donnant 0 si x est 0 ou 1. Alors, L(x) est primitive récursive.
16. Pour tout nombre entier naturel y, y = 0, ou
y = p0(y) Pl (y) ... pL(y)
x * y définit la fonction (x,y) : L (y)
x * y = X1 p L(y) k(x)+k
k = 0
x * y est primitive récursive.
17. La fonction de correspondance entre un nombre entier naturel et le nombre gödelien d'une variable individuelle est une fonction primitive récursive.
18. Soit var(x) la relation applicable si et seulement si x est le nombre gödelien d'une variable de P. Var(x) est primitive récursive.
19. Term(x) applicable si et seulement si x est le nombre gödelien d'une formation séquentielle de termes est une relation primitive récursive.
20. On définit la relation term(x) comme applicable si et seulement si x est le nombre gödelien d'un terme de P. Term(x) est primitivement récursive.
21. La relation formebf(x) s'appliquant exactement quand x est le nombre gödelien d'une formation séquentielle d'ebf, est primitive récursive.
22. ebf(x) est une relation primitive récursive où ebf(x) s'applique si et seulement si x est le nombre gödelien d'une ebf de P.
23. Soit occurrence (w,x,y,z) applicable exactement quand z est le nombre gödelien d'une ebf, x est le nombre gödelien d'une variable et z peut être écrit : z = w * x * y. occurrence (w,x,y,z) est une relation primitive récursive.
24. lié(w,x,y,z) indiquant qu'une occurrence de la variable avec un nombre gödelien x est lié dans une ebf avec le nombre gödelien z est une relation primitive récursive.
25.La relation libre(w,x,y,z) qui s'applique si et seulement si occurrence(w,x,y,z) et non lié(w,x,y,z) est primitive récursive.
(… )
32. La relation nonlibre(x,a) qui s'applique si et seulement si x est une nombre gödelien d'une variable sans occurrence libre dans une ebf avec un le nombre gödelien a est une relation primitive récursive.
33. axiomel(x), ..., axiome i(x), ..., axiome k(x) sont des relations primitivement récursives où i énumère les axiomes de P et axiome i(x) s'applique si et seulement si x est le nombre gödelien d'une instance de l'axiome i.
34. On définit la relation déduction(x) comme s'appliquant si et seulement si x est le nombre gödelien d'une déduction. déduction(x) est primitive récursive.
35. La relation ded (x,y) qui s'applique uniquement quand x est le nombre gödelien d'une déduction d'une ebf comprenant le nombre gödelien y, est une relation primitive récursive.
L'infinité des règles tacites
De ce résumé de la preuve de Gödel on peut tirer les enseignements suivants :
1. La numérotation gödelienne n'est pas une correspondance abstraitement définie entre les symboles, les expressions et les séquences d'expressions de P et les nombres naturels. Il s'agit d'une technique pratique de preuve. Autrement dit, cette façon de prouver n'est pas réductible à un simple formalisme mais implique une action prouvante.
2. L'ensemble de la preuve de Gödel est dirigée vers la possibilité de construction d'une relation primitive récursive. Cette construction est rendue possible par un ensemble d'inductions tacites qui ne sont jamais indiquées dans le cours de la preuve.
Autrement dit, il faut supposer acquis un nombre virtuellement infini de définitions, de règles d'inférence intuitives, de points historiquement admis à l'époque de la preuve. I1 ne s'agit pas pour nous de contester le résultat de Gödel, pas plus que nous n'avons mis en doute l'invention des irrationnels, mais de montrer que les bases de la preuve ne sont pas formelles. La base est essentiellement une activité, une démarche pratique impliquant l'existence d'un sujet, l'endossement d'un terrain logique, l'existence d'un village de mathématiciens etc. On suppose en outre, de manière tacite, que les relations entre les fonctions décrites sont universelles et, donc, non susceptibles d'être révoquées en doute. Il est clair, pour les mathématiques classiques, qu'une remise en question de la permanence du formalisme conduirait à l'abandon pur et simple de toute activité formellement définie.
Mais, semble-t-il, on ne diminue en rien la force d'une preuve en mentionnant le cadre conceptuel (éventuellement mouvant) à l'intérieur duquel elle prend place. Supposer en effet la mouvance du village, du terrain et, en conséquence, du sens créé à partir du formalisme, n'implique pas nécessairement le rejet d'une possibilité de preuve théoriquement fondée. Pour reprendre l'expression d'Yves Lecerf, la mention d'une inconnue (ou de plusieurs inconnues) dans un calcul n'implique pas l'impossibilité du calcul. On peut même penser, au contraire, que c'est l'introduction de ces inconnues qui a permis de généraliser la notion de calcul à des nombres hors de toute intuition naturelle comme les complexes.
I1 est donc parfaitement concevable d'introduire des inconnues dans la théorie de la preuve, pour rendre compte de la réalité pratique de la preuve. L'ensemble des inductions tacitement requises pour l'établissement des théorèmes que nous avons vus représente une inconnue. Certes, on peut mentionner certaines de ces inductions, mais nous avons tout lieu de penser que ces inductions ne sont spécifiquement identiques pour tout le monde d'une part et, d'autre part, le principe d'indexicalité risque fort de nous conduire à une tâche impossible : l'énumération indéfinie des sens actuels. De façon analogique, dire que x est un nombre ayant telle et telle propriété, utilise une variable pour éviter l'énumération impossible de tous les nombres. Cette variabilité est admise depuis fort longtemps en mathématique. On peut considérer que l'indexicalité est l'application du même principe à la sémantique, et parler d'inconnue inductive, de variabilité ou de mouvance du terrain revient à appliquer le même principe à l'activité humaine.
Exhiber les inconnues, la mouvance, la variabilité, ne devrait pas conduire, comme l'ont pensé en leur temps Platon ou Aristote, à l'impossibilité du discours vrai ou scientifique, mais permettra sans doute d'englober une beaucoup plus large partie du savoir à l'intérieur de l'activité prouvante. Parler d'une inconnue en mathématique conduit à mentionner le cadre de référence à l'intérieur duquel x pourra varier. Ce cadre de référence comprend, par exemple, le domaine de définition. Analogiquement encore, l'ethnométhodologie, quand elle demande que le terrain soit nommé, ne fait pas autre chose que de demander un cadre conceptuel à l'intérieur duquel le sens sera localement définie, comme les propriétés de x sont localement définies dans N et sont autrement définies (quoique toujours localement) dans C.
L'ensemble des problèmes de philosophie mathématique que nous avons évoqués plus haut ne disparaît pas dans le gouffre de la localité du sens. Les mêmes problèmes restent posés, mais encadrés. L'utilisation du principe d'inconnue ou de paramètre permet une généralisation de la méthode hypothétique. Transformer une affirmation péremptoire en hypothèse n'est évidemment pas la même chose que de se prononcer sur sa vérité ou sur sa fausseté. On s'autorise simplement à envisager d'autres hypothèses.
Par exemple, avant le XIXème siècle, on niait que les hypothèses euclidiennes fussent des hypothèses. On les considérait comme des vérités. Quand Gauss, Bolyai, Lobachevski et Riemann envisagèrent d'autres hypothèses, ils ne remettaient pas en question la géométrie classique, ils montraient l'illégitimité de son caractère d'unicité. Leur innovation fut d'accepter deux systèmes de propositions opposés comme pouvant être simultanément vrais. Auparavant, une théorie devait être vraie ou fausse, et deux théories exclusives l'une de l'autre devaient se combattre jusqu'à la victoire de l'une des deux. Transformer les théories en hypothèse permet évidemment la tolérance de théories contradictoires. L'ethnométhodologie ne conduit donc pas à un relativisme sceptique, mais débouche sur une relativité des hypothèses, sur des définitions partielles de cadres conceptuels à l'intérieur desquels il devient légitime de parler de vérité.