M Hourya Benis-Sinaceur

Modernit mathmatique : Quelques invariants pistmologiques / Modernity in mathematics : Some epistemological invariants
In: Revue d'histoire des sciences. 2002, Tome 55 n1. pp. 83-100.

Citer ce document / Cite this document : Benis-Sinaceur Hourya. Modernit mathmatique : Quelques invariants pistmologiques / Modernity in mathematics : Some epistemological invariants. In: Revue d'histoire des sciences. 2002, Tome 55 n1. pp. 83-100. doi : 10.3406/rhs.2002.2144 http://www.persee.fr/web/revues/home/prescript/article/rhs_0151-4105_2002_num_55_1_2144

Abstract SUMMARY. At the end of the 19th century, what is referred to as modern mathematics made its first appearance when Georg Cantor and Richard Dedekind introduced their theory of infinite sets. At the beginning of the 20th century, this mathematics became universalized, when the axiomatic method and the definitions of algebraic and topological structures, which were already household words at David Hilbert's school at Gttingen, became systematically used. In this article, I examine the epistemological options of mathematical modernity - especially those that were widely shared beyond the Gttingen circle. I attempt to locate modernity transversally, without concern for methodical, philosophical, ideological, or circumstantial borders. What I aim at are epistemological invariants of modern mathematical practices and argumentation. I arrive at the themes of the autonomy of mathematics which is a particular aspect of the general theme of the autonomy of science -, the promotion of semantic analysis, the productivity of language, which is particularly important in a nonexperimental science, and, finally, the utility as the measure of the value of theories. Rsum RSUM. Les mathmatiques dites modernes sont entres dans l'histoire, la fin du XIXe sicle, avec la thorie des ensembles infinis de Georg Cantor et Richard Dedekind. Elles se sont affirmes au dbut du XXe sicle avec l'usage systmatique de la mthode axiomatique et la dfinition des structures - algbriques et topologiques - qui furent le mot d'ordre de l'cole de David Hilbert Gttingen. Cet article examine les options pistmologiques de la modernit mathmatique, et spcialement celles qui furent partages largement au-del du cercle de Gttingen. Il tente de reprer transversalement la modernit, sans souci des frontires mthodiques, philosophiques, idologiques ou circonstantielles. Ce qu'il vise, ce sont les invariants pistmologiques des pratiques et des argumentations mathmatiques modernes. Sont ainsi retenus : le thme de l'autonomie des mathmatiques, version sectorise du thme plus gnral de l'autonomie de la science, celui de la promotion de l'analyse smantique, de la productivit du langage, particulirement important dans une science non exprimentale, celui enfin de l'utilit comme mesure de la valeur des thories.

Modernit mathmatique : Quelques invariants pistmologiques (*)

Hourya Sinaceur (**)

RSUM. Les mathmatiques dites modernes sont entres dans l'histoire, la fin du xixe sicle, avec la thorie des ensembles infinis de Georg Cantor et Richard Dedekind. Elles se sont affirmes au dbut du xxe sicle avec l'usage systmatique de la mthode axiomatique et la dfinition des structures - algbriques et topologiques - qui furent le mot d'ordre de l'cole de David Hilbert Gttingen. Cet article examine les options pistmologiques de la modernit mathmat ique, et spcialement celles qui furent partages largement au-del du cercle de Gttingen. Il tente de reprer transversalement la modernit, sans souci des front ires mthodiques, philosophiques, idologiques ou circonstantielles. Ce qu'il vise, ce sont les invariants pistmologiques des pratiques et des argumentations math matiques modernes. Sont ainsi retenus : le thme de l'autonomie des mathmatiq ues, version sectorise du thme plus gnral de l'autonomie de la science, celui de la promotion de l'analyse smantique, de la productivit du langage, particuli rement important dans une science non exprimentale, celui enfin de l'utilit comme mesure de la valeur des thories. MOTS-CLS. Analyse smantique ; autonomie ; autorflexion ; interprta tion ; langage ; signification ; structure ; utilit ; conomie ; valeur. SUMMARY. At the end of the 19th century, what is referred to as modern mathematics made its first appearance when Georg Cantor and Richard Dedekind introduced their theory of infinite sets. At the beginning of the 20th cen tury, this mathematics became universalized, when the axiomatic method and the definitions of algebraic and topological structures, which were already household words at David Hilbert's school at Gttingen, became systematically used. (*) Cet article est une version remanie et augmente d'un expos au colloque qui s'est tenu l'universit de Tokyo, en avril 1996, sur le thme Traditions et modernit . Je remercie les organisateurs d'en avoir permis une publication spare. (**) Hourya Sinaceur, CNRS-Universit Paris-I, UMR 8590, Institut d'histoire et philo sophie des sciences et des techniques, 13, rue du Four, 75006 Paris. E-mail : sinaceur@canoe.ens.fr. Rev. Hist. ScL, 2002, 55/1, 83-100

84

Hourya Sinaceur

- especially In this article, those that I examine were widely the epistemological shared beyond options the Gttingen of mathematical circle. I attempt modernity to locate modernity transver sally, without concern for methodical, philosophical, ideolo gical, or circumstantial borders. What I aim at are epistemological invariants of modern mathematical practices and argumentation. I arrive at the themes of the autonomy of mathematics which is a particular aspect of the general theme of the autonomy of science -, the promotion of semantic analysis, the productivity of lan guage, which is particularly important in a non-experimental science, and, finally, the utility as the measure of the value of theories. KEYWORDS. Semantic analysis ; autonomy ; self-reflection ; interpreta tion ; language ; significance ; utility ; economy : value. Les mathmatiques dites modernes sont entres dans l'his toire, la fin du xixe sicle, avec la thorie des ensembles infinis de Georg Cantor et Richard Dedekind. Elles se sont affirmes au dbut du xxe sicle avec l'usage systmatique de la mthode axiomatique et la dfinition des structures - algbriques et topologi ques - qui furent le mot d'ordre de l'cole de David Hilbert Gttingen. L'cole de Hilbert fut la rfrence et le modle pour la rforme moderne des mathmatiques en Europe, en Amrique et au Japon. Et Hilbert est certainement la figure dominante et pour ainsi dire emblmatique de la modernit mathmatique. Par ses travaux personnels qui inaugurrent ou illustrrent de faon cla tante les mthodes modernes, par ses prises de position sur les questions pistmologiques lies l'avnement des mathmatiques modernes, par sa faon d'intgrer dlibrment ces questions dans la sphre mathmatique, en construisant dans ce but une nouv elle mathmatique - la mtamathmatique -, par son person nage,enfin, hritier de la philosophie des lumires, dfenseur de la libert de pense, ddaigneux des traditions troites, partisan de l'accs des femmes, en la personne d'Emmy Nther, aux chaires universitaires. Je vais m'intresser aux thmes pistmologiques associs aux mathmatiques modernes, c'est--dire aux questions qu' partir de celles-ci on peut poser sur la connaissance mathmatique. Ces thmes s'tagent en primaires et secondaires. Dans la premire catgorie je comprends ceux qui ont merg directement des nouvell es pratiques, suscitant des dbats d'abord dans le milieu mathmat ique, gagnant ensuite des galons dans les travaux des historiens et les discussions des philosophes. Dans la seconde catgorie je range les thmes ns d'une rflexion distancie sur la pratique mathma-

Modernit mathmatique...

85

tique et se donnant volontiers pour philosophie rflchie, lors mme qu'ils furent introduits ou dvelopps par des mathmatic iens (comme David Hilbert ou Ludwig Ebertus Jan Brouwer). Bien entendu, la frontire est assez floue entre les deux catgories et certains thmes relvent des deux, primaires par certains de leurs aspects, secondaires par d'autres. Parmi les thmes primaires, typique est celui du statut des objets mathmatiques, et partant, celui du mode de dfinition ou de dmonstration d'existence de ces objets. Ce thme est essentiellement aliment par l'interrogation sur la lgitimit de l'infini actuel et celle des dmonstrations indirectes, qui ne fournissent pas un procd de construction des objets dont elles dmontrent - par l'absurde - l'existence. L-dessus se greffe le dbat sur le ralisme et le constructivisme, qui engage choisir entre une ontologie et une epistemologie. Je n'voque ces questions fondamentales de la philosophie mathmatique que pour dire que je ne vais pas en traiter ici. Pas plus que je ne rouvrirai la question fort dbattue de l'origine des axiomes et de la nature de l'intuition. Ici, je veux considrer un certain nombre de thmes secondaires et, avant tout, celui de X autonomie des mathmatiques. Dfendu par des mathmaticiens et des philosophes d'orientations diffrentes, voire opposes, comme David Hilbert et Henri Poincar ou Ludwig E. J. Brouwer d'un ct, Jean Cavaills, Rudolph Carnap et Ludwig Wittgenstein de l'autre, ce thme apparat trs gnralement accept. Il me parat comme le trait fondamental auquel se rattachent quelques autres qui dessinent le visage de la modernit mathmatique. Parmi ces derniers je retiendrai ceux qui, par-dessus les oppositions polmiques, furent assums tant par les adhrents que par les opposants - ou tenus pour tels - de l'cole de Gttingen. Je chercherai en somme reprer transversalement la modernit, sans souci des frontires mthodiques, philosophiques, idologiques ou circonstantielles. Ce que je vise, ce sont les inva riants pistmologiques des pratiques et des argumentations math matiques modernes. Outre l'insistance sur l'autonomie des math matiques, version sectorise du thme - fort rpandu au dbut de notre sicle - de l'autonomie de la science, je traiterai de la promot ion de l'analyse smantique, de la productivit du langage, part iculirement saillante dans une science dont les faits sont de l'ordre du langage, et de l'utilit comme mesure de la valeur des thories.

86

Hourya Sinaceur

I. Libert du concept et autonomie du sens Mathmatique ou philosophique, la modernit s'est constitue dans l'hritage de la philosophie critique. Kant a consacr la rup ture entre la connaissance humaine et l'tre ou Dieu. L'homme cesse alors de rechercher l'assurance ontologique et la garantie divine, et la science n'est plus le dcryptage du grand livre de la nature, elle est cration, uvre de libert humaine. De Karl Frie drich Gauss Poincar et Brouwer, en passant par Dedekind, Cant or et Hilbert, les mathmaticiens modernes (1) ont soulign le plein exercice de la libert de pense mathmatique. Sur la libert tous sont d'accord ; sur son moteur la divergence est profonde. Les uns, Gauss, Dedekind, Poincar et Brouwer (2), l'ont rapport l'initiative de l'esprit, illustrant avec des variantes la position kan tienne. Les autres, cultivant un thme contraire au criticisme, y ont vu une dynamique objective, tmoin de la puissance d'affirmation du mathmatique en lui-mme et de la gnrativit de ses concepts. La libre mathmatique de Cantor est ainsi dsigne par autor frence la ralit immanente de ses concepts . Son dveloppe ment n'est li qu' l'autoconsidration discursive, en ce sens que ses concepts, d'une part, sont en eux-mmes dnus de contradict ion, d'autre part, ont des relations solides, rgles par des dfini tions, avec les concepts construits antrieurement, dj l et dj prouvs (3) . Toute rfrence l'activit subjective est ici barre au profit de rgles objectives et de l'enchanement des concepts dans la coh rence logique et la trame historique de l'exprience collective. Selon Cantor, la cration est autocration de la mathmatique dans un mouvement historique et objectif. Prenant le relais, l'axiomatique (1) Exception notable, Leopold Kronecker faisait du cur des mathmatiques, les nomb res entiers, uvre divine, tout le reste tant constitu de superstructures construites par les mathmaticiens. (2) Tous les quatre voient dans les nombres entiers, base de toutes les mathmatiques, un pur produit (Karl Friedrich Gauss), une libre cration (Richard Dedekind) de l'esprit humain. Brouwer associe, en outre, le produit de cet acte de l'esprit l'intuition du temps, Poincar un jugement synthtique a priori. (3) Abhandlungen mathematischen und philosophischen Inhalts (Hildesheim : Olms, 1966), 182.

Modernit mathmatique...

87

de Hilbert aura beau s'apprhender elle-mme comme le stade critique de la connaissance mathmatique, elle ne fera que ren forcer la force agissante et prescriptive des rgles. Hilbert, qui dsigne la mathmatique comme fille du pouvoir crateur de la pense pure (4) , voudra explicitement nanmoins restaurer l'ob jectivit et nous garder du subjectivisme, dj perceptible dans les intuitions de Kronecker et son comble dans l'intuitionnisme (5) . C'est le rgne de la mathmatique sans mathmaticien que Poincar reprochait aux cantoriens de promouvoir aux dpens de l'inspira tion et de l'initiative du sujet mathmaticien. Dans la postrit de Kant s'inscrit donc une bifurcation : le concept, soustrait l'in itiative du sujet, est objectiv dans la figuration symbolique et dou d'un pouvoir et d'un mouvement propres. Cela est un trait vra iment caractristique du structuralisme mathmatique du dbut de notre sicle. C'est Bernard Bolzano qui a ouvert la brche vers cette bifurca tion et accompli une rvolution, complmentaire pour une part de celle de Kant, contraire elle pour une autre part. Le premier en effet, Bolzano affirme l'autonomie de la science et du concept par rapport au sujet pensant. Sa doctrine des propositions et reprsen tations en soi introduit dans la tradition philosophique moderne la considration de significations objectives, constitues en objet sui generis, distinct des objets du monde, distinct de la pense des objets et distinct de l'expression linguistique de la pense. Parce que notre connaissance ne porte pas directement sur les choses (il n'y a pas de connaissance immdiate des choses), mais sur le sens des choses, s'impose une instance smantique autonome, immatrielle mais objective, subsistant par soi et indpendamment du sujet, de l'objet et du langage. L est le lieu propre de la vrit, ainsi ancre dans la signification et non plus rapporte directement l'tre et garantie par Dieu. Connatre c'est travailler le sens (6). C'est dans ce cadre purement objectif que Bolzano rinterprte la formule de Kant, qui voyait dans les mathmatiques le plus (4) Sur les problmes futurs des mathmatiques voir David Hilbert, Compte rendu du IF congrs international des mathmaticiens (Paris : Gauthier-Villars, 1902), 62. (5) Die Grundlagen der Mathematik, Abhandlungen aus dem matematischen Seminar der Hamburgischen Universitt, 6 (1928), 80 ; trad, franc, in Jean Largeault, Intuitionnisme et thorie de la dmonstration (Paris : Vrin, 1992), 158. (6) Voir le numro spcial Mathmatique et logique chez Bolzano, Revue d'histoire des sciences, 52/3-4 (1999).

88

Houry a Sinaceur

clatant exemple d'une raison pure qui s'tend d'elle-mme avec succs, sans le secours de l'exprience . Par raison pure, Bolzano entend l'exercice d'une connaissance conceptuelle totalement dconnecte de l'intuition et de la sensibilit. En tant que science purement a priori, les mathmatiques procdent (comme la philo sophie) purement par concepts, c'est--dire par pense de relations et de proprits. Il est frappant de voir Poincar affirmer lui aussi, plus tard, que la science est un systme de relations et la ralit une ralit pense (7), confirmant le primat, pour l'homme, du penser sur l'tre. Grce l'intuition, qu'il tient pour la source primordiale des ides du mathmaticien, Poincar maintiendra cependant le double lien, rompu par Bolzano, de la pense l'esprit d'une part et l'tre d'autre part.

IL L'ANALYSE SMANTIQUE COMME PROLGOMNE TOUTE MATHMATIQUE RIGOUREUSE

Bolzano soustrait radicalement le concept l'exprience. Les concepts ne sont ni abstraits de l'intuition (version aristotlicienne de l'empirisme) ni construits en elle (version kantienne). Si l'intui tion est le thtre de rencontre d'un sujet et d'un objet, alors le concept n'a rien voir avec elle, indpendant qu'il est du sujet qui le pense, et distinct des objets subsumes par lui. Le concept appart ient la sphre smantique ; car, s'il est compos, il est combinai son de concepts plus simples, et s'il est absolument simple, il est constitu au niveau smantique : on ne peut le dfinir mais seul ement le dcrire en nonant des propositions qui en prsentent le terme dans des contextes varis. C'est au sein d'une matire propositionnelle, et non par rfrence un objet extrieur, que se dgage le sens d'un concept primitif. Ainsi, le concept de point est induit (7) Tout ce qui n'est pas pense est le pur nant ; puisque nous ne pouvons penser que la pense et que tous les mots dont nous disposons pour parler des choses ne peuvent exprimer que des penses ; dire qu'il y a autre chose que la pense, c'est donc une affirma tion qui ne peut avoir de sens - Henri Poincar, La Valeur de la science (Paris : Flammar ion, 1970), 181-187.

Modernit mathmatique...

89

partir de propositions telles que le point est ce qui est simple dans l'espace , il est la limite de la ligne et n'est pas lui-mme une partie de la ligne , il n'a d'tendue ni en longueur ni en largeur ni en profondeur , etc. La dfinition d'un concept compos exige, de mme, le prlude d'une analyse smantique (8). Prenons l'exemple favori des historiens des mathmatiques : celui de la dfi nition purement analytique du concept de fonction continue. Bolzano prsente dans son Rein analytischer Beweis (1817) trois noncs diffrents de la mme vrit mathmatique, communment appele thorme des valeurs intermdiaires . Il faut distinguer les concepts cls de ces trois noncs, afin d'viter de les prendre l'un pour l'autre ou de faire de l'un d'eux un usage impropre ; ce sont dans l'ordre de gnralit dcroissante les concepts de poly nme, de fonction continue, de ligne continue. Bolzano observe que les dmonstrations courantes du thorme des valeurs intermd iairesconfondent le concept analytique de fonction continue et le concept gomtrique de ligne continue ; de plus elles explicitent ce dernier grce au concept cinmatique de courbe trace d'un seul trait par un mouvement ininterrompu ; enfin, pour le concept cin matique de mouvement, elles s'aident de la reprsentation sensible d'un corps mobile. Or le concept de mouvement est tranger aussi bien la gomtrie qu' l'analyse, la reprsentation sensible tran gre toute science conceptuelle, ft-elle une science applique comme la cinmatique. Si l'on veut remettre la mathmatique sur ses pieds et dterminer les connexions objectives entre ses concepts, il faut formuler une dfinition purement analytique du concept de fonction continue. De cette dfinition la courbe trace d'un trait fournira seulement un exemple gomtrique ; quant la reprsenta tion sensible d'un corps mobile elle ne sera invoque qu' titre d'adjuvant psychologique. Si l'une des composantes majeures de la modernit mathmat ique est bien la recherche de plus grande rigueur en analyse (ainsi fonde sur l'algbre et l'arithmtique), alors il faut bien convenir que cette recherche s'accompagne d'une promotion de l'analyse (8) Bernard Bolzano regrette que les penseurs de son poque (Immanuel Kant compris) ne se sentent pas du tout lis ou du moins ne satisfont que trs mdiocrement aux rgles jusque-l en vigueur de la logique, notamment au devoir de dire toujours prcisment avec clart de quoi l'on parle, en quel sens on prend tel ou tel mot, puis d'indiquer partir de quelles raisons on affirme telle ou telle chose, etc. (Lehrbuch der Religionswissenschaft, 63). (Les termes souligns le sont par Bolzano.)

90

Hourya Sinaceur

smantique et de son exploitation systmatique par de nombreux mathmaticiens. C'est l'un des aspects fondamentaux de la rflexion sur elle-mme dont a pris l'habitude la mathmatique moderne et dont Poincar lui aussi, - qui ne se range naturellement pas dans la ligne de Bolzano ni dans celle de Cantor - reconnat la ncessit et l'utilit (9). Ne croyons pas que l'axiomatisation, qui apporte l'autorflexion de la mathmatique les armes du formel, vient contrarier cette promotion du sens au cur du mathmatique. C'est tout le contraire. L'utilisation gnralise des symbolismes fait de la poly smie une prdisposition de tout discours. Canon de la mathmat ique formelle, Les fondements de la gomtrie de Hilbert (1899) ne signent pas la mort du sens, mais son autodtermination mathmat ique et son indpendance par rapport au monde extrieur et la reprsentation que nous en avons (10). Dans une perspective ancienne, aristotlo-platonicienne, les entits mathmatiques taient conues comme des objets stables que le mathmaticien commence par dfinir et essaie ensuite de caractriser univoquement, pensant fournir ainsi une pure des objets du monde extrieur. Dans la perspective moderne,, les axiomes dfinissent des structures polys miques par rfrence des modles mathmatiques familiers, dconnects de leur possible lgitimation externe. La dissolution de l'objet substantiel dans les structures formelles n'est pas perte, mais promotion du sens. La substitution des structures aux objets l mentaires a report l'attention du mathmaticien de l'objet sur le sens, exactement comme Bolzano le montre en pratique (avec le Rein analytischer Beweis) et en thorie (avec la doctrine des signif ications objectives de la Wissenschaftslehre). Car les structures n'liminent pas le sens ; elles se concentrent sur lui aux dpens de l'objet singulier. Si elles le mettent en suspens dans des formules (9) [...] la science mathmatique doit rflchir sur elle-mme et cela est utile, parce que rflchir sur elle-mme, c'est rflchir sur l'esprit humain qui l'a cre, d'autant plus que c'est celle de ses crations pour laquelle il a fait le moins d'emprunts au-dehors (Henri Poincar, L'avenir des mathmatiques, A tti del IV congresso internazionale dei matematici (Roma : Academia dei Lincei, 1908), 172). (10) Le contenu mathmatique de ces thmes est analys in Hourya Sinaceur, Corps et modles (Paris : Vrin, 1991), part. II, chap. I et il ; Id., De la gomtrie formelle l'algbre abstraite, in Luciano Boi, Dominique Flament, Jean-Michel Salanskis (eds), 1830-1930 : A century of geometry (Berlin : Springer, 1992), ser. Lecture notes in physics , n 402, 167174 ; Diffrents aspects du formalisme, in Frdric Nef et Denis Vernant (eds), Le Formal ismeen question : Le tournant des annes trente (Paris : Vrin, 1998), 129-146.

Modernit mathmatique...

91

non interprtes a priori, c'est pour le librer d'un ancrage unique, l'ouvrir d'autres ancrages, le varier, le multiplier, le propager selon des lignes de gnralit grandissante. La substitution la rfrence extrieure de structures et de modles mathmatiques, incarnation du sens et lieu de la vrit, internalise les questions d'existence et de vrit, et installent une cir cularit pistmologique, dsigne par Cavaills dans la mtaphore de la mathmatique comme volume riemannien [...] la fois ferm et sans extrieur lui (11) . Sur le fond de cette circularit s'intensifient les mouvements de passages rciproques d'une disci pline l'autre et la coopration de diverses disciplines pour la rso lution d'un problme, ainsi dou d'emble d'une polymorphic smantique. Ce phnomne de multiplication des interfaces internes aux mathmatiques, si caractristique des mathmatiques modern es , illustre concrtement le credo de l'autonomie et de la circular it. Credo que bien peu de mathmaticiens ont rejet. Poincar, qui prconisait de diriger du ct de la nature [...] le gros de l'arme des mathmaticiens, insistait simultanment et dans la mme confrence sur l'indpendance du gomtre par rapport au physicien, sur la ncessit de cultiver notre science pour notre plaisir et le fait que les progrs de cette science dcoulent des rapprochements inattendus entre ses diverses parties (12). Les historiens des mathmatiques ont souvent manqu de voir que la rupture avec Dieu et avec la conception de la mathmatique comme reprsentation du monde a laiss place nette pour une pro duction endogne des significations. Pris au pige des vidences trompeuses, des polmiques intuitionnistes qui remontrent Hilbert ses mathmatiques vides et ses formules sans signification (13), et de l'humour du philosophe britannique, Bertrand Russell, qui a popularis cette opinion en une boutade clbre ( les mathmati ques sont une science o on ne sait pas de quoi on parle ni si ce qu'on dit est vrai ), beaucoup d'historiens ont donn sans rserve dans les oppositions structure/signification, logique/intuition, four(1 1) Jean Cavaills, Sur la logique et la thorie de la science, 2e d. (Paris : PUF, 1960), 24. (12) Voir Poincar, op. cit. in n. 9, 168, 174. (13) quoi David Hilbert a rpondu qu' il n'est gure raisonnable d'exiger d'une faon gnrale que chaque formule singulire ait elle seule une interprtation. Au cont raire, c'est dans la nature d'une thorie [axiomatique] qu'on n'ait pas besoin de revenir, tout au travers de son dveloppement, l'intuition ou la signification . (Voir Largeault, op. cit. in n. 5, 158.)

92

Hourya Sinaceur

nies en pture par Brouwer et Poincar respectivement. Mme quelqu'un d'aussi subtil que Herbert Mehrtens croit devoir abon der dans le thme de la perte du sens (14) . Dommage pour une prsentation - par ailleurs intressante - des traits de la modernit travers une multi-gnalogie mathmatique, sociologique, cultu relle et institutionnelle ! On ne saurait mieux qu'Alfred Tarski faire, d'une faon qu'on aimerait dfinitive, le point sur le structuralisme mathmatique. Citons en entier cette page au style la fois simple et percutant : En construisant une thorie deductive, nous ngligeons le sens des axiomes et ne prenons en considration que leur forme seulement. C'est pour cette raison que les gens en faisant allusion ces phnomnes par lent du caractre purement formel des sciences dductives et de tous les raisonnements qu'on emploie dans ces sciences. De temps en temps on trouve des noncs qui soulignent le caractre purement formel des mathmatiques de manire paradoxale et exagre ; bien que fondamentalement corrects, ces noncs peuvent devenir source d'obscurit et de confusion. Ainsi on entend et mme on lit occasionnell ement qu'aucun contenu dfini ne peut tre attribu aux concepts math matiques ; qu'en mathmatiques nous ne savons pas rellement de quoi nous parlons, et que nous ne nous occupons pas de savoir si nos asser tions sont vraies. On doit considrer de tels jugements d'un il plutt cri tique. Si, dans la construction d'une thorie, on se comporte comme quel qu'un qui n'aurait pas compris la signification des termes de cette discipline, ce n 'est pas du tout la mme chose que de dnier ces termes toute signification. C'est un fait que nous dveloppons quelquefois une thorie deductive sans attribuer un sens dfini ses termes primitifs, trai tant alors ces derniers comme des variables ; dans ce cas nous disons que nous traitons la thorie comme systme formel. Mais cette situation [...] ne se produit que lorsqu'il est possible de fournir plusieurs interprtations du systme axiomatique de la thorie, c'est--dire s'il y a plusieurs moyens qui s'offrent d'attribuer des significations concrtes aux termes qui figurent dans la thorie, mais que nous n'avons pas l'intention d'accorder d'avance la prfrence aucune de ces significations particulires. Un systme for mel, d'autre part, pour lequel nous ne sommes pas en mesure de fournir une seule interprtation, serait, on peut le prsumer, sans intrt pour personne (15). (14) Herbert Mehrtens, Moderne Sprache Mathematik (Frankfurt : Suhrkamp, 1990) : Man musste auf das Bedeuten verzichten , p. 12 et : Die Arbeit der Mathematiker macht nur den Zeichen bzw. den Marken auf dem Papier Vorschriften. Sie ist eine Sprache der puren Mglichkeit, und darum bedeutet sie nichts, p. 13. (15) Alfred Tarski, Introduction la logique (Paris-Louvain : Gauthier- Villars - Nauwelaerts, 1960), 113-114. (Les expressions en petites capitales sont ainsi crites par Tarski ; les expressions en italique sont soulignes par nous.)

Modernit mathmatique...

93

La philosophie s'est montre gnralement sensible au dploie ment simultan de la forme et du contenu, du symbole et du sens. Pour Edmund Husserl, qui a lu Bolzano et tt saisi la nouveaut philosophique de l'axiomatique hilbertienne, la matire de la science est tout entire signification (16) ; les concepts, armature des thories scientifiques, sont des units de signification idale (17) . Jean Cavaills ou Gilles Deleuze, de leur ct, ont bien identifi la nature de la perte advenue avec la formalisation : perte de l'illusion essentialiste, mais non perte du sens. Le premier voque la production toujours recommence de concepts mathmat iques comme une fuite indfinie vers le sens (18) . Le second a repr dans la structure une machine produire le sens (19) . On peut mme dire que jamais il n'a t autant question de vie et de circulation du sens dans et par les concepts mathmatiques que depuis que l'on s'est dtourn des essences, de la transcendance et du sujet. Le sens n'est ni principe, ni origine ; il est matire et rsul tat du travail mathmatique, qui est, pour une part apprciable, un travail sur la langue. Que ce travail s'inscrive dans un contexte sociohistorique et institutionnel qui en conditionne l'exercice et le dveloppement n'empche pas de concevoir une certaine autonomie de son contenu. Conditionns certes, mais non rductibles leurs conditions, tels sont les produits du travail mathmatique ; du moins, tels sont-ils compris par leurs producteurs.

III. Productivit mathmatique DU LANGAGE SYMBOLIQUE Le renouveau de la logique, au xixe sicle, est responsable du tournant linguistique de la pense, mathmatique comme philo sophique. Le tournant linguistique dcoule et diffre du tournant (16) Toute science est, quant sa teneur objective, en tant que thorie, constitue de cette matire homogne unique : elle est une complexion idale de significations (Edmund Husserl, Recherches logiques, Premire recherche : Expression et signification , trad, franc. (Paris : PUF, 1961, t. II, part. I), 111). (17) Ibid, 109. (18) Cavaills, 5 la logique et la thorie de la science, op. cit. in n. 11, 28. (19) Le structuralisme, consciemment ou non, clbre des retrouvailles avec une inspi ration stocienne et carollienne. La structure est vraiment une machine produire le sens incorporel (Gilles Deleuze, Logique du sens (Paris : Minuit, 1969), 88).

94

Hourya Sinaceur

smantique, inaugur par Bolzano. Il en dcoule parce que l'atten tion pour la langue accompagne ncessairement l'attention pour les significations objectives. L'analyse smantique est toujours aussi une analyse de la langue, y compris chez Bolzano, qui cherche fixer en expressions et procdures formelles prcises les significa tions de la continuit (d'une fonction, d'un espace), de la drivabilit, de la convergence, de la relation tre situ entre , et mme de concepts rputs simples et vidents comme ligne, surface ou volume (pour la premire fois dans l'histoire apprhends comme ensembles de points). Mais c'est encore autre chose d'analyser thmatiquement le pouvoir de la langue dans la constitution de la connaissance et de dcouvrir en retour la dimension minemment symbolique de la ralit apprhende par l'homme. Cela constitue vritablement le tournant linguistique dans la science mathmat ique, illustr dans l'essor de algbre moderne et la gnralisa tion des mthodes abstraites dans l'cole de Gttingen. Ce tournant est dcisif et la majorit des mathmaticiens, subjectivistes ou objectivistes, intuitionnistes ou formalistes, soulignent l'importance de la langue. Gauss, dj, crivait : C'est une caractristique de la mathmatique des temps modernes (contrairement celle de l'Antiquit) que nous possdions par notre langue symbolique et le fait de donner des noms un levier, grce auquel les argumentations les plus compliques sont rduites un certain mcanisme (20). Justement, toute la diffrence entre le traditionnel et le moderne est dans la conception par le premier d'une pense indpendante du langage. Le second considre au contraire la langue et le symbol ismecomme moment essentiel de la pense, mathmatique en par ticulier. Moment ddoubl selon que le symbolisme apparat comme moteur, levier pour l'inventivit dmonstrative ou lui-mme matire penser, produire du sens. Le premier aspect est moderne depuis Vite, Descartes et Leibniz. Rflexion sur la langue intgre la production du savoir, le second est, avec Hilbert et Tarski, caractristique de l'axiomatique et de la mtamathmatique. L'autorflexion discursive, releve par Cantor, se prolonge en analyse, elle intgre, de la structure syntaxique et smantique du discours. (20) Karl Friedrich Gauss, Lettre Schumacher, 1850, cite dans Mehrtens, op. cit. in n. 14, 32.

Modernit mathmatique...

95

Les deux aspects ne se laissent pas toujours sparer comme le montre le cas de Poincar, que l'on placerait mi-chemin entre Leibniz et Hilbert. Tout en insistant sur la libre initiative du mathm aticien, Poincar est d'avis que sans discours il n'y a pas d'obj ectivit (21). Par ailleurs, il relie de manire essentielle productivit mathmatique et innovations de langage . Parmi les innovations de l'poque il y avait les mots de groupe et d'invariant, termes phares de la pense structurale dont Poincar n'a pas reni l'eff icacit mathmatique, mais seulement rejet la circularit pistmologique : le fait qu'elle puisse s'autofonder sans secours ext rieur. Conscient du rle capital dans son propre travail et dans toute la mathmatique moderne des concepts de groupe et d'invar iant, Poincar n'hsite pas dfinir la Mathmatique [comme] l'art de donner le mme nom des choses diffrentes (22). La mathmatique est esssentiellement un langage, la formule est bonne condition de ne pas exiler la signification au-dehors du langage. Le mot-concept-structure rassemble des faits mathmatiques diffrents par la matire, semblables par la forme. Poincar a, au fond, la mme valuation que Hilbert de la mthode axiomatique : elle fait jouer la dialectique du mme et de l'autre, elle installe et intensifie l'interconnexion de faits loigns et de registres distincts (arithmtique, analyse, gomtrie). On peut bien rabaisser, comme le fait Brouwer, le pouvoir magique de la langue une simple (21) Poincar, op. cit. in n. 7, 179. (22) Nous venons de voir par un exemple quelle est l'importance des mots en math matiques [...] La mathmatique est l'art de donner le mme nom des choses diffrentes. Il faut s'entendre. Il convient que ces choses, diffrentes par la matire, soient semblables par la forme, qu'elles puissent pour ainsi dire se couler dans le mme moule. Quand le langage est bien choisi, on est tout tonn de voir que toutes les dmonstrations, faites pour un objet connu, s'appliquent immdiatement beaucoup d'objets nouveaux [...] Le fait brut est quelquefois sans intrt, on a pu le signaler bien des fois sans avoir rendu grand service la science ; il ne prend de valeur que le jour o un penseur mieux avis aperoit le rapprochement qu'il met en vidence et le symbolise par un mot. Les physiciens d'ailleurs agissent absolument de mme : ils ont invent le mot d'nergie, et ce mot a t prodigieusement fcond, parce que lui aussi crait la loi en limi nant les exceptions, parce qu'il donnait le mme nom des choses diffrentes par la matire et semblables par la forme. Parmi les mots qui ont exerc la plus heureuse influence, je signalerai ceux de groupe et d'invariant ; ils nous ont fait apercevoir l'essence de bien des raisonnements mathmati ques ; ils nous ont montr dans combien de cas les anciens mathmaticiens considraient des groupes sans le savoir, et comment se croyant bien loigns les uns des autres, ils se trouvaient tout coup rapprochs sans comprendre pourquoi (Poincar, op. cit. in n. 9, 171-172).

96

Hourya Sinaceur

croyance (23). Mais, mme si elle tait fonde, cette critique ne serait pas dirimante. Car il est du ressort possible d'une croyance d'impliquer des attitudes, de dterminer des actes et de produire des effets tangibles. Croire au pouvoir de la langue dans un domaine qui n'existe que dans la langue incline chercher les effets de langue capables de transformer des secteurs entiers dudit domaine. La cration, si caractristique de la modernit, de nouvelles dis ciplines mathmatiques par mise en correspondance des concepts primitifs de disciplines antrieures est un effet de l'importance accorde la langue et surtout de la conception pistmologique nouvelle du rapport entre langue et fait. Pour Descartes, qui a promu la correspondance entre algbre et gomtrie, le rapport est d'expression et l'algbre traduction simplificatrice de l'analyse des Anciens, simple langage. Il fallait rduire la gomtrie l'algbre pour en parler plus aisment (24). Poincar (25), Hilbert ou Tarski la pratique des modles fait prciser l'exercice de traduction d'une discipline dans une autre ou d'un systme dans un autre comme interprtation, c'est--dire comme variation simultane au niveau linguistique et au niveau smantique. Il ne s'agit plus de rduire un langage un autre, mais de parler plusieurs langages en mme temps et de recueillir, dans l'un ou l'autre selon les commod its du problme et du moment, le sens surgi dans l'espace de cette pluralit. partir du xixe sicle, la ramification sans prc dent des mathmatiques suit cette voie. Tarski, qui a donn une dfinition formelle du concept d'interprtation, issu de cette pra tique, a largi la logique le cercle de l'autonomie mathmatique. Aujourd'hui, la mthode de l'interprtation, plus que jamais uti lise, continue de prouver son efficacit dans les secteurs de pointe de la recherche mathmatique. D'acquis de la modernit logicomathmatique qu'elle a t, elle est devenue un outil classique. (23) Brouwer, in Largeault, op. cit. in n. 5, 263. Dfendant une position strictement subjectiviste, selon laquelle les mathmatiques ont une ralit purement mentale, Brouwer se place sur ce point contre-courant de la modernit. Pour lui la langue n'est que le vhicule ou le vtement extrieur de ces images introspectives que sont les vrits mathmatiques. La mathmatique pure a une existence extra-linguistique. (24) Le 9 fvrier 1639, Ren Descartes crit au pre Mersenne au sujet des travaux de Desargues sur les sections coniques : Bien qu'il soit ais de les expliquer [les coniques] plus clairement qu'Apollonius ni aucun autre, il est toutefois, ce me semble, fort difficile d'en rien dire sans l'Algbre qui ne se puisse encore rendre beaucoup plus ais par l'Algbre. (25) L'interprtation des geometries non euclidiennes (1891), in La Science et l'hypo thse(Paris : Flammarion, 1968), 68 sqq.

Modernit mathmatique...

97

IV. L'INSTRUMENTALISATION

On observe dans la mathmatique moderne une valorisation simultane du langage et de l'utilit, intra ou extra-mathmatique, des thories. La vise instrumentale domine au point qu'elle sert souvent de justification aux dpens de fondements plus thoriques. II est difficile et souvent impossible de prjuger exactement de la valeur d'un problme ; c'est, en effet, exclusivement le profit que tire la science de la solution du problme qui permet de porter un jugement sur la valeur de ce dernier , annonce Hilbert dans sa confrence de 1900 (26). Plus tard il dira que le succs est la plus haute instance devant laquelle chacun plie (27) . Et par succs d'une thorie ou d'une mthode mathmatiques il faut entendre son profit pour la science , l'tendue de son applicabilit divers champs de problmes, mathmatiques d'abord, mais aussi physi ques, biologiques, conomiques, sociologiques, etc. Pas plus que la forme n'est l'ennemie du sens, l'applicabilit n'est le contraire de l'abstraction ; elle est bien plutt son corollaire. Plus pousse est l'axiomatisation, plus facile est le transfert ventuel du schma d'axiomes aux thories les plus diverses. L'applicabilit n'est donc pas seulement un impratif gnral extrieur ; elle est appele de l'intrieur mme de la conception axiomatique. C'est pourquoi elle constitue un argument irrsistible. La logique elle-mme s'y est rendue, automatiquement, pour ainsi dire, s'agissant de Hilbert qui considrait la mtamathmatique comme un genre nouveau de mathmatique, de manire diffre s'agissant de Tarski qui a commenc par apprcier en humaniste classique la valeur thorique de l'analyse logique (28). Et l'pistmologie mathmatique de s'en emparer son tour, en faisant du rendement une loi de tout dveloppement scientifique, ainsi qu'on le voit tra vers les rflexions de Georg Kreisel par exemple. (26) Hilbert, op. cit. in n. 4, 59. (27) David Hilbert, ber das Unendliche, Mathematische Annalen, 95 (1926), 163. (28) Voir Sinaceur (1991), op. cit. in n. 10, part. IV, 322-324, ou Id., Logique : math matique ordinaire ou epistemologie effective ?, in Hommage Jean-Toussaint Desanti (Mauvezin : ter), 331-346.

98

Hourya Sinaceur

La mathmatique structurale compte ainsi au premier rang de ses impratifs le succs, le profit, le rendement, et au rang de ses principaux avantages, la mise en valeur du principe d'conomie. Ce principe commande la gnralisation tant recherche des concepts et des dmonstrations. D'une certaine faon, gnraliser n'est que l'autre facette, peut-tre pralable, d'appliquer au moindre cot. Si Dedekind et les hilbertiens font une promotion jusque-l ingale du concept, ce n'est certes pas pour le ftichiser , comme le leur reproche Brouwer, mais par esprit d'conomie, pour viter les longs calculs et la rptition de raisonnements particuliers, et ainsi per mettre une meilleure vision d'ensemble , bref une intuition pano ramique. Le concept n'est pas seulement la matire propre du tra vail mathmatique, il est aussi un instrument d'optimisation de ce travail. La valeur ( Wert) d'un concept c'est sa valeur d'utilit, son efficacit (Wirksamkeit) crit Dedekind, qui souligne le rle moteur de la construction de concepts dans le .dveloppement des thories (29). Plus pragmatique et non moins moderne, Poincar parle de faits et de mots, mais c'est la mme aune qu'en est mesure l'importance : le rendement est proportionnel la quantit de pense conomise (30). L'importance de l'isomorphie, par exemple, tient ce qu'elle permet de passer d'une structure une autre en conomisant tout effort de pense . On doit viser l'conomie de pense : c'est un impratif essentiel, dont la sati sfaction produit secondairement ce sentiment d'lgance dont les mathmaticiens font la pierre de touche des bonnes procdures. Les faits ont partie lie avec les mots. Les faits grands rende ments se reconnaissent ce qu'ils permettent ces heureuses innovations de langage qui dvoilent l'essence d'une multitude de faits ou raisonnements. Rciproquement, il suffit de changer de langage pour apercevoir des gnralisations qu'on n'avait pas d'abord souponnes (31) . Poincar renvoyait la philosophie d'Ernst Mach pour conforter l'ide que le rle de la science est de produire l'conomie de pense par la rationalisation des procdures et l'optimisation des efforts. Il aurait pu aussi bien reprendre son compte la formule de Jeremy (29) schweig : (30) (31) Dedekind, Leon d'habilitation, 1854, Gesammelte mathematische Werke (Braun Vieweg, 1930-1932), III, 428 sqq. Voir Poincar, op. cit. in n. 9, 169. Poincar, op. cit. in n. 7, 107.

Modernit mathmatique...

99

Bentham : Des mots, tout dpend. La forte liaison du langage et de l'conomie, de la logique et de l'utilit remonte en effet Bentham qui, l'ore du xixe sicle, les a systmatiquement tresss en plu sieurs parties de son uvre, mme dans celles qui paraissent les plus loignes de son intense attention au langage (32) . La plus pure des sciences, la mathmatique, jusque dans ses avances les plus loi gnes de la tyrannie du monde extrieur (33) , n'chappe point la rationalit utilitariste dominante. L'utilit est intgre la pense pure . Cela tonnera peine de nos jours, encore qu'il vaille la peine de signaler le fait pour le dbut du sicle et pour une science o l'on verra d'un autre il le dploiement de la formalisation et de l'axiomatisation. Que l'on rflchisse aussi au lien profond du prin cipe d'utilit et du pouvoir des mots. N'est-ce point l'inextricable nud du rel et du symbolique qui fait encore et toujours, bien des niveaux et dans toutes sortes de domaines, notre modernit ? En mathmatiques, science toute symbolique, le pouvoir des mots n'est pas moins efficace dans l'organisation des thories que ne l'est le culte des symboles dans l'organisation des socits.

La querelle tradition/modernit est rcurrente dans l'histoire des civilisations. Dire qu'elle est rcurrente indique simultanment qu'elle ne surgit qu' certains moments dtermins d'une histoire. Moments de bouleversements profonds, o il s'avre ncessaire de recomposer une identit. En mathmatiques, il y a un sens faire jouer l'opposition tradition/modernit pour l'poque qui voit les mthodes abstraites de la thorie des ensembles, de l'algbre et de la topologie prendre le dessus sur celles de analyse classique et de la gomtrie. Je crois avoir montr pourtant combien cette oppos ition est insignifiante au regard de tendances structurelles qui creusent leur sillon travers les diffrences relles et les contrastes polmiques. Le cas de Poincar, qui se tient sur la crte de la modern it la plus avance sans jamais perdre de vue les ressources accumul es par la tradition gomtrique et la tradition analytique, est fort instructif de l'insignifiance d'une opposition, propre davantage (32) Christian Laval, Jeremy Bentham : Le pouvoir des fictions (Paris : PUF, 1994), Philosophies , 6. (33) Poincar, op. cit. in n. 9, 172.

100

Howry a Sinaceur

alimenter les controverses culturelles qu' fournir un vritable outil l'analyse pistmologique. Aujourd'hui, une telle opposition est bien moins pertinente, encore que la querelle ne soit jamais tout fait teinte, ravive qu'elle fut en France, par exemple, par la rforme des programmes de l'enseignement primaire et secondaire des annes soixante. Mais focalisons notre attention sur les prati ques plutt que sur les justifications a posteriori. Nous voyons que, devenu classique, le moderne est assimil par tous les mathmatic iens, y compris ceux qui, agacs par l'abus de bourbakisme sco laire, prnent, au nom de la psychopdagogie, la contre-rvolution de l'intuition euclidienne et la gymnastique du raisonnement informe (34). (34) Voir, par exemple, Ren Thom, Les Mathmatiques modernes : Une erreur pda et philosophique?, L'ge de la science, 3, 225-236.

gogique