Documente Academic
Documente Profesional
Documente Cultură
Abstract
SUMMARY. This text is trying to explain why the future of non standard analysis may be dependant
of a general transformation of the attitudes and the goals of mathematicians. In that purpose, a reflexion
is pursued about the comparative meanings of the finite and the infinite in pre-formalist mathematics,
formalist mathematics, and more specifically in formalist non standard mathematics ; this is done under
the presupposition that these meanings are better analysed in ethical terms. In the first section, we
tell the recent story of non standard analysis and present the alternative ways of conceiving its destiny
today. In the second section, we recall the traditional debate of infinitesimal calculus and establish the
fact that the new insights brought by non standard analysis must not be connected with the question of
the validity or practicability of leibnizian calculus, but with the more general and philosophical
question of the meaning of the infinitesimal. In the third section we introduce our concepts of ethic
register and of light-sense opposed to use-sense , on the base of wich we describe the
mutation between naive mathematics and formal ones. In the fourth section, we apply these
concepts to the notions of the finite and the infinite, and pretend to characterize as formal senses or
use-senses the non standard senses of the finite and the infinite. We conclude by a new examination
of the possible future of the non standard method.
Rsum
RSUM. Ce texte essaie d'expliquer pourquoi le futur de l'analyse non standard est peut-tre
dpendant d'une transformation gnrale des attitudes et des buts des mathmaticiens. Dans ce but,
une rflexion est poursuivie au sujet des sens comparatifs du fini et de l'infini en mathmatiques
prformelles, formelles, et plus spcifiquement en mathmatiques formelles non standard ; tout ceci en
adoptant l'hypothse que ces sens sont mieux analyss en termes thiques . Dans la premire
section, nous racontons l'histoire rcente de l'analyse non standard et prsentons les faons
alternatives de concevoir son destin aujourd'hui. Dans la seconde section, nous rappelons le dbat
traditionnel accompagnant le calcul infinitsimal, et nous tablissons le fait que les nouvelles
perspectives apportes par l'analyse non standard ne doivent pas tre rattaches la question de la
validit ou la praticabilit du calcul leibnizien, mais la question plus gnrale et philosophique du
sens de l'infinitsimal. Dans la troisime section, nous introduisons nos concepts de registre thique
et de sens-lumire oppos au sens-emploi , sur la base desquels nous dcrivons la mutation qui
fait passer des mathmatiques naves aux mathmatiques formelles. Dans la quatrime section,
nous appliquons ces concepts aux notions du fini et de l'infini, et prtendons caractriser en tant que
sens formels ou sens-emploi les sens non standard du fini et de l'infini. Nous concluons par un
nouvel examen du possible futur de la mthode non standard.
et
sujet
formelles,
tout
standard
calcul
thiques
Dans
des
RSUM.
Dans
ceci
des
la
infinitsimal,
buts
seconde
laen
et
est
sens
et
.prsentons
premire
des
adoptant
peut-tre
plus
mathmaticiens.
comparatifs
section,
Cespcifiquement
ettexte
section,
nous
les
l'hypothse
dpendant
nous
faons
tablissons
essaie
du
nous
fini
rappelons
alternatives
d'expliquer
Dans
et
en
d'une
que
racontons
de
lemathmatiques
ces
ce
fait
l'infini
le
transformation
but,
sens
dbat
que
de
pourquoi
l'histoire
concevoir
une
en
les
sont
traditionnel
mathmatiques
nouvelles
rflexion
mieux
formelles
lercente
gnrale
son
futur
analyss
perspectives
destin
est
accompagnant
denon
poursuivie
l'analyse
des
prformelles,
aujourd'hui.
standard;
en
attitudes
termes
apport
non
au
le
es
par l'analyse non standard ne doivent pas tre rattaches la question de la
validit ou la praticabilit du calcul leibnizien, mais la question plus gnrale
et philosophique du sens de l'infinitsimal. Dans la troisime section, nous
introduisons nos concepts de registre thique et de sens-lumire oppos au
sens-emploi , sur la base desquels nous dcrivons la mutation qui fait passer
des mathmatiques naves aux mathmatiques formelles. Dans la quatrime
section, nous appliquons ces concepts aux notions du fini et de l'infini, et pr
tendons
caractriser en tant que sens formels ou sens-emploi les sens non
standard du fini et de l'infini. Nous concluons par un nouvel examen du possible
futur de la mthode non standard.
SUMMAR Y. This text is trying to explain why the future of non standard
analysis may be dependant of a general transformation of the attitudes and the goals
of mathematicians. In that purpose, a reflexion is pursued about the comparative
meanings of the finite and the infinite in pre-formalist mathematics, formalist mathem
atics, and more specifically in formalist non standard mathematics ; this is done
under the presupposition that these meanings are better analysed in ethical terms.
In the first section, we tell the recent story of non standard analysis and present
the alternative ways of conceiving its destiny today. In the second section, we recall
the traditional debate of infinitesimal calculus and establish the fact that the new
insights brought by non standard analysis must not be connected with the question
of the validity or practicability of leibnizian calculus, but with the more general and
philosophical question of the meaning of the infinitesimal. In the third section we
introduce our concepts of ethic register and of light-sense opposed to use-sense ,
on the base of wich we describe the mutation between naive mathematics and formal
Rev. Hist. Set, 1988, XLI/2
158
Jean-Michel Salanskis
ones. In the fourth section, we apply these concepts to the notions of the finite and
the infinite, and pretend to characterize as formal senses or use-senses the non
standard senses of the finite and the infinite. We conclude by a new examination of
the possible future of the non standard method.
L'analyse non standard est une composante fort rcente du
discours logico-ma thmatique, dont le nom mme prte encore
confusion, et dont la vocation reste aujourd'hui difficile dter
miner, bien que des claircissements importants soient apports
depuis quelques annes. De toute vidence, la thorie invite, dans
le statut problmatique et transitionnel qui est le sien l'heure
actuelle, une rflexion philosophique riche : nous nous proposons
de prendre ici notre part cette dernire, dans une direction qui
correspond notre thme personnel de recherche (la connexion
des matires formelles et du registre thique). Mais, tout d'abord,
nous allons rsumer la brve histoire de l'analyse non standard,
au moins dans ses grandes lignes et pour autant que notre article
y fait rfrence.
La tradition de V infini
159
160
Jean-Michel Salanskis
La tradition de l'infini
161
Mais il faut reconnatre que, dans leur trs grande majorit, les
mathmaticiens en activit durant cette poque ont regard la
thorie de Robinson comme une curiosit, sans doute digne d'admir
ation, mais non susceptible de devenir un outil important de
l'analyse moderne. Comment expliquer ce peu d'enthousiasme ?
Dans le dialogue fictif qu'ils proposent en introduction leur
Pratique commente de la mthode non classique (u), R. Lutz et
M. Goze font dire celui des interlocuteurs qui incarne la rticence
l'gard de l'analyse non standard :
Mais votre mthode me parat bien complique. Une histoire de logi
cien, avec langages, modles, et toutes ces choses que peu de gens
connaissent. Il parat que le livre d'Abraham Robinson commence par
50 pages de logique. Tout cela pour justifier la mystique des infiniment
petits, que tout le monde a oublie depuis longtemps !
II n'y a aucun doute notre avis que le peu d'inclination des
mathmaticiens des annes 70 essayer la mthode s'explique en
partie par cette perception d'tranget et d'artifcialit. Lesdites
annes furent en effet celles du triomphe de la mathmatique
ensembliste parfois dite bourbachique , et la mthode procdait
par des voies effectivement non naturelles et trangres, au regard
de cette norme, justement dans la mesure o elles taient lies la
thorie des modles. Ce en dpit du fait que l'ensemblisme ne puisse
tre dfendu de manire consistante sans attendus fondationnels
apparents la thorie des modles. L'ambiance de ce bourbachisme dat voulait en effet qu'on oublit cet aspect, qu'on ngli
get les langages et la smantique formels pour ne garder l'esprit
que les ensembles formels : par consquent, disons-le aussi net
que possible, pour prvenir un malentendu frquent, c'est parce
que Robinson tait un formaliste consquent et dclar (12),
comme l'est aujourd'hui dans son style personnel Nelson, que
son uvre tait destine tre perue comme insolite par le regard
bourbachique , regard d'un formalisme partiel et sans doute
partial (18).
(u) (Strasbourg : irma, 1980) ; traduit depuis sous le titre Non Standard Analysis
(New York-Berlin : Springer, 1981) ; notre citation est la page 7 de l'dition irma.
(la) Ce point est bien mie en lumire dans Hourya Benie-Sinaceur, art. cit., in n. 2,
et ouvrage paratre sous le titre Corps et modles. Aspects de la construction de
l'algbre relle (1989).
(M) C'est donc dire que cette rsistance ou cette suspicion correspond un diffrend
du formalisme > avec lui-mme. On peut le rattacher deux manires d'assumer
RHS
6
162
Jean-Michel Salanskis
La tradition de l'infini
163
164
Jean-Michel Salanskis
La Iradiiion de l 'infini
165
qu'on aborde avec prdilection dans la mathmatique bourbachique et post-bourbachique. Cette dernire est en effet domine
par le grand jeu de l'infini, c'est--dire qu'elle voue le meilleur de
toutes les nergies l'tude gnrale, apriorique des structures
infmitaires : elle est prioritairement une gomtrie extrmement
savante et extrmement puissante des structures infinitaires, la
clairvoyance intuitive et quasi physique des mathmaticiens tra
ditionnels
au sujet de la droite relle et des continua euclidiens
bi- et tridimensionnels s'tant aujourd'hui gnralise aux types
infiniment varis espaces qu'on est capable de dfinir et
de manipuler. Par rapport cette mathmatique, et ses ambit
ions (qui sont trs frquemment des ambitions de classification),
il est possible en effet que la mthode non standard, bien qu'elle
soit a priori parfaitement compatible et consistante avec le jeu
de rfrence, ne soit pas la nouvelle clef susceptible d'ouvrir
les portes autour desquelles on rde. C'est possible, bien que ce
ne soit pas certain, et qu'il n'y ait gure de moyen d'en dcider :
par exemple, comment savoir si les nombreuses utilisations de la
technique de l'ultraproduit dans la mathmatique contemporaine
sont des indices du privilge de cette notion ou bien de la possi
bilit d'approches non standard indites? Sauf dcider que ce
qui a t fait concide avec le meilleur choix possible dans la meil
leure stratgie, par dfinition et dans tous les cas.
Mais ce qui est ici plus intressant, et potentiellement plus
important, c'est qu'on peut conjecturer, et c'est ce que font Pierre
Cartier, Jacques Harthong et Georges Reeb, que la mthode non
standard serait surtout excellente en vue du traitement de problmes
d'un autre type, au-devant desquels se porterait un esprit math
matique
diffrent. Il s'agirait alors non plus du traitement go
mtrique
des totalits infinies prises comme donnes, mais de la
mise en uvre d'un raisonnement et d'un calcul Unitaires sur
des entits formellement finies situes au-del de la perception
structure du nombre ; Pierre Cartier appelle hyper finies (20) ces
collections dont la mthode non standard introduit le concept,
qui sont finies du point de vue du formalisme ( de l'intrieur ) et
inpuisables du point de vue d'un sujet arithmtique naf ( de
(*) Dans : Was eind und sollen die Zahlen ? (version 1984), in L'analyse non standard.
Recherches historiques et philosophiques (Strasbourg : ihma, 1986), 17-44.
166
Jean-Michel Salanskis
(u) C'est la seconde ou la troisime fois que nous employons cette locution ; nous
ne sommes certes pas le seul ni le premier y recourir ; se rfrer par exemple : Cons
tructive
mathematics as a philosophical problem de P. Lorenzen in Logics and Found
ations of Mathematics, dedicated to Prof. A. Heyting on hie 70th birthday (Groningen :
Woltere-Noordhoff, 1968).
La tradition de l'infini
167
II - LA PROBLMATIQUE DU CALCUL
ET LA PROBLMATIQUE DU SENS
Nous voudrions tout d'abord, comme c'est naturel, ressaisir
conceptuellement l'aporie du calcul infinitsimal telle qu'elle a
t exprime par les trs nombreux auteurs ayant pris part au
dbat qui n'a pas cess d'accompagner l'essor pourtant triomphal
de ce calcul. De Berkeley et Helvtius Hegel, en passant par les
mathmaticiens dont le nom jalonne la naissance de l'analyse
relle, et qui ont tous ou presque tous essay une parole de type
philosophique ou pistmologique sur cette pineuse affaire, il
nous semble que ce qui est en discussion se laisse toujours ramener
ces deux questions :
1 / L'expos des notions de base du calcul, ayant trait la
continuit, la limite, la drivabilit, est-il un non-sens ? (et si
l'on prtend le contraire, il faut expliciter le contenu de ces notions
de manire non contradictoire, c'est--dire chapper la menace
d'absurdit dont le concept de quantit infiniment petite parat
charg).
2 / Quoi qu'il en soit de la premire question, comment peut-on
justifier les procdures de calcul offertes par Leibniz, notamment
comment peut-on accrditer l'ide que les rsultats qu'elles four
nissent
sont exacts, alors qu'elles paraissent prescrire l'erreur sous
la forme d'omission de termes non nuls ?
La premire question est celle du sens, la seconde est celle du
calcul. Il ne fait aucun doute qu'elles sont parfois rencontres et
traites dans une certaine confusion par les diffrents auteurs, et
dans une certaine mesure juste titre, parce que l'lment gnra
teur
d'aporie dans les deux cas est la quantit infiniment petite .
Mais cette distinction est importante pour nous permettre de
comprendre aujourd'hui la diffrence entre les deux relves du
calcul infinitsimal des pionniers rendues possibles par l'analyse
moderne (formelle ensembliste) d'une part, par l'analyse non
standard d'autre part.
Si l'on veut exprimer les choses d'une manire extrmement
brutale, la relve propose par l'analyse contemporaine, dont le
noyau est acquis avec Weierstrass et sa reformulation au moyen
de squences du type V e 3 a des dfinitions fondamentales, mais
168
Jean-Michel Salanskis
(I)
faisant suite
= *2
(II)
La tradition de infini
169
170
Jean-Michel Salanskis
La tradition de l'infini
171
172
Jean-Michel Sala ns is
1 / Temporalisalion du malhmatiser
A cette fin, nous partirons du problme de la temporalit propre
des idalits mathmatiques, problme que J.-T. Desanti a dgag,
au fil de l'interrogation laquelle il n'a pas cess de soumettre
ces dernires, comme le nud de toutes les difficults. On peut
renvoyer, pour une laboration explicite de ce problme et l'ind
ication de son importance, l'ouvrage La philosophie silencieuse (25)
en gnral, et tout particulirement l'article Disparitions, struc
tures et mobilit . Mais la question de cette temporalit propre
est aussi celle que le dernier Husserl avait commenc de prendre
en charge, notamment dans ce texte crucial qu'est Y Origine de la
gomtrie (2e). Pour notre part, nous la reprenons sous une forme
peut-tre dplace : au lieu de nous demander quel est le mystre
de la succession objective des idalits (ft-ce pour la renvoyer
des oprations subjectives), nous interrogeons, d'une faon qui
nous semble plus primitive, la temporalit du mathmatiser luimme, au ple subjectif si l'on veut, actif prfrerions-nous
dire. L'nonc de la question devient donc pour nous : qu'est-ce
qui, dans la relation du mathmaticien qui arrive avec une
mathmatique dj l, caractrise son mode d'enchanement sur
les discours antrieurs comme celui d'un mathmaticien plutt
que d'un artiste par exemple, ou d'un reprsentant de toute autre
confrrie doue d'un statut propre ? Prendre en charge cette
question revient encore pour nous chercher de quelle manire
le nouveau mathmaticien est tenu par la mathmatique
qui l'a prcd, quelle que soit la marge de libert qu'il faudra
bien lui reconnatre nanmoins, quant aux contenus qu'il est sus
ceptible
de proposer. Il nous semble possible d'apporter un l
ment
de rponse la question ainsi formule en nommant les
trois rubriques ou moments qui suivent, en lesquels se dcompose,
d'aprs ce que nous en apercevons avec une sorte d'vidence phnomnologico-pragmatique, le rapport du mathmaticien inchoatif
avec la mathmatique antcdente :
a I le rapport un intuitionn fondamental ;
b / le rapport des questions lgues ;
I le rapport un enseignement reu.
() Paris : Le Seuil, 1975.
(*) Paris : PUF, 1962.
La tradition de V infini
173
174
Jean-Michel Salanskis
La tradition de V infini
175
176
Jean-Michel Salanskis
La tradition de l'infini
177
(ou bien, dans un registre plus noble, les ides qu'on peut y puiser),
une telle mobilisation, nouveau, n'ayant de sens que si une ques
tion au moins est pose, la nature du langage et des connaissances
invoques dpendant, dans la mesure o leur invocation est per
tinente,
de l'orientation questionnante acquise avec le moment b /.
Dans la conception formaliste, on lit le scnario idal de l'acti
vit mathmatique dans l'autre sens. L'enseignement reu est
premier, directement en tant qu'il transmet le cadre de rfrence
linguistique : dans ce cadre sont rencontres les questions lgues,
qui n'exerceraient aucun questionnement avant ou indpe
ndamment
de ce contexte du discours transmis ; le moment b /
est donc fond sur le moment /. Quant la confrontation nave
avec l'intuitionn, il n'y en a plus, du moins pas sur le mode articul,
tranch qui pourrait favoriser l'mergence d'une question. Bien
plutt, la relation avec cet intuitionn fondamental est certains
gards pense comme le troisime et le dernier de nos moments,
l'intuition tant vritablement une intuition qui voit seulement
aprs un premier tour dmonstratif, un effort d'laboration des
questions lgues selon l'enseignement reu ; comme si le fait de
parler, d'crire au sens si particulier de l'criture formelle tait
le seul vnement susceptible de dessiller les yeux, d'entamer l'opa
citoriginaire de l'intuitionn (la mtaphore psychanalytique, et
plus antrieurement l'allusion au mythe d'dipe et l'interroga
tion
de Tirsias par ce dernier, bien qu'trangres l'environne
ment
conceptuel de cet article, ne viennent pas ici par hasard ou
malencontreusement : elles situent assez justement, bien que par
tiellement,
ce dont il s'agit). On se reprsente donc l'intuition du
moment a f comme quelque chose qui ne peut se prsenter que si
les moments / et b / se prsentent eux-mmes ou, si l'on prfre,
oprent . Il apparat donc que la mutation formaliste fait subir
au modle de la relation du discours mathmatique avec ce qui
le prcde un complet renversement : au lieu que le moment /
se fonde sur le moment b / qui lui-mme se fonde sur le moment a /,
c'est le moment j qui fait fonction de socle, et les moments a /
et b I se rattachent lui comme leur fondement, le moment a /
perdant toute autonomie au point de se fonder sur / travers b j.
Il est bien clair que l'lment dcisif de ce renversement consiste
identifier ce qui prcde le discours du mathmaticien, ce qui
le prcde prioritairement en quelque sorte, non plus comme
son objet intuitionn, mais comme la leon et le langage reus.
178
Jean-Michel Salanskis
2 j Le registre thique
De telles remarques ne sont certainement pas neuves. Ou
plutt, dans leurs grandes lignes, elles avaient dj t faites, dans
des termes varis, par beaucoup d'auteurs, mais le plus souvent
dans le cadre d'une interprtation de ce renversement comme annul
ation du privilge du contenu au profit de la forme : et de fait, la
terminologie plaide en faveur de cette lecture, la mutation for
maliste
ne sera rien avec autant de vraisemblance qu'un triomphe
de la forme. Nous proposons quant nous de considrer ce renver
sement avec un autre regard, en faisant intervenir le registre
thique. L'intrt d'une telle approche, notre avis, ne peut tre
prouv que dans l'aprs-coup, du moins dans l'horizon de l'histoire
des sciences et de epistemologie que nous faisons ntre ici (il
existe aussi des mobiles a priori pour envisager l'activit logicoformelle sous cet angle, mais ils ne peuvent tre saisis que dans
une dmarche totalement diffrente, et pour tout dire franchement
spculative !). On jugera donc de la valeur de notre grille d'aprs
la caractrisation du sens formaliste de l'objectivit mathmat
ique
que nous allons proposer et d'aprs l'analyse de la modifi
cation dans le sens apporte par l'analyse non standard qui suivra.
Pour commencer, nous donnons quelques repres au sujet de
ce que nous appelons le registre thique, puisque toute notre stra
tgie interprtative, dans ce qu'elle a peut-tre de nouveau, repose
sur l'appel ce registre. En particulier, nous avons l'intention de
relire l'opposition entre les hirarchisations de nos trois moments,
attribues l'instant aux consensus prformalistes et formalistes
respectivement, en termes de nos concepts thiques .
Le plus grave malentendu consisterait croire que la phrase
X relve du registre thique est synomyne de X participe du
bien : pour nous, la question du bien et du mal est ici totalement
suspendue (ce qui n'exclut pas qu'on puisse la rimpliquer, mais
ceci est une autre affaire), nous parlons de registre thique en un
sens tel que le mal ne se produit pas moins dans ce registre que
le bien ; nous visons par ce syntagme une dimension autre que la
dimension thorique, et qui vient apporter son label un ensemble
de perspectives et d'enjeux, en fonction desquels la ralit peut
tre examine certes, mais aussi, et peut-tre avant tout, vcue.
Si Ton veut, le registre thique est celui de la libert du pratique
La tradition de V infini
179
180
La tradition de l'infini
181
182
Jean-Michel Salanskis
La tradition de V infini
183
184
Jean-Michel Salanskis
La tradition de l'infini
185
par exemple). Il est demand aux signes de dsigner des idalits (32)
de l'espce de celles qui le constituent comme signe linguistique :
si l'on accepte ce sujet la leon de la science structurale contemp
oraine du langage, une variable est une entit de mme rgime
et de mme statut qu'un phonme, ou que tout constituant nomm
par une thorie structurale de l'espce de celle de Hjelmslev (83).
Mais ce type de statut est celui d'une quiddit n'ayant pas d'autre
critre ni mme d'autre lieu d'identit que l'accord des locuteurs
le long de leurs actes de parole ou d'criture (le long des variantes
hjelmsleviennes) (M). L'identit objectale laquelle se rfre le
discours formel est dj le rsultat de l'observance par les divers
nonciateurs d'une communaut linguistique de rgles d'acceptab
ilit
implicites, sa constance est dpendante du fait que a
marche , si bien qu'elle apparat en ce sens comme un corrlat
(ou un effet, ce mot tant entendu en un sens incorporel, non phys
ique)
de l'intersubjectivit, soit une chose du registre thique.
Par ailleurs, le formalisme rpte un niveau suprieur cette
structure fondamentale du langage, en dterminant de manire
non ontique i85), la signification des prdicats bien form, valide,
voire vrai et faux pour autant qu'il s'agit de vrit formelle : tous
ces concepts sont dfinis en termes de rgles d'emploi ayant trait
en dernire instance au matriel littral ; un nonc est connu
comme formellement valide ou vrai dans une thorie si l'on en
possde une drivation conforme certaines rgles, un nonc
est connu comme bien form si l'on dispose d'une production gram(M) Au sens o Husserl utilise ce mot au 2 de Logique formelle et transcendantale
(Paris : PUF, 1957 ; 3* d., 1984), 29-32.
(**) Voir aussi ce sujet notre thse ; notre rfrence chez Hjelmslev est bien
entendu Prolgomnes une thorie du langage (Paris : Larousse, 1966).
(**) En accord avec notre critre 1 / du registre thique.
(**) On peut r-ontologiser ces dfinitions en dplaant lgrement le deflniendum :
dire, par exemple, qu'un nonc valide est un nonc derivable selon les rgles. On a
ainsi chang de modalisation, troquant la dontique ( laquelle appartient la dter
mination
du permis attribue la drivation propose de l'nonc qu'il s'agit de
connatre comme valide) contre l'ontique (incluse dans l'adjectif derivable). Mme si
cette formulation alternative convient la dmarche substantivante de l'entendement,
elle ne peut masquer le caractre premier, pour ce qui concerne le sens de la validit
logico-mathmatique, de la modalisation dontique, de la rfrence la rgle comme
ce qui doit tre respect dans une performance effective : c'est cet aspect, en effet, qui
prvaut dans l'apprentissage et la pratique de la dmonstration, qui sont le cur de
la chose formelle. Notons d'ailleurs que, d'aprs le fameux second thorme de GOdel,
la drivabilit n'est pas procduralement traductible, ce qui tend indiquer que ce
prdicat est assez peu charg ontologiquement en fin de compte.
186
Jean-Michel Salanskis
La tradition de V infini
187
et
L -h
i
rpour tout h S 0 J
C7) Cf. Formal Philosophy (New Haven and London : Yale University Press, 1974),
notamment les articles English as a formal language et Universal grammar .
(M) Nous suivons ici la traduction donne par Claude Imbert {Ecrits logiques et
philosophiques de Gottlob Frege (Paris : Le Seuil, 1971), spcialement Sens et dno
tation >, 102-126) de l'allemand bedeuten, ceci bien que le franais dsigner soit plus
naturel d'une part, et bien que d'autre part le terme dnotation reoive en cons
quence un sens diffrent de celui qui lui revient dans l'emploi classique, comme nous
en informe Claude Imbert elle-mme dans l'introduction de l'ouvrage mentionn.
Cet emploi classique , nous dit-elle, est le fruit d'un amalgame entre la critique
des logiciens de Port-Royal et celle de John Stuart Mill (op. cit., p. 15), avant d'expli
quer
les motifs de sa traduction. Pour nous, l'emploi de dnoter la place de < dsi-
188
Jean-Michel Salanskis
La tradition de l'infini
189
assignent leur contour. Le mme mouvement d'abandon du senslumire se laisse dceler par ailleurs, dans la mme priode histo
rique, l'gard du continu, sous l'impulsion de Cantor et Dedekind.
Ce dernier, en particulier dans Was sind und sollen die Zahlen (*),
soutient que le continu n'est pas clair comme intuitionn, que
c'est seulement avec une formalisation comme la sienne que son
identit se trouve tablie. C'est bien au niveau du sens que les
choses se jouent : rien n'interdit de persister poser l'intuitionn
fondamental comme quelque chose d'antrieur au discours, comme
le point d'origine transcendant de notre problme du continu ;
mais on cesse de penser que dans cette prsentation originaire du
continu (qui est aussi son voilement, pour parler comme Heidegger,
chacun commenant de savoir cette poque l'opacit de la vue
intuitive premire de la droite relle, quant la cardinalit et la
topologie par exemple) se trouve aussi livr son sens, ou bien mme
plus libralement que ce sens part de l'intuitionn (en concdant
qu'il demande interprtation) (41). Le sens du continu part de la
rgle intersubjectivement admise. Cette faon de prendre le sens
le fait basculer du ct du registre thique, simultanment dans le
champ de la relation l'autre homme et dans celui de la rgle
observe communautairement ; il est encore ici question de l'intersubjectivit, mais dans une figure moins facilement apprhendable
comme neutre et objective que tout l'heure, quand il s'agissait
des canons linguistiques de l'activit formelle : c'est que la rgle
et l'emploi qui forment le sens de l'objectivit mathmatique ne
sont pas directement inclus, ni donc lisibles, dans les textes consti
tutifs, ou mme dans les instructions explicites qu'ils reclent et
qui les accompagnent (bien qu'on parte ncessairement de ces
donnes) ; l'emploi qui fonde le sens est celui qui fonctionne comme
droit effectif dans la communaut mathmatique, le sens-emploi
(*) Les nombres : que sont-ils et quoi servent-ils ? (Paris : Ornicar Analytice, 1978),
70-71.
(**) Ce qui ne veut pas dire qu'on abandonne l'ide d'une dtermination de la rgle
admise par l'intuitionn en tant que tel. Mais cette dtermination est au-del du
sens, ce qui veut dire concrtement qu'on ne discutera pas directement de la confor
mitd'un systme d'axiomes avec une intuition comme si le second terme tait un
terme de comparaison matris, critriellement utilisable, mais on attendra de voir
les consquences du systme d'axiome pour prouver l'adquation de la signification
dgage avec ce que demande silencieusement l'intuitionn (ce qui fait critre tant
la subjectivit des mathmaticiens, notamment leur tendance jouer ou non le jeu
propos).
190
Jean-Michel Salanskis
La tradition de l'infini
191
Cet argument est consquent dans son ordre, mais ce qu'il souligne
est justement le sens attach l'infini par le formalisme ensembliste : ce dernier est en premier lieu sensible la proprit para
doxale
(contredisant les a priori concernant le tout et la partie)
que possde positivement l'infini tel qu'il entend l'introduire ; vue
sous cet angle ladite dfinition met en vidence, sur le plan qualit
atif, l'htrognit du fini et de l'infini. En choisissant l'adjectif
transfini pour qualifier les cardinaux infinis, sur lesquels il ensei
gnait la possibilit d'un calcul analogue mais non isomorphe
celui de l'arithmtique finie, Cantor a bien marqu cette approche
positive de l'infini comme un au-del trange, non immdiatement
justiciable de nos prdications naves. Plus profondment, les
dmonstrations concernant la hirarchie des cardinaux, et tout
particulirement la non-existence d'une surjection de X sur P(X),
la position du problme dit de l'hypothse du continu, forcent
envisager l'infini comme puissance de dbordement ou d'arr
achement
toute cardinalit donne (ds lors qu'on lui a ouvert la
porte en acceptant N bien entendu) : cette puissance engendre une
hirarchie problmatique du transfini, et s'exerce sans borne, jus
qu'aux
horizons de cardinalit normes que la thorie permet de
dfinir, et au-del. D'une part l'infini avec son sens de transcen
dance
est essentiellement hors d'atteinte de la synthse humaine
(Cantor a bien dit qu'il lui suffisait que Dieu le vt dans sa totalit
en repos ; le symbole H n'intervient pas ici par hasard), d'autre
part il y a une logique de cette transcendance, qui est aussi autotranscendance ritre, dont la lgitimit, ne pouvant tre celle
d'une possession intuitive ou empirique du transfini, sera nces
sairement
formelle (le passage de Cantor Zermelo-Fraenkel tant
cet gard dj inscrit dans la dmarche de Cantor). Aux dter
minations
de l'htrognit et de la transcendance, s'ajoute donc
celle de l'opacit, que ne cesse pas de rappeler l'existence mme
du formalisme ; ces diverses dterminations composent le noyau
du sens formel de l'infini, qui rside la fois dans les options dfinitionnelles des discours qui le posent, dans les quelques thormes
dont tout utilisateur sait bien qu'ils sont les lments importants
et rgulateurs de l'infini ensembliste, et dans le simple fait que la
dfaillance de l'intuition comme vision premire force cet infini,
notamment dans sa prolifration hirarchique, rester totalement
immanent la faon d'en user avec lui (formellement). Nous
sommes donc bien dans le registre du sens-emploi.
192
Jean-Michel Salanskis
La tradition de infini
193
194
Jean-Michel Salanskis
II ne faudrait pas croire, cela dit, que le fini, quant lui, soit
rest dans l'aventure de cette mutation comme le socle inbranlable
de la pense mathmatique, invariablement reu avec le mme
sens videntiel. Pendant la mme priode o se sont dveloppes
la mathmatique infinitaire et la codification sur laquelle elle
fonde son discours, s'est opr un changement de perspective
essentiel sur le fini : alors qu' l'poque du sens-lumire le fini
est naturellement caractris comme fini actuel se prsentant dans
son actualit, et ce titre comme fini toujours la porte d'une
saisie, la pense formaliste, et ce en raison mme des exigences de
la thorie de la dmonstration qui d'aprs l'enseignement de
Hilbert doit ncessairement accompagner le discours formel inf
initaire,
apprhende de plus en plus le fini comme renvoyant la
calculabilit effective, e'est--dire un certain horizon potentiel,
celui des suites d'oprations dont on peut anticiper la clture, dans
un temps vrai dire idal mais dtermin par l'intuition recursive.
Ce thme de la calculabilit a fourni la matire d'un grand nombre
de travaux, visant en produire un concept exact par l'interm
diaire
de l'laboration d'un langage exprimant/accomplissant le
calcul : on peut citer ici les noms de Church, Turing, Post, et des
cadres de programmation du calcul comme le lambda-calcul, les
fonctions rcursives, les machines de Turing ou les machines de
Post. Robinson a salu l'importance de ce travail dans son article
Progress in philosophy of mathematics :
The emergence of a precise notion of computability represents
perhaps one of the most impressive intellectual achievements of our
time. (*)
De notre point de vue, ce travail est nouveau la manifestation
du passage au sens-emploi, met en jeu le registre thique en un
sens que nous avons dj dcrit : le caractre finiment calculable
est retir l'vidence dont on aurait pu le croire envelopp pour
cause de finitude, il devient l'objet d'un travail dductif qui passe
tout coup par la dfinition d'un langage de programmation, donc
de rgles opratoires appliques et comprises de manire uniforme
par les sujets (**), on peut mme aller jusqu' dire que le problme,
(*) Selected Papers, p. 556.
(**) Le lien de ce concept de rgle opratoire avec une interaction thique dans une
communaut a t fortement soulign par Wittgenstein dans Investigations philoso-
La tradition de V infini
195
196
Jean-Michel Salanskis
La tradition de l'infini
197
198
Jean-Michel Salanskis
La tradition de l'infini
199
o A(x, lx , . . . , lk) est une formule interne (ne faisant pas intervenir
le prdicat st) dont x,tt1 . . . , tk sont toutes les variables libres ;
le schma d'idalisation :
(I)
V'xij/V'z^ei/oizeai & )]
o C{z) est une formule quelconque dont z est une variable libre.
[Il est sous-entendu que Ve< 3" V" to sont des abrviations
pour V st(u) => . . . , 3 st(u) & ...,V [st{u) & (u fini)] =>...,
(m fini) tant son tour une abrviation.]
Chacun de ces schmas d'axiome exprime une proprit dont
on veut que le prdicat st jouisse afin que la nouvelle thorie des
ensembles soit d'emble adquate l'intuition infinitsimale
explore par Robinson :
Le schma (T) assure qu'une proprit exprime sans recours
au concept de standardit sera vraie pour tout objet si elle l'est
pour tout objet standard, c'est--dire que, d'une certaine manire,
les objets standard reprsentent dj tout l'univers.
Le schma (I) assure que toute relation binaire concurrente
au sens de Robinson, c'est--dire telle qu'un ensemble fini est
toujours domin au sens de ladite relation par au moins un lment,
permet d'introduire un objet idal dominant, toujours au sens
de la relation, tout lment standard ; si on l'applique la rela
tion B(#, y) : (x et y sont des ordinaux finis et x e y) ou (x n'est
pas un ordinal fini) , il permet de poser l'existence d'un entier
plus grand que tout entier standard, c'est--dire, en anticipant,
infiniment grand.
Le schma (S) assure de la possibilit de pseudo-collectiviser les formules mme externes ( = faisant intervenir le prdicat $t)
dans tout ensemble de rfrence : bien qu'il n'existe pas, pour une
200
Jean-Michel Salanskis
La tradition de l'infini
201
dardit a quelque chose voir avec le fini, tous les objets stan
dard possibles et imaginables (en fait dicibles ) peuvent tre
plongs dans un ensemble fini ; la prise en considration d'objets
standard, par elle-mme, ne nous fait jamais sortir du fini, mais
attention il s'agit ici du formellement fini. Par exemple, la suite
inpuisable des entiers effectifs 0, 1, 2..., est une suite d'objets
standard, chaque entier intuitif possde sa formule caractri
sante
dans zfc, comme les logiciens le savent bien ; il y a par suite
un ensemble fini pour contenir cette suite, pourtant intuitiv
ement
infinie ; c'est dire que cet ensemble sera seulement formel
lement fini. Les objets standard sont donc ceux dont la prise en
compte ne nous fait pas vraiment sortir du fini mme si leur
accumulation se situe dj au-del du fini au sens de la calculabilit
effective ou de l'intuition recursive : mme dans ce cas, on restera
dans la logique du fini stipule par le formalisme.
En revanche, tout ensemble formellement infini de la thorie zfc
contient des objets non standard, c'est--dire en quelque sorte
des objets clandestins, non univoquement caractrisables, non vr
itablement
connus par le discours de rfrence (52), mais qui sont
l du seul fait que la profusion formellement infinie, chappant
la logique du fini, est postule. G. Reeb aime les nommer
intrus , parce que le formalisme de zfc n'avait pas t prvu
pour qu'ils fussent l, en principe on avait l'esprit une ralisa
tion
standard de toute la thorie, o il ne devait y avoir d'autres
entiers que les entiers standard. Mais la thorie n'est pas catgo
rique, et la puissance qu'elle se donne avec l'axiome du choix
implique la possibilit des modles non standard en gnral et
la consistance relative d'isT (mieux, la conservativit de cette
extension de zfc) en particulier.
On peut mme comprendre un peu plus profondment ce que
veut dire ce troisime thorme en passant par le lexicon, sorte de
logiciel fourni par Nelson en prime avec la thorie ist : nous
voulons parler de l'algorithme de traduction des formules externes
dfini au paragraphe 2 (p. 1170-1175) de l'article original de Nelson.
{**) Citons l'appui R. Lutz et M. Goze, dans l'ouvrage Pratique commente de la
mthode non classique (Strasbourg : irma, 1980), publi en anglais par la suite sous le
titre Non-standard analysis : a practical guide with application, Lecture Notes in
Mathematics, 881 (1981) : D'habitude lorsque l'on dsire parler d'un objet, on pose
une dfinition. La seule nouveaut "non classique" est d'introduire des objets non
dfinis, assortis de restrictions convenables (p. 7).
202
Jean-Michel Saanskis
La tradition de l'infini
203
204
Jean-Michel Salanskis
La tradition de l'infini
205
206
Jean-Michel Salanskis
v - conclusion
Nous voudrions revenir en conclusion sur le problme de la
vocation de la mthode non standard, que nous soulevions la
fin de notre prsentation historique. Nous avions dit alors que
l'on pouvait concevoir l'utilisation de la mthode de deux manires
diffrentes : ou bien dans un domaine essentiellement li la phys
ique, en tant que technique d'idalisation adapte la complexit
et aux grands nombres, l'preuve desquels de toute manire se
soumet le discours scientifique (idalisation probabiliste des statis
tiques,
solutions thoriques des quations diffrentielles, info
rmatique
non standard), l'ide tant alors que les idalisations
offertes par la mthode seraient meilleures que celles procures
par la gomtrie de l'infini (qui donnent pourtant dj de
grandes satisfactions), en tant que plus proches de ce qui est
idalis ; ou bien dans le domaine de la grande gomtrie de
l'infini elle-mme, institue par Cantor, Hilbert, Zermelo, et
d'autres, et ce en raison de la substituabilit sous certaines condi
tions du langage et des intuitions non standard leurs analogues
classiques, avec simplification du discours.
Notre tude de la tradition de l'infini et notre tentative de
montrer que le non-standard approfondit le sens formel du fini
et de l'infini, en radicalisant le sens de transcendance de ce dernier,
auraient tendance nous faire penser que la mthode est capable, et
de manire non contradictoire, de relever les deux dfis que nous
avons distingus l'instant. L'enseignement de la phase prc
dente est en effet que la perte de visibilit de l'infini dcrte par
le formalisme n'a pas signifi la mort ou l'essoufflement de la go-
207
J.-M. Salanskis.
(*) Nous tenons remercier tout spcialement Herv Barreau et Georges Reeb,
sans la complicit, les conseils et les prises de position desquels ce travail n'aurait
pas t possible.