[Alliage] [Up] [Help] [Science Tribune]

ALLIAGE


Alliage, numéro 37-38, 1998



L'écrit en mathématiques



Ivar Ekeland

En mathématiques, l'écrit n'est pas un moyen de communication : c'est le résultat même du travail. L'article est pour le mathématicien ce qu'est la statue pour le sculpteur ou la machine pour l'ingénieur. Le mathématicien est proche de l'écrivain, et plus encore du musicien. Les mathématiques se présentent comme une science formelle, un jeu de symboles qui se suffit à lui-même, tout comme la musique classique se réduit en définitive à une succession de notes écrites sur une partition. Ni l'une ni l'autre ne racontent rien.

Les mathématiques produisent des démonstrations, et elles ne sont sûres que si elles sont écrites. L'écriture joue ici deux rôles complémentaires. C'est en écrivant les démonstrations qu'on les vérifie : combien d'intuitions fulgurantes, apparues comme des évidences au milieu de nuits sans sommeil, se sont évanouies à la clarté crue de la rédaction ; mais quelle joie de donner corps, sous forme d'un texte, à ce qui jusque-là n'existait pas, et de construire, proposition par proposition, le fil de la démonstration. C'est aussi en écrivant les démonstrations que l'on permet à d'autres de les vérifier. Le cas le plus récent est celui de la démonstration du théorème de Fermat par Wiles, aujourd'hui acquise, mais qui est passée par une phase d'inquiétude. Lorsque la première démonstration de Wiles fut diffusée sur l'internet, on s'aperçut qu'elle était inachevée, qu'il y avait un chaînon manquant dont Wiles ne s'était pas aperçu, alors qu'il avait déjà annoncé son résultat et exposé la démonstration à Cambridge. Il fallut encore une année de travail pour que Wiles et Taylor complètent finalement la démonstration.

Que les démonstrations soient écrites ne veut pas dire pour autant qu'elles soient bien écrites. Au contraire, dans ce travail, l'écriture est ravalée à un rôle modeste, que les traitements de texte modernes, tels que TeX, banalisent encore plus, en uniformisant jusqu'à la typographie des textes. Voici longtemps que, sous l'influence de l'école française de mathématiques, et notamment du groupe Nicolas Bourbaki, ces textes se présentent tous dans un cadre stéréotypé, où lemmes, propositions et théorèmes, chacun suivi de sa démonstration (mot qui disparaît aujourd'hui au profit du franglais "preuve"), se succèdent dans un agencement logique strict qui aboutit au résultat final. Ce peut être fait de manière plus ou moins élégante, c'est-à-dire que la chaîne logique peut être plus ou moins longue, ou démarrer plus ou moins loin du lecteur, mais c'est très secondaire : les critères sont ailleurs. Il n'y a aucune qualité de forme qui puisse prévaloir sur le fond : un article dont le résultat est déjà connu, ou trop proche de ce qui est déjà connu, ne sera pas publié, quels que puissent être ses mérites stylistiques. En fait, c'est le degré zéro de l'écriture. L'article de mathématiques typique est aujourd'hui écrit en anglais par quelqu'un qui ne saurait pas commander un café dans cette langue.

Un article de recherche, en mathématiques, n'a pas vraiment pour objectif de communiquer un résultat, mais de le créer, de le rajouter à la liste des théorèmes connus, et accessoirement d'assurer une priorité à son auteur. Une fois l'article écrit, et publié, un décodage est nécessaire. En effet, il faut structurer le champ des connaissances afin de pouvoir communiquer celles-ci : il faut pouvoir dire que tel théorème est important et tel autre accessoire, que tel problème est intéressant et tel autre ne l'est pas. Une liste non structurée de résultats mathématiques est aussi facile à apprendre qu'un annuaire de téléphone ; on ne peut les retenir, et donc s'en servir, que si l'on crée une structure, fondé sur quelques résultats considérés comme centraux à partir desquels on reconstruit les autres, et de quelques problèmes jugés importants, vers lesquels s'orientent les efforts. L'élaboration de cette structure, le choix des résultats centraux et des problèmes importants, forment un processus collectif, dans lequel tous les mathématiciens sont plus ou moins engagés, et dans lequel l'écrit n'a que peu de part.

Je ne parlerai pas ici de l'enseignement des mathématiques, me contentant de rappeler ici le rôle maïeutique de la leçon orale et de l'exercice dirigé, tels qu'ils sont dépeints dans le Ménon de Platon, où Socrate fait découvrir à un petit esclave la démonstration du théorème de Pythagore. En revanche, je voudrais évoquer ici la recherche en mathématiques, où la communication joue un rôle essentiel. Il ne s'agit pas seulement de faire connaître les résultats nouveaux, mais de les rendre compréhensibles, c'est-à-dire accessibles et utilisables par d'autres que leur inventeur. Cela passe par un processus de motivation : il faut créer un intérêt parmi les jeunes chercheurs afin qu'ils s'investissent dans les domaines nouvellement ouverts, sans quoi ceux-ci dépérissent faute de bras.

Ce processus a été très bien décrit par Thurston, l'un des plus grands géomètres contemporains. Dans un article récent, il décrit comment il a tué un sujet et en a créé un autre. Au début de sa carrière, il s'était investi dans un domaine en pleine expansion, la théorie des feuilletages. Il y avait énormément de problèmes ouverts et de chercheurs en activité dans ce domaine, mais le jeune Thurston, dans une série d'articles, introduisit des méthodes entièrement nouvelles et résolut l'un après l'autre les principaux problèmes. Ces articles s'avérèrent, non pas fondateurs, mais destructeurs, car leur niveau technique découragea les jeunes de s'aventurer dans ce domaine, en même temps que leur succès créa l'impression qu'il ne restait pas grand'chose à glaner. Et ce fut la fin de la théorie des feuilletages, qui n'est plus guère à l'heure actuelle un domaine de recherche actif. Réfléchissant alors à ce qui s'était passé, Thurston décida de procéder autrement dans la seconde partie de sa carrière. Il annonça un vaste programme de recherches, touchant à la topologie de la dimension trois, et décrivit en même temps les méthodes et les outils qui, à son avis, permettraient de le mener à bien. └ partir de cet instant, il passa le plus clair de son temps à organiser la recherche sur ce programme et à répondre aux questions, grâce aux possibilités illimitées du courrier électronique. Aujourd'hui, le programme de Thurston est florissant : la plupart des découvertes sont le fait d'autrui, mais ses méthodes et ses problèmes sont largement diffusés dans le monde entier.

Il existe, bien sûr, des traces écrites de ce processus de décodage. On peut, à partir du degré zéro que nous avons décrit tout à l'heure, ordonner l'écriture suivant une échelle graduée. Elle va de l'article illisible, paru dans un revue prestigieuse, à la monographie, faisant le point de la recherche sur un sujet pour les spécialistes du sujet, au livre, qui portera généralement (éditeur oblige) sur un sujet plus vaste et s'adressera à des mathématiciens non spécialistes, puis au manuel, qui reprend les choses à la base et s'adresse aux étudiants, et enfin à l'ouvrage de vulgarisation, qui lui-même pourra s'adresser à un public scientifique (non mathématicien) ou à un public général. On trouve notamment quelques grands livres de mathématiques, qui ont fait date : la Mécanique analytique de Lagrange, les Leçons sur la dynamique de Jacobi, les Méthodes nouvelles de la mécanique céleste de Poincaré, les Fondements du calcul des variations de Tonelli, et, bien sûr, les ╔lements de mathématiques de Bourbaki. Ils sont peu nombreux, je soupçonne qu'ils sont plus souvent cités que lus, et je ne vois pas de livre paru dans les trente dernières années qui puisse prétendre à un pareil statut, à l'exception peut-être de la Géométrie non commutative de Connes. La culture mathématique actuelle est une culture de l'article et non du livre.

Si l'on replace l'activité mathématique dans le cadre général de l'activité intellectuelle aujourd'hui, on obtient une construction mal raccordée à la culture générale. On ne voit pas se réaliser la vision unitaire d'un Descartes, ou d'un Hermann Hesse, dont le Jeu des perles de verre traduit l'idéal d'une connaissance générale et formalisée où les mathématiques, la musique et la maison chinoise ne sont que des aspects particuliers. Sans doute cette vision est-elle trompeuse. Il n'y a pas aujourd'hui de culture générale, de cadre commun de référence, l'honnête homme a disparu avec le citoyen républicain ; il y a des cultures particulières, souvent techniques (la culture économique et financière aux ╔tats-Unis, la culture de l'ingénieur en France), plus souvent encore religieuses (les théocrates de tous bords et de tous pays). Mais s'il n'y a pas de culture générale qui puisse faire sentir son effet sur les mathématiques, il y a cependant des contraintes communes à toutes les activités intellectuelles, et les mathématiques n'en sont pas exemptes. Il s'agit de tout ce qui touche à l'information : les procédés d'acquisition, de stockage, de traitement et de communication de celle-ci subissent à l'heure actuelle des changements (je n'ose pas écrire des progrès) qui nous amènent rapidement vers une société entièrement nouvelle, sur laquelle il conviendrait de s'interroger.

Il est plus facile de s'interroger sur les conséquences de ces transformations sur les mathématiques. Nous avons déjà parlé de la banalisation de l'écriture, mentionnons aussi la banalisation de la géométrie (nombre de logiciels tracent facilement des figures compliquées et les font bouger dans l'espace ou dans le plan), et l'apparition de domaines mathématiques nouveaux, liés aux progrès des ordinateurs (théorie du chaos, géométrie fractale, réseaux de neurones). Plus profondément, je pense que à mesure que les autres sciences, ou les autres activités techniques, subiront la révolution informationnelle, elles développeront des techniques mathématiques propres et se les approprieront, comme les physiciens l'ont fait depuis longtemps ; si cette perspective se révèle exacte, nous allons vers une situation où les mathématiciens n'auront plus le monopole des mathématiques, mais où économistes, managers et marchands feront tous des mathématiques comme monsieur Jourdain faisait de la prose.

Il restera cependant un noyau de mathématiques mathématiciennes, et le problème se posera toujours de les communiquer à ceux qui ne sont pas directement intéressés. Il y a à cela, comme chacun le sait, de grandes difficultés, que déjà Pascal avait indiquées dans sa fameuse distinction entre l'esprit de géométrie et l'esprit de finesse. En mathématiques, tout est facile, à partir du moment où l'on voit de quoi l'on parle, où l'on s'est construit une perception d'un objet qui, par ailleurs, est parfaitement défini par quelques propriétés logiques. On peut - et on doit - construire la géométrie euclidienne en dimension trois sur une base purement axiomatique : pour celui qui déclare ne pas voir dans l'espace, cela ne sert à rien.

On peut penser que les grands concepts des mathématiques finissent tous par franchir les frontières de celles-ci, grâce notamment à l'éducation dispensée dans les lycées et collèges. L'exemple qui vient à l'esprit est celui de probabilité, apparue en mathématiques voici moins de quatre siècles, qui fait certainement aujourd'hui partie du bagage intellectuel courant, avec une sigification qui n'est pas très éloignée de sa signification technique. Cela n'aide guère le vulgarisateur dont le problème est de donner une idée, non pas des mathématiques de Pascal, mais de celles d'aujourd'hui. Personnellement, je ne vois pas comment parler clairement de l'Žuvre de Grothendieck ou de celle de Connes.

Heureusement, nous avons toujours une solution : c'est le mythe. Point n'est besoin de comprendre le mythe, il suffit de s'abandonner à sa force symbolique et incantatoire. Il y a, dans les noms des mathématiciens et dans les mots des mathématiques, un pouvoir de suggestion dont nous nous sommes largement servis.

Que seraient les mathématiques si les théorèmes étaient anonymes ? Le théorème fondamental du triangle rectangle s'ancrerait-il aussi bien dans les mémoires que le théorème de Pythagore ? Les chercheurs seraient-ils aussi motivés au cas où leurs articles paraîtraient sans signature ? Qui s'intéresserait à la question de savoir si une puissance n-ième peut se décomposer en somme de deux puissances n-ièmes si cet énoncé n'avait pas une longue histoire sous le nom de théorème de Fermat ? Le nom de Galois, et le prénom d'╔variste, seraient-ils aussi connus leur porteur n'avait été tué en duel à l'âge de vingt et un ans, non sans avoir pris le temps de coucher sur le papier ses principales intuitions au cours de la nuit précédant le drame ? Et Ramanujan, perdu au fin fond de l'Inde, qui reconstitue une bonne part des mathématiques de son temps à partir d'un manuel de terminale, et qui écrit à Hardy une lettre qui lui vaudra le voyage en Angleterre ?

Voilà une première voie d'accès, et non des moindres : personnaliser les mathématiques, donner une charge émotionnelle aux résultats par l'histoire de leurs inventeurs. C'est un peu la démarche de Nabokov, dans ce chef-d'Žuvre qu'est La défense Loujine, où il nous décrit de l'intérieur la psychologie d'un champion d'échecs, sans jamais nous donner assez d'éléments pour que nous puissions reconstituer une partie. L'histoire tragique de Galois présente la théorie des groupes à des gens qui n'iront jamais au-delà du mot, mais qui resteront convaincus qu'il s'agit là de quelque chose d'important, suffisamment sans doute pour que l'on y consacre sa vie. Indiscutablement, nombre de jeunes qui s'engagent dans cette carrière, surtout en France, le font pour des raisons de cet ordre. La communauté mathématique en est parfaitement consciente, et prend grand soin d'entretenir les mythes et d'en créer de nouveaux. D'où la révérence, je dirai presque le culte, accordée à quelques chefs de file, véritables gourous dont les choix deviennent ipso facto ceux de la communauté. D'où la conception romantique des mathématiques, telle qu'on la trouve exposée, par exemple, chez Dieudonné, suivant laquelle les grands progrès sont toujours l'Žuvre de quelques individualités d'exception, lesquelles, si elles n'ont pas la chance de mourir à vingt ans, voient leurs pouvoirs créateurs disparaître inéluctablement vers l'âge de quarante ans, conception d'ailleurs institutionnalisée par les médailles Fields, que l'on ne peut obtenir au-delà de cet âge, eût-on démontré le théorème de Fermat.

Après le choc des images, le poids des mots. Après les vies des hommes illustres, la puissance évocatrice des vocables. Les concepts mathématiques sont en général fort éloignés de ceux de la vie courante, mais le choix a été fait - il serait fort intéressant de savoir exactement quand et comment - de les désigner par des mots du vocabulaire usuel. Certes, ce n'est pas toujours le cas, et l'inventeur d'un concept peut lui assigner un nom forgé de toutes pièces. Mais il peut aussi, et c'est le cas le plus fréquent, reprendre un mot du langage courant et lui assigner une signification technique. Le résultat est complètement différent. Que l'on compare, par exemple, les deux titres suivants : " Vladimir de Drinfeld et les conjectures de Ramanujan-Petersson ", et " Classification des catastrophes élémentaires ". L'un et l'autre sont des titres d'articles, mais il n'y a pas de doute que l'impact du second n'est pas le même que celui du premier.

Les mathématiciens ont beaucoup joué de cette liberté de choix et de la confusion qu'elle peut créer. Le cas le plus célèbre est celui des nombres imaginaires. On se souvient de la discussion que, dans Les désarrois de l'élève Törless, le héros de Musil a avec son professeur de mathématiques, discussion sur rien, puisque le même mot désigne des objets différents pour l'un et pour l'autre. Plus récemment, nous avons eu la " théorie des catastrophes ", parfaitement balisée du point de vue mathématique, puis la " théorie du chaos ", qui l'est beaucoup moins. Dans l'un et l'autre cas, le mot a été choisi par des mathématiciens, et ce choix a grandement contribué à la diffusion de leurs idées dans d'autres cercles de pensée ; mais si le mot a pu être le véhicule de la transimission, parce qu'il était compris de tous, il a aussi déformé le concept, le sens commun n'étant pas adéquat au sens technique, la différence étant flagrante dans le cas des "catastrophes".

On peut penser que ces mots ont été lancés innocemment, et qu'ils ont donné au concept une force qui lui a permis d'échapper à son auteur. Ce dernier est alors l'apprenti-sorcier de Goethe, qui, dans son poème, évoque justement le pouvoir du mot : " Ach das Wort, worauf am Ende, / Er das wird, was er gewesen " (1) La question de l'usage légitime du langage courant en mathématiques se double d'ailleurs de la question de l'usage légitime des concepts mathématiques dans le langage courant, très à la mode en ce moment. Si l'on s'interroge sur l'usage que fait Thom du mot de "catastrophe", comment ne pas s'interroger sur l'usage que fait Lacan du mot de "compact" ? On peut penser que le langage technique est séparé du langage ordinaire, et qu'ils recouvrent des réalités différentes, moyennant quoi l'utilisation du mot "catastrophe" en mathématiques est aussi incongrue que celle du concept de "compacité" en psychanalyse. Cette idée simple et confortable ne tient pas devant la réalité : il est clair que ces mots ont permis de communiquer, qu'ils ont véhiculé quelque chose qui n'aurait pas été transmis autrement.

Il me semble que, volens nolens, c'est par les mots du langage courant et par leur contenu symbolique que passe le mode le plus efficace de communiquer les mathématiques. La forme pure ne passe pas. Pour expliquer la théorie des groupes, il faut lui conférer une charge affective, la relier aux symboles usuels, bref, lui donner un sens. La communauté mathématique contruit ce sens pour elle-même, mais ne se soucie guère d'en contruire un pour les non-mathématiciens ; au contraire, elle s'insurge devant les usages à ses yeux illégitimes, des concepts mathématiques dans des contextes non scientifiques. Il s'agit pourtant d'une démarche simple et naturelle, bien connue en matière artistique. Ainsi, Piet Mondrian, dont les derniers tableaux sont des combinaisons géométriques de carrés et de rectangles peints en à-plats, formes pures qui certainement, à ses yeux, se suffisent à elles-mêmes, prend le soin de leur donner un titre, " Broadway boogie-woogie " ou " Victory boogie-woogie ". Ce titre n'est pas pour lui, il est pour les autres, et leur donne d'emblée un point de vue dont il pense qu'il n'est pas trop éloigné de celui qui était le sien au moment de la création.

Pourquoi alors cette réticence de la part de la communauté mathématique ? Il y a certainement la frilosité des vrais croyants, attachés à conserver la pureté de la vraie foi, prompts à suspecter l'intention hérétique dans la liberté d'interprétation. Les mathématiques ont eu beaucoup de mal à se faire une idée claire de ce qu'elles étaient, et à trouver leur place entre la logique et les sciences expérimentales. Elles n'y sont arrivées qu'au début de ce siècle, sur la base d'un formalisme pur, se refusant délibérément à toute interprétation, ou s'en déchargeant vers un platonisme primaire, qui assigne une existence quelque part aux constructions mathématiques. On se trouve alors dans la position des théologiens du Moyen ┬ge, qui, partant de l'existence de Dieu, trouvaient finalement beaucoup plus commode de développer une théologie négative, expliquant ce que Dieu n'est pas, qu'une théologie positive, expliquant ce qu'Il est. Je ne pense pas que cette position soit tenable. Ce n'était pas, en tout cas, celle de Platon, qui avait une conception globale de l'être, une véritable philosophie, dont il déduisait nombre de conséquences pratiques, parmi lesquelles une théorie de la justice et une conception de la cité idéale. Dire que les mathématiques existent en dehors de nous, et que le mathématicien doit découvrir ce qui existe en se refusant à l'interpréter, c'est, en définitive, refuser de penser, et si l'on ne pense pas, on peut difficilement communiquer. Pourquoi les mathématiques ? Comme dans un procès célèbre, la question ne sera pas posée.



Légende de l'illustration

Piet Mondrian, Broadway Boogie Woogie.



1. . " Ah le mot, qui à la fin / En fera ce qu'il était au début. "





[Up]