Mon maître Schützenberger

Marcel Paul Schützenberger est né en 1920. Etudiant assoiffé de connaissances et d'une puissance de travail prodigieuse, il a commencé par faire des études de médecine, obtenant le titre de Docteur en 1949. Il entre cette même année au service de R. Turpin à l'hôpital Saint-Louis. Puis il va chez le professeur Haldane à Londres pour apprendre la génétique. Mais il aimait aussi les mathématiques. Il fait des études de statistiques et devient docteur en mathématiques en 1953. Muni de ce double bagage tout-à-fait exceptionnel de mathématique et de médecine, il met en oeuvre ses compétences multiples en faisant des statistiques sur les empreintes digitales pour montrer leur lien avec la trisomie. Puis il travaille sur la génétique des populations d'escargots. Il étudie l'olfaction, dans laquelle opèrent des substances intervenant avec une activité thermodynamique très inférieure à ce qui se passe pour le goût. La réputation acquise dans ces travaux de recherche lui vaudront d'être appelé plus tard par le Docteur Candau, directeur général de l'organisation mondiale de la santé, comme expert international pour établir un rapport sur ou plutôt contre les armes chimiques et bactériologiques, et, au lendemain de la catastrophe de la thalidomide, afin de mettre en place un réseau mondial d'alerte sur les accidents causés par les médicaments. Mais cela ne le satisfaisait pas : "Je prends conscience des limites inhérentes de l'usage des mathématiques dans les sciences de la vie".

Marcel Paul Schützenberger choisit les mathématiques. Il fait une thèse avec Darmois sur la théorie de l'information, en introduisant un nouveau type d'information qui contient celui de Shannon-Wiener et celui de Fisher. Il en étudie les propriétés mathématiques. Comme dans tous les domaines dont Marcel Paul Schützenberger s'est occupé, les recherches ne restent pas à un niveau purement théorique. Les résultats obtenus en théorie de l'information lui serviront dans les années où il fut analyste itinérant pour l'OMS de Rangoon à Surabaya. Ce modèle sera repris par Picard sous le nom "théorie des questionnaires". L'apport de Schützenberger fut très apprécié par Shannon lui-même, qui l'invite dans son équipe au laboratoire de recherches en électronique du MIT.

Là, Marcel Paul Schützenberger s'attaque à la théorie des codes. Un code attribue à chacun des messages élémentaires d'un ensemble un mot construit sur un certain alphabet, comme l'alphabet Morse par exemple. Mais pour qu'un texte soit décodable, il faut qu'une suite de lettres ne puisse être décomposée que d'une seule façon en mots codant les messages élémentaires. On pensait que seuls satisfaisaient à cette exigence les codes "préfixes" (le début du code est reconnaissable et permet d'identifier chaque élément de façon unique). Schützenberger a formalisé ce problème en lui donnant un support algébrique, mettant ainsi en évidence d'autres types de codes. Il importe aussi qu'on puisse décoder la fin d'un message dont le début a été perdu pour une raison quelconque. Ce n'est pas le cas pour le code génétique. Si la chaîne codant une suite de Valines perd son premier caractère, elle se lit comme une suite de Leucines. Par sa théorie algébrique des groupes, Schützenberger a résolu ce problème. Ce ne sont pas que pures spéculations : la théorie algébrique des codes a permis entre autres l'optimisation de la mise en mémoire d'informations sur disques.

Tous ces travaux prennent pour départ des problèmes concrets, mais sont conduits comme des recherches en mathématiques dont ne sont pas absentes des considérations esthétiques : "au bout de nos efforts nous espérons trouver parfois quelque chose à apporter au courant principal des mathématiques". Schützenberger a découvert que le groupe libre joue pour les séries algébriques un rôle analogue à celui joué par les groupes finis pour les automates finis : c'est une des bases de l'information théorique. Elle repose sur de difficiles travaux d'algèbre concernant les semi-groupes finis. Le nom de Marcel Paul Schützenberger reste attaché à une structure nouvelle qu'il a définie et qui joue un grand rôle dans la théorie des automates finis.

Il convient de laisser Marcel Paul Schützenberger commenter lui-même ses travaux : "Avouerai-je que ces applications et d'autres à venir ne sont pour moi que l'une des raisons de l'intérêt que je porte aux codes, et dirai-je que ma conception des mathématiques appliquées est de voir dans les applications une source extérieure de théorèmes et d'intuitions de techniques de preuve pouvant être utilisées pour le progrès de la science mathématique en supplément des motivations internes que fournit la structure et le mouvement même de cette science".

La rencontre de Marcel Paul Schützenberger avec l'informatique se produisit en 1956, durant l'année qu'il passa avec Shannon au MIT. Il fut invité à la conférence de travail organisée par John McCarthy à Dartmouth. C'est là que fut défini le projet d'intelligence artificielle, que Schützenberger ne cessa de dénoncer comme utopique. En 1961, de retour au MIT, il s'aperçut que le principe des grammaires génératives de Noam Chomsky recoupait certains de ses travaux sur les séries algébriques non commutatives. Noam Chomsky cherchait un moyen de formaliser les grammaires des langages naturels (tels le français ou l'anglais, dits "naturels" par opposition aux langages artificiels construits pour les besoins de la programmation). Il fallait donc un modèle algébrique de langage, domaine où excellait Schützenberger. Il publia alors avec Chomsky un article sur la théorie algébrique des langages hors contexte, qui eut un retentissement considérable. Aujourd'hui encore, il est cité comme un des fondements de l'informatique théorique, et les linguistes en font l'article le plus solide de l'oeuvre de Chomsky. Les grammaires de Chomsky-Schützenberger se révélèrent un outil efficace pour décrire les langages de programmation. La formalisation des langues naturelles n'a pas encore abouti , et on ne croit plus guère à ses chances de succès. Ce n'est pas par insuffisance des méthodes algébriques, mais beaucoup plus certainement parce qu'un texte a une forme et un sens, et que le sens est irréductible à la forme : la formalisation ne l'atteint pas. Marcel Paul Schützenberger en était intimement convaincu dès le début de cette aventure.

C'est à cette époque que commercèrent les recherches théoriques sur las langages de programmation et sur leur compilation, s'appuyant largement sur la notion d'automate. Un automate est une machine simulable sur ordinateur, qui met en oeuvre les règles d'une grammaire, pour peu qu'elle satisfasse certaines propriétés. Un automate permet d'engendrer des suites de caractères valides au titre de cette grammaire ; ou de dire si une telle suite est valide. Les techniques mises en place par Schützenberger lui permirent de montrer que les automates à pile sont en quelque sorte l'algorithme universel de compilation, et fournirent de nombreux résultats sur les langages algébriques et sur les automates à pile.

Les automates finis (ceux qui n'utilisent que très peu de mémoire) posent des problèmes importants non seulement d'un point de vue théorique, mais aussi parce qu'ils interviennent très souvent dans la pratique informatique. Leur étude demandait que l'on améliore la théorie des semigroupes finis. Marcel Paul Schützenberger s'y est employé avec des résultats tout-à-fait remarquables par lesquels il s'est fait une réputation internationale de premier plan dans le double domaine de l'algèbre et de l'informatique théorique.

Plus récemment, Marcel Paul Schützenberger s'est intéressé à des problèmes combinatoires, et notamment aux tableaux de Young : ce sont des tableaux, pas nécessairement rectangulaires, que l'on remplit de lettres de telle façon qu'elles aillent en croissant avec possibles répétitions dans chaque ligne, et en croissant sans répétition dans chaque colonne. Je l'ai souvent vu dessinant de petits tableaux et cherchant à les remplir. Pour pouvoir s'appuyer sur des expériences plus larges, il a écrit des programmes d'ordinateur pour fabriquer de tels tableaux. Il y cherchait cette source extérieure d'intuitions et de preuves à laquelle il tenait tant. On y voit l'étendue du génie de Marcel Paul Schützenberger : son objectif était la formalisation algébrique de problèmes venus de l'informatique, étendant si nécessaire les constructions de l'algèbre aux besoins de cette formalisation. Mais il cherchait à formaliser des problèmes réels, utilisant l'expérience pour mieux les percevoir et les cerner. Ses travaux sur les tableaux d'Young aboutirent à la théorie du monoide plaxique.

Marcel Paul Schützenberger ne cherchait pas les honneurs. Après avoir été chargé de recherches à l'Institut national d'hygiène, puis maître de recherches au CNRS, il fut nommé professeur à la Faculté des sciences de Poitiers, avant d'être nommé professeur à Paris. Il fut directeur scientifique à l'Institut national de recherche en informatique et automatique. Il a été lauréat de l'Académie de Médecine, il a reçu le prix Montyon de l'Académie des sciences. Il en fut nommé membre correspondant en 1979, puis membre en 1988.

J'ai fait la connaissance de Marcel Paul Schützenberger en 1964, à l'Institut de programmation de la Faculté des sciences de Paris que René de Possel venait de créer . C'était un homme attachant, que tout le monde aimant. Nous l'appelions "Marco" en signe d'amitié, et cette familiarité n'était pas pour lui déplaire. Mes relations scientifiques avec Marco furent d'abord distantes. Nous avions des domaines de recherche sans guère de points communs. Marco était un théoricien, j'étais un praticien. Je ne comprenais pas grand chose aux mathématiques qu'il étudiait, je ne voyais pas encore l'importance de la théorie des grammaires formelles qu'il développait avec Noam Chomsky. De son coté, Marco trouvait fort bien que l'on écrive des systèmes d'exploitation ou que l'on crée de nouveaux langages de programmation, mais notre empirisme ne lui fournissait guère matière à réflexion. Nous avions confiance dans le mouvement de la science dont l'histoire nous a appris qu'elle ne peut exister sans une formalisation fondée sur les mathématiques, mais que la formalisation est là pour rendre compte du réel observé. Il était fatal que nos efforts, si éloignés soient-ils au début, finissent par converger.

Les choses changèrent pour moi à la fin des années soixante. L'empirisme arrivait au bout de ses possibilités, on ne pouvait progresser qu'en fondant la pratique sur une méthodologie issue de la théorie. En même temps, la pratique avait fait apparaître des façons de faire utiles dont il fallait rendre compte. C'est l'époque où l'informatique se construisit comme science du traitement de l'information considérée comme le support formel des connaissances. Comme toute science, elle se fonde sur une théorie et débouche sur une pratique : nous avions chacun notre place bien marquée dans la construction de cet édifice. Parce que l'information est un objet formel, il m'a fallu me rapprocher des théories de Marcel Paul Schützenberger, et il fut mon guide en la matière. Dans le même temps, il entrait dans la pratique en rédigeant de nombreux programmes pour soutenir ses conjectures en combinatoire, et il nous arriva de travailler ensemble. Nous nous rencontrâmes souvent pour des échanges fructueux.

Mais ce qui nous rapprocha le plus, ce fut une commune vision de l'homme. Marco avait une très haute idée de sa dignité, qui en fait un être à part dans le monde. Biologiste et statisticien, il ne croyait guère que le hasard et la sélection naturelle aient pu suffire à engendrer l'homme. Peu avant de nous quitter, il donna au journal "La recherche" un entretien où il exprima ses doutes sur le Darwinisme. Parce que le sujet touche à la philosophie et aux croyances religieuses, Marco ne fut pas compris, on le taxa d'un "créationnisme" dont il était pourtant si éloigné. Dans ses derniers jours, il lisait avec une grande joie le livre "Darwin's black box" dans lequel Michael Behe étudie les systèmes complexes irréductibles, ceux dont aucun élément pris seul ne peut réaliser une partie de la fonction, la fonction n'existant que parce que toutes les parties y coopèrent. La coagulation du sang en est un exemple. Behe soutient l'idée que ces systèmes ne peuvent être engendrés par des mutations successives, l'apparition d'une partie étant inutile tant que les autres n'existent pas, et donc éliminée par la sélection naturelle. Pour Behe, un système complexe irréductible ne peut qu'être l'oeuvre d'un concepteur. Nous ne saurons pas ce que Marcel Paul Schützenberger aurait tiré de cette thèse. Il est parti trop tôt.

Peut-être parce qu'il fut d'abord médecin, il était fasciné par les facultés extraordinaires de l'esprit humain, et par la façon dont l'homme subit les détériorations de son cerveau sans cesser d'être un homme. Les prétentions de l'informatique à créer une intelligence artificielle comparable à la nôtre lui paraissaient une offense faite à l'homme. Nous en avons souvent discuté. Son sens critique très aiguisé lui permettait de voir aisément des failles dans les raisonnements de certains tenants de l'intelligence artificielle. Sa grande aisance en combinatoire lui montrait l'incroyable complexité à laquelle s'attaquaient ces chercheurs. Dans un exposé qu'il fit en Sorbonne au début des années 90, il présenta un théorème de combinatoire, mettant au défi les chercheurs de le faire démontrer par une machine car il y faudrait un temps de calcul prohibitif. Il ajouta que ce théorème avait été démontré en une demi-heure par un élève de seize ans. Comme j'émettais quelques suggestions pour le faire vérifier par un ordinateur dans le cas concret qu'il avait présenté, il en changea la dimension : le calcul devenait infaisable, la démonstration de l'élève tenait toujours. Le premier match d'échecs entre Kasparov et un ordinateur suscita de sa part des réactions fort pertinentes : ce n'était pas un match entre un homme et une machine, mais entre un joueur ayant trois minutes pour jouer un coup, et une équipe de programmeurs mettant autant d'années que nécessaire pour préparer un programme à partir de l'observation de joueurs d'échecs.

Prétendant que j'avais plus de facilités que lui pour écrire, il me poussa dans la bataille de l'intelligence artificielle pour que je défende nos idées communes. Ce fut un tournant décisif de ma carrière scientifique, me conduisant à entreprendre des études de philosophie. Ainsi, mon cheminement de la pure pratique vers une vision plus globale de l'informatique où la pratique se fonde sur une théorie, la prise en compte des dimensions humaines des développements de cette science m'ont été grandement inspirés par Marcel Paul Schützenberger. Il fut mon Maître en informatique, et je tiens aujourd'hui à lui témoigner ma gratitude pour toutes ces idées, sur le plan humain. Je lui dois beaucoup. J'avais pour lui respect et amitié. Cette amitié était réciproque. J'eus à subir une pénible épreuve avec la mort d'un bébé : Marco fut le premier à la maison pour apporter amitié et réconfort. Il respectait profondément les gens. Autant il pouvait être sévère contre les idées de ceux qu'il appelait les "charlatans", autant il craignait de blesser quelqu'un par ses attaques.

Affaibli par la perte de son épouse, puis par une maladie qui le privait de toute force physique, son esprit demeurait très actif. Il téléphonait, il recevait ceux qui continuaient des recherches avec lui, ceux qui cherchaient quelle nouvelle vision de l'homme se détache sur la toile de fond du développement scientifique. Il était pour tous un guide écouté. Marcel Paul Schützenberger était un grand homme, par l'étendue de ses connaissances, par son puissant désir de savoir et de comprendre, par sa passion pour l'Homme, par sa grande bonté. Sa disparition est une grande perte pour la science, une épreuve douloureuse pour ses proches et pour ses amis. Nous n'oublierons pas Marco, que nous aimions tant.