Le GOLEM & l'IA

    Article inédit faisant suite à une communication au colloque MEOTIC, à l'Institut de la Communication et des Médias (Université Stendhal), les 7 et 8 mars 2007. Mis en ligne le 15 novembre 2007.

Michel Faucheux:

 Maître de conférences de littérature française  à l’INSA de Lyon. Directeur de l’équipe de recherche Stoica-Leps  de l’INSA de Lyon, il mène des recherches  sur l’interaction littérature/sciences de la communication et sur la valeur symbolique des techniques. Plus généralement, ses travaux visent à développer et  fonder épistémologiquement le champ spécifique des recherches  en sciences humaines et sociales dans les écoles d’ingénieurs.

Toute technique, engagée dans une culture, véhicule un imaginaire ; elle est traversée de récits qui  sont à l’œuvre à la fois dans le processus de conception et dans celui de son inscription sociale. Toute technique est engagée dans un processus de symbolisation.

Il y a là un vase champ de recherches que l’on peut nommer « les Technologiques » (Faucheux, 2005, p.61-70) par référence aux Mythologiques de Claude Lévi-Strauss et qui permettrait de mieux cerner le lien entre technique et imaginaire en articulant processus technique et récit symbolique. Autrement dit, il y a du langage dans l’artefact car la technique nécessite d'être racontée, parlée, mise en récit pour devenir objet de conception et parvenir mentalement socialement à exister. Il n'y a de technique qu’intériorisée par le récit qui, dans le même mouvement, autorise sa réalisation. Le récit est ce qui fait advenir la technique. C’est que le récit est universel, engageant le langage sous des formes elles-mêmes diversifiées, écrites, orales ou visuelles, traduisant par là une aptitude de l'être humain à raconter des histoires, des fictions qui simulent et modélisent à l'infini les possibilités d'une situation ou d'un objet (1) pour mieux leur donner sens et réalité. Comme l'écrit Gilbert Hottois, « l'inscription symbolique de la technique, sa prétendue assignabilité essentielle, gît dans le fait que, de tous côtés, des logoi (politiques, sociaux, esthétiques, théologiques, philosophiques etc.) se pressent et encerclent la technique, l'insèrent dans la culture, de telle sorte que nous ne rencontrons jamais la technique mais seulement des techno-logies : des discours qui ménagent à la technique une place et une justification symboliques : un sens.» (Hottois, 1984, p.52)

Nous devons étendre au domaine des sciences pour l'ingénieur le travail déjà entrepris  par les sciences humaines, lorsqu'elles ont appris à se penser comme écriture. Le saut épistémologique consistera alors à penser l'objet technique comme un artefact dont la matérialité même est prise dans des réseaux de discours et de récits. L'objet technique est, en effet, enveloppé de paroles qui prennent souvent la forme de mythes et construisent le support d’un imaginaire technique. Il relève d’une vaste symphonie de récits et de mythes, « les Technologiques » qui s’imbriquent entre eux et forment un vaste jeu  de variations et d’échos.

Non seulement, la technique actualise le mythe mais le mythe raconte la technique, c’est-à-dire la façonne, l’institue, l’interprète, en décrit symboliquement les virtualités, les possibilités, les usages et les limites, bref la questionne.

Ainsi, Norbert Wiener place explicitement la cybernétique dont il est le fondateur sous le signe de la légende du Golem qui module le mythe du double humain artificiel. Ce mythe situe  la  cybernétique  dans une généalogie symbolique.

Mais, si la technique actualise le mythe, elle l’interprète et lui donne une forme et un sens nouveau qu’il s’agisse pour Wiener de mettre en scène symboliquement la machine ou, plus essentiellement, la relation de l’homme à la technique.

La cybernétique et la legende du Golem

Archéologie d’une légende

Si elle se veut un programme englobant, une scienza nuova qui unifie tous les savoirs en transformant radicalement la figure du sujet humain par la transformation de son rapport à la machine (2) , la cybernétique souffre malgré tout d’un flou définitionnel qui autorise peut-être l’actualisation et le développement du mythe. Son ancrage est essentiellement la recherche militaire à laquelle participe Norbert Wiener. Dans le cadre du  projet AA Predictor, celui-ci met au point avec d’autres chercheurs un dispositif servo-mécanique de tir anti-aérien capable de prévoir sur une base probabiliste les mouvements de l’ennemi. Comme le remarque Cécile Lafontaine, « c’est en fait une véritable ontologie de l’ennemi qui se profile derrière le AA Predictor. Vu à travers le prisme métallique de l’aviation militaire, l’ennemi prend les traits d’un dispositif servo-mécanique. » (Lafontaine, 2004, p.34) En effet, le dispositif AA Predictor efface la séparation entre homme et machine, devenus tous deux constitutifs d’un même système.

Le terme « cybernétique » vient du grec kubernesis qui renvoie à l’action de gouverner un navire. Il désigne une approche logico-mathématique traitant des processus de communication et de commande autour de laquelle s’élaboreront les fondements de l’informatique et de l’intelligence artificielle.

« Nous avons décidé de désigner le champ entier de la théorie du contrôle et de la communication, aussi bien dans les machines que chez les êtres vivants sous le nom de Cybernétique. » (Wiener, 1952, p.287-288)

La cybernétique étudie la façon dont l’information circule et s’organise, commune aux machines et aux êtres vivants, ce qui permet de contrôler et gouverner. Gouverner, c’est maîtriser la circulation et l’organisation de l’information, penser la manière dont l’information fait système, avec effet de rétroaction.

De fait, la cybernétique, héritière de la recherche militaire, vise à concevoir des techniques capables de prévoir, gouverner, c’est-à-dire d’enrayer aussi un désordre humain dont la Deuxième Guerre Mondiale a offert un exemple. Postulant un effacement de la séparation homme/machine, tous deux faisant partie d’un même système d’information, elle autorise la référence au mythe de la créature artificielle, et plus précisément du Golem.

Le Golem, mythe fondateur de la cybernétique

En 1964, Norbert Wiener rédige un petit ouvrage God & Golem Inc où il place la cybernétique sous le signe du Golem, incarnation de la pensée mythique et religieuse. Pour lui, en effet, « la machine (…) est l’homologue moderne du Golem du rabbin de Prague. » (Wiener, 2000, p.111). Qu’est-ce que le Golem ? Une créature d’argile créée par magie. Le mot « Golem »  est un mot hébreu qui apparaît au Psaume 139 :16 dans la Bible. Il désigne la « masse informe » à laquelle Dieu aurait donné le souffle, permettant à celle-ci de devenir « adam », l’être premier provenant de la terre et composé de sang («dam ») et d’une «étincelle » divine (la lettre «aleph »).

L’histoire du Golem connaît plusieurs versions. Dans la version polonaise, relayée par Jakob Grimm (Entstehung der Verlagspoesie, 1808), Achim von Arnim (Elisabeth d’Egypte, 1812) ou Clemens Brentano (Erklärung der sogennanten, 1814), le Golem est créé par le rabbin de Chelm qui trace sur le front de la créature d’argile le mot Emeth (« vérité »). Le mot Emethanime le Golem. Lorsqu’ est retranchée la lettre Aleph, demeure le mot Meth (« mort ») : le Golem s’effondre alors.

Dans la version pragoise, parue au XVIIIe siècle et diffusée en 1837 par Berthold Auerbach dans Spinoza ou par le journaliste Franz Klutshak, le Golem est créé par le rabbin Loew de Prague (l5l3-l6l0) selon une procédure magique un peu différente. Au terme de sa création, le rabbin Loew place dans la bouche du Golem une feuille de papier portant le nom mystérieux et ineffable de Dieu, car le pouvoir de donner forme à l’informe et d’animer la matière n’est qu’un reflet du pouvoir divin.

C’est cette version que reprend Gustav Meyrinck dans le célèbre roman le Golem paru en 1915. « C’est alors que, dans le secret de la mémoire, se réveille en moi la légende du fantomatique Golem, de cet homme artificiellement créé auquel un rabbin expert en kabbalistique donna forme un jour ici même, dans le ghetto, à partir de la substance élémentaire, et conféra une existence d’automate dépourvue de toute pensée, en insérant dans sa mâchoire une formule chiffrée magique. » (Meyrinck, 2003, p.58)

Dans la légende, le Golem  est là pour remplir toutes les corvées à la place de son maître, se mettre au service des Juifs de Prague voire les défendre, mais il ne peut parler. Le jour du Shabbat, il ne doit avoir aucune activité comme les autres créatures de Dieu. Voilà pourquoi, chaque vendredi, le rabbin ôte de la bouche de celui-ci le papier sur lequel est inscrit le nom de Dieu, jusqu’à ce que, par mégarde, il oublie de le faire. Le Golem se met alors à dévaster le ghetto. Lorsque le rabbin arrive enfin à enlever la feuille de papier de la bouche de la créature, celle-ci est aussitôt réduite en poussière.

La référence de Wiener à la légende du Golem n’est pas fortuite : ainsi, Gershom Scholem, dans une allocution prononcée le 17 juin 1965 à Rehovot pour célébrer l’inauguration du nouvel ordinateur construit par le docteur Haïm Pekeris, donne solennellement à celui-ci le nom de Golem. Il fait, en outre, du rabbin Loew l’ancêtre spirituel de Norbert Wiener : «Il faut rappeler aussi  que le rabbi Loew fut l’ancêtre spirituel de deux autres juifs, Johann Von  Neumann et Norbert Wiener, qui contribuèrent plus que quiconque à l’entreprise de magie d’où est sorti le Golem moderne. En ce jour, nous avons le privilège de célébrer la naissance de la dernière incarnation de cette entreprise de magie, le Golem de Rehovot. Oui, en vérité, le Golem de Rehovot pourrait bien être la réplique du Golem de Prague. » (Scholem, 1974, p.472-473)

 Cette référence situe la cybernétique dans la généalogie imaginaire des créatures artificielles rêvées par l’homme à l’intérieur d’une tradition mythique de portée universelle mais qui prend sens d’abord dans la tradition religieuse juive. Elle est, pour Wiener, légitimée par trois éléments caractéristiques de la cybernétique :

« L’un concerne les machines auto-adaptatives, c’est-à-dire capables d’apprentissage, un deuxième, les machines capables de se reproduire et le troisième, la coordination entre l’homme et la machine. »(Wiener, 2000, p.53)

Ainsi Wiener relance-t-il le mythe : il le réactualise mais aussi le réinterprète en donnant une dimension mythique à la cybernétique.

La cybernétique et les mythes de la machine

La machine à l’image de l’homme

Le Golem, symbole de la machine, est l’être créé par des moyens magiques et artificiels qui dupliquent l’acte divin de création d’Adam, le premier homme. Toute création est une imitation : si l’homme est à l’image de Dieu, la machine-Golem duplique l’homme.

«  L’homme fait l’homme à son image. C’est là, semble-t-il, l’écho ou le prototype de l’acte créateur grâce auquel Dieu est censé avoir fait l’homme à son image. Quelque chose de semblable n’aurait-il pas lieu dans le cas moins compliqué (et donc plus aisément compréhensible) des systèmes non vivants que nous appelons machines ? » (Wiener, 2000, p.53)

Mais, il faut s’entendre sur le terme « image ». La machine-Golem est une image, non pas picturale mais « opérante », de l’homme (Wiener, 2000, p.55). Elle le duplique dans certaines de ses fonctions.

C’est aussi que la créature permet de révéler, comprendre le créateur. La machine est à l’image de l’homme parce que l’homme fonctionne comme une machine. Déjà, dansCybernétique et société, Wiener écrivait : « je soutiens que le fonctionnement de l’individu  vivant et celui de quelques machines très récentes sont précisément parallèles. » (Wiener, 1952, p.28). De fait, pour la cybernétique le support physique est indifférent et hommes et machines relèvent d’un même être informationnel qui engendre un fonctionnement parallèle, si ce n’est identique.

La machine substitut de l’homme

Si pour Wiener, la machine se place sous le signe du Golem, c’est qu’elle a la capacité d’apprendre, comme le montrent certaines machines de jeux auto-adaptatives (Wiener, 2000, p.42). C’est aussi qu’elle peut se reproduire, ce dont témoigne le transducteur, « la machine comme instrument et comme message » (Wiener, 2000, p.58) étant susceptible de s’auto-engendrer. Cette double capacité d’apprentissage et de reproduction, si elle autorise la référence au mythe de la créature artificielle, réactualise aussi le mythe du remplacement de l’homme par ses réalisations techniques.

 La cybernétique, en développant une science des systèmes appliquée aux mécanismes fabriqués ou vivants, accomplit, en effet, le programme d’une autonomisation de la machine, inauguré, un siècle auparavant, par la machine à vapeur : « La nouveauté de la machine industrielle provient donc de son accouplement à un moteur qui tire son pouvoir d’un feu interne. Elle est déjà un robot au sens commun puisqu’elle fournit du travail sans qu’apparemment personne en soit à l’origine. En cela, elle marque une discontinuité majeure avec la machine à l’ancienne qui se concevait  comme un moyen de démultiplier la puissance vivante, celle des hommes, esclaves souvent des animaux, bœufs et équidés principalement, ou bien empruntait  provisoirement à la terre sa force vive qu’elle lui rendait, eau, vent ou même soleil dont les végétaux avaient retenu une faible part de la force. » (Gras, 2003, p.14)

Ce programme ne fait que renouveler le mythe d’une machine intelligente se substituant aux hommes dans la mesure même où la cybernétique est parfois assimilée à la robotique. Ainsi, en 1960, Manfred Clynes et Nathan Kline inventent le mot cyborg (« cybernetic organism ») pour désigner un être qui, à la place de l’homme, pourrait survivre dans l’espace extra-terrestre. De même, si Gershom Scholem identifie, comme on l’a vu, ordinateur et Golem, Norbert Wiener, dans God & Golem Inc, constate que l’homme a tendance à se décharger mais aussi à se déresponsabiliser au profit de la machine, ce qui implique un transfert de rôle et de pouvoir. Pour illustrer son  propos, de manière significative, il fait référence à la pièce de théâtre de Karel Capek, RUR  (1921) où apparaît pour la première fois le terme de robot et qui raconte l’histoire d’une révolte de robots supplantant les hommes (Wiener, 2000, p.77).

Plus généralement, la cybernétique, en ouvrant la voie à une conception purement informationnelle de l’être humain, active, en outre, le fantasme d’une machine, qui, souvent identifiée à un ordinateur, éclipserait l’homme d’autant plus que ce dernier apparaît lui-même comme une machine qui ne cesse de reproduire son image, c’est-à-dire son mode de fonctionnement, dans ses productions techniques.

Mais, le mythe du Golem met aussi en scène, de manière plus essentielle, la relation de l’homme et de la technique, la coordination de l’homme et de la machine.  Il la met en situation tout comme il la met en question.

L’homme et la technique

Le mythe de l’apprenti sorcier

Le Golem échappe à son créateur et engendre lui-même destruction et désordre. La légende peut ainsi être lue comme la dénonciation du risque que porte en elle la cybernétique. Elle réactive le mythe de l’apprenti sorcier auquel Wiener fait explicitement référence, qu’il cite le poème de Goethe « l’apprenti sorcier » ou écrive : « j’ai indiqué que la réprobation associée jadis au péché de sorcellerie s’associe à présent dans de nombreux esprits aux spéculations de la cybernétique. » (Wiener, 2000, p.71). Wiener souligne le danger d’une machine autonome, soumise à « la rigidité », programmée de manière mécanique, et plaide pour une régulation de la machine par l’homme. Tel est aussi le sens de la légende du Golem repris finalement en  main  par son créateur, fût-ce pour être détruit.

De fait, dans Cybernétique et société, Wiener soulignait déjà le danger que représente le transfert irréfléchi de l’homme à la machine : « Tout appareil construit  dans le but de prendre des décisions s’il ne possède pas la capacité d’apprendre, respectera la lettre et non pas l’esprit. Malheur à nous si nous le laissons nous guider et si nous n’examinons pas auparavant les lois de son action et les principes, humainement acceptables ou non, de sa conduite. » (Wiener, 1952, p.262).

De même, Wiener anticipe aussi le danger d’un homme réduit à la machine dès lorsqu’il devient un simple rouage d’un dispositif machinique plus vaste, abdiquant ainsi son statut d’individu qui n’est plus sollicité par de vraies questions : «  parmi les machines dont j’ai parlé, certaines n’ont pas de cerveau d’airain ni des muscles de fer. Quand les atomes humains, au lieu d’être utilisés selon leur droit intégral, en tant qu’individus responsables, sont étroitement unis pour composer une organisation au sein de laquelle ils interviennent comme autant de pignons, de leviers et de bielles, il importe peu que leur matière première soit constituée par de la chair et des os.

Tout ce qui est utilisé en tant qu’élément d’un dispositif machinal est un élément de la machine. Tant que nous confierons nos décisions à des machines métalliques ou bien à ces immenses appareils mécaniques vivants que sont les bureaux, les laboratoires, les armées et les corporations, nous ne recevrons jamais de justes réponses à nos questions à moins de poser enfin des questions justes. » (Wiener, 1952, p.263)

Ainsi, redistribuant le sens, expérimentant et anticipant les usages dans l’ordre de la fiction, le mythe interroge. Il dit les limites du rêve cybernétique et oblige à questionner la relation de l’homme et de la technique : «Quel est le statut de l’homme et de l’objet dans un monde envahi par les choses, où « le voile d’artificialité » de la production industrielle s’introduit entre l’être et les choses ? (Moles, 1971, p.250). Jusqu’où l’homme est-il maître des choses, de ses créations comme de la vie et du destin ? Jusqu’où une procédure de contrôle est-elle possible ? L’homme peut-il programmer une machine de manière adéquate alors qu’il ignore sa programmation véritable ? » ou, plus précisément : « Pourquoi les savants atomistes du Projet Manhattan ont-ils continué à mettre au point la bombe atomique alors que le régime nazi s’était effondré ? » (Tant on sait que la mise au point de la bombe atomique révolta Wiener).

La machine, symbolisée par le mythe, se met ainsi nous interroger, échappant au silence du Golem.  Le processus de symbolisation donne à dire, comme si parole était alors donnée à la technique.

Comme l’écrit Charles Mopsik dans sa préface à God and Golem inc :« le Golem est moins le paradigme de la machine humanisée, de la matière rendue animée et programmée, que le symbole de la méconnaissance par l’homme de ses propres intentions et de ses désirs véritables. » (Wiener, 2000, p.14)

Ainsi, tels le Golem de Prague, les savants atomistes du Projet Manhattan allèrent jusqu’au bout de la tâche pour laquelle ils s’étaient programmés : la mise au point de la bombe atomique, alors même que leur but initial, vaincre l’Allemagne nazie avait été atteint. La bombe atomique lâchée sur Hiroshima et Nagazaki fut utilisée pour une destruction autre que celle qui avait été programmée.

Golem et médiation

Le mythe met en scène la relation entre l’homme et la technique. Il l’organise, jouant un rôle médiateur. De fait, le Golem, « masse informe », « vide d’âme » mais aussi modelé par l’homme, être transitoire, être de transition, est lui-même, comme le montre Philippe Breton, une figure médiatrice (Breton, 1995, p.153)  entre :

-  l’humain et le divin, puisqu’il lie conception magico-technique et Création.

les hommes eux-mêmes : le Golem, placé au service de la  communauté des juifs de Prague, est là  pour aider à sa survie. De fait, à l’exemple du Golem, toute machine produit du lien social. Elle engage dans une aventure collective et regroupe autour d’elle une société.

entre l’homme et la technique. Le Golem suggère finalement le destin lié de l’homme et de la technique. L’outil n’est pas un simple instrument qui prolonge l’homme, il est une part de son être. Il y a, en effet, une « ontologie technique » (selon l’expression de Gilbert Simondon). L’être de l’homme et celui de la machine sont mêlés. Telle est la leçon du Golem : celui-ci doit son existence a la main dont il est issu  et qui peut, à tout instant, le détruire, le ramener à la poussière d'où elle l'a extrait. La légende du Golem nous apprend la part humaine de la machine qui, si elle est souvent pour nous « l’étrangère », porte néanmoins la marque de « l'humain méconnu », la marque ontologique : « (…) la machine est l’étrangère ; c’est l’étrangère en laquelle est enfermé de l’humain, méconnu, matérialisé, asservi, mais restant pourtant de l’humain. » (Simondon, 1958, p.9)

Dans l’ordre de l’imaginaire, le Golem médiateur assure le passage entre l’être de l’homme et celui de la machine. En greffant sur la machine une marque ontologique, il permet à l’homme de se l’approprier symboliquement.

La légende du Golem permet de lire les possibilités et les limites de la cybernétique, en expérimentant les virtualités, les usages de celle-ci dans l’ordre de la fiction.  Ainsi, elle redonne sens au mythe tout en instituant socialement la technique par le biais de l’imaginaire. Ce sens est ontologique : notre être se lit aussi dans l’être de la machine. Dans la civilisation industrielle et post-industrielle, ce n’est pas un monstre, créature des dieux, qui, tel le sphinx du mythe grec, détient la vérité de l’énigme humaine mais une figure artificielle, un être magico-technique, le Golem.

Mais quel est le sens de ce lien qui nous relie à la technique ? Quel est le sens de la médiation opérée par le Golem, lorsqu’on ne sait plus, au bout du compte, si  c’est la machine qui porte l’empreinte humaine ou l’homme qui porte la marque symbolique de celle-ci ? Lorsque se brouille la relation entre l’homme et la technique. Lorsque la légende affirme, de la même façon, la force créatrice du langage, que celle-ci permette à l’homme d’animer le Golem en usant du nom de Dieu, d’identifier l’être et la machine à des êtres informationnels ou, plus généralement, d’instituer la technique.

La légende du Golem nous invite moins à nous arrêter à la réponse figée d’une énigme qu’à nous mesurer à l’ouverture infinie d’une question, la question de nous-mêmes. Lorsque la cybernétique acquiert la valeur symbolique d’un acte de Création qui redistribue la relation de l’homme et la machine, le processus d’innovation technique ne peut qu’entrer « en collision » avec la question ontologique au point de faire voler en éclats nos anciens cadres de pensée.

Notes

(1) J-M Schaeffer, Pourquoi la fiction?, Paris, Seuil,  1999, p.212 "le mode d'opération de la fiction (sous toutes ses formes) est celui d'une modélisation mimétique."

(2) Comme le montre le contenu des conférences Macy qui fondent la cybernétique. CF S J Heims, The Cybernetics group, 1946-1953, Cambridge, Massachusetts, MIT Press, 1991

Références bibliographiques

Breton, Philippe (1995), A l’image de l’homme, Paris : Seuil.

Faucheux, Michel (2005), « Technologiques », Communication § langages, Paris : Colin, n°143, p.61-70.

Gras, Alain (2003), Fragilité de la puissance, Paris : Fayard.

Heims, Steve Joshua (1991), The Cybernetics group, 1946-1953, Cambridge, Massachusetts: MIT Press.

Hottois, Gilbert, (1984), Le signe et  la technique, Paris : Aubier.

Idel, Moshe, (1992), Le Golem, Paris: Cerf

Lafontaine, Cécile (2004),  L’empire cybernétique, Paris : Seuil.

Meyrinck, Gustav, (2003), Le Golem, Paris : GF Flammarion.

Moles, Abraham (1971), « Le judaïsme et les choses. Le Golem, une attitude juive par rapport aux choses »,  Tentations et actions de la conscience juive, Paris : PUF.

Schaeffer, Jean Marie, (1999), Pourquoi la fiction? , Paris : Seuil.

Scholem, Gershom, « Le Golem de Prague et le Golem de Rehovot » , (p.471-478), in Le messianisme juif, Paris : Calmann-Levy

Scholem, Gershom, (1980),  La Kabbale et sa symbolique, Paris : Petite bibliothèque Payot.

Sherwin, Byron L, (1985), The legend of the Golem: Origins and implications, University Press of America: Lanham.

Simondon, Gilbert (1958), Du mode d’existence des objets techniques, Paris : Aubier.

Wiener, Norbert, (1948), Cybernetics or control and communication in the Animal and the Machine, The MIT Press : Cambridge.

Wiener, Norbert, (1952), Cybernétique et société, Paris : Edition des deux Rives.

Wiener, Norbert, (2000), God & Golem inc., Nîmes : Editions de L’éclat.