Imprimer en version PDF

La morale éclairée des cyborgs

Scène de la troisième saison de Black Mirror (2016), série télévisée britannique créée par Charlie Brooker. ©Neflix

Résumé

La puissance exponentielle infinie de la dernière version d’AlphaGoZéro nous donne à penser que tous les modes de vie vont connaître des changements tout aussi rapides. Elle nous invite à relire la zéroième loi d’Asimov en opposant à la tentation d’une IA autonome celle d’une société de cyborgs éthiques, d’amour ou de mort, qui se pensent comme des hybrides de chair et de technologie dans leur limitation même.

Summary

The endless exponential power of the latest version of AlphaGo Zero suggests that all lifestyles will undergo just as rapid changes. She invites us to reread Asimov’s Zeroth law by opposing the temptation of an autonomous AI to that of a society of ethical cyborgs, of love or death, who think of themselves as hybrids of flesh and technology in their limitation even.

La légende dorée de la science-fiction se plaît à raconter que si Rick Deckard, le célèbre Blade Runner du roman de Philip K. Dick, s’enfuit avec la réplicante Rachel dont il est tombé amoureux, c’est qu’il est lui-même un androïde humanisé ou un humain hybridé des technologies de son temps. Un cyborg, donc ! Comme vous et moi ! Là est, à mes yeux, le cœur de la question qui se pose à nous aujourd’hui : devenir cyborgs ou être remplacés par des IA sans organes, qui trouvent leurs modèles dans les anges à tout faire de l’Ancien ou du Nouveau Testament ?

On peut formuler ce dilemme shakespearien de notre temps en ces termes :

  • Soit nous continuons à penser, suivant la vieille tradition platonico-chrétienne que poursuit, in fine, The Singularity University de Ray Kurzweil, l’IA comme le double idéal et idéaliste de l’homme que le cogito de l’Occident cartésien réduit à une « substance pensante », et alors il y a de grands risques que nous ayons assez rapidement envie de nous délivrer du « bourbier sensible » d’une organicité éprouvée comme sale, handicapante et obsolète. Ne sommes-nous pas déjà devenus tellement épris et dépendants des « objeux1 » connectés au Big Data, toujours plus beaux, intelligents et performants, qui nous entourent que nous préférons leur compagnie à celle de nos frères humains qui, en regard, paraissent mornes ?
  • Soit nous osons penser, selon une tradition philosophique qui va de Lucrèce à Sloterdijck, en passant par Rousseau, Nietzsche ou Rosset, que l’Homo faber a toujours été en même temps sapiens et demens ; et qu’il est donc, en tant que cyborg assumé, le rejeton « le plus merveilleux2 » d’un cosmos qui, le grec le dit bien, est de part en part tout aussi cosmétique qu’harmonieux.

« To be or not to be cyborgs ? » Telle est la question que nous pose aujourd’hui le Sphinx que notre monde de l’art(ifice) sécrète comme son symbole-symptôme fondamental ! Les avancées exponentielles des IA, hybridées à celles, tout aussi exponentielles, des biotechnologies, nous permettent en effet d’envisager la mise en œuvre à très grande échelle des Talos, Pandore, servantes d’or et autres robots, cyborgs ou dispositifs autonomes, que nous pensions réservés à Héphaïstos, le dieu forgeron boiteux et prodigieux d’Homère, et à ses épigones tout aussi ingénieux que fantasques. Elles nous donnent à comprendre que le « réel » est, et a toujours été en même temps, le « symbolique », le « fantastique » et le « virtuel » ; et qu’il est urgent aujourd’hui de penser son ambivalence et son ambiguïté, si nous ne voulons pas être les victimes de notre propre ingéniosité.

Ce sont, à mes yeux d’esthéticien, les œuvres d’art ou littéraires qui s’avèrent les meilleurs sismographes d’une époque. C’est pourquoi je m’appuierai sur les plus « fortes » d’entre elles pour tenter de repenser, à nouveaux frais, les trois lois qu’Asimov impose à ses « robots positroniques », qui, du moins pour certains d’entre eux, se révèlent plus humains que la plupart des humains, car « désireux », in fine, de mettre en œuvre l’« impératif catégorique mélioriste » de la « loi zéro » de sa robotique : « Un robot ne peut par son action mettre l’humanité en danger, ni, restant passif, laisser l’humanité en danger. »

Les trois lois de la robotique, selon Isaac Asimov, subsumées sous l’impératif cyborgien de la zéroième loi

Dès sa nouvelle « Robbie », publiée sous le titre « Strange Playfellow » en 1940, Asimov défend l’idée qu’un robot est par principe conçu pour être serviable, aimable et aimant. En l’occurrence, Robbie est une sorte de nounou veillant nuit et jour sur une fillette. Bien loin de se réduire à l’« esclave-navette » d’Aristote, qui joue le rôle de parangon ou d’alibi philosophique de la plupart des régimes esclavagistes, Robbie – et ses frères – est un compagnon de jeu et de vie tout particulièrement attentionné et affectueux, qui se révèle indispensable, quoique remplaçable, à toute la famille. Si la robologie d’Asimov trouve un grand écho dans la culture animiste de l’Asie, notamment dans un pays vieillissant comme le Japon, elle heurte celle, dominante dans l’Occident judéo-chrétien, d’un golem, Frankenstein, puis HAL ou agent Smith, prêts à se retourner contre leurs créateurs, qui auraient péché par orgueil en rivalisant avec Dieu, le seul véritable Créateur digne de ce nom. C’est ainsi que, peu à peu, les personnages de ses nouvelles, romans ou essais l’amènent à formuler les trois lois de sa robotique :

  • Première loi : Un robot ne peut blesser un être humain ni, par son inaction, permettre qu’un humain soit blessé.
  • Deuxième loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.
  • Troisième loi : Un robot doit protéger sa propre existence aussi longtemps qu’une telle protection n’est pas en contradiction avec la première ou la deuxième loi.

Face à la complexité des situations concrètes, la plupart des robots d’Asimov, plus particulièrement bien sûr ceux dits « polyvalents », en viennent à « éprouver » l’(in)compatibilité de ces trois lois ; et donc à hésiter ou à bugger sur la marche (le choix ?) à suivre. Pourquoi et comment un robot doué d’un cerveau positronique – on dira aujourd’hui d’une potentialité (in)finie de deep learning – se retrouve-t-il en proie à des doutes « existentiels » ou « moraux » ? Dans la plupart des romans d’Isaac Asimov, les personnages principaux, robots comme humains, se retrouvent confrontés à des problèmes de choix que les stoïciens du Portique subsumaient sous la catégorie des « préférables ». Pour être le plus concis et clair possible, je focaliserai mon analyse sur l’exemple d’Andrew Martin, alias NDR-113, dans la nouvelle « L’homme bicentenaire » de 19763, car il est assurément le plus complexe et donc le plus intéressant de ses personnages.

Le devenir-cyborg bicentenaire d’NDR-113

La nouvelle débute par une scène tout particulièrement émouvante et troublante : « Andrew Martin, au visage uni et inexpressif – même si un observateur pénétrant eût pu s’imaginer déceler une pointe de mélancolie dans son regard – », demande à un robot-chirurgien au visage en acier inoxydable, légèrement teinté de bronze et « encérébré », c’est-à-dire au cerveau indépendant, « car les gens aimaient encore avoir l’illusion que c’était un individu qui les opérait, même s’ils savaient que la compétence de ses longs doigts de métal reposait sur le fait qu’il soit un membre parfaitement diligent d’une Unité centrale », de pratiquer sur son cerveau positronique d’androïde bicentenaire une opération destinée à le rendre mortel ; et pleinement « humain » par le fait même.

Si le robot-chirurgien accède à la requête, d’euthanasie in fine, d’Andrew Martin, c’est parce qu’elle lui semble être donnée par un être humain et qu’elle porte sur un robot dont il est le propriétaire, car « rien dans la première loi n’interdit à un robot d’intervenir sur un autre robot, même si cette intervention doit lui causer du tort ».

Cette ouverture fonctionne comme une « petite madeleine étrangement inquiétante (unheimlich) ». Elle invite en effet le narrateur, mis en demeure d’être lui-même un androïde ou un cyborg plus que bicentenaire, à raconter comment le robot NDR-113, produit sur les chaînes de The United States Robots and Mechanical Men, est devenu Andrew Martin, un être humain reconnu comme un être humain par le « coordinateur mondial » devant plus d’un milliard de téléspectateurs. C’est-à-dire « tout un cyborg, fait de tous les cyborgs et qui les vaut tous et que vaut n’importe qui », pour le dire d’après les mots si justes de l’existentialisme de Jean-Paul Sartre.

Acheté par le très riche et influent Gérald Martin, membre de l’assemblée législative et président du Comité des sciences et technologies, le robot domestique numéro de série NDR-113, fabriqué par l’entreprise United States Robots and Mechanical Men, est très vite adopté par la famille Martin comme un compagnon fiable, vigilant et même attentionné. La plus jeune des filles Martin, Amanda, transforme aussitôt son matricule NDR-113 en « Andrew » : un prénom américain plus facile à comprendre et à prononcer, car commun et familier. C’est ainsi qu’Andrew devient le confident, le majordome, puis, au fil des années, l’ami et le membre le plus « ancien » de la famille Martin. Son ancêtre tutélaire ou « pater familias », en somme !

En transformant un bout de bois trouvé sur la plage par « Petite Mademoiselle » en une magnifique sculpture en forme de pendentif, Andrew Martin fait montre de talents artistiques qui vont le pousser à créer de nouvelles œuvres, de plus en plus belles et prisées, comme autant d’œuvres d’art. C’est ainsi qu’il devient un « artiste riche » ; ce qui lui permet de s’installer dans sa propre maison, qu’il fait construire dans l’immense parc des Martin, d’ouvrir un compte bancaire et d’acquérir une autonomie de plus en plus importante. Autant d’actes performatifs qui l’amèneront à demander sa liberté à Gérald Martin, dans un processus qui n’est pas sans rappeler l’affranchissement de quelques esclaves tout particulièrement talentueux et méritants de l’Antiquité. Après de nombreux procès, qui permettent à Andrew d’obtenir la reconnaissance de sa liberté tout en mettant en évidence le défaut/qualité de sa polyvalence – ce qui conduira l’entreprise à arrêter la production de ce type de robots –, Andrew éprouve le désir de porter des vêtements. Une étape décisive – tous les anthropologues nous rappellent qu’il n’est d’homme que vêtu – qui l’invite à vouloir ressembler à ses frères humains, en remplaçant tous ses organes de titane, sauf le cerveau, par ceux, putrescibles, d’un « androïde » tout aussi indiscernable d’un être humain que la banane dorée de scotch d’art de Maurizio Cattelan de celles exposées sur les étals des marchands de fruits. De plus en plus intelligent, efficace et… compatissant, il conçoit toutes sortes de prothèses qui permettent à ses frères humains de vivre beaucoup plus longtemps en bonne santé. De retour d’un voyage sur la Lune, où il est reçu en grande pompe comme l’un des plus grands bienfaiteurs de l’humanité, Andrew veut obtenir le statut juridique d’être humain ; et il se rend alors compte qu’il ne pourra y parvenir qu’en devenant « mortel ».

C’était, on le comprend à la fin de la nouvelle, la demande qu’il faisait au robot-chirurgien lors de la première scène que nous avons évoquée au début de cet article : lier les dispositifs de son cerveau positronique immortel à son métabolisme, devenu organique lors des opérations précédentes et donc sensible à l’usure ou à la fatigue, et donc le rendre mortel. Et, tandis que Li-Hsing, la juge de la Cour internationale des droits de l’homme qui avait pris fait et cause pour lui, lui tient la main en pleurant dans ses derniers instants, sa dernière pensée est pour « Amanda, Petite Mademoiselle », « la première personne qui l’avait reconnu pour ce qu’il était vraiment quelque deux cents ans auparavant… » « Elle lui souriait… lui faisait signe… l’attendait. » Andrew a la mort douce et sereine de ceux qui ont réalisé leurs talents.

Grâce aux réalisations qui lui ont permis d’être élevé au rang des plus grands bienfaiteurs de l’humanité, Andrew Martin donne à la loi zéro : « Un robot ne peut par son action mettre l’humanité en danger, ni, restant passif, laisser l’humanité en danger », une tournure que je dirais, avec la philosophie du bonheur d’Alain, « résolument optimiste » dans son éthique même. Tout se passe comme si son devenir-humain l’avait amené à transformer les trois lois – qui régissent de manière restrictive le comportement des robots afin qu’ils ne puissent jamais faire de mal aux êtres humains – en une maxime d’optimisation de la bienfaisance. Non plus un impératif catégorique d’un Souverain Bien, « dût le monde en périr (fiat justicia pereat mundus) », dont la morale kantienne délivre la quintessence, mais tout au contraire un impératif, tant catégorique qu’hypothétique, du « Bonus Eventus » romain puis chrétien, prenant en compte la conséquence de tel ou tel choix en faisant appel au calcul des probabilités.

C’est pourquoi « L’homme bicentenaire » pousse Asimov à proposer, dans les romans et essais qui suivent, une nouvelle version des trois lois qu’on pourrait qualifier, en faisant référence à l’humanisme situationniste de l’existentialisme sartrien, de « cyborgisme humaniste ». À l’image d’Andrew Martin, tout cyborg, ayant par principe accès au Big Data, serait – et donc devrait être – à même de prendre, en quelque domaine ou situation que ce soit, la décision la meilleure, c’est-à-dire la plus bénéfique non seulement pour lui et ses proches, mais aussi et en même temps pour l’humanité et, par voie de conséquence, pour l’univers en général. Tout se passe donc comme si Andrew Martin était devenu un « cyborg éthique ». Un cyborg qui veut, hic et nunc, que la maxime de son action soit érigée en loi universelle d’un univers pensé, non plus à la mode piéto-kantienne, comme le « mal radical d’une vallée de larmes », mais, au contraire, dans un esprit tout autant lucrécien que stoïcien, spinoziste, leibnizien ou darwinien, comme un cosmos que chacun doit s’efforcer de rendre plus beau pour tous ceux qui y vivent et y vivront ! Un cyborg qui se vit comme le citoyen d’un monde et qui déclare haut, fort et performativement : « Make the world great again ! »

Une nouvelle déclaration des droits et devoirs du cyborg, qui nous invite à reposer, à nouveau frais, l’une des plus immémoriales questions de la philosophie et de l’histoire : celle du mal. À repenser avec le Socrate du Protagoras que si « nul être humain n’est méchant volontairement », mais par ignorance et une incapacité constitutive à prévoir à long terme les conséquences de ses actes pour l’univers et donc lui-même, qui en est une partie, on peut espérer, avec un certain nombre de transhumanistes dont les idéaux émanent de ceux des Lumières, que des cyborgs de mieux en mieux hybridés au Big Data devraient être en mesure de faire des choix plus judicieux ou justes et de rendre le monde meilleur.

C’est cet enjeu qui anime aujourd’hui la plupart des bons romans, films ou séries de science-fiction comme de toutes les entreprises d’intelligence artificielle et qu’il nous faut maintenant mettre à l’épreuve en analysant les modes d’être des cyborgs éthiques, toujours plus beaux, perspicaces, performants et bienveillants, dans trois domaines tout particulièrement exemplaires : celui des transports, de la santé et de la guerre…

Boris Karloff dans Frankenstein, film américain réalisé par James Whale et sorti en 1931. ©Universal Picture

De quelques cyborgs éthiques tout particulièrement diligents
Aux figures maléfiques du golem, de Frankenstein, d’HAL 9000, le célèbre cerveau supercalculateur en forme d’œil du vaisseau spatial Discovery de 2001 : l’Odyssée de l’espace, des androïdes Ava ou Kyoko d’Ex Machina, etc., qui se retournent avec violence contre leurs créateurs, diabolisés comme prométhéens, lucifériens ou faustiens par la tradition platonico-judéo-chrétienne dominante en Occident, s’opposent celles, fondamentalement bénéfiques, des cyborgs d’une Asie animiste : le Japon depuis toujours, la Chine depuis le retour à Confucius, voire à Bouddha, opéré par Deng Xiaoping.

Des automates (karakuri) populaires du XVIIe siècle aux Aibo, Nao, Pepper, Asimo, Enon, etc., des androïdes toujours plus beaux et performants veillent avec le plus grand soin au mieux-être de leurs concitoyens, qui, en retour, les considèrent comme de véritables compagnons et n’hésitent pas, à l’image d’Andrew, à les faire réparer en clinique, voire à leur donner des funérailles traditionnelles. Plus « humains » que beaucoup d’humains, ces cyborgs éthiques d’Asie ont peu à peu transmis leurs gènes animistes à ceux d’Occident. Ils stimulent aujourd’hui les réflexions de très nombreux chercheurs du deep learning dans la plupart des domaines. Des cyborgs d’amour pandoriens de Blade Runner, IA, Real Humans, Westworld, Her, Black Mirror, etc., à ceux de mort des Terminators de Cameron & Co. ou aux « lethal autonomous weapons systems » des grandes puissances militaires américaines, russes ou françaises, en passant par les cyborgs de santé et de soin d’Alan Winfield ou Susan et Michael Anderson, ceux de transport d’Elon Musk ou Patrick Lin, ceux domotiques de Google ou Amazon, etc. J’en analyserai les trois visages qui me paraissent les plus exemplaires de notre temps…

Cyborgs d’amour

Dans nombre de films ou de séries au succès international de ces dernières années, on voit apparaître des androïdes d’amour dont l’extraordinaire performativité semble venue de celle de Gabriel, l’ange d’amour le plus fameux de l’Occident, dont l’« Ave » changea la face du monde en faisant illico presto de Marie la mère de Dieu. Parmi les successeurs les plus brillants de l’archange – qui, lui-même, semble hériter des prouesses de Zeus se métamorphosant en pluie d’or pour combler une Danaé ravie aux anges ou en Amphitryon pour faire l’amour à sa femme Alcmène, tout aussi ravie –, je m’en tiendrai ici à l’androïde Ash, qui vient « doubler » un mari éponyme défunt auprès de sa femme, Martha, dans le premier épisode, intitulé Be Right Back, de la deuxième saison de Black Mirror, réalisée en 2011 par Charlie Brooker.

Cet épisode très réussi de Black Mirror donne à voir l’éducation sentimentale d’une Martha du XXIe siècle, une jeune femme désespérée et certainement aussi culpabilisée par la mort accidentelle de son mari, Ash. Pour tenter de la consoler, son amie Sarah l’inscrit sur un site numérique qui propose de reconstituer des identités numériques à partir des traces de courriels et de navigations laissées sur le Web. Après un refus de principe, Martha se laisse « prendre » par cette voix si bien reconstituée, qui semble l’écho de celle d’Ash. Mieux ! les propos synthétisés du double, rené, tel Dionysos, Jésus ou le phœnix, de ses cendres (ashes), ont une densité synthétique, une pertinence et un intérêt que ceux de l’original n’ont jamais eus. De telle sorte que Martha – à l’image du Theodore/Joaquin Phœnix rencontrant, dans la voix de l’IA Samantha, un substitut divin (Her) à son épouse qui l’a quitté dans le film éponyme de Spike Jonze (2013) – devient très vite « accro » aux appels du double d’Ash. Est-ce pour cela qu’elle laisse tomber son téléphone juste après lui avoir dit qu’elle était enceinte de lui dans une sorte d’« acte manqué » ? C’est possible mais pas certain ! Quoi qu’il en soit, Martha décide alors de se faire livrer un androïde aux traits d’Ash. Après un protocole de mise en marche dans une baignoire, dont l’« inquiétante étrangeté » n’est pas sans rappeler les rites du baptême par immersion que perpétue la religion orthodoxe, le double s’avère tellement performant dans tous les domaines, de ses exploits d’amant jamais fatigué ni lassé à sa conversation toujours bien informée, en passant par sa disponibilité sans faille, que Martha, cette fois-ci sans doute plus à l’image de Roxane, découvrant que Christian n’était que le beau double insipide de Cyrano dans la pièce d’Edmond Rostand, s’ennuie de sa perfection sans âme ni faille. Ne se résolvant point pour autant à s’en débarrasser dans une déchetterie, comme le fait in fine Monica Martin avec son fils androïde David dans le film AI (Steven Spielberg, 2001), elle le cache et le confine dans le grenier de la maison, où « sa » fille va le voir de temps en temps. « Be right back » : c’est cette phrase du double d’Ash qui donne son titre à l’épisode. On peut la traduire ainsi : « à tout de suite » ou, mieux, « je reviens tout de suite ». Reste à savoir quel est ce « je » qui revient et, plus précisément, sous quelle forme il revient ! S’agit-il d’un revenant d’un nouveau genre ? D’un androïde numérique ? D’une simulation ? D’un simulateur habile à rivaliser avec les artistes miméticiens « pasophoi » de Platon, qui pouvaient imiter, tels des miroirs flatteurs, tout ce qu’ils voyaient ? D’un simulacre auquel l’IA donnerait un savoir et un pouvoir quasiment infinis ? Faut-il alors comprendre ce simulacre comme un phantasme illusoire et donc une projection de nos désirs plus ou moins inavoués, comme nous invite à le faire la puissante tradition platonicienne ? Ou bien comme une rencontre, plus ou moins éphémère et réussie, entre des émanations d’êtres précaires et en voie de disparition plus ou moins avancée, comme nous y invite celle des atomistes, reprise par Épicure et Lucrèce ? C’est à ces questions immémoriales, qui font le terroir des dieux, anges, esprits ou démons, que nous confrontent aujourd’hui ces « Christian de l’IA » qui semblent avoir une âme habile à faire vibrer, pour le meilleur comme pour le pire, nos âmes de Roxane.

Theodore, héros de Her, film de Spike Jonze sorti en 2013. ©Warner Bros

Cyborgs de guerre et de transport

Des anges exterminateurs de Sodome et Gomorrhe ou de l’Apocalypse aux dernières « lethal autonomous weapons systems », auxquels le Pentagone a consacré un budget de 19 milliards de dollars en 2018, tandis que la Chine a voté cette même année un budget de 180 milliards d’euros pour moderniser son armée et qu’une partie des 32 milliards d’euros que la France alloue à son armée porte sur un programme de « petits robots tactiques polyvalents », en passant par les Terminators toujours plus sophistiqués et déterminés de Cameron & Co., les Robocops de Verhoeven ou Padilha, ou le non moins fameux Talos conçu par Héphaïstos pour protéger la Crète de Minos, les robots de guerre sont en passe de remplacer soldats, policiers ou gendarmes dans de nombreux pays. Aux « enfants de la patrie » sentant que le jour de gloire était arrivé, où ils abreuveraient leurs sillons du sang impur des féroces soldats ennemis, succèdent des « cyborgs-blade runners » bardés de toutes sortes d’armes (fusils, drones, missiles, avions, robots furtifs) capables de « reconnaître » à des distances toujours plus grandes les « cibles » qu’ils ont pour mission d’éliminer. L’esprit optimiste des Lumières peut tout naturellement nous amener à penser que ces cyborgs ne seront plus animés par l’hubris de la violence qui, Platon a bien décrit cette ambivalence du thumos, est le pendant du courage. Les colères d’Hercule ou d’Achille délivrent certainement les exemples les plus célèbres de cet élan héroïque qui se transforme en une furie provoquant le plus souvent d’effroyables massacres collatéraux. Quant à la violence froide, implacable ou mécanique, dont font montre la plupart des Terminators ou HAL d’Occident, on peut imaginer qu’elle relève d’une projection humaine, trop humaine. Les vraies questions pertinentes sont donc, d’une part, celle de l’apprentissage – deep learning – des protocoles de reconnaissance des cibles mis en œuvre par tel ou tel type d’intelligence artificielle et, d’autre part, celle de déterminer à qui doit revenir la décision finale.

S’il est impossible de savoir avec certitude les avancées effectives des services concernés des armées des grandes puissances, où la thèse du « Centaur Warfighting », selon laquelle c’est l’homme qui décide du final cut, semble prévaloir, l’étude de celles des voitures autonomes est beaucoup plus accessible et pose in fine les mêmes questions.

Munies de capteurs toujours plus sensibles – qui « perçoivent » des millions d’informations, ayant trait au trafic des autres véhicules ou des piétons comme à l’état des routes, des panneaux de signalisation, de la météo, etc., et qui sont analysées en temps réel par une IA à laquelle a été transmis un itinéraire –, nombre de voitures autonomes conçues par presque tous les grands constructeurs, voire même Google, roulent depuis une décennie sur les routes du monde entier sans (presque) aucun encombre. En effet, la puissance d’analyse d’un pilote automatique hybridé, en temps réel, au Big Data des données nécessaires à acheminer ses passagers à la destination enregistrée est incommensurablement supérieure à celle d’un être humain. Dans tous les cas, même un pilote de formule 1 subirait la même humiliation que le champion du monde d’échecs Garry Kasparov, battu par un Deep Blue (IBM) le 11 mai 1997, ou encore le champion du monde de go Lee Sedol, battu en 2016 100 à 0 par AlphaGo (Google), car ces IA « connaissaient par cœur » des millions de parties d’échecs ou de go, dont bien sûr celles de leurs adversaires. Et il n’est pas sans intérêt de noter ici que la dernière version d’AlphaGo, développée cette année par la filiale DeepMind britannique, est déjà infiniment supérieure à sa grande sœur, car elle n’a même plus besoin d’apprendre les parties de go des humains et peut jouer contre elle-même. Est-ce pour cela qu’elle s’appelle « Zéro » ? Comment comprendre ce « zéro » ? L’humain devrait-il se passer de « lui-même » pour vivre mieux, quitte à ne plus vivre ? S’il n’y a plus besoin d’un « animal raisonnable » pour conduire une voiture, piloter un avion, jouer aux échecs ou au go, converser, faire l’amour…, l’humanité ne doit-elle pas céder la place aux « fées bleues » d’AI (Stanley Kubrick, Steven Spielberg, 2001) ? Qui d’autre, aujourd’hui, que des fées bleues pourraient brider l’hubris de chefs d’État ou d’hommes politiques populistes – Trump aux USA, Boris Johnson en Angleterre, Salvini en Italie, Le Pen en France, etc. –, qui ne semblent justement n’avoir été élus que pour catastropher la planète ?

La puissance exponentielle infinie d’AlphaGoZéro nous donne à penser que tous les modes de vie vont connaître, dans tous les domaines, des changements tout aussi rapides. Elle nous invite à relire la zéroième loi d’Asimov en opposant à la tentation d’une IA entièrement autonome et, in fine, inorganique, celle d’une société de cyborgs qui se pensent comme des hybrides de chair et de technologie dans leur limitation même.
Ray Kurzweil, qui dirige les recherches sur l’IA chez Google et qui a fondé, avec Peter Diamantis, The Singularity University de la Silicon Valley, s’avère, tant dans ses livres que dans ses inventions, la figure la plus paradigmatique des transhumanistes, qui veulent éradiquer l’organique et le remplacer par des matériaux plus fiables et… éternels. La plupart des prédictions qu’il a faites, notamment sur le wifi et les thérapies génétiques, il y a quarante ans, alors qu’il était étudiant au MIT, se sont réalisées. Aujourd’hui, il maintient que la prochaine décennie sera celle de la « Singularité », c’est-à-dire d’une fusion si réussie entre le néocortex et l’intelligence artificielle que le corps deviendra irrémissiblement obsolète ; et que ce sont des êtres numériques qui prendront la relève de « l’animal (dé)raisonnable ».

À cette thèse, qui s’enracine, on l’a vu, dans la vieille tradition idéaliste platonico-chrétienne, selon laquelle le corps est la prison trompeuse et peccamineuse de l’esprit, j’oppose celle d’un cyborgisme humaniste qui s’efforce de rendre le cosmos toujours plus cosmétique, durable et juste.

  1. Pour le dire avec Francis Ponge.
  2. Selon le mot fameux du chœur de l’Antigone de Sophocle.
  3. Et non du roman du même nom qu’il écrira un peu plus tard (en 1992) avec Robert Silverberg.

Partager sur facebook
Partager sur twitter
Partager sur linkedin
Partager sur pinterest
libero lectus commodo eget libero. facilisis elit.