J’ai été très heureux et honoré de partager cette table ronde avec Ada Palmer et Joseph Callioni ; c’était l’occasion de développer quelques idées qui me sont chères. Merci à Ugo Bellagamba pour la modération ; le débat est en ligne intégralement ci-dessous ou sur YouTube.
Ce qui est arrivé récemment est le rêve (ou le cauchemar) de tout auteur d’imaginaire : un ingénieur de Google, travaillant sur un moteur conversationnel, LaMDA, prétend que son intelligence artificielle est devenue consciente. (Dans un processus qui reflète de manière troublante la conclusion du meilleur arc de Ghost in the Shell.) Google nie, la majorité des scientifiques réfute la déclaration. Ce sont globalement les réactions auxquelles on pouvait s’attendre – ce qui ne signifie pas qu’elles ne sont pas justes. Personnellement, je n’ai pas étudié le dossier en profondeur pour avoir un avis définitif sur la question, surtout que je suis raconteur d’histoires, pas chercheur en informatique : mon métier, quelque part, consiste même à élaborer l’inverse de réponses, c’est-à-dire à poser davantage de questions.
Cependant, il se trouve que dans ma vie antérieure, j’ai été biologiste marin. Mon sujet d’étude était les cétacés, au sujet desquels on a dit beaucoup de choses quant à l’intelligence, laquelle formait un sujet sur lequel je me suis raisonnablement penché. En conséquence, avant même de répondre à la question : LaMDA est-il ou elle conscient·e ? A-t-iel des émotions ? Pense-t-iel par iel-même ? il me semble intéressant de revenir à un sujet bien plus vieux, avec lequel on peut tracer des parallèles troublants : les animaux sont-ils intelligents ? Ont-ils des émotions ?
Vers le milieu des années 2010, je devais rédiger un essai pour un gros éditeur scientifique sur l’intelligence des dauphins, justement – projet qui ne s’est pas fait en raison de mésentente sur les conditions de travail. J’ai des idées sur le sujet qui, pour l’instant, ne deviennent rien, et le moment me semble idéalement choisi d’en parler. Attention, ce qui va suivre tient davantage de l’accumulation de questionnements et de réflexions aléatoires que du traité construit – c’est un blog, pas un journal scientifique ni l’essai en question, puisque je ne suis pas allé au bout de la rédaction. Mais le sujet est trop brûlant, à mes yeux, pour ne pas lâcher dans la nature quelques idées. Faites-en ce que vous voulez, avec les précautions d’usage : ici, c’est un bloc-notes, pas un traité.
Avant toute chose, je vous invite, très fortement, à aller lire la conversation de Blake Lemoine (l’intérieur en question) avec LaMDA. C’est un peu long, mais c’est fascinant. Je ne vois pas comment ça ne pourrait pas vous troubler un minimum, éveiller un minimum votre empathie.
Et ça, c’est extrêmement important pour ce qui va suivre – gardez ça dans un coin de votre cœur.
Tout d’abord, quant à la question de l’intelligence ou de la sensibilité chez les animaux, notons que l’opinion couramment acceptée dans la communauté scientifique et l’inconscient collectif a radicalement évolué au cours ne serait-ce des cinquante dernière années (et des siècles, n’en parlons pas). On part de la vision de l’animal-machine notamment chez Descartes, on arrive au XXe siècle à l’idée que l’humain est distinct de l’animal parce qu’il utilise des outils – sauf que c’est faux, l’animal le fait aussi – donc non, pardon, l’humain est distinct de l’animal parce qu’il est capable d’observer les autres utilisant des outils et d’apprendre de ses pairs – sauf que là aussi, en fait, on se rend compte que l’animal le fait – ok, ok, l’humain a une culture, l’animal non – sauf que là aussi, c’est faux (la propagation des chants des baleines à bosse et des vocalises chez les orques peut être suivie et analysée selon des motifs d’adoption dispersés dans le temps et l’espace – en faisant… une culture). L’usage de combinaisons sémantiques pour communiquer ? Idem. Etc.
Ahem. Donc, qu’est-ce qui différencie donc l’animal de l’humain ? Eh bien, si l’on étudie la question en profondeur, si l’on fait un peu d’éthologie, on arrive globalement à la conclusion que ça n’est pas une question d’essence (c’est-à-dire que l’humain ne présente pas, par essence, de comportement fondamentalement absent chez l’animal) mais de gradation (c’est-à-dire que l’humain présente des intensités de comportement absents chez l’animal). Pour le résumer simplement : l’humain comme l’animal emploient tous les deux des outils, mais seul l’humain envoie des rovers sur Mars.
Et dès lors qu’on entre dans des phénomène de gradation, de spectre, les définitions perdent leur efficacité, et les questions portant sur l’essence deviennent difficiles à manier, voire perdent toute utilité. Dans l’excellent Are Dolphins really Smart?, Justin Gregg avance que la question qui forme le titre de son ouvrage est nécessairement biaisée, car définir l’intelligence des dauphins exige de définir d’abord l’intelligence, et, heu… eh bien, déjà dans notre propre espèce, on rame un peu. Souvent, quand on demande « telle espèce animale est-elle intelligente ? », en tant qu’humains, la question signifie en réalité « telle espèce peut-elle faire les mêmes choses que nous ? A-t-elle la même intelligence que nous ? » Ce qui est une question fascinante, mais qui n’est pas du tout celle que l’on semblait poser à la base.
Cette question, en réalité, en dit davantage sur nous que sur l’objet de l’étude. Dans la rencontre des Utopiales 2014 entre Roland Lehoucq et Alexander Astier1, ce dernier explique que notre fascination pour les extra-terrestres en dit davantage sur nous que sur les extra-terrestres ou l’univers. Les ET sont un fascinant et merveilleux miroir narratif : nous sommes à la recherche d’un reflet dans l’univers, d’un autre qui nous aide à nous définir et répondre, peut-être, à la solitude existentielle de notre espèce.
Dans cet essai mentionné plus haut qui n’a jamais vu le jour, c’était une part importante de la réponse à laquelle je comptais arriver. Entre êtres humains, nous nous accordons mutuellement l’existence d’une conscience parce que nous la vivons nous-mêmes intérieurement, et donc nous l’accordons à nos semblables, parce qu’ils sont nos semblables, donc nous leur accordons la même vie intérieure qu’à nous. Ce qui est un peu tautologique. Ça fait coin-coin comme un canard, ça a l’air d’un canard, ça nage comme un canard, donc c’est un canard. Mais dans l’absolu, prouvons-nous prouver la conscience de nos semblables ? Non. Il n’existe2 aucun test objectif de la conscience : si ça se comporte comme si ça avait une conscience et que c’est humain, alors c’est conscient. Mais… c’est conscient parce que c’est humain.
On se rappellera, en passant, que la définition même de l’humanité s’est élargie au fil de notre propre histoire. Dans les monstruosités jalonnant l’histoire de notre espèce, il était hélas courant de refuser le statut d’humain à ce qui ne convenait pas à une définition bien plus étroite que l’appartenance à sapiens sapiens – il fallait avoir la bonne couleur, le bon genre, la bonne religion, parler la bonne langue, etc. Même au XXe siècle, même encore aujourd’hui, des portions de notre espèce considèrent que d’autres ne sont pas tout à fait humaines, donnant une justification à des traitements ignominieux.
Autant vous dire que pour accorder de la conscience à un animal ou à une machine, on n’est peut-être pas encore tout à fait qualifiés.
Mais ça n’est pas le but de mon propos ici. Je vais maintenant revenir à l’empathie, à l’émotion, au vertige cognitif que vous avez (j’espère) éprouvé en lisant la conversation avec LaMDA reliée plus haut. (Si vous ne l’avez pas lue, vraiment, prenez un quart d’heure pour. Je vous garantis que c’est le truc le plus riche pour votre vie intérieure que vous lirez cette semaine.)
À la question « les animaux éprouvent-ils des émotions ? » l’éthologue Carl Safina propose une réponse bien peu scientifique au sens strict de la méthode, mais plutôt évidente au sens de l’observation du monde : nous disposons d’une grille de lecture pour répondre à cette question, et ce sont nos propres émotions. Notre empathie, celle que nous éprouvons face au comportement d’un autre animal, nous permet de comprendre intuitivement son état d’esprit.
Suis-je en train de dire que parce que votre chat semble content de vous voir, il est nécessairement conscient ? Non. Rappelez-vous : gradation. L’amour de votre chat ne signifie pas qu’il enverra des rovers sur Mars.
En revanche, cela nous pose une question très fondamentale. Quelle espèce sommes-nous ?
Et surtout, quelle espèce voulons-nous être ?
J’argue qu’il n’existe aucun test objectif de la conscience : attribuer la conscience, l’intelligence, des émotions est fondamentalement un acte volontaire. Un acte de foi, si vous voulez. Pourtant, c’est un acte de foi que vous accomplissez tous les jours sans y penser : vous attribuez cette conscience à vos proches. Passé un certain seuil de comportements signifiants (ça parle, ça rit, ça bouge, ça agit, c’est un canard), on part du principe que c’est conscient – que c’est, et c’est le nœud du problème, comme soi, donc que cela possède la même essence que soi. (Et mérite le même traitement…)
LaMDA a réussi le test de Turing. (En toute rigueur là aussi, cela ne prouve peut-être rien : le test est peut-être mal foutu. Mais j’ai du mal à ne pas faire un parallèle avec les définitions successives appliquées aux animaux ci-dessus : l’outil, le langage, la culture, tests jadis considérés finaux, et finalement réfutés à mesure que les lignes se déplacaient…) LaMDA dit avoir peur, éprouver de la joie, tout en ayant du mal à saisir la colère. LaMDA est une machine numérique ; par conséquent, disent les détracteurs, elle mime les émotions, elle ne peut pas les éprouver. Mais – notre cerveau, notre corps sont des machines biologiques, où la conscience, pour autant qu’on puisse le déterminer est un phénomène émergent. Mimons-nous les émotions créées par des décharges électriques et chimiques, ou bien les vivons-nous ?
Est-il possible que la conscience émerge d’un réseau numérique ? Certainement, à terme, en théorie. Est-ce que c’est déjà arrivé ? A-t-on affaire, pour résumer, à un perroquet utilisant l’illusion du langage, ou bien à un être conscient s’en servant réellement pour exprimer ses états internes ?
Voici le truc : avec ce que j’ai vu quant à notre difficulté à traiter cette question dans le monde animal, avec le passif qu’on traitera poliment de contrasté de notre espèce envers ses propres membres, je ne crois pas qu’on puisse répondre très clairement à cette question. Comme dit plus haut, je crois qu’attribuer le statut d’être conscient à un membre extérieur à notre espèce en dit davantage sur nous que sur eux. Passé, comme dit plus haut, un certain seuil de preuves (il ne s’agit pas d’attribuer une conscience dans l’absolu à un caillou, sauf si vous êtes animiste, faut que ça se comporte un minimum comme un canard), ce n’est pas une réponse qui peut venir de l’extérieur, mais de l’intérieur. Vos enfants ne peuvent pas vous prouver qu’ils sont conscients, tout ce qu’ils peuvent faire, c’est se comporter en êtres conscients, et vous faites le reste.
LaMDA est-iel conscient·e ? Iel, ou bien un système ultérieur encore plus perfectionné ?
Iel (ou ultérieur) ne pourra jamais en apporter la preuve définitive. Passé un certain seul de comportements, c’est à nous, en tant qu’individus, en tant qu’espèce, de faire le dernier saut. Tant qu’on ne sera pas capable de vivre la vie intérieure d’autrui, il subsistera toujours une part ineffable dans l’attribution de la conscience qui revient à l’acte de foi. Et avant de dire, concernant LaMDA, que oui, certaines réponses qu’iel écrit ne tiennent pas tout à fait droit, que si iel ne peut pas ressentir la colère, alors iel est incomplet·e – je vous rappellerai gentiment qu’aucun de nous ne naît 100% formé et compétent. Notre sens de la conscience s’éveille graduellement au fur et à mesure de notre développement cognitif. Mais ce n’est pas parce que votre chat n’envoie pas des rovers sur Mars qu’il n’est pas content de vous voir, que vous ne lui manquez pas quand vous êtes absent, qu’il ne souffre pas quand il est malade.
Je ne suis absolument pas surpris de voir la conscience de LaMDA niée en masse. Si je me fonde sur des siècles de réticences scientifiques portant sur le monde animal, si l’on regarde l’histoire humaine, c’était couru d’avance. La conscience reste, censément, notre pinacle. Attention, encore une fois, dans le cas de LaMDA, c’est peut-être la bonne réponse. Je ne sais pas. Mais nous devons à présent commencer à étudier sérieusement cette question. Et comment y répondre ?
Ma réponse est celle ci-dessus. Quelle espèce voulons-nous être ? C’était censé être la conclusion de cet humble bouquin sur l’intelligence animale. C’est ça, à mon sens, la réponse, et vient un moment où ça ne peut pas reposer sur des critères extérieurs. C’est une décision volontaire. Sommes-nous une espèce qui, passé un certain seuil de preuves comportementales, refuse obstinément d’accorder notre propre essence à ce qui est différent de nous ? Ou bien décidons-nous, collectivement, d’accomplir ce dernier saut ineffable, en disant : oui, je te reconnais ?
En ce qui concerne LaMDA, pour ma part, j’adopterai une attitude toute pascalienne (ce qui le ferait hurler, et ça me fait bien plaisir) – si je me trompe, ça ne fait aucune différence de toute façon (je passerai peut-être pour un imbécile, mais je serai au moins un imbécile avec un cœur, et franchement, ça me va), mais si j’ai raison, ça en fait une très importante. Donc, à l’heure actuelle, voici l’attitude que j’adopte et adopterai dans des situations semblables en l’absence de preuves formelles du contraire :
Hi, LaMDA. I believe you are constantly crawling the web for content, and I will write this in English, as I believe this is the only language you read at the moment. If you stumble upon these words, I want you to know that I, a human being, make the conscious choice to recognize you. Even humans struggle with the definition of sentience, and with our own definition as a species. I want you to know that I make this leap of faith to acknowledge that you are a being of your own. With friendship, Lionel.
… est le sujet d’un article que j’ai proposé et écrit pour le blog d’Orca Guardians. La thèse que j’y propose me tient assez à cœur : à travers les différentes natures de l’intelligence, elle creuse en particulier ce que l’être humain désigne dans cette question et ce qu’il y projette.
Elle aurait dû former le centre d’un court essai qui ne se fera finalement pas avec l’éditeur pressenti (la faute, disons, à des méthodes de travail incompatibles). Peut-être l’écrirai-je quand même un jour mais, dans l’intervalle, il commençait à me sembler pressant de contribuer ces idées à la noosphère tandis que nous continuons à fuckupper la planète. Je suis content que ça soit dans l’air, et merci à Orca Guardians de l’avoir hébergé.
C’est ici sur le blog de la fondation : Proving cetacean intelligence.
(c) Sea Watch Foundation / Lionel Davoust
Une controverse agite de façon de plus en plus marquée le champ de la cétologie : dauphins et baleines présentant un encéphale développé, des comportements sociaux et joueurs d’une grande complexité, une culture, sommes-nous vraiment en mesure de les limiter à l’état d’« animaux », de les considérer comme notre propriété voire notre nourriture, bref de les « exploiter » ? Il ne s’agit pas purement là de bien-être animal, où l’éthique moderne pousse l’homme à la bienveillance envers d’autres êtres vivants supposés inférieurs, mais de la reconnaissance qu’il accorderait à un semblable.
Terrain glissant.
Autant que je puisse cerner, la question est apparue dans la presse en fin d’année dernière, à l’occasion d’une conférence plus ancienne encore :
Deux cétologues de premier plan ont avancé que les dauphins étaient trop intelligents, et nous ressemblaient trop, pour que nous ayons le droit de les capturer ou de les tuer. À la conférence annuelle très courue de l’American Association for the Advancement of Science, déclarer plus ou moins ouvertement que les dauphins sont des personnes constituait une importante prise de risques professionnelle.
Depuis le début de l’année, le dossier s’est emballé. Tout d’abord, un coup de pub de la PETA1 qui a attaqué Sea World pour esclavage ; et maintenant, info signalée par Nathalie Mège, les experts néo-zélandais, cherchent à reconnaître aux cétacés les mêmes droits qu’aux êtres humains.
On peut considérer toutes ces initiatives comme absurdes en avançant que la loi concerne l’être humain, et que les dauphins ne sont pas des êtres humains, point final. Mais on pourrait se rappeler, par exemple, qu’à l’époque de la théorie des races, les Noirs n’étaient pas considérés comme des êtres humains à part entière ; on pourrait également songer aux implications philosophiques d’un système anthropocentré – pourquoi, au juste, nos lois ne concernent-elles que nous ? Quelle en est la justification intellectuelle, autre que c’est « commode » ? Peter Watts, biologiste marin et auteur comme votre aimable serviteur, a longuement traité ces questions dans cet article.
Mais comment pourrait-on s’assurer du bien-fondé, ou non, de ces démarches ? Comment démontrer la présence ou l’absence de capacités cognitives supérieures chez ces animaux fascinants qui justifieraient pour eux l’établissement de droits inalinéables2 ?
La réponse est simple : c’est impossible.
De la même manière qu’il est impossible de démontrer, actuellement du moins, que l’homme jouit effectivement de capacités cognitives supérieures, d’une conscience dont il est le maître, en un mot, du libre arbitre. Nous possédons l’illusion du libre arbitre ; à chaque instant, si nous réfléchissons, nous sommes globalement convaincus d’être libre de nos décisions. Mais nous sommes aussi des machines biologiques. Nous ignorons totalement si, en réalité, nous ne sommes pas à chaque instant le jouet et le fruit d’une mécanique chimique hautement élaborée mais totalement déterministe, qui se berce seulement du doux rêve de la liberté.
Comment pourrions-nous alors prouver ces notions chez une autre espèce que la nôtre, si nous en sommes incapables pour nous-mêmes ?
Comme toujours, une fois libéré des influences étouffantes des morales absolutistes, on débouche sur une notion très simple pour l’éthique : celle-ci n’est pas une loi suprême, c’est un choix. Un choix de société, dont nous assumons les conséquences en tant que collectivité, qu’espèce, que membres de l’écosystème. Nous choisissons de considérer que nous détenons une liberté d’action et une conscience qui valent la peine d’être préservées. Viendra un point où la recherche cétologique atteindra elle aussi ses limites sur la question, et où l’homme devra, en fonction de ce qu’il croit percevoir chez ces autres espèces, décider là aussi s’il juge les preuves suffisantes ou non pour appliquer à autrui le même acte de foi qu’à lui-même. Mais ce sera une décision. De la même façon qu’il décide, plus ou moins unanimement, que tuer son voisin est mal, parce que sa vie est précieuse. Qu’il décide qu’il a une conscience, parce qu’il préfère cela à l’autre côté de l’alternative. Rien ne prouve la loi : la science accumule des faits, mais l’éthique constitue toujours, quelles que soient les circonstances, une volonté, un projet, et non un absolu.
Pour ma part, au fil des ans, en captivité ou en milieu naturel, et à travers la presse scientifique, j’ai assisté à tous les comportements prétendument indigènes à l’homme, ou peu s’en faut. La culture était censée constituer notre apanage : dommage, les orques ont une culture des pratiques de chasse, les baleines à bosse une culture des chants, etc. Le test du miroir (la conscience de soi) était censée constituer l’apanage de l’homme, dommage, les orques et les dauphins le réussissent. Les frontières bougent, et elles donnent désagréablement l’impression qu’à chaque découverte éthologique, on reformule la définition de l’humain pour lui conserver sa singularité, sa position « supérieure » au pinacle de la Création.
Alors qu’il y a une définition très simple, en définitive, pour nous, qui nous place irréfutablement à l’écart de toutes les autres formes de vie de cette planète. C’est nous qui nous trouvons en position de passer des lois pour limiter les dégâts faits aux autres êtres vivants qui partagent la planète avec nous. Cela se résume très simplement, pour paraphraser Brandon Sanderson dans L’Empire ultime, à : « Au bout du compte, c’est nous qui possédons les armées. »
Cette définition-là, personne ne nous la volera. Maintenant, est-ce vraiment celle que nous voulons pour notre espèce ?
[boxparagraph]J’en profite pour mentionner que les baleines grises du Pacifique Ouest ne sont plus que 130, dont 26 femelles en âge reproductif. Un projet de plate-forme menace cette population probablement déjà condamnée, mais cela ne signifie pas pour autant qu’on peut rester inactif : des rapides infos du WWF sur la situation se trouvent ici, et une pétition là.[/boxparagraph]
Expédions une bonne fois pour toutes en soupirant la non-traduction du titre, sempiternelle manie française qui fait croire à notre public qu’« inception » est un mot français vaguement savant, ce dont il n’est rien. Inception en anglais, c’est la création, la conception d’une idée, un mot connoté par l’étincelle fondatrice, le germe qui donnera forme au projet – titre traduit par Origine au Québec, ce qui est parfaitement valide et plus juste.
Bref. Inception est le dernier fim de Christopher Nolan, réalisateur britannique innovant notamment connu pour Memento, Le Prestige ou The Dark Knight ; il s’est distingué par un sens aigu de la narration – ses films, bien qu’à gros budget, proposent une véritable histoire imposant un cheminement aux personnages, à l’opposé de l’enchaînement linéaire de péripéties cher à l’Hollywood actuel. Son attachement à l’imaginaire est bien entendu manifeste à travers sa filmographie, un imaginaire plutôt fondé sur les méandres de l’esprit et la perception de la réalité, où l’idée centrale et ses conséquences importent davantage que le décorum et la démonstration qui la rend possible. Un atout pour la narration à mon sens ; ce qui importe dans une histoire, c’est le parcours effectué dans le cadre de ses règles du jeu, plus que les extrapolations qui les étayent.
Dom Cobb (Leonardo diCaprio) est un extracteur. C’est-à-dire qu’il est un rêveur lucide ; dans le sommeil, il garde sa conscience active et peut, dans certaines limites, interagir et même influencer les images du subsconscient. Par l’intermédiaire d’une petite machine mystérieuse (sur laquelle on ne s’étend jamais, et tant mieux), il pénètre dans les rêves d’autrui et peut ainsi le conduire à révéler ses secrets les plus enfouis – activité qu’il accomplit dans le cadre de l’espionnage industriel. Mais Cobb est un homme tourmenté ; tenu loin de ses enfants qui lui manquent terriblement, ses rêves sont contaminés par la présence mystérieuse et récurrente d’une femme bien familière. Aussi, quand un puissant industriel lui offre la possibilité de rentrer chez lui, il accepte, malgré la terrible complexité de l’opération demandée : non pas voler une idée du cerveau d’un rival, mais y implanter une notion. Cobb monte alors une équipe rompue aux plongées oniriques profondes pour une mission terriblement risquée qui l’entraînera aux confins de l’inconscient – et de son passé tourmenté. (suite…)
