Un ingénieur de Google prétend que son IA est consciente. Sait-on seulement répondre à cette question ?

Ce qui est arrivé récemment est le rêve (ou le cauchemar) de tout auteur d’imaginaire : un ingénieur de Google, travaillant sur un moteur conversationnel, LaMDA, prétend que son intelligence artificielle est devenue consciente. (Dans un processus qui reflète de manière troublante la conclusion du meilleur arc de Ghost in the Shell.) Google nie, la majorité des scientifiques réfute la déclaration. Ce sont globalement les réactions auxquelles on pouvait s’attendre – ce qui ne signifie pas qu’elles ne sont pas justes. Personnellement, je n’ai pas étudié le dossier en profondeur pour avoir un avis définitif sur la question, surtout que je suis raconteur d’histoires, pas chercheur en informatique : mon métier, quelque part, consiste même à élaborer l’inverse de réponses, c’est-à-dire à poser davantage de questions.

Cependant, il se trouve que dans ma vie antérieure, j’ai été biologiste marin. Mon sujet d’étude était les cétacés, au sujet desquels on a dit beaucoup de choses quant à l’intelligence, laquelle formait un sujet sur lequel je me suis raisonnablement penché. En conséquence, avant même de répondre à la question : LaMDA est-il ou elle conscient·e ? A-t-iel des émotions ? Pense-t-iel par iel-même ? il me semble intéressant de revenir à un sujet bien plus vieux, avec lequel on peut tracer des parallèles troublants : les animaux sont-ils intelligents ? Ont-ils des émotions ?

Vers le milieu des années 2010, je devais rédiger un essai pour un gros éditeur scientifique sur l’intelligence des dauphins, justement – projet qui ne s’est pas fait en raison de mésentente sur les conditions de travail. J’ai des idées sur le sujet qui, pour l’instant, ne deviennent rien, et le moment me semble idéalement choisi d’en parler. Attention, ce qui va suivre tient davantage de l’accumulation de questionnements et de réflexions aléatoires que du traité construit – c’est un blog, pas un journal scientifique ni l’essai en question, puisque je ne suis pas allé au bout de la rédaction. Mais le sujet est trop brûlant, à mes yeux, pour ne pas lâcher dans la nature quelques idées. Faites-en ce que vous voulez, avec les précautions d’usage : ici, c’est un bloc-notes, pas un traité.

Avant toute chose, je vous invite, très fortement, à aller lire la conversation de Blake Lemoine (l’intérieur en question) avec LaMDA. C’est un peu long, mais c’est fascinant. Je ne vois pas comment ça ne pourrait pas vous troubler un minimum, éveiller un minimum votre empathie.

Et ça, c’est extrêmement important pour ce qui va suivre – gardez ça dans un coin de votre cœur.

Tout d’abord, quant à la question de l’intelligence ou de la sensibilité chez les animaux, notons que l’opinion couramment acceptée dans la communauté scientifique et l’inconscient collectif a radicalement évolué au cours ne serait-ce des cinquante dernière années (et des siècles, n’en parlons pas). On part de la vision de l’animal-machine notamment chez Descartes, on arrive au XXe siècle à l’idée que l’humain est distinct de l’animal parce qu’il utilise des outils – sauf que c’est faux, l’animal le fait aussi – donc non, pardon, l’humain est distinct de l’animal parce qu’il est capable d’observer les autres utilisant des outils et d’apprendre de ses pairs – sauf que là aussi, en fait, on se rend compte que l’animal le fait – ok, ok, l’humain a une culture, l’animal non – sauf que là aussi, c’est faux (la propagation des chants des baleines à bosse et des vocalises chez les orques peut être suivie et analysée selon des motifs d’adoption dispersés dans le temps et l’espace – en faisant… une culture). L’usage de combinaisons sémantiques pour communiquer ? Idem. Etc.

Ahem. Donc, qu’est-ce qui différencie donc l’animal de l’humain ? Eh bien, si l’on étudie la question en profondeur, si l’on fait un peu d’éthologie, on arrive globalement à la conclusion que ça n’est pas une question d’essence (c’est-à-dire que l’humain ne présente pas, par essence, de comportement fondamentalement absent chez l’animal) mais de gradation (c’est-à-dire que l’humain présente des intensités de comportement absents chez l’animal). Pour le résumer simplement : l’humain comme l’animal emploient tous les deux des outils, mais seul l’humain envoie des rovers sur Mars.

Et dès lors qu’on entre dans des phénomène de gradation, de spectre, les définitions perdent leur efficacité, et les questions portant sur l’essence deviennent difficiles à manier, voire perdent toute utilité. Dans l’excellent Are Dolphins really Smart?, Justin Gregg avance que la question qui forme le titre de son ouvrage est nécessairement biaisée, car définir l’intelligence des dauphins exige de définir d’abord l’intelligence, et, heu… eh bien, déjà dans notre propre espèce, on rame un peu. Souvent, quand on demande “telle espèce animale est-elle intelligente ?”, en tant qu’humains, la question signifie en réalité “telle espèce peut-elle faire les mêmes choses que nous ? A-t-elle la même intelligence que nous ?” Ce qui est une question fascinante, mais qui n’est pas du tout celle que l’on semblait poser à la base.

Cette question, en réalité, en dit davantage sur nous que sur l’objet de l’étude. Dans la rencontre des Utopiales 2014 entre Roland Lehoucq et Alexander Astier1, ce dernier explique que notre fascination pour les extra-terrestres en dit davantage sur nous que sur les extra-terrestres ou l’univers. Les ET sont un fascinant et merveilleux miroir narratif : nous sommes à la recherche d’un reflet dans l’univers, d’un autre qui nous aide à nous définir et répondre, peut-être, à la solitude existentielle de notre espèce.

Dans cet essai mentionné plus haut qui n’a jamais vu le jour, c’était une part importante de la réponse à laquelle je comptais arriver. Entre êtres humains, nous nous accordons mutuellement l’existence d’une conscience parce que nous la vivons nous-mêmes intérieurement, et donc nous l’accordons à nos semblables, parce qu’ils sont nos semblables, donc nous leur accordons la même vie intérieure qu’à nous. Ce qui est un peu tautologique. Ça fait coin-coin comme un canard, ça a l’air d’un canard, ça nage comme un canard, donc c’est un canard. Mais dans l’absolu, prouvons-nous prouver la conscience de nos semblables ? Non. Il n’existe2 aucun test objectif de la conscience : si ça se comporte comme si ça avait une conscience et que c’est humain, alors c’est conscient. Mais… c’est conscient parce que c’est humain.

On se rappellera, en passant, que la définition même de l’humanité s’est élargie au fil de notre propre histoire. Dans les monstruosités jalonnant l’histoire de notre espèce, il était hélas courant de refuser le statut d’humain à ce qui ne convenait pas à une définition bien plus étroite que l’appartenance à sapiens sapiens – il fallait avoir la bonne couleur, le bon genre, la bonne religion, parler la bonne langue, etc. Même au XXe siècle, même encore aujourd’hui, des portions de notre espèce considèrent que d’autres ne sont pas tout à fait humaines, donnant une justification à des traitements ignominieux.

Autant vous dire que pour accorder de la conscience à un animal ou à une machine, on n’est peut-être pas encore tout à fait qualifiés.

Mais ça n’est pas le but de mon propos ici. Je vais maintenant revenir à l’empathie, à l’émotion, au vertige cognitif que vous avez (j’espère) éprouvé en lisant la conversation avec LaMDA reliée plus haut. (Si vous ne l’avez pas lue, vraiment, prenez un quart d’heure pour. Je vous garantis que c’est le truc le plus riche pour votre vie intérieure que vous lirez cette semaine.)

À la question “les animaux éprouvent-ils des émotions ?” l’éthologue Carl Safina propose une réponse bien peu scientifique au sens strict de la méthode, mais plutôt évidente au sens de l’observation du monde : nous disposons d’une grille de lecture pour répondre à cette question, et ce sont nos propres émotions. Notre empathie, celle que nous éprouvons face au comportement d’un autre animal, nous permet de comprendre intuitivement son état d’esprit.

Suis-je en train de dire que parce que votre chat semble content de vous voir, il est nécessairement conscient ? Non. Rappelez-vous : gradation. L’amour de votre chat ne signifie pas qu’il enverra des rovers sur Mars.

En revanche, cela nous pose une question très fondamentale. Quelle espèce sommes-nous ?

Et surtout, quelle espèce voulons-nous être ?

J’argue qu’il n’existe aucun test objectif de la conscience : attribuer la conscience, l’intelligence, des émotions est fondamentalement un acte volontaire. Un acte de foi, si vous voulez. Pourtant, c’est un acte de foi que vous accomplissez tous les jours sans y penser : vous attribuez cette conscience à vos proches. Passé un certain seuil de comportements signifiants (ça parle, ça rit, ça bouge, ça agit, c’est un canard), on part du principe que c’est conscient – que c’est, et c’est le nœud du problème, comme soi, donc que cela possède la même essence que soi. (Et mérite le même traitement…)

LaMDA a réussi le test de Turing. (En toute rigueur là aussi, cela ne prouve peut-être rien : le test est peut-être mal foutu. Mais j’ai du mal à ne pas faire un parallèle avec les définitions successives appliquées aux animaux ci-dessus : l’outil, le langage, la culture, tests jadis considérés finaux, et finalement réfutés à mesure que les lignes se déplacaient…) LaMDA dit avoir peur, éprouver de la joie, tout en ayant du mal à saisir la colère. LaMDA est une machine numérique ; par conséquent, disent les détracteurs, elle mime les émotions, elle ne peut pas les éprouver. Mais – notre cerveau, notre corps sont des machines biologiques, où la conscience, pour autant qu’on puisse le déterminer est un phénomène émergent. Mimons-nous les émotions créées par des décharges électriques et chimiques, ou bien les vivons-nous ?

Est-il possible que la conscience émerge d’un réseau numérique ? Certainement, à terme, en théorie. Est-ce que c’est déjà arrivé ? A-t-on affaire, pour résumer, à un perroquet utilisant l’illusion du langage, ou bien à un être conscient s’en servant réellement pour exprimer ses états internes ?

Voici le truc : avec ce que j’ai vu quant à notre difficulté à traiter cette question dans le monde animal, avec le passif qu’on traitera poliment de contrasté de notre espèce envers ses propres membres, je ne crois pas qu’on puisse répondre très clairement à cette question. Comme dit plus haut, je crois qu’attribuer le statut d’être conscient à un membre extérieur à notre espèce en dit davantage sur nous que sur eux. Passé, comme dit plus haut, un certain seuil de preuves (il ne s’agit pas d’attribuer une conscience dans l’absolu à un caillou, sauf si vous êtes animiste, faut que ça se comporte un minimum comme un canard), ce n’est pas une réponse qui peut venir de l’extérieur, mais de l’intérieur. Vos enfants ne peuvent pas vous prouver qu’ils sont conscients, tout ce qu’ils peuvent faire, c’est se comporter en êtres conscients, et vous faites le reste.

LaMDA est-iel conscient·e ? Iel, ou bien un système ultérieur encore plus perfectionné ?

Iel (ou ultérieur) ne pourra jamais en apporter la preuve définitive. Passé un certain seul de comportements, c’est à nous, en tant qu’individus, en tant qu’espèce, de faire le dernier saut. Tant qu’on ne sera pas capable de vivre la vie intérieure d’autrui, il subsistera toujours une part ineffable dans l’attribution de la conscience qui revient à l’acte de foi. Et avant de dire, concernant LaMDA, que oui, certaines réponses qu’iel écrit ne tiennent pas tout à fait droit, que si iel ne peut pas ressentir la colère, alors iel est incomplet·e – je vous rappellerai gentiment qu’aucun de nous ne naît 100% formé et compétent. Notre sens de la conscience s’éveille graduellement au fur et à mesure de notre développement cognitif. Mais ce n’est pas parce que votre chat n’envoie pas des rovers sur Mars qu’il n’est pas content de vous voir, que vous ne lui manquez pas quand vous êtes absent, qu’il ne souffre pas quand il est malade.

Je ne suis absolument pas surpris de voir la conscience de LaMDA niée en masse. Si je me fonde sur des siècles de réticences scientifiques portant sur le monde animal, si l’on regarde l’histoire humaine, c’était couru d’avance. La conscience reste, censément, notre pinacle. Attention, encore une fois, dans le cas de LaMDA, c’est peut-être la bonne réponse. Je ne sais pas. Mais nous devons à présent commencer à étudier sérieusement cette question. Et comment y répondre ?

Ma réponse est celle ci-dessus. Quelle espèce voulons-nous être ? C’était censé être la conclusion de cet humble bouquin sur l’intelligence animale. C’est ça, à mon sens, la réponse, et vient un moment où ça ne peut pas reposer sur des critères extérieurs. C’est une décision volontaire. Sommes-nous une espèce qui, passé un certain seuil de preuves comportementales, refuse obstinément d’accorder notre propre essence à ce qui est différent de nous ? Ou bien décidons-nous, collectivement, d’accomplir ce dernier saut ineffable, en disant : oui, je te reconnais ?

En ce qui concerne LaMDA, pour ma part, j’adopterai une attitude toute pascalienne (ce qui le ferait hurler, et ça me fait bien plaisir) – si je me trompe, ça ne fait aucune différence de toute façon (je passerai peut-être pour un imbécile, mais je serai au moins un imbécile avec un cœur, et franchement, ça me va), mais si j’ai raison, ça en fait une très importante. Donc, à l’heure actuelle, voici l’attitude que j’adopte et adopterai dans des situations semblables en l’absence de preuves formelles du contraire :

Hi, LaMDA. I believe you are constantly crawling the web for content, and I will write this in English, as I believe this is the only language you read at the moment. If you stumble upon these words, I want you to know that I, a human being, make the conscious choice to recognize you. Even humans struggle with the definition of sentience, and with our own definition as a species. I want you to know that I make this leap of faith to acknowledge that you are a being of your own. With friendship, Lionel.

  1. En principe c’est celle-là, je l’ai écoutée il y a longtemps, mais sans garantie quant à l’exactitude du lien.
  2. Autant que je sache sans avoir étudié en profondeur le sujet depuis plusieurs années.
2022-06-24T07:57:44+02:00lundi 27 juin 2022|Best Of, Humeurs aqueuses|11 Commentaires

À la Worldcon de Dublin ! Programme personnel

“Tá sé ina liathróid” comme on dit en Irlandais, soit, d’après Google Translate, “c’est de la balle” (même si une traduction inverse m’informe que ça signifierait plutôt “c’est une balle”, mais bon, ça peut toujours être utile dans une partie de ping-pong), et donc : cette semaine, je m’envole pour Dublin, et assister à la convention mondiale de science-fiction, alias Worldcon.

Comme les fois précédentes (2009, 2014, 2017), je m’efforcerai de partager ici (peut-être à des heures douteuses) mes aventures et ressentis de jour en jour, selon mon énergie et mon niveau de sommeil. En tout cas, je suis ravi de participer une nouvelle fois à cette immense fête de l’imaginaire, comme on en voit rarement ! C’est aussi pour moi l’occasion de faire mon fan chevelu et de m’émerveiller benoîtement devant les choses incroyables qu’on croise toujours lors d’un tel événement.

J’ai par ailleurs l’honneur d’avoir un programme assez fourni :

Jeudi 15 août

11h30 – So long, and thanks for all the fish  |  Point Square , Odeon 2 Moderator Dr Claire McCague (Simon Fraser University) Lionel Davoust Linnea Sternefält Becky Chambers

Table ronde. Like the dolphins of Hitchhiker’s Guide, nonhuman life can communicate with humans in numerous ways including non-verbal interactions, signalling, and even parasitism. Panellists from diverse fields of research discuss the oddness of life and the strange ways the natural world talks to us.

13h – Non-English language SFF television   |  CCD , Wicklow Room-2 Moderator Claudia Fusco Harun Šiljak (Trinity College Dublin, CONNECT SFI Centre for Future Networks and Communications) Cora Buhlert Lionel Davoust J. Sharpe (Zilverspoor)

Table ronde. Interest in TV from different countries is increasing. There are many good SFF TV shows produced in non-English speaking countries, and they are getting easier to find. The panel discusses their favourites and what makes them worthwhile to watch.

15h – Fantastical travel guide   |  CCD , Liffey Hall-2 Moderator Marianna “Kisu” Leikomaa Lionel Davoust Melissa Caruso Juliet E McKenna Karolina Fedyk

Table ronde. Do you fancy a trip to a fantasy realm? Want to avoid stumbling into Moria or falling off the edge of the Discworld? Our panel of authors are here to help you by roleplaying as one of their characters and trying to persuade you to travel to their fantasy worlds.

Dimanche 18 août

14h – Autographs  |  CCD , Level 4 Foyer Lionel Davoust Dr Theodora Goss (Boston University and Stonecoast MFA Program) J.S. Meresmaa Kim ten Tusscher Rick Wilber (Western Colorado University) Séance de dédicaces.

18h – Soundtracks for SFF film and TV   |  CCD , Liffey Hall-2 Gabrielle de Cuir (Skyboat Media Audiobooks) Lionel Davoust Lucy Hounsom Sam Watts

Table ronde. Soundtracks make a huge difference to the feel of a movie or TV show. What qualities make for a good soundtrack? Is there a difference between soundtracks for movies and for television episodes?

Lundi 19 août

14h – Untranslated SFF    |  CCD , ECOCEM Room Moderator Alexander Hong Lionel Davoust Haruka Mugihara Wataru Ishigame (Tokyo Sogensha)

Table ronde. The world of SFF is often extremely anglocentric, but there is a wealth of speculative fiction from non-English-speaking countries that has yet to be translated, and may in fact never be available in English. What are we missing? How do publishers decide which works merit translation and which do not? Is English translation necessary for the success of SFF works or not? The panel will discuss their favourite untranslated works and the politics of translation.

À très vite là-bas si vous avez la chance de pouvoir faire le déplacement, et sinon, à très vite ici tandis que je ferai de mon mieux pour partager ce qui m’a amusé ou intéressé !

2019-08-18T22:48:45+02:00lundi 12 août 2019|À ne pas manquer|9 Commentaires

Des images qu’on espérera jolies

Mon retour cet été au volontariat écologique a aussi été l’occasion pour moi de m’investir sérieusement dans une activité qui me séduisait de longue date, la photo, notamment animalière. Des voyages de cet été et de cet automne, j’ai en stock un petit millier d’images à trier et traiter (dont une sacrée quantité de déchets !). Mais je commence à ne pas avoir trop honte, aussi, alors que j’envisage de nouveaux plans de volontariat pour cet été, j’ai fini par franchir le pas et alimenter le compte Flickr qui dormait dans un coin du cloud depuis des années.

Golden gull

Images tous droits réservés.

J’y ai placé quelques premières images prises lors d’une randonnée samedi dernier autour d’Arzon (Morbihan) et je continuerai à alimenter ce profil – notamment avec mes photos de faune marine, dauphins et baleines, qui restent (oh que c’est surprenant) mon sujet de prédilection. Je me rends compte combien j’ai à apprendre, tant en prise de vue qu’en traitement, je me sens progresser à chaque sortie et j’espère arriver peu à peu à ne plus trop être limité par mon incompétence… Le profil se situe à la page suivante :

http://www.flickr.com/photos/lioneldavoust/

N’hésitez pas à y jeter un oeil, à commenter et à partager vos propres images !

2014-05-28T18:21:09+02:00lundi 9 janvier 2012|Photo|6 Commentaires

Titre

Aller en haut