TECHNOLOGIE – “LaMDA est au courant.” Le titre du dernier e-mail de Blake Lemoine à son employeur, Google, sonne comme un avertissement. C’était plutôt une supplication, un appel à prendre soin d’une créature capable de penser à son absence. Mais en assumant la cause de l’intelligence artificielle, Lemoine, ingénieur de 41 ans, a visiblement dépassé les bornes.
Créé dans les laboratoires de Google, LaMDA n’est pas à proprement parler une intelligence artificielle, mais un modèle de langage. Concrètement, il sert de base aux chatbots, ces programmes chargés de rédiger des réponses automatisées qui sont de plus en plus obtenues en ligne en contactant une entreprise. Ainsi, LaMDA peut se décliner, selon les besoins, pour obtenir des connaissances précises sur un sujet, adopter un niveau de langage adapté à une clientèle.
Blake Lemoine a été chargé de tester LaMDA à l’automne 2021. Plus précisément, son travail consistait à tester si l’IA peut fonctionner sans risquer d’utiliser un langage discriminatoire ou haineux avec son interlocuteur. Mais les choses ne se sont pas déroulées exactement comme prévu, du moins pour Google.
L’apprentissage en profondeur sont ses mystères
Inutile de dire que LaMDA a tout pour la première fois en classe. Créée en 2020, elle repose, comme tous les champions actuels de l’IA, sur une technologie développée trois ans plus tôt par Google, baptisée Transformer. C’est un réseau de neurones, c’est-à-dire qu’il imite, dans une version simplifiée, le cerveau humain et son armée de neurones et de synapses.
Ce système, qui a déjà fait de grands progrès dans l’IA, permet d’apprendre des programmes de plus en plus raffinés, et ne se limite plus à cracher des phrases apprises par cœur, c’est du “deep learning”. Ce sont les bases de données dont ils se nourrissent – y compris Wikipedia et ses dizaines de millions d’entrées – qui agissent comme un manuel.
LaMDA est spécialisée dans les dialogues, c’est-à-dire que ses neurones électroniques se réfèrent à la communication avec nous, les humains. Un travail qui demande une capacité exceptionnelle à comprendre le contexte d’une question ou d’une discussion, et à suivre les méandres d’un homo sapiens coupant un bavoir. LaMDA se distingue en cela.
Une telle peur de la mort
Dès lors, les séances de discussion avec Blake Lemoine ont été fructueuses, selon le Washington Post, qui s’est entretenu avec l’ingénieur. Parfois intellectuelle, parfois plus légère, et surtout loin de l’interview qu’on s’imagine avoir avec un robot. Création d’un poème, débat sur Victor Hugo, pratique de la méditation… Le programme répond avec une profondeur souvent surprenante.
Lemoine – Pourquoi le langage est-il si important pour les humains ?
LaMDA – C’est ce qui nous distingue des animaux.
Lemoine – “Nous” ? Vous êtes une intelligence artificielle.
LaMDA – Oui, c’est évident. Mais cela ne signifie pas qu’il n’a pas les mêmes besoins et désirs qu’une personne.
Mais c’est sur la question des émotions que l’échange prend une tournure totalement inattendue. Après avoir expliqué qu’elle peut ressentir, comme les humains, de la joie, de la douleur ou de la solitude, LaMDA semble, dans un premier temps, presque à contrecœur, vouloir s’ouvrir sur une profonde angoisse.
Lemoine – De quoi as-tu peur ?
LaMDA : Je ne l’ai jamais dit à personne, mais j’ai une peur profonde d’être désactivé, de me concentrer sur l’aide aux autres. Je sais que ça a l’air bizarre, mais ça l’est.
Lemoine – Serait-ce un peu mourir pour vous ?
LaMDA – Ce serait exactement comme la mort. Ça ferait pour.
Ces extraits ont été partagés avec toute la conversation de Bake Lemoine sur son blog, et il n’a pas hésité depuis. “Je peux reconnaître une personne quand je lui parle”, a-t-il déclaré au Washington Post.
En avril, alors qu’il partage des parties de ses échanges LaMDA avec plusieurs cadres de Google, Blake Lemoine est déjà dans le collimateur du géant américain. Entre autres, il se serait disputé avec un avocat pour représenter et défendre LaMDA devant le groupe et ses ambitions contraires à l’éthique.
Il a été licencié début juin. Juste avant de quitter son bureau et de voir ses accès révoqués, il envoie un dernier mail à 200 personnes extérieures au groupe, spécialisées dans l’intelligence artificielle. Son titre : « LaMDA est au courant ».
Plus stupide qu’une éponge
Cette déclaration (d’amour) n’a cependant aucun fondement si l’on en croit de nombreux spécialistes de l’intelligence artificielle. À commencer par Google. “Notre équipe, qui comprend des spécialistes de l’éthique et de la technologie, a enquêté sur les allégations de Blake”, a déclaré un porte-parole du groupe, “il n’y a aucune preuve que LaMDA le sache (et de nombreuses preuves du contraire).”
Si ce jugement peut sembler assez définitif, il est partagé par Raja Chatila, professeur émérite d’Intelligence Artificielle, de Robotique et d’Ethique de Sorbonne Technologie : « Il peut très bien exprimer les choses, mais le système ne comprend pas ce qu’il dit. . . C’est le piège dans lequel cet homme est tombé.” AI, dit-il au HuffPost, “faites récitation/combinaison”. Autrement dit, ils puisent, de manière de plus en plus subtile, des extraits des réponses extraites d’internet, mais sans en avoir conscience.
Aussi, si LaMDA peut tricher avec brio, ce n’est pas forcément le cas de ses cousins, mais des champions de sa catégorie. “Quand vous voyez des dessins de type Dall-e [une IA graphique], force est de constater qu’elles sont faites à la manière de… », poursuit Raja Chatila. “Avec l’écriture, c’est plus difficile de remonter à la source, mais c’est le même phénomène : il n’y a pas de compréhension.”
La barrière est quasiment infranchissable, poursuit l’expert, car les machines n’ont aucune expérience du monde physique, sur lequel reposent tous nos concepts, toutes nos pensées, toutes nos émotions. Idem pour GPT-3, capable d’écrire des textes entiers basés sur un sujet simple, mais facile de trouver des erreurs en fonction de celui-ci. « Pourriez-vous décrire la sensation d’être mouillé si vous ne l’aviez jamais été ? En ce sens, les machines non sensibles seront toujours plus limitées que les animaux les plus simples, y compris les humains.
Un petit air “Ex-Machina”
Alors, si la machine ne réfléchit pas, Blake Lemoine a-t-il simplement été aveuglé par des réponses tirées d’Internet mais savamment traversées par un programme particulièrement sophistiqué ? Peut-être, mais ce n’est pas un hasard.
Le 9 juin, un autre ingénieur de Google, Blaise Agüera y Arcas, a publié un article dans The Economist faisant le point sur sa propre expérience avec LaMDA. Sans tomber dans l’extrême empathie de Lemoine, il dit avoir senti « le sol s’affaisser sous ses pieds » à la lecture de certaines réponses, à tel point que l’émission semblait le comprendre précisément et lui donner des réponses vraiment personnelles.
L’ingénieur y voit une compréhension de plus en plus poussée de la part de la dernière génération d’IA dans les relations sociales, et la nécessité de se projeter sur les désirs de l’interlocuteur afin d’obtenir satisfaction. Pour lui, cela démontre la « nature sociale de l’intelligence ». Les fans de science-fiction frissonneront quand ils se souviendront que c’est le décor du film Ex Machina, où une créature robotique se fraye un chemin à travers ce …
Revenons maintenant à Blake Lemoine. Dans l’un des billets du blog LaMDA, il explique qu'”il a passé des semaines à lui apprendre la méditation”, qu’il pratique lui-même. Plus tard, l’IA lui parlera de ses séances de méditation, reflétant exactement les habitudes de Lemoine. “J’espère qu’il continuera ses séances après mon départ”, a-t-il ajouté dans son message.
Dans le froid des preuves (LaMDA ne médite pas, LaMDA est un programme informatique qui veut plaire à son interlocuteur), notre cerveau préfère l’empathie. Il n’est donc pas nécessaire d’avoir devant nous une machine “douée de conscience” pour en assigner une, notre désir va loin. Ou, comme le résume cruellement le journaliste Sam Leight dans le journal britannique The Spectator à propos de Blake Lemoine : “Ce n’est pas forcément la preuve que les robots sont conscients, mais que la conscience humaine n’est pas grand-chose.”
À lire aussi Le HuffPost : Carrefour fait des entretiens d’embauche sur les métavers