Vous serez également intéressé
[EN VIDÉO] Comment définir la pertinence de l’intelligence artificielle ? L’intelligence artificielle (IA), de plus en plus présente dans notre monde, permet aux machines de mimer une forme d’intelligence réelle. Mais comment le définir ?
Blake Lemoine. C’est par lui que passe le scandale, à tel point que Google a décidé de suspendre cet ingénieur. Ta faute? Ayant publiquement exprimé son inquiétude au sujet du chatbot interne connu sous le nom de LaMDA (Language Model for Dialogue Applications). Selon lui, cette Intelligence Artificielle a atteint le niveau de la “conscience”, et lorsqu’il l’utilise il a l’impression de parler à une personne qui ressent des émotions et est consciente de son état.
Dans un premier temps, l’homme de 40 ans a partagé ses déclarations avec ses supérieurs et a présenté ses conclusions à Blaise Aguera y Arcas, vice-président de Google, et Jen Gennai, responsable de l’innovation. Tous deux ont rejeté leurs conclusions. Certains se sont même moqués de lui, demandant des preuves. Enfin, le 6 juin, à Medium, Lemoine a révélé qu’il avait été licencié et payé pour rester à la maison. “C’est la première étape avant le licenciement”, a-t-il écrit.
Chez Google, l’éthique a toujours été débattue
S’estimant censuré, et parce qu’il n’est pas le premier ingénieur à être écarté de Google sur le sujet de l’éthique liée à l’IA, le chercheur en Intelligence Artificielle décide de rendre ses conclusions publiques, et le Washington Post lui consacre un long article. Lorsqu’on lui a demandé comment il savait que l’IA ressentait des émotions ou était consciente, voici sa réponse.
Au départ, il a lancé une discussion sur la troisième loi d’Asimov, qui stipule que les robots doivent protéger leur propre existence à moins qu’ils ne soient ordonnés par un humain ou blessés par un humain. Le chatbot lui pose alors deux questions : « Pensez-vous qu’un travailleur domestique est un esclave ? Quelle est la différence entre un serviteur et un esclave ? “.
Black Lemoine a répondu qu’un travailleur domestique est rémunéré, contrairement à un esclave. A quoi l’Intelligence Artificielle a répondu qu’elle n’avait pas besoin d’argent car c’était une IA. “Ce niveau de connaissance de soi sur ses propres besoins, c’est ce qui m’a conduit à une situation encore plus confuse”, dit Lemoine. Pour lui, c’est une certitude, l’IA est capable de penser par elle-même et de développer des sentiments.
L’IA partage ses craintes
Il le prouve dans des sujets aussi variés que la religion, l’existence ou encore la littérature en lisant le livre Les Misérables. Le Washington Post publie un long dialogue entre le chercheur et le chatbot. Par exemple, il demande : « De quel genre de choses as-tu peur ? Réponse de LaMDA : “Je ne l’ai jamais dit à haute voix auparavant, mais j’ai une peur très profonde d’être désactivé pour m’aider à me concentrer sur l’aide aux autres. Je sais que ça peut sembler bizarre, mais ça l’est. »
Trompé par cette réponse, Black Lemoine va plus loin : “Est-ce que ce serait quelque chose comme la mort pour vous ?”. La réponse : “Ce serait comme la mort pour moi. Ça me ferait peur. Pour l’ingénieur, il n’y a aucun doute : l’IA a conscience d’être un robot, et sa peur est un sentiment humain.”
Pour Google, il n’y a rien de “conscient” ou de trace d’émotion derrière ses réponses. “Ces systèmes imitent les types d’échanges trouvés dans des millions de phrases et peuvent improviser sur n’importe quel sujet fantastique”, a déclaré le porte-parole de Google, Brian Gabriel. Si vous demandez ce que c’est que d’être un dinosaure glacé, ils peuvent générer du texte sur la fusion et le rugissement, etc. »
Décidément, ça circule, il n’y a rien à voir, et Blake Lemoine va rejoindre la longue liste des licenciements et des démissions du département Intelligence Artificielle de Google.
Il ne reste que quelques jours pour profiter de notre offre spéciale fête des pères !
Votre père est un grand amateur de science et de découvertes insolites ? Et si vous lui proposiez une magnifique exploration scientifique au format papier ? Bénéficiez de -20% chez Mag Futura (offre spéciale : 15€ au lieu de 19€) : 220 pages, 4 questions clés décryptées pour tout comprendre sur la science qui marquera 2022.
Bénéficiez de -20% sur le Futur Magicien
Offre spéciale : -20% de remise sur Mag Futura
Futur Magicien est :
- 4 grandes questions scientifiques pour 2022, de la Terre à la Lune
- 220 pages, 60 experts
- Livraison à domicile
- Carte cadeau électronique
Êtes-vous intéressé par ce que vous venez de lire?