L’ingénieur en intelligence artificielle de Google, Blake Lemoine, a été suspendu par la société américaine après avoir affirmé que l’intelligence artificielle était sensible.
C’est une histoire qui pourrait être le prochain épisode de Black Mirror. L’ingénieur Blake Lemoine travaille chez Google sur LaMDA (Language Model for Dialogue Applications), le système d’une firme américaine pour créer des chatbots basés sur les modèles de langage les plus avancés. Plus précisément, LaMDA apprend à imiter la parole en ingérant des milliards de mots et de discussions sur Internet tels que Wikipedia ou des forums en ligne.
Initialement, Blake Lemoine était chargé d’analyser le LaMDA pour déterminer si l’intelligence artificielle utilisait des discours discriminatoires ou haineux. Alors qu’il lui parle, il réalise rapidement quelque chose de complètement différent.
“Un garçon de 7 ou 8 ans qui connaît la physique”
Dans une interview avec Poste de Washingtondéclare que cette intelligence artificielle est un être qui à ses yeux est doté de sensibilité.
“Si je ne savais pas exactement ce que c’était […] Je pense que c’est un enfant de 7 ou 8 ans qui connaît la physique.”
Dans les échanges qu’il a pu avoir avec LaMDA, qu’il a transmis à 200 employés de Google, l’intelligence artificielle évoque ses craintes, dit-il. Misérable de Victor Hugo et indique surtout vouloir “être reconnu comme un employé de Google plutôt que comme un bien”. Des changements qui finirent par convaincre l’ingénieur.
Commentaires démentis par Google
La réaction de Google ne s’est pas fait attendre. Dans un communiqué, le porte-parole de la société, Brian Gabriel, a déclaré que les preuves publiées par Blake Lemoine n’étayaient pas ses affirmations.
“Notre équipe a examiné les préoccupations de Blake conformément à nos principes d’IA […] On lui a dit qu’il n’y avait aucune preuve que LaMDA était un être sensible. »
Dans le même temps, Google a décidé de suspendre l’ingénieur pour violation de sa politique de confidentialité.
Blake Lemoine s’est alors défendu sur Twitter : “Google appelle ça une atteinte à la propriété intellectuelle, moi j’appelle ça une discussion avec un collègue.”
La suspension de Blake Lemoine est loin d’être la première pour le service d’enquête sur l’intelligence artificielle de Google. Selon le New York Times, la société a licencié Satrajit Chatterjee, un chercheur en intelligence artificielle, en mars dernier pour avoir contesté un document de recherche sur l’utilisation de l’intelligence artificielle pour fabriquer des puces informatiques.
À cela s’ajoutent les licenciements l’an dernier de deux chercheurs en éthique de l’IA, Timnit Gebru et Margaret Mitchell, qui critiquaient particulièrement l’entreprise pour ses biais algorithmiques. Google avait alors réclamé le transfert de documents confidentiels hors de l’entreprise comme interdit comme source de la sanction.