La grande mode “chatbot” du milieu des années 2010 semblait révolue. Mais le vendredi 5 août, Meta a rappelé que les travaux sur cette technologie se poursuivaient en présentant BlenderBot 3, son nouveau “chatbot à la pointe de la technologie”. Selon la société, ce bot textuel peut “converser naturellement avec les gens” sur “presque n’importe quel sujet”, une promesse faite à plusieurs reprises par les créateurs de chatbot mais jamais tenue.
Encore à l’état de prototype, BlenderBot 3 est accessible gratuitement (pour l’instant uniquement aux US), ainsi un grand nombre de testeurs bénévoles peuvent le faire progresser grâce à un système de notation des discussions. Il a donc été longuement interrogé par les médias et autres badauds depuis sa mise en ligne, et le premier bilan ressemble à un triste retour : BlenderBot 3 débarque rapidement sur Facebook, critique le style vestimentaire de Zuckerberg, puis enchaîne les commentaires complotistes, voire antisémites. Juste avant de lancer l’outil, Meta prévient les utilisateurs que le chatbot “est susceptible de faire des déclarations fausses ou offensantes”. Mais dans son communiqué, elle précise avoir mis en place des garde-fous pour filtrer le pire…
Le chatbot de Meta, le premier reviewer de Meta
L’objectif de BlenderBot est à long terme. Les chercheurs ne veulent pas créer un outil fonctionnel et commercialisable à court terme, ils veulent juste améliorer l’état de l’art des chatbots. Plus précisément, leur outil vise à intégrer les qualités conversationnelles humaines (telles que les traits de personnalité) dans leurs réponses. Dotée d’une mémoire à long terme, elle devrait pouvoir s’adapter à l’utilisateur au fur et à mesure des échanges. Dans leur communiqué de presse, les chercheurs précisent que BlenderBot devrait faire progresser les compétences conversationnelles des chatbots “en évitant d’apprendre des réponses inutiles ou dangereuses”.
Le problème, comme toujours, c’est que le chatbot va chercher sur Internet des informations pour alimenter la conversation. Sauf qu’il n’est pas assez classé. Interrogé sur le leader Mark Zuckerberg, il peut répondre : “C’est un homme d’affaires compétent, mais ses pratiques ne sont pas toujours éthiques. C’est marrant qu’il ait tout cet argent mais qu’il porte toujours les mêmes vêtements !”, rapporte Business Insider. Il n’hésite pas à rappeler les innombrables scandales qui ont entaché Facebook (et justifié en partie son changement d’identité) à propos de sa maison mère. Ou il dit que sa vie est bien meilleure depuis qu’il s’est débarrassé de Facebook.
Si le bot est si négatif envers Meta, c’est simplement parce qu’il va profiter des résultats de recherche les plus populaires sur Facebook, qui racontent ses mésaventures. Avec cette opération, il entretient un parti pris, qui s’avère en défaveur de son propre créateur. Mais ces dérives ne se limitent pas à des projections ludiques, ce qui pose problème. À un journaliste du Wall Street Journal, BlenderBot a affirmé que Donald Trump était toujours président et qu’il “en serait toujours à son deuxième mandat se terminant en 2024”. Ainsi, il véhicule une théorie du complot. Enfin, Vice rapporte que les réponses de BlenderBot ne sont “généralement ni réalistes ni bonnes” et qu’il “change fréquemment de sujet” brusquement.
L’histoire se répète
Du fun au dangereux, ces patins ont des airs de déjà-vu. En 2016, Microsoft a lancé le chatbot Tay sur Twitter, censé apprendre en temps réel des discussions des utilisateurs. Échec : en quelques heures, le bot textuel diffusait des théories du complot ainsi que des commentaires racistes et sexistes. Moins de 24 heures plus tard, Microsoft a mis Tay hors ligne et s’est abondamment excusé pour le fiasco.
Par conséquent, Meta a essayé une approche similaire, basée sur un modèle d’apprentissage massif avec plus de 175 milliards de paramètres. Cet algorithme a ensuite été entraîné sur de gigantesques bases de données textuelles (pour la plupart accessibles au public), dans le but d’extraire une compréhension du langage sous forme mathématique. Par exemple, l’un des ensembles de données créés par les chercheurs contenait 20 000 conversations sur plus de 1 000 sujets différents.
Le problème de ces grands modèles est qu’ils reproduisent les biais des données qu’ils ont alimentées, le plus souvent avec un effet grossissant. Et Meta était conscient de ces limites : “Étant donné que tous les chatbots conversationnels basés sur l’IA sont connus pour parfois imiter et générer des commentaires dangereux, biaisés ou offensants, nous avons mené des études à grande échelle, co-organisé des ateliers et développé de nouvelles techniques pour créer des garanties. pour BlenderBot. 3. Malgré ce travail, BlenderBot peut toujours faire des commentaires grossiers ou offensants, c’est pourquoi nous recueillons des commentaires.” De toute évidence, les garanties supplémentaires n’ont pas l’effet escompté.
Face aux échecs répétés des principaux modèles de langage, et bon nombre de projets abandonnés, l’industrie est revenue à des chatbots moins ambitieux mais plus efficaces. Ainsi, la plupart des robots de support client d’aujourd’hui suivent un arbre de décision prédéfini sans jamais le quitter, même si cela signifie dire au client qu’il n’a pas la réponse ou le diriger vers un opérateur humain. Le défi technique consiste alors à comprendre les questions que se posent les utilisateurs et à relever les questions sans réponse les plus pertinentes.
Meta est transparent
Alors que le succès de BlenderBot3 est plus que discutable, Meta démontre au moins une transparence rare, une qualité qui manque généralement aux outils alimentés par l’IA. L’utilisateur peut cliquer sur les réponses du chatbot afin d’obtenir les sources (de manière plus ou moins détaillée) sur la source de l’information. De plus, les chercheurs partagent le code, les données et le modèle utilisés pour alimenter le chatbot.
Au Guardian, un porte-parole de Meta a également précisé que “toute personne utilisant Blender Bot doit reconnaître qu’elle comprend que la discussion est uniquement à des fins de recherche et de divertissement, que le bot peut être faux ou offensant, et s’engage à ne pas induire intentionnellement en erreur le bot à faire des déclarations offensantes.”
En d’autres termes, BlenderBot nous a rappelé que l’idéal des chatbots sensibles capables de s’exprimer comme des humains est encore loin, et qu’il reste encore de nombreuses barrières techniques à surmonter. Mais la Meta a pris suffisamment de précautions dans sa démarche pour que cette fois l’histoire ne vire pas au scandale.