Microsoft will den Zugang zu Gesichtserkennungsdiensten einschränken, die mit Hilfe von KI den emotionalen Zustand von Menschen erkennen können sollen. Auch soll es nicht möglich sein, Geschlecht, Alter, Frisur und eventuelles Make-up per Algorithmus zu bestimmen. Zudem ist der Zugang zur KI-Gesichtserkennung generell auf vorformulierte Nutzungsszenarien beschränkt, um sicherzustellen, dass die Technologie richtig eingesetzt wird. Neukunden müssen im Vorfeld festlegen, wofür sie die Technologie einsetzen wollen, für Bestandskunden soll es eine Übergangsphase geben. Die Änderung des Umgangs mit Technik für Künstliche Intelligenz (KI) erfolgt im Rahmen einer Überarbeitung des „Responsible AI-Standards“, also der Leitlinien für „Responsible AI“.
Vertrauen gewinnen
Natasha Crampton, Microsofts „Chief Responsible AI Officer“, stellt die Änderungen in einem Blogbeitrag vor. Es sei ein wichtiger Schritt auf dem Weg zu besserer, zuverlässigerer KI, schreibt er. Interne KI-Standards würden festlegen, wie die KI-Technologie bei Microsoft entwickelt werden soll, um das Vertrauen der Gesellschaft zu gewinnen. Dies sind konkrete Ziele, die bei der Entwicklung von KI adressiert werden sollten. Sie basieren daher auf der Arbeit einer interdisziplinären Forschungsgruppe und auf Erfahrungen mit unseren eigenen Produkten. Der Zugang zur Spracherzeugungstechnologie wurde bereits eingeschränkt, um Missbrauch zu verhindern. Gleiches gilt für die Gesichtserkennung.
Crampton verweist in seinem Beitrag auch auf die anhaltenden Debatten um die Entwicklung und den Einsatz künstlicher Intelligenz. Beispielsweise änderte sich die Art und Weise, wie Voice-to-Text-Technologie verwendet wurde, nachdem eine Studie gezeigt hatte, dass bestimmte afroamerikanische Gruppen doppelt so hohe Fehlerquoten hatten wie weiße Benutzer. Mit der angeblichen Erkennung von Stimmungen durch Gesichtserkennungstechnologie wurde innerhalb und außerhalb der Gruppe darauf hingewiesen, dass es keinen wissenschaftlichen Konsens darüber gebe, was „Emotionen“ sind, geschweige denn, wie sie erkannt werden können. Daher sollten jetzt alle KI-Systeme, die sie erkennen sollen, überprüft werden. Die Funktion wurde erstmals im November 2015 eingeführt.
(Mho)
Auf der Homepage