Das Aufsichtsgremium von Meta fordert das Unternehmen auf, seine Regeln für sexualisierte Deepfakes zu aktualisieren. Der Ausschuss gab die Empfehlungen im Rahmen seiner Entscheidungen in zwei Fällen ab, in denen es um KI-generierte Bilder von Persönlichkeiten des öffentlichen Lebens ging.
Die Fälle gehen auf zwei Beschwerden von Nutzern wegen KI-generierter Bilder von Persönlichkeiten des öffentlichen Lebens zurück, obwohl die Behörde es ablehnte, die Namen der Personen zu nennen. Ein Beitrag, der von Instagram stammte, zeigte eine nackte Inderin. Der Beitrag wurde Meta gemeldet, der Bericht wurde jedoch nach 48 Stunden automatisch geschlossen, ebenso wie nachfolgende Benutzereinsprüche. Das Unternehmen entfernte den Beitrag schließlich, nachdem sein Aufsichtsgremium davon Kenntnis erlangte, was jedoch Metas ursprüngliche Entscheidung, das Bild zuzulassen, rückgängig machte.
Der zweite Beitrag, der in einer Facebook-Gruppe geteilt wurde, die sich der KI-Kunst widmete, zeigte „ein KI-generiertes Bild einer nackten Frau mit einem Mann, der ihre Brüste begrapscht.“ Meta hat den Beitrag automatisch entfernt, da er einem internen System hinzugefügt wurde, das Bilder identifizieren konnte, die zuvor dem Unternehmen gemeldet wurden. Der Aufsichtsrat stellte fest, dass Meta den Beitrag tatsächlich gelöscht hatte.
In beiden Fällen erklärte das Aufsichtsgremium, dass die KI-Deepfakes gegen Unternehmensregeln verstießen, die „mit Photoshop bearbeitete Bilder mit sexuell erniedrigenden Elementen“ verbieten. In seiner Empfehlung an Meta sagte das Oversight Board jedoch, dass die aktuelle Formulierung in den Vorschriften veraltet sei und es für Benutzer schwierig machen könnte, explizite, von KI erstellte Bilder zu melden.
Stattdessen sagte das Gremium, es solle seine Richtlinie aktualisieren, um klarzustellen, dass es nicht einvernehmliche explizite Bilder verbietet, die von KI erstellt oder manipuliert werden. „Die überwiegende Mehrheit der nicht einvernehmlichen sexuellen Bilder, die heute online kursieren, wird von generativen KI-Modellen erstellt, die vorhandene Bilder automatisch bearbeiten oder völlig neue Bilder erstellen“, schrieb das Gremium. „Meta muss sicherstellen, dass ihr Verbot abfälliger sexueller Inhalte ein breiteres Spektrum an Bearbeitungstechniken umfasst, und zwar auf eine Weise, die für Benutzer und die Moderatoren des Unternehmens klar ist.“
Der Rat kritisierte auch Metas Praxis, Nutzerbeschwerden automatisch zu schließen, was seiner Meinung nach „erhebliche Auswirkungen auf die Menschenrechte“ der Nutzer haben könnte. Der Vorstand sagte jedoch, er verfüge nicht über „ausreichende Informationen“ über die Praxis, um eine Empfehlung abzugeben.
Die Verbreitung expliziter KI-Bilder ist zu einem immer wichtigeren Thema geworden, da „Deepfake-Pornos“ in den letzten Jahren zu einer immer weiter verbreiteten Form der Online-Belästigung geworden sind. Die Entscheidung des Rates fällt einen Tag, nachdem der US-Senat einen Gesetzentwurf zur Bekämpfung expliziter Deepfakes verabschiedet hat. Sollte die Maßnahme in Kraft treten, könnten Opfer die Urheber der Bilder auf bis zu 250.000 US-Dollar verklagen.
Die Fälle sind nicht das erste Mal, dass das Oversight Board Meta dazu drängt, seine Regeln für KI-generierte Inhalte zu aktualisieren. In einem anderen Fall, der große Aufmerksamkeit erregte, untersuchte das Gremium ein Video von Präsident Joe Biden. Der Fall veranlasste Meta letztendlich dazu, seine Richtlinien hinsichtlich der Kennzeichnung von KI-generierten Inhalten zu ändern.
