Sexuell explizite Deepfakes sind auf dem Vormarsch und betreffen vor allem Frauen. Die Situation ist so schlimm, dass letzte Woche ein parteiübergreifender Gesetzentwurf zur Bekämpfung der Ausbreitung der höchst verstörenden Tat vom Senat einstimmig angenommen wurde. Um solche schädlichen Inhalte zu bekämpfen, ergreift Google strenge Maßnahmen. Google hat in einem Unternehmensblog seine zweigleisige Angriffsmethode dargelegt, um zu verhindern, dass Deepfakes in Suchanfragen auftauchen.
Ich kann mir vorstellen, dass das erste, woran Sie denken, wenn Sie jemals Opfer expliziter Deepfakes oder Rachepornos geworden sind, die beleidigenden Inhalte entfernen. Es ist jedoch sehr schwierig, etwas zu löschen. Google hat das System dahingehend aktualisiert, dass die Entfernung solcher Inhalte erforderlich ist. Entsprechend GoogleWenn Inhalte erfolgreich entfernt wurden, versuchen Suchmaschinen, alle expliziten Inhalte im Zusammenhang mit diesem Begriff herauszufiltern. Und Google wird alle doppelten Beiträge entfernen.
Um explizite Beiträge aus der Google-Suche zu entfernen, müssen sie die folgenden Kriterien erfüllen:
- Auf dem Bild sind Sie deutlich zu erkennen.
- Bei dem betreffenden Bild handelt es sich um ein gefälschtes Bild, das Sie indirekt nackt oder in einer sexuellen Situation zeigt.
- Die Verbreitung der Bilder erfolgt ohne Ihr Einverständnis.
Auch das Ranking-System von Google wurde einem Update unterzogen. Der erste Schritt besteht darin, ein Ranking zu erstellen, das nicht viele explizite Inhalte enthält. Suchmaschinen werden versuchen, bei Suchanfragen mit einer hohen Rate an unangemessenen Ergebnissen bei der Eingabe des Namens nicht explizite Ergebnisse, wie z. B. Nachrichtenartikel, auszuliefern. Google behauptet, dass sein aktuelles Update die Deepfake-Port-Einträge um mehr als 70 % reduziert hat (ich würde gerne die tatsächlichen Zahlen dieser Statistik sehen).
Google räumte ein, dass die Feststellung, ob Inhalte einvernehmlich sind (z. B. eine Nacktszene eines Schauspielers, kein Deepfake), eine ständige Herausforderung darstellt. Das Unternehmen erklärte: „Wir nehmen weiterhin Verbesserungen vor, um legitime Inhalte besser anzuzeigen und explizite gefälschte Inhalte herabzustufen.“
Abschließend erstellt Google eine Liste und prüft diese zweimal. Wenn Sie in Ihren Suchergebnissen zu viele Markierungen von Google erhalten, insbesondere solche, die sich auf die Entfernung beziehen, wird Ihre Website möglicherweise herabgestuft. Das heißt, wenn auf Ihrer Seite zu viele explizite Inhalte entfernt werden, bestimmt Google, wann und ob Ihre Website in Suchanfragen angezeigt wird.
Im Großen und Ganzen ist das zwar ein relativ kleiner Schritt, aber zumindest bietet Google den Opfern von Deepfakes und Rachepornos eine Möglichkeit, sich zu wehren. Und wenn Google und andere KI-Anbieter sich auf Regeln und Vorschriften zur Lösung dieses Problems einigen können, müssen wir uns nicht mit dem Stillstand der Regierung auseinandersetzen, um dieses Problem zu lösen.
