Pünktlich zur US-Wahl 2024 hat das Anrufprüfungs- und Betrugserkennungsunternehmen Hiya eine kostenlose Chrome-Erweiterung zur Erkennung von Deepfake-Stimmen auf den Markt gebracht. Der richtige Name Hiya Deepfake-Sprachdetektor „Hört“ auf Töne, die in einem Video- oder Audiostream abgespielt werden, und weist einen Authentizitätswert zu, der Ihnen sagt, ob der Ton wahrscheinlich echt oder gefälscht ist.
Hiya teilte Engadget mit, dass externe Tester die Erweiterung mit einer Genauigkeit von mehr als 99 Prozent validiert haben. Das Unternehmen gibt an, dass die Technologie sogar KI-generierte Geräusche umfasst, auf die noch nie ein Erkennungsmodell trainiert wurde, und das Unternehmen behauptet, dass es Geräusche erkennen kann, die vom neuen Synthesemodell erzeugt werden, sobald es auf den Markt kommt.
Wir haben vor der Einführung mit der Erweiterung herumgespielt und sie scheint gut zu funktionieren. Ich habe ein YouTube-Video über die Blues-Pioniere Howlin’ Wolf gesehen, bei dem ich vermutete, dass es KI-Erzählungen verwendet. Das Video erhielt eine Authentizitätsbewertung von 1/100 und gab an, dass es sich bei dem Video wahrscheinlich um einen Deepfake handelte. Verdacht bestätigt.
Hiya hat den Social-Media-Unternehmen einen schweren Schlag versetzt, weil sie solche Tools notwendig gemacht haben. „Es ist klar, dass Social-Media-Sites eine große Verantwortung tragen, Benutzer zu warnen, wenn es sich bei den von ihnen konsumierten Inhalten wahrscheinlich um einen KI-Deepfake handelt“, schrieb Hiya-Präsident Kush Parikh in einer Pressemitteilung. „Jetzt liegt es an den Einzelpersonen, sich der Risiken bewusst zu sein und Tools wie den Deepfake Voice Detector zu verwenden, um zu überprüfen, ob sie befürchten, dass Inhalte verändert werden. Das ist eine große Herausforderung, daher freuen wir uns, sie mit einer Lösung unterstützen zu können, die ihnen dabei hilft, wieder etwas Macht in ihre Hände zu bekommen.“
Die Erweiterung muss den Ton nur einige Sekunden lang abhören, um die Ergebnisse auszugeben. Es basiert auf einem Kreditsystem, um zu verhindern, dass die Hiya-Server durch übermäßige Anfragen überlastet werden. Sie verdienen jeden Tag 20 Credits, was die Flut an manipulativen KI-Inhalten, die Sie in den kommenden Wochen in den sozialen Medien finden werden, möglicherweise ausgleicht oder auch nicht.
