Deepfakes haben allein im letzten Jahr große Fortschritte gemacht, was es für den Durchschnittsbürger immer schwieriger macht, herauszufinden, was echt ist und was nicht.
Dank der Leistungsfähigkeit künstlicher Intelligenz können Cyberkriminelle und andere jetzt schneller und einfacher als je zuvor überraschend überzeugende Audio-, Video- und Foto-Deepfakes erstellen. Und Experten sagen, dass diese Kreationen für alles Mögliche eingesetzt werden können, von der Betrügerei von Verbrauchern um ihr Geld bis hin zur Beeinflussung der öffentlichen Meinung vor einer Wahl.
Während ein Großteil dieses Problems auf den Aufstieg der KI zurückzuführen ist, sagt das Sicherheitssoftwareunternehmen McAfee, dass die Lösung möglicherweise auch in der KI liegt.
Der am Mittwoch angekündigte McAfee Deepfake Detector wird Verbraucher vor potenziellen Deepfakes warnen, denen sie beim Surfen im Internet oder beim Betrachten von Beiträgen in ihren Social-Media-Feeds begegnen könnten.
Der Deepfake Detector von McAfee weist auf mögliche Anzeichen eines gefälschten Videos hin.
Das Tool wird ab heute auf Lenovo Copilot-Plus-PCs veröffentlicht. Genau wie die Antivirensoftware, für die McAfee bekannt ist, wird es sich um einen kostenpflichtigen Dienst handeln. Verbraucher, die sich für die Nutzung entscheiden, erhalten eine 30-tägige kostenlose Testversion. Danach beginnen die Pläne im ersten Jahr bei 9,99 $.
Obwohl der Detektor mit KI betrieben wird, erfolgt die gesamte Verarbeitung auf dem Gerät, um den Datenschutz zu gewährleisten und Latenzprobleme zu vermeiden, die beim Senden von Daten an die Cloud auftreten können, sagt Steve Grobman, Executive Vice President und Chief Technology Officer bei McAfee.
Verbraucherdaten werden nicht erfasst und Aktualisierungen der KI des Tools werden vom Forschungsteam des Unternehmens erfolgen, sagt er.
„Wir wollten unseren Kunden unbedingt eine Reihe von Tools an die Hand geben, mit denen sie erkennen können, ob etwas möglicherweise KI-generiert ist“, sagt Grobman. „Aber wir wollten auch sehr auf Dinge wie Datenschutz und Benutzererfahrung achten.“
Darüber hinaus ist der Detektor wie das Antivirenprogramm so konzipiert, dass er unbemerkt im Hintergrund läuft. Wenn es jedoch etwas Fragwürdiges erkennt, während der Benutzer Websites durchsucht oder Videos in seinen Social-Media-Feeds ansieht, wird eine Popup-Benachrichtigung angezeigt. Benutzer können dann wählen, ob sie es ignorieren oder darauf klicken möchten, um weitere Informationen zu erhalten.
Derzeit analysiert das Tool nur den Ton eines Videos, sodass der Detektor nicht eingreift, wenn jemand nur ohne Ton durch seine Instagram- oder Twitter-Feeds scrollt. Und er kann nicht sagen, ob es sich bei den Fotos um Deepfakes handelt.
Die Fähigkeiten des Tools werden irgendwann erweitert, um diese Dinge zu tun, sagt Grobman. Aber McAfee hat sich entschieden, mit Audio zu beginnen, denn während viele Deepfakes echte Videos verwenden, haben sie fast immer gefälschtes Audio.
Und obwohl der Detektor derzeit nur auf neuen Lenovo-Computern verfügbar ist, ist er laut Grobman mit bestimmten Arten von Intel- und Qualcomm-Prozessoren kompatibel, was seine zukünftige Verfügbarkeit auf anderen Arten von PCs und Mobilgeräten ermöglichen könnte.
Die Idee besteht darin, die Menschen darüber aufzuklären, was sie sehen. Im Rahmen dieser Bemühungen führt McAfee auch seine ein Intelligenter KI-Hubeine Website, auf der Verbraucher alles über KI und Deepfake-Technologie erfahren können.
Während Sie vielleicht denken, dass es schwer zu verkaufen ist, Verbraucher dazu zu bringen, 10 US-Dollar pro Jahr für so etwas zu zahlen, argumentiert Grobman, dass es nicht viel anders ist, als für Software zu bezahlen, um Ihren Computer virenfrei zu halten.
Er weist darauf hin, dass bei Online-Betrügereien zunehmend Deepfakes zum Einsatz kommen, und verweist auf ein mittlerweile berühmtes Deepfake-Video, das den Anschein erweckte, als würde Megastar Taylor Swift einen 10-Dollar-Deal für Bratpfannen von Le Creuset bewerben.
Bei dieser Art von Betrug gibt es keine Schadsoftware, die von der Sicherheitssoftware erkannt werden kann, und nichts hindert diejenigen, die darauf hereinfallen, daran, ihr Geld, ihre Kryptowährungen oder ihre persönlichen Daten zu versenden.
„Aber wenn wir helfen können, einen Benutzer zu warnen: ‚Hey, das ist wahrscheinlich KI-generiert‘, könnte bei einigen von ihnen ein Licht aufgehen“, sagt er. „Vielleicht sparen sie ihre 10 Dollar.“
