Nachdem der Präsident von Burkina Faso durch einen Militärputsch an die Macht gekommen war, erschien ein Video, in dem verschiedene Gesichter für den neuen Führer des westafrikanischen Landes werben. „Wir müssen … Präsident Ibrahim Traoré unterstützen … Mutterland oder Tod, wir werden gewinnen!“, sagte der junge Mann mit leicht amerikanischem Akzent in einem Video, das Anfang 2023 auf Telegram kursierte.
Entsprechend Wächter, Einige Videos dieser Art werden mit Werkzeugen der künstlichen Intelligenz (KI) generiert, die von menschlichen Modellen inspiriert sind und vom Technologieunternehmen Synthesia, a., bereitgestellt werden Stummel mit Sitz in London. Die Wette des Unternehmens auf ein digitales Avatar-Produkt, das für den Massenmarkt zugänglich ist, und eine Kapitalspritze von Investoren brachten ihm den „Einhorn“-Status ein, ein Titel, der privaten Unternehmen mit einem Wert von mehr als 1 Milliarde US-Dollar verliehen wird.
Diese Technologie wurde auch verwendet, um Bilder mit Bezug zu feindlichen Ländern wie Russland und China zu erstellen und Desinformation zu verbreiten. Eine Geheimdienstquelle enthüllte Hausmeister dass das Burkina-Faso-Video mit hoher Wahrscheinlichkeit von russischen Staatsakteuren mitgestaltet wurde.
Mit dem betreffenden Tool können Unternehmen oder Einzelpersonen in nur wenigen Minuten und für nur 23 £ pro Monat Videos mit Moderatoren erstellen. Connor Yeates und Mark Torres wurden beide vom derzeitigen Führer von Burkina Faso für Propaganda „benutzt“.
Im Sommer 2022 Connor von seinem Agenten als eines der ersten KI-Modelle bezeichnet Synthese. „Sie haben sofort bezahlt, ich habe keine reichen Eltern und ich brauchte Geld“, gab er gegenüber der Zeitung zu Englisch. Zeichen gestand danach Wali nachdem er ihm das Video zum ersten Mal gezeigt hatte: „Ich wollte nicht, dass mich jemand so sieht. Die Tatsache, dass mein Image bekannt ist, könnte viel mehr bedeuten – die Förderung der Militärherrschaft in einem Land, von dessen Existenz ich nichts wusste. Die Leute werden denken, ich sei in Betrug verwickelt.“
Synthesia-Sprecher versicherte Wali dass das Unternehmen das Konto, das das Video erstellt hat, im Jahr 2023 sperrt und seinen Inhaltsüberprüfungsprozess verstärkt, indem es Moderatoren und automatisierte Systeme einsetzt, um Manipulationen an der Technologie des Unternehmens zu erkennen und zu verhindern. Mark Torres und Connor Yeates wussten jedoch nichts von dem Video, bis eine britische Zeitung sie vor einigen Monaten kontaktierte.
Hausmeister beschlossen, eine Reihe von Desinformationsskripten zu verwenden, um die Technologie von Synthesia zu testen. Obwohl das System Versuche, einen der verfügbaren Avatare zu verwenden, blockierte, konnte die Zeitung ein Propagandavideo aus Burkina Faso mit einem aus einem menschlichen Modell generierten Avatar nachbilden und ein Folgevideo erstellen. herunterladen. Diese Schritte sollten aufgrund der Richtlinien des Technologieunternehmens nicht zulässig sein. Synthesia antwortete, dass dies kein Verstoß gegen seine Bedingungen sei, da es das Recht respektiere, seine politische Position zu äußern, sperrte das Konto jedoch später.
2017 von Wissenschaftlern aus London und München – Victor Riparbelli und Steffen Tjerrild – gegründet — Synthesia hält derzeit einen bedeutenden Anteil am Technologiemarkt mit Kunden wie Microsoft, Zoom, Xerox und Ernst & Young. Synthesia hat den kostenlosen KI-fähigen Audiodienst nach einer Kontaktaufnahme von von seinen Systemen entfernt Wali und sagte, dass die Technologie hinter dem Produkt ein Drittanbieterdienst sei.
Text herausgegeben von Sonia Sapage
