Das US-Justizministerium hat bekannt gegeben, dass es Maßnahmen ergriffen hat, um eine hochentwickelte KI-gestützte Informationsoperation zu stoppen, die Berichten zufolge von Russland inszeniert wurde. Nach Angaben des Ministeriums waren von der Operation fast 1.000 Konten auf der sozialen Plattform X betroffen, die amerikanische Identitäten verwendeten.
Die Operation soll mit dem russischen Staatssender RT News verbunden sein und vom Bundessicherheitsdienst des Landes verwaltet werden. Das Ziel dahinter sei es, „Desinformationen zu verbreiten, um eine Spaltung in den Vereinigten Staaten und anderswo herbeizuführen“, heißt es Gerichtsdokumente.
Das Justizministerium gab heute die Beschlagnahmung von zwei Domainnamen und die Durchsuchung von 968 Social-Media-Konten bekannt, die von russischen Akteuren genutzt wurden, um KI-gestützte Social-Media-Bot-Farmen zu erstellen, die Desinformation in den Vereinigten Staaten und im Ausland verbreiten. Erfahren Sie mehr: foto.twitter.com/apWv6rGRYL
—FBI (@FBI) 9. Juli 2024
Diese X-Konten wurden angeblich erstellt, um prorussische Propaganda zu verbreiten. Allerdings werden diese Konten nicht von Menschen betrieben, sondern von automatisierten „Bots“. RT, früher bekannt als Russia Today, sendet auf Englisch und anderen Sprachen und ist online deutlich einflussreicher als über herkömmliche Sendemethoden.
Berichten zufolge begann die Bot-Operationsinitiative 2022 mit dem stellvertretenden Chefredakteur von RT und erhielt Unterstützung und Finanzierung von einem Beamten des Bundessicherheitsdienstes, dem Hauptnachfolger des KGB. Das Justizministerium übernahm außerdem zwei Websites, die eine Schlüsselrolle bei der Verwaltung von Bot-Konten spielten, und zwang X, Details zu 968 Konten herauszugeben, bei denen es sich vermutlich um Bots handelte.
Russische Roboter nutzen KI
Das FBI warnte zusammen mit niederländischen Geheimdienstmitarbeitern und kanadischen Cybersicherheitsbeamten vor „Reparatur„, ein Tool, das in der Lage ist, „massenhaft authentisch aussehende Social-Media-Personas“ zu erstellen. Das Tool kann auch Texte und Bilder generieren sowie Desinformationen anderer Bots verbreiten.
Gerichtsdokumente zeigen, dass KI zur Erstellung von Konten eingesetzt wurde, um antiukrainische Stimmung zu verbreiten.
„Die heutige Aktion ist die erste, die eine von Russland geförderte generative KI-basierte Social-Media-Bot-Farm vereitelt“, sagte FBI-Direktor Christopher Wray.
„Russland beabsichtigt, diese Botfarmen zu nutzen, um KI-generierte ausländische Desinformation zu verbreiten, seine Bemühungen mit Hilfe der KI auszuweiten, um unsere Partner in der Ukraine zu untergraben und das geopolitische Narrativ zu beeinflussen, das für die russische Regierung günstig ist“, fügte Wray hinzu.
Die Konten wurden inzwischen von X gelöscht und von FBI-Ermittlern bereitgestellte Screenshots zeigen, dass die Konten nur eine geringe Anzahl von Followern hatten.
Eine amerikanische Identität vortäuschen
Das Washington Post berichteten über eine große Lücke, die es Bots ermöglichte, die Sicherheitsmaßnahmen von Das Justizministerium berichtete, dass die Verwendung von in den USA ansässigen Domänennamen durch die Operation einen Verstoß gegen das International Emergency Economic Powers Act darstelle. Darüber hinaus verstoßen die diese Operationen unterstützenden Finanztransaktionen gegen die US-Bundesgesetze zur Geldwäsche.
Viele dieser gefälschten Profile kopieren die Identität amerikanischer Bürger, verwenden amerikanisch klingende Namen und listen mithilfe von KI Orte in den gesamten USA auf.
Beispielsweise veröffentlichte ein Profil namens Ricardo Abbott, der angeblich aus Minneapolis stammte, ein Video, in dem der russische Präsident Wladimir Putin das russische Engagement in der Ukraine verteidigte. Ein anderes Profil namens Sue Williamson teilte ein Video von Putin, in dem er erklärte, dass es beim Konflikt in der Ukraine nicht um Territorien gehe, sondern um „die Prinzipien, die die Grundlage der Neuen Weltordnung bilden werden“. Diese Beiträge werden dann von anderen Bots im Netzwerk geliked und geteilt.
Weitere Angaben des Justizministeriums zeigen, dass verknüpfte E-Mail-Konten erstellt werden können, wenn der Benutzer eine Internetdomäne besitzt. Beispielsweise ermöglicht die Kontrolle über die Domain www.example.com das Öffnen von E-Mail-Adressen wie (email protected).
In diesem Fall verwalteten und nutzten die Täter die Domainnamen „mlrtr.com“ und „otanmail.com“, die beide über einen in den USA ansässigen Dienst registriert waren, um einen E-Mail-Server zu erstellen, der die Erstellung gefälschter Social-Media-Konten über ihren Bot unterstützte landwirtschaftliche Technologie.
Ausgewähltes Bild: Canva / Ideogramm
