US-Beamte und ihre Verbündeten haben es getan identifiziert und eine auf künstlicher Intelligenz basierende russische Botfarm mit fast 1.000 Konten geschlossen, die Desinformation und prorussische Stimmung auf X verbreitet. Das Justizministerium hat dies getan enthüllt Der softwaregestützte Schaltplan wurde von der hauseigenen Abteilung für digitale Medien erstellt RTein von der russischen Regierung kontrolliertes Medienunternehmen. Seine Entwicklung scheint von geleitet zu sein RT es Er wurde 2022 zum stellvertretenden Chefredakteur ernannt und von einem Beamten des russischen Föderalen Sicherheitsdienstes, dem Hauptnachfolger des KGB, genehmigt und finanziert.
In einer vom FBI herausgegebenen Cybersicherheitsempfehlung haben Geheimdienstmitarbeiter aus den Niederlanden und Cybersicherheitsbehörden aus Kanada dies konkret dargelegt Die Ein Tool namens „Meliorator“, das „massenhaft authentisch aussehende Social-Media-Personas“ erstellen kann, generiert Textnachrichten sowie Bilder und spiegelt Desinformationen von anderen Bot-Personas. Die Behörden haben zwei Domänen beschlagnahmt, mit denen E-Mail-Adressen erstellt wurden, die für die Registrierung von Konten auf X, früher bekannt als Twitter, erforderlich waren und die als Heimstätte für den Bot dienten.
Allerdings arbeitet das Justizministerium immer noch daran, alle 968 Konten zu finden, die von russischen Akteuren zur Verbreitung falscher Informationen genutzt wurden. X hat Informationen über alle bisher identifizierten Konten an die Behörden weitergegeben und diese gesperrt. Zeitung der Washington Post haben festgestellt, dass die Bots den Schutz von X umgehen, da sie das OTP aus ihrem E-Mail-Konto kopieren und einfügen können, um sich anzumelden. Die Verwendung von in den USA ansässigen Domainnamen durch die Operation verstoße gegen das International Emergency Economic Powers Act, erklärte das Justizministerium. Unterdessen verstößt ihre Bezahlung gegen die Bundesgesetze zur Geldwäsche in den USA.
Viele der vom Tool erstellten Profile geben sich als Amerikaner aus, indem sie amerikanisch klingende Namen verwenden und ihren Standort in X verschiedenen Orten in den USA zuordnen. Die vom Justizministerium vorgestellten Beispiele verwenden als Profilfoto ein Foto eines Gesichts auf grauem Hintergrund, was ein ziemlich guter Indikator dafür ist, dass das Profil mithilfe von KI erstellt wurde. Ein Account namens Ricardo Abbott, der angeblich aus Minneapolis stammt, veröffentlichte ein Video, in dem der russische Präsident Wladimir Putin das Vorgehen Russlands in der Ukraine rechtfertigte. Ein anderer Account unter dem Namen Sue Williamson veröffentlichte ein Video von Putin, in dem er sagte, dass es beim Krieg in der Ukraine nicht um einen Territorialkonflikt gehe, sondern um „die Prinzipien, auf denen die Neue Weltordnung basieren werde“. Diese Beiträge werden dann von anderen Bots im Netzwerk geliked und erneut hochgeladen.
Es ist erwähnenswert, dass diese Bot-Farm zwar auf Ausländische Akteure, die politische Desinformation verbreiten, nutzen seit Jahren soziale Medien, um Fake News zu verbreiten. Aber jetzt haben sie ihr Arsenal um KI erweitert. Bereits im Mai berichtete OpenAI, dass es fünf verdeckte Einflussoperationen aus Russland, China, Israel und dem Iran aufgedeckt habe, die seine Modelle nutzten, um politische Ergebnisse zu beeinflussen.
„Russland beabsichtigt, diese Bot-Farmen zu nutzen, um KI-generierte ausländische Desinformation zu verbreiten und seine Bemühungen mit Hilfe der KI zu verstärken, um unsere Partner in der Ukraine zu untergraben und das geopolitische Narrativ zu beeinflussen, das für die russische Regierung günstig ist“, sagte FBI-Direktor Christopher Wray in einer Erklärung . „Das FBI ist bestrebt, mit unseren Partnern zusammenzuarbeiten und sequenzielle gemeinsame Operationen durchzuführen, um unsere gefährlichsten Gegner und ihren Einsatz fortschrittlicher Technologie für schändliche Zwecke strategisch zu stören.“
Wie für RTsagte die Medienorganisation Bloomberg: „Landwirtschaft ist ein Hobby, das Millionen von Russen lieben.“
