OpenAI gab am Freitag bekannt, dass es mithilfe von ChatGPT eine „iranische Einflussoperation“ aufgedeckt habe. Die als Storm-1679 bekannte Gruppe erstellte Artikel und Social-Media-Kommentare, um die öffentliche Meinung um Vizepräsidentin Kamala Harris und den ehemaligen Präsidenten Donald Trump zu formen OpenAILaut OpenAI hat Storm-1679 nicht nur die US-Präsidentschaftskandidaten für 2024 ins Visier genommen, sondern auch Inhalte rund um Israels Invasion in Gaza und seine Präsenz bei den Olympischen Spielen 2024, die Rechte der in den USA ansässigen Latinx-Gemeinschaften, die venezolanische Politik und die Unabhängigkeit Schottlands vom Vereinigten Königreich produziert.
Die meisten der von OpenAI entdeckten Beiträge und Artikel hätten von echten Menschen kaum Beachtung gefunden, so das Unternehmen. Jedoch, erläuterte den Vorfall ausführlich in seinem Blogschrieb, dass sie ein Dutzend X-Konten (ehemals Twitter) gefunden hätten, die sich als Konservative und Progressive tarnten und Hashtags wie „#DumpTrump“ und „#DumpKamala“ verwendeten. Laut OpenAI hat Storm-1679 auch mindestens einen Instagram-Account angezapft, um KI-generierte Inhalte zu verbreiten.
OpenAI hat zuvor erklärt: „staatsnahe Bedrohungsakteure„Es ist das erste Mal, dass es eine konkrete Wahlbeeinträchtigungskampagne mithilfe von ChatGPT aufdeckt.“
OpenAI sagte, es habe auf die Entdeckung reagiert, indem es eine „Gruppe“ von Konten blockierte, die den Inhalt erstellt hatten; Das Unternehmen sagte außerdem, dass es „Bedrohungsinformationen mit Interessenvertretern aus Regierung, Kampagne und Industrie teilt“. Das Unternehmen nannte diese Stakeholder nicht namentlich, sie teilten jedoch Screenshots einiger Beiträge. Die Screenshots zeigen die Anzahl der Aufrufe zwischen 8 und 207 Aufrufen und fast keine Likes.
OpenAI sagte, Storm-1679 habe auch von ChatGPT generierte Artikel auf mehreren Websites geteilt, die „sich als progressive und konservative Nachrichtenmedien ausgeben“. Das Unternehmen fügte hinzu: „Die meisten von uns identifizierten Social-Media-Beiträge erhielten nur wenige oder keine Likes, Shares oder Kommentare. Wir haben auch keinen Hinweis darauf gefunden, dass der Webartikel in den sozialen Medien geteilt wurde.“
A Bericht vom 6. August von Microsoft beschreibt Storm-2035 auf ähnliche Weise – als ein iranisches Netzwerk mit „vier Websites, die sich als Nachrichtenagenturen ausgeben“. Laut Microsoft veröffentlichte das Netzwerk Beiträge, die „Kontroversen“ über Wahlen, LGBTQIA+-Rechte sowie Israels Invasion im Gazastreifen auslösten.
Berichte über ausländische Online-Einmischung in US-Wahlen sind mittlerweile fast an der Tagesordnung. In dem Bericht von Microsoft vom 6. August wurde beispielsweise auch ein mit dem Iran in Verbindung stehender Phishing-Angriff detailliert beschrieben, der auf einen namentlich nicht genannten hochrangigen US-Wahlkampfbeamten abzielte. Kurz nachdem Microsoft den Bericht zurückgezogen hatte, gab die Trump-Kampagne bekannt, dass „ausländische Quellen“ einige seiner E-Mails und Dokumente gestohlen hatten, um die Präsidentschaftswahl 2024 zu beeinflussen. Acht Jahre zuvor war dies einer mit Russland verbundenen Hackergruppe namens Guccifer 2.0 gelungen Diebstahl von E-Mails des Democratic National Committee über ein ähnliches Netzwerk. Phishing-Angriffe; Letztendlich haben sie im Vorfeld des Democratic National Convention 2016 Tausende von DNC-E-Mails und -Dokumenten durchsickern lassen.
Unter dem Druck des Gesetzgebers haben große Technologieunternehmen im Laufe der Jahre verschiedene Maßnahmen ergriffen, um auf solche Vorfälle zu reagieren. Zu ihren Bemühungen gehören Memes zur Faktenprüfung, Wunschdenken, kurzfristige politische Werbeverbote, „War Rooms“ und die Zusammenarbeit mit Konkurrenten und der Polizei.
