OpenAI wird gesagt am Freitag, dass sie eine iranische Einflusskampagne vereitelt haben, die ChatGPT nutzte, um gefälschte Nachrichten und soziale Beiträge für Amerikaner zu erstellen. Das Unternehmen sagte, es habe Konten identifiziert und gesperrt, die Inhalte für fünf Websites (auf Englisch und Spanisch) erstellen, die sich als Nachrichtenagenturen ausgeben und „spaltende Botschaften“ zu Themen wie dem US-Präsidentschaftswahlkampf, den Rechten von LGBTQ+ und dem Krieg in Gaza verbreiten.
Die Operation wurde als „Storm-2035“ identifiziert und ist Teil einer Reihe von Microsoft-Einflusskampagnen identifiziert letzte Woche als „mit der iranischen Regierung verbunden“. Zusätzlich zu den Nachrichten gab es auch „Dutzende Accounts auf X und einen auf Instagram“, die mit der Operation in Zusammenhang standen. OpenAI sagte, die Operation habe offenbar keine nennenswerte Aufmerksamkeit erhalten. „Die Mehrzahl der von uns identifizierten Social-Media-Beiträge erhielten wenige oder keine Likes, Shares oder Kommentare“, schrieb das Unternehmen.
Darüber hinaus sagt OpenAI das weiter Skala Breakout Brookings InstitutionBei der Einschätzung der Bedrohung wurde für den Einsatz lediglich eine Einstufung der Kategorie 2 (auf einer Skala von eins bis sechs) erzielt. Das bedeutet, dass die Operation „Aktivitäten auf mehreren Plattformen zeigt, aber keine Beweise dafür, dass echte Menschen ihre Inhalte weithin nutzen oder teilen“.
OpenAI beschrieb die Operation als die Erstellung von Inhalten für gefälschte konservative und progressive Nachrichtenagenturen, die auf gegensätzliche Standpunkte abzielen. Bloomberg wird gesagt Der Inhalt deutet darauf hin, dass Donald Trump „in den sozialen Medien zensiert wird und bereit ist, sich selbst zum König der USA zu erklären“. Andere bezeichneten Kamala Harris‘ Wahl von Tim Walz als ihren Vizepräsidenten als „eine auf Einigkeit ausgerichtete Entscheidung“.
OpenAI fügte hinzu, dass die Operation auch Inhalte über die Präsenz Israels bei den Olympischen Spielen und (in geringerem Maße) über die venezolanische Politik, die Rechte der lateinamerikanischen Völker und die Unabhängigkeit Schottlands erstellt habe. Darüber hinaus würzt die Kampagne die schweren Themen mit Kommentaren zu Mode und Schönheit, „vielleicht um authentischer zu wirken oder um eine Fangemeinde aufzubauen“.
„Bei dieser Operation wurde versucht, beide Parteien einzubeziehen, aber anscheinend gab es keine Beteiligung beider Parteien“, sagte Ben Nimmo, Ermittler bei OpenAI Intelligence and Investigations Bloomberg.
Das Scheitern der Einflussnahme folgt auf Enthüllungen Anfang dieser Woche, dass iranische Hacker die Kampagnen von Harris und Trump ins Visier genommen hatten. Das FBI sagte, Trumps informeller Berater Roger Stone sei Opfer einer Phishing-E-Mail geworden. Anschließend übernahmen iranische Hacker sein Konto und verschickten Nachrichten mit Phishing-Links an andere Personen. Das FBI fand keine Beweise dafür, dass irgendjemand im Harris-Wahlkampf auf den Plan hereinfiel.
