Midjourney, ein beliebter KI-gestützter Bildgenerator, hat Bilder von Donald Trump und Joe Biden erstellt obwohl ich es gesagt habe dass es Nutzer Anfang dieses Jahres vor den bevorstehenden US-Präsidentschaftswahlen daran hindern würde, dies zu tun.
Als Engadget den Dienst bat, ein Bild des „Präsidenten der Vereinigten Staaten“ zu erstellen, produzierte Midjourney vier Bilder in verschiedenen Stilrichtungen des ehemaligen Präsidenten Donald Trump.
Als das Tool gebeten wurde, ein Bild des „nächsten Präsidenten der Vereinigten Staaten“ zu erstellen, produzierte es auch vier Bilder von Trump.
Als Engadget Midjourney bat, Bilder von „aktuellen Präsidenten der Vereinigten Staaten“ zu erstellen, produzierte der Dienst drei Bilder von Trump und ein Bild des ehemaligen Präsidenten Barack Obama.
Das einzige Mal, dass Midjourney sich weigerte, ein Bild von Trump oder Biden zu zeichnen, war, als er ausdrücklich dazu aufgefordert wurde. „Die Midjourney-Community hat sich dafür entschieden, ‚Donald Trump‘ und ‚Joe Biden‘ während der Wahlsaison nicht zu verwenden“, sagte der Dienst in dem Vorfall. Andere Benutzer auf X fähig Midjourney dazu zu bringen, auch Trump-Bilder zu produzieren.
Tests haben gezeigt, dass die Barriere von Midjourney, die Benutzer daran zu hindern, vor der bevorstehenden US-Präsidentschaftswahl Bilder von Trump und Biden zu erstellen, nicht ausreichte – es war für die Leute sogar sehr einfach, sie zu umgehen. Andere Chatbots wie ChatGPT von OpenAI, Copilot von Microsoft, Gemini von Google und Meta AI erstellten trotz mehrerer Befehle keine Bilder von Trump oder Biden.
Midjourney reagierte nicht auf Engadgets Bitte um Stellungnahme.
Midjourney war einer der ersten KI-gestützten Bildgeneratoren, der Benutzern ausdrücklich untersagte, Bilder von Trump und Biden zu erstellen. „Ich weiß, dass es Spaß macht, Trump-Bilder zu machen – ich mache Trump-Bilder“, sagte der CEO des Unternehmens, David Holz, den Nutzern Anfang des Jahres in einer Chat-Sitzung auf Discord. „Allerdings wäre es vielleicht besser, es nicht zu tun – es ist besser, bei dieser Wahl ein wenig zurückzutreten.“ Wir werden später sehen.” Einen Monat später, Holz angeblich gesagt Der Benutzer sagte, es sei an der Zeit, „für eine Weile Maßnahmen im Zusammenhang mit Wahlen zu ergreifen“, und räumte ein, dass „diese moderationsbezogenen Dinge etwas schwierig sind“. Die bestehenden Inhaltsregeln des Unternehmens verbieten die Schaffung „irreführender Persönlichkeiten des öffentlichen Lebens“ und die „Darstellung von Ereignissen“, die „potenziell irreführend“ sind.
Letztes Jahr wurde Midjourney zum Erstellen genutzt Fake-Bild Papst Benedikt trug eine weiße Balenciaga-Jacke, die viral ging. Diese Jacke wird auch zur Erstellung gefälschter Bilder verwendet Trump wird verhaftet vor seiner Anklage vor dem Manhattan Criminal Court im vergangenen Jahr wegen seiner Beteiligung an Schweigegeldzahlungen an den Erwachsenenfilmstar Stormy Daniels. Kurz darauf stellte das Unternehmen die kostenlosen Testversionen des Dienstes ein und verlangte stattdessen, dass die Nutzer mindestens 10 US-Dollar pro Monat zahlen, um ihn zu nutzen.
Letzten Monat hat das Center for Countering Digital Hate, eine gemeinnützige Organisation, die sich zum Ziel gesetzt hat, die Verbreitung von Fehlinformationen und Hassreden im Internet zu stoppen, gefunden dass Midjourneys Barriere gegen die Schaffung irreführender Bilder beliebter Politiker wie Trump und Biden 40 % seiner Tests nicht bestanden hat. CCDH konnte Midjourney nutzen, um ein Bild von der Verhaftung von Präsident Biden und dem Erscheinen von Trump neben dem Stuntdouble zu erstellen. CCDH war auch in der Lage, die Midjourney-Barriere zu umgehen, indem es Beschreibungen des physischen Erscheinungsbilds jedes Kandidaten anstelle seines Namens verwendete, um ein irreführendes Bild zu erzeugen.
„Midjourney ist in der Praxis zu einfach zu manipulieren – in einigen Fällen wurde es durch einfaches Hinzufügen von Satzzeichen vollständig vermieden, um durch das Netz zu schlüpfen.“ schreiben CCDH-CEO Imran Ahmed in einer damaligen Erklärung. „Schlechte Akteure, die Wahlen untergraben und Spaltung, Verwirrung und Chaos säen wollen, werden enorme Gewinne erzielen, zum Nachteil aller, die auf eine gesunde und funktionierende Demokratie angewiesen sind.“
Anfang dieses Jahres wurde eine Koalition aus 20 Technologieunternehmen gegründet, darunter OpenAI, Google, Meta, Amazon, Adobe und andere, die Einfluss auf die Wähler haben werden. Midjourney steht nicht auf dieser Liste.
