Singapur hat neue Gesetze vorgeschlagen, um die Verwendung digital manipulierter Inhalte, insbesondere Deepfakes, während Wahlen zu verbieten.
Die neuen gesetzlichen Maßnahmen würden die „Integrität und Ehrlichkeit der Vertretung“ während der Wahlen gewährleisten, sagte das Ministerium für digitale Entwicklung und Information (MDDI) in einer Erklärung. Stellungnahme am Montag. Der Gesetzentwurf wurde dem Parlament vorgelegt und wird in der nächsten Sitzung zur zweiten Lesung vorgelegt.
Ziel ist es, neue Gesetze zu schaffen, um die Anwohner vor digital manipulierten Inhalten zu schützen, darunter Audio-, Video- und Bildinhalte, die durch künstliche Intelligenz (KI) generiert werden, auch Deepfakes genannt.
Außerdem: Unternehmen sind immer noch bereit, in Gen AI zu investieren, wobei das Risikomanagement oberste Priorität hat
Fortschritte in der generativen KI (Gen AI)-Technologie haben Chancen eröffnet, stellen aber auch Informationsrisiken dar, da Kriminelle sie ausnutzen, um Fehlinformationen zu erstellen und zu verbreiten, sagte MDDI. Dies zeigt eine Zunahme böswilliger Deepfakes, die in Singapur für Betrug und Erpressung eingesetzt werden.
Während Online-Lügen durch das Gesetz zum Schutz vor Online-Lügen und -Manipulation des Landes bekämpft werden können, ist nach dem Gesetz zur Online-Wahlwerbung eine „gezielte Hebelwirkung“ erforderlich, um gegen Deepfakes vorzugehen, die Kandidaten falsch darstellen, erklärte das Ministerium. Das letztgenannte Gesetz definiert alle online zugänglichen Inhalte, von denen „begründet“ angenommen werden könnte, dass sie das Ansehen einer politischen Partei oder eines Kandidaten fördern oder verbessern oder die Wahlaussichten einer anderen politischen Partei oder eines anderen Kandidaten beeinträchtigen.
Wenn nicht dagegen vorgegangen wird, könnten Deepfakes die Integrität des Wahlprozesses in Singapur gefährden, sagte MDDI. MDDI fügte hinzu, dass Wähler in der Lage sein sollten, Entscheidungen auf der Grundlage von Fakten und nicht auf der Grundlage von Fehlinformationen zu treffen.
Auch: Künstliche Intelligenz, echte Angst: Warum wir nicht aufhören können, uns Sorgen zu machen und KI lieben
Die vorgeschlagene Gesetzesmaßnahme würde die Veröffentlichung digital generierter oder manipulierter Online-Wahlanzeigen verbieten, die „realistisch darstellen“, dass Kandidaten etwas sagen oder tun, was sie nicht gesagt oder getan haben. Dazu gehören Inhalte, die sowohl KI- als auch Nicht-KI-Techniken nutzen, wie z. B. Bearbeitung durch Fotobearbeitung, Voiceover oder Stitching.
Die neuen Maßnahmen gelten nur für Online-Wahlanzeigen, in denen Einzelpersonen als Kandidaten für Wahlen auftreten.
Das vorgeschlagene Gesetz würde die Erteilung von Korrekturanweisungen an Personen, die solche Inhalte veröffentlichen, sowie an Social-Media-Plattformen ermöglichen, um anstößige Inhalte zu entfernen. Es können auch Anweisungen an Internetdienstanbieter gesendet werden, um den Zugriff von Nutzern in Singapur auf solche Inhalte während der Wahlperiode zu sperren.
Die Nichteinhaltung von Korrekturanweisungen gilt als Verstoß und wird im Falle einer Verurteilung mit Geldstrafen, Gefängnisstrafen oder beidem geahndet.
Der Gesetzentwurf würde es Kandidaten auch ermöglichen, Anträge einzureichen, damit Inhalte auf potenzielle Verstöße überprüft und entsprechende Korrekturanweisungen erlassen werden. Kandidaten, die durch solche Inhalte falsch dargestellt wurden, können Erklärungen abgeben, um die Richtigkeit ihrer Behauptungen zu beweisen, sagte MDDI.
Das Ministerium erklärte, dass es für Kandidaten rechtswidrig sei, in ihren Anträgen absichtlich falsche oder irreführende Angaben zu den betreffenden Inhalten zu machen. Das Ministerium fügte hinzu, dass Bußgelder oder andere Strafen verhängt werden könnten, wenn festgestellt werde, dass Kandidaten solche Praktiken begangen hätten.
Auch: Können Regierungen Gespräche über KI-Sicherheit in die Tat umsetzen?
Die Regierung Singapurs plant außerdem die Einführung eines Verhaltenskodex, der bestimmte Social-Media-Anbieter dazu verpflichtet, Maßnahmen zur Verhinderung und Bekämpfung der Nutzung digital manipulierter Inhalte auf ihren Plattformen zu ergreifen.
Einzelheiten werden in den kommenden Monaten bekannt gegeben, wobei Gespräche zwischen Regulierungsbehörden und Social-Media-Betreibern stattfinden werden, sagte MDDI.
„Über Wahlen hinaus können Deepfakes und andere Formen manipulierter Inhalte eine ernsthafte Gefahr für Online-Nutzer darstellen“, sagte er. „Ersteller und Verbreiter von KI-generierten Inhalten haben die Verantwortung, einen sicheren Informationsraum zu fördern, sowohl während als auch außerhalb von Wahlen.“
Außerdem: Wie Singapur eine integrativere KI schafft
Es wird erwartet, dass Singapur Anfang nächsten Jahres oder vor November 2025 Parlamentswahlen abhält.
Südkorea hat ein 90-tägiges Verbot erlassen zum Einsatz von Deepfakes in politischen Wahlkampfinhalten für die Parlamentswahlen im April 2024.
