Der Gouverneur von Kalifornien legt sein Veto gegen einen KI-Gesetzentwurf ein, der eine große Katastrophe verhindern soll

Der Gouverneur von Kalifornien, Gavin Newsom, legte am Sonntag sein Veto gegen einen Gesetzentwurf ein, der verhindern soll, dass große KI-Systeme massiven Schaden anrichten, und sagte, das Gesetz würde ein „falsches Sicherheitsgefühl“ erzeugen.

Seine Entscheidung fiel nach wochenlangen Überlegungen und konkurrierenden Lobbybemühungen von großen Technologieunternehmen, Prominenten, Milliardären und Arbeitern, die KI entwickeln.

Gesetz, Senatsgesetz 1047Das im Mai von Senator Scott Weiner (D-San Francisco) eingeführte Gesetz würde Unternehmen, die mehr als 100 Millionen US-Dollar an Rechenressourcen ausgeben, um ein grundlegendes KI-Modell zu erstellen, oder 10 Millionen US-Dollar an Rechenressourcen, um ein Basismodell zu verfeinern, dazu verpflichten, Sicherheitstests durchzuführen , unabhängige Prüfer beauftragen, das Modell jährlich zu überprüfen und „angemessene Sorgfalt“ walten zu lassen, um sicherzustellen, dass das Modell keine Massenunfälle, Schäden an physischer oder Cyber-Infrastruktur in Höhe von mehr als 500 Millionen US-Dollar oder unverantwortliche Handlungen verursacht. unter menschlicher Aufsicht, um relativ schwere Verbrechen zu begehen.

Das Gesetz wies Entwickler auch an, einen Notausschalter in berechtigte Modelle einzubauen, der eine sofortige Abschaltung ermöglichen würde, und gab den Generalstaatsanwälten die Befugnis, Entwickler wegen Verstößen gegen das Gesetz zu verklagen und in Fällen, in denen es sich um schwerste Verluste handelt, eine Entschädigung zu fordern bis zu 10 Prozent der Modellschulungskosten.

Newsom hat in den letzten Wochen einen unterzeichnet Reihe von Rechnungen in Rechtsvorschriften, die sich mit den unmittelbaren und anhaltenden Schäden befassen, die durch KI-Systeme verursacht werden, einschließlich Rechtsvorschriften, die die Erstellung gefälschter sexueller Bilder ohne Zustimmung unter Strafe stellen und generative KI-Modelle dazu verpflichten, ihre Inhalte mit einem Wasserzeichen zu versehen, damit sie leichter identifiziert werden können. Doch SB 1047, das nur für die reichsten und einflussreichsten KI-Unternehmen gilt, ist in den letzten Monaten zu einem Schwerpunkt der Debatte über die KI-Regulierung geworden.

Unternehmen wie Meta, Google, OpenAI und Anthropic lehnten den Gesetzentwurf vehement ab und sagten, er würde Innovationen ersticken und kleinen Unternehmen schaden, obwohl die Regel nur für Unternehmen gilt, die Hunderte Millionen Dollar für die Schulung von KI-Systemen ausgeben, wie beispielsweise Meta. stand in der Rechnung würde die Entwickler von Basismodellen zu Unrecht für Katastrophen bestrafen, die durch nachgeschaltete Benutzer verursacht werden, und Anreize für die Erstellung von Open-Source-Modellen schaffen, weil Entwickler befürchten, dafür verantwortlich zu sein, wie andere ihre Produkte verwenden.

In seinem Veto-ErklärungNewsom wies darauf hin, dass 32 der 50 größten KI-Unternehmen der Welt ihren Sitz in Kalifornien hätten, und er wiederholte die Beschwerden der Industrie, dass das Gesetz der Innovation schaden würde.

„Anpassungsfähigkeit ist von entscheidender Bedeutung, da wir darum kämpfen, Technologien zu regulieren, die noch in den Kinderschuhen stecken“, schrieb Newsom. „Dies erfordert ein empfindliches Gleichgewicht. SB 1047 ist zwar gut gemeint, berücksichtigt jedoch nicht, ob KI-Systeme in Umgebungen mit hohem Risiko eingesetzt werden, kritische Entscheidungen erfordern oder sensible Daten verwenden. Stattdessen schreibt der Gesetzentwurf selbst den grundlegendsten Funktionen strenge Standards vor – sofern große Systeme diese umsetzen.“

Trotz der Lobbyarbeit von Unternehmen halten viele in der KI-Branche eine solche Gesetzgebung für notwendig. Dutzende KI-Forscher führender KI-Unternehmen fragten Newsom in einem offener Brief den Gesetzentwurf in Kraft setzen.

„Wir glauben, dass die leistungsstärksten KI-Modelle bald ernsthafte Risiken mit sich bringen werden, etwa einen erweiterten Zugang zu biologischen Waffen und Cyberangriffe auf kritische Infrastrukturen“, schrieben sie. „Für führende KI-Unternehmen ist es angemessen und angemessen, zu testen, ob die leistungsstärksten KI-Modelle schwerwiegenden Schaden anrichten können, und für diese Unternehmen angemessene Schutzmaßnahmen gegen diese Risiken zu ergreifen.“

Einige der größten Namen Hollywoods – von JJ Abrams und Ava DuVernay bis hin zu Mark Hamil und Whoopi Goldberg – unterstützen die Tech-Mitarbeiter in ihrem Engagement und schreiben ihre eigenen Stücke. offener Brief zur Unterstützung von SB 1047. In der Zwischenzeit Elon Musk knüpfte eine seltsame Beziehung zu zivilgesellschaftlichen Gruppen wie der Electronic Frontier Foundation, als sie ihre Verabschiedung forderten. Inzwischen sind es die Abgeordnete Nancy Pelosi und andere einflussreiche Mitglieder der kalifornischen Kongressdelegation sagte Newsom ein Veto gegen die Gesetzgebung einzulegen und sie als „gut gemeint, aber schlecht informiert“ zu bezeichnen.

Nach dem Veto von Newsom sagte Weiner, der Unterstützer des Gesetzentwurfs, wird gesagt Die Entscheidung sei „ein Rückschlag für alle, die an die Aufsicht über große Unternehmen glauben“

„Die Vetobotschaft des Gouverneurs enthielt eine Reihe von Kritikpunkten an SB 1047: dass der Gesetzentwurf nicht effektiv genug sei, aber zu weit gehe; „Die Risiken sind dringend, wir müssen aber mit Vorsicht agieren“, sagte Wiener in einer Erklärung. „SB 1047 wurde von einigen der weltweit führenden KI-Köpfe entwickelt, und jede Behauptung, dass es nicht auf empirischen Beweisen basiert, ist offensichtlich absurd.“