Die KI-gestützten Scanner von New York haben von New Yorkern gemischte Kritiken erhalten, als es zu möglichen Klagen kam.
Ein am Freitag, 26. Juli, gestartetes Pilotprogramm in New York sieht den Einsatz von KI-gestützten Scannern vor, um zu verhindern, dass Menschen Waffen in das U-Bahn-System bringen. Allerdings kritisierten einige New Yorker die Idee, darunter auch Bürgerrechtler, die behaupteten, die Durchsuchungen seien verfassungswidrig.
Die Scanner von Evolv suchen mithilfe von KI nach Waffen und Messern und sind in U-Bahn-Stationen in Lower Manhattan ausgestellt. Bürgermeister Eric Adams kündigte einen dreitägigen Test an und nannte die neu installierten Scanner „gute Technologie“.
„Wäre es mir lieber, wenn wir nicht gescannt werden müssten? Ja“, fügte Adams hinzu. „Aber wenn man mit dem durchschnittlichen U-Bahn-Fahrer spricht, wird er sagen, dass er keine Waffen in seinem U-Bahn-System haben möchte, und wenn das bedeutet, dass er einen Scanner benutzen muss, dann benutzt er einen Scanner.“
Die Scanner befinden sich noch in der Versuchsphase, wurden aber bereits in Baseballstadien und anderen Veranstaltungsorten eingesetzt. In diesem Pilotprojekt wird eine kleine Anzahl von New Yorker U-Bahn-Stationen Scanner verwenden, die nur von einer kleinen Anzahl von Passagieren passieren müssen. New York hat noch keinen vollständigen Vertrag mit Evolv unterzeichnet, wobei Adams betont, dass andere Unternehmen gerne ihre eigenen Lösungen zur Waffenerkennung einreichen könnten.
Wenn der 1,80 Meter große Scanner eine Waffe erkennt, wird eine Warnung an ein Tablet gesendet, das von zwei NYPD-Beamten überwacht wird. Während Alltagsgegenstände wie Mobiltelefone und Laptops keine Scanner auslösen sollten, Eigentum berichtet, dass das iPad eines Reporters sie am Tag der Veröffentlichung begeistert hat.
Wie haben die New Yorker auf den Scanner reagiert?
Befürworter bürgerlicher Freiheiten protestierten schnell gegen die KI-Scanner, wobei sowohl die New York Civil Liberties Union als auch die Legal Aid Society behaupteten, sie würden die Stadt verklagen, wenn die Technologie weit verbreitet wäre. Es wird behauptet, dass diese Technologie die verfassungsmäßigen Rechte von Autofahrern verletzt.
„Beamte der Stadt haben eingeräumt, dass diese Scanner in erster Linie dazu dienen, die ‚Wahrnehmung‘ mancher Passagiere zu bekämpfen, sie seien in der U-Bahn unsicher – dies ist keine gerechtfertigte Grundlage für einen Verstoß gegen die Verfassung“, sagte NYCLU-Anwalt Daniel Lambright gegenüber Fortune.
Peter George, CEO von Evolv, erklärte sogar, dass die New Yorker U-Bahn „kein guter Anwendungsfall“ für diese Technologie sei. wie von den Daily News berichtet. Darüber hinaus war das Unternehmen in den letzten Jahren mit zahlreichen Klagen und bundesstaatlichen Ermittlungen konfrontiert und hat im vergangenen Jahr Investoren darüber informiert, dass es von der Federal Trade Commission kontaktiert wurde. Dazu gehört eine Sammelklage, in der Evolv-Führungskräften vorgeworfen wird, die Fähigkeiten des Geräts übertrieben darzustellen.
Eine weitere Sorge ergibt sich aus den Risiken im Zusammenhang mit der KI-Sicherheit, wobei führende KI-Unternehmen selbst Bedenken hinsichtlich der Sicherheit künstlicher Intelligenz hervorheben. Wenn diese Modelle in der realen Welt Waffen nicht erkennen, kann es schnell zu gefährlichen Situationen kommen.
Damit solche Scanner effektiv sind, müssten sie logischerweise an jedem U-Bahn-Eingang installiert werden, was wahrscheinlich zu enormen Kosten für die Stadt führen würde. Es bleibt abzuwarten, was aus diesem Pilotprojekt und seiner Wirksamkeit resultieren wird.
Dies ist nicht das erste Mal, dass das NYPD KI im U-Bahn-System einsetzt, es setzt im Jahr 2023 auch Lernmodelle ein, um Schwarzfahrer zu fangen.
Ausgewähltes Bild: Unsplash
