Erstes US-Sicherheitsgesetz für KI abgelehnt – World

Der Gouverneur von Kalifornien, Gavin Newsom, hat sein Veto gegen einen bahnbrechenden Gesetzentwurf zur künstlichen Intelligenz eingelegt, der die ersten Sicherheitsmaßnahmen für die Branche in den USA eingeführt hätte. Der Gesetzentwurf, bekannt als California Senate Bill 104 oder SB 1047, zielte darauf ab, potenzielle durch KI verursachte Risiken zu verringern. Die vorgeschlagene Verordnung hätte Technologieunternehmen mit leistungsstarken KI-Modellen dazu verpflichtet, diese Sicherheitstests zu unterziehen, bevor sie sie der Öffentlichkeit zugänglich machen, wie z sowie die öffentliche Offenlegung der Sicherheitsprotokolle der Modelle. Dies wäre geschehen, um zu verhindern, dass die Modelle manipuliert werden, um Schaden anzurichten, etwa durch das Hacken strategisch wichtiger Infrastruktur. In einer Begleitbotschaft zum Veto am Sonntag sagte der Gouverneur, dass der Vorschlag zwar „gut gemeint“, aber falsch sei konzentrierte sich auf die „teuersten und umfangreichsten“ KI-Modelle, während „kleinere, spezialisierte Modelle“ möglicherweise mehr Schaden anrichten könnten. Newsom argumentierte auch, dass der Gesetzentwurf nicht berücksichtige, in welcher Umgebung ein KI-System eingesetzt wird oder ob es kritische Entscheidungen oder die Verwendung sensibler Daten beinhaltet. „Stattdessen wendet der Gesetzentwurf selbst für die grundlegendsten Funktionen strenge Standards an.“ „Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor echten Bedrohungen durch die Technologie zu schützen“, erklärte der Gouverneur. Newsom betonte, dass er der Meinung sei, dass die Branche reguliert werden müsse, forderte jedoch „informiertere“ Initiativen auf der Grundlage einer „empirischen Verlaufsanalyse von KI-Systemen und -Fähigkeiten“. „Letztendlich muss jeder Rahmen für eine wirksame Regulierung von Al mit der Technologie selbst Schritt halten … Angesichts der Herausforderungen – Schutz vor tatsächlichen Bedrohungen, ohne das Versprechen dieser Technologie, das Gemeinwohl zu fördern – unnötig zu vereiteln – müssen wir das richtig machen“, schloss er. Als Gouverneur von Kalifornien spielt Newsom eine wichtige Rolle im beginnenden KI-Regulierungsprozess. Den Zahlen seines Büros zufolge beheimatet der Staat 32 der „50 führenden KI-Unternehmen der Welt“. Der Verfasser des Gesetzentwurfs, Staatssenator Scott Weiner, bezeichnete das Veto als „einen Rückschlag“ für diejenigen, die „an die Aufsicht über große Konzerne glauben“. „kritische Entscheidungen treffen“, die sich auf die öffentliche Sicherheit auswirken. Er versprach, weiter an der Gesetzgebung zu arbeiten. Der Gesetzentwurf hatte bei Technologiefirmen, Forschern und Gesetzgebern gemischte Reaktionen hervorgerufen. Während einige davon ausgingen, dass dadurch der Weg für eine landesweite Regulierung der Branche geebnet werde, argumentierten andere, dass es die Entwicklung der KI bremsen könnte. Die frühere Sprecherin des US-Repräsentantenhauses, Nancy Pelosi, bezeichnete den Vorschlag als „gut gemeint, aber schlecht informiert“.

Unterdessen unterstützten zahlreiche Mitarbeiter mehrerer führender KI-Firmen wie OpenAI, Anthropic und Googles DeepMind den Gesetzentwurf, weil er Whistleblower-Schutz für diejenigen bietet, die über die Risiken in den KI-Modellen sprechen, die ihre Unternehmen entwickeln.

: