Zwei ehemalige OpenAI-Forscher, die dieses Jahr aus Sicherheitsgründen zurückgetreten sind, sagen, sie seien enttäuscht, aber nicht überrascht über die Entscheidung von OpenAI, sich gegen Kaliforniens Gesetzentwurf zur Verhinderung von KI-Katastrophen, SB 1047, zu stellen. Daniel Kokotajlo und William Saunders warnten zuvor, dass OpenAI sich in einer „rücksichtsloses“ Rennen um die Vorherrschaft.
„Sam Altman, unser ehemaliger Chef, hat wiederholt eine Regulierung der KI gefordert“, schreiben sie in einem Brief das Politico mitgeteilt wurde und den Gouverneur von Kalifornien, Gavin Newsom, auffordert, das Gesetz zu unterzeichnen. „Jetzt, wo eine tatsächliche Regulierung auf dem Tisch liegt, ist er dagegen“, fügen die beiden hinzu: „Wir hoffen, dass OpenAI mit der entsprechenden Regulierung seinem Leitbild, AGI sicher aufzubauen, doch noch gerecht werden kann.“
Der OpenAI-Konkurrent Anthropic hat seine Unterstützung für den Gesetzentwurf zum Ausdruck gebracht, konkrete Bedenken geäußert und um Änderungen gebeten. Mehrere davon wurden inzwischen eingearbeitet, und am Donnerstag schrieb CEO Dario Amodei an Newsom, dass der aktuelle Gesetzentwurf „Die Vorteile überwiegen wahrscheinlich die Kosten,“, ohne den Gesetzentwurf jedoch vollständig zu unterstützen.