In einem offenen Brief – unterzeichnet von Moschus, Wozniak und andere bemerkenswerte Namen – es wurde gefordert, „das Training von KI-Systemen, die leistungsstärker als GPT-4 sind, unverzüglich für mindestens 6 Monate zu unterbrechen“.
In dem Brief wird argumentiert, dass „KI-Systeme mit menschlicher Wettbewerbsintelligenz tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen können“.
Sind wir bereit, dass KI Jobs und Leben übernimmt?
Musk und andere fragen in dem Brief, ob „zeitgenössische KI-Systeme jetzt bei allgemeinen Aufgaben mit dem Menschen wettbewerbsfähig werden, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit überfluten? Sollten wir alle Jobs wegautomatisieren, einschließlich der erfüllenden? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?“
Der Brief, der 1.125 Unterzeichner hat, darunter die Mitbegründer von Pinterest und Skype, besagt, dass die Pause sofort erfolgen sollte und wenn sie nicht umgesetzt wird, die Regierungen eingreifen sollten. „Diese Pause sollte öffentlich und überprüfbar sein und alle Schlüsselakteure einbeziehen. Wenn eine solche Pause nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.“
Die Unterzeichner erklärten, dass die Entwicklung von KI nicht gestoppt werden sollte. Die Pause sollte laut dem Schreiben genutzt werden, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliches KI-Design und -Entwicklung zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden. „Dies bedeutet keine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Rückzug aus dem gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit aufstrebenden Fähigkeiten“, heißt es in dem Brief.