Zum jetzigen Zeitpunkt haben mehr als 1.100 Unterzeichner, darunter Elon Musk, Steve Wozniak und Tristan Harris vom Center for Humane Technology, einen offenen Brief unterzeichnet, in dem „alle KI-Labore aufgefordert werden, das Training unverzüglich für mindestens 6 Monate zu unterbrechen KI-Systeme leistungsfähiger als GPT-4.“ Sagt der Brief:
Zeitgenössische KI-Systeme werden nun bei allgemeinen Aufgaben menschen-konkurrenzfähig,[3] und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten? Sollten wir alle Jobs wegautomatisieren, einschließlich der erfüllenden? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Solche Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Wirkung positiv und ihre Risiken überschaubar sind.
Es wird weiterhin argumentiert, dass es eine „Planungs- und Managementebene“ gibt, die „nicht stattfindet“, und dass stattdessen in den letzten Monaten unbenannte „KI-Labore“ „in einen außer Kontrolle geratenen Wettlauf um die Entwicklung und Entwicklung verstrickt waren setzen immer mächtigere digitale Köpfe ein, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren können.“
Die Unterzeichner des Briefes, einige von ihnen KI-Experten, sagen, dass die Pause, um die sie bitten, „öffentlich und überprüfbar sein und alle Schlüsselakteure einbeziehen sollte“. Wenn diese Pause „nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen“, heißt es in dem Schreiben weiter.
Wir verdauen dieses immer noch (während andere es bereits tun es in Fetzen reißen).
Sicherlich ist es genauso interessant für die Leute, die unterschrieben haben – darunter einige Ingenieure von Meta und Google; Emad Mostaque, Gründer und CEO von Stability AI; und Menschen, die nicht in der Technik tätig sind, einschließlich eines selbsternannten Elektrikers und einer Kosmetikerin – und diejenigen, die keine haben. Niemand von OpenAI, dem Outfit hinter dem großen Sprachmodell GPT-4, hat beispielsweise diesen Brief unterschrieben. Niemand von Anthropic, dessen Team aus OpenAI ausgegliedert wurde, um ein „sicherer” KI-Chatbot, beides.
In der Zwischenzeit können Sie lesen Sie es hier vollständig.