Letzten Monat eine Gruppe von Tech-Bonzen, darunter Tesla-CEO Elon Musk und Apple-Mitbegründer Steve Wozniak, unterzeichnete einen Brief, in dem er eine „Pause“ bei der Entwicklung von KI forderte. Musk und andere fragen in dem Brief, ob „zeitgenössische KI-Systeme jetzt bei allgemeinen Aufgaben mit dem Menschen wettbewerbsfähig werden, und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit überfluten? Sollten wir alle Jobs wegautomatisieren, einschließlich der erfüllenden? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?“
Es war zwar nicht an eine Firma als solche gerichtet, aber OpenAIdas Unternehmen hinter dem GPT-KI Modelle, war ein offensichtliches Ziel. Jetzt, Sam Altmann, CEO von OpenAI, hat auf den Brief geantwortet. Altman sprach auf einer Veranstaltung am MIT und stimmte der Tatsache zu, dass Sicherheitsfragen wichtig sind. „Ich denke, es ist wirklich wichtig, mit Vorsicht vorzugehen und die Strenge in Sicherheitsfragen zu erhöhen“, sagte er. Er fügte jedoch hinzu, dass der Brief „Ich glaube nicht, dass dies der optimale Weg ist, es anzusprechen.“
Die Rede von einer Unterbrechung der KI-Entwicklung führte dazu, dass Altman auch gefragt wurde, ob OpenAI an GPT-5, dem nächsten Modell der generativen KI, arbeite. Er sagte, dass OpenAI GPT-5 nicht trainiert. „Wir sind es nicht und werden es für einige Zeit nicht tun“, sagte Altman, bevor er hinzufügte: „In diesem Sinne war es also irgendwie albern“, sich auf den Brief beziehend. Er sagte auch, dass der von Musk und Co. unterzeichnete Brief. fehlte die „technischste Nuance darüber, wo wir die Pause brauchen“.
Der fragliche Brief forderte übrigens keinen vollständigen Stopp der Entwicklung von KI. „Dies bedeutet keine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Rückzug aus dem gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit aufstrebenden Fähigkeiten“, heißt es in dem Brief.
Es war zwar nicht an eine Firma als solche gerichtet, aber OpenAIdas Unternehmen hinter dem GPT-KI Modelle, war ein offensichtliches Ziel. Jetzt, Sam Altmann, CEO von OpenAI, hat auf den Brief geantwortet. Altman sprach auf einer Veranstaltung am MIT und stimmte der Tatsache zu, dass Sicherheitsfragen wichtig sind. „Ich denke, es ist wirklich wichtig, mit Vorsicht vorzugehen und die Strenge in Sicherheitsfragen zu erhöhen“, sagte er. Er fügte jedoch hinzu, dass der Brief „Ich glaube nicht, dass dies der optimale Weg ist, es anzusprechen.“
Die Rede von einer Unterbrechung der KI-Entwicklung führte dazu, dass Altman auch gefragt wurde, ob OpenAI an GPT-5, dem nächsten Modell der generativen KI, arbeite. Er sagte, dass OpenAI GPT-5 nicht trainiert. „Wir sind es nicht und werden es für einige Zeit nicht tun“, sagte Altman, bevor er hinzufügte: „In diesem Sinne war es also irgendwie albern“, sich auf den Brief beziehend. Er sagte auch, dass der von Musk und Co. unterzeichnete Brief. fehlte die „technischste Nuance darüber, wo wir die Pause brauchen“.
Der fragliche Brief forderte übrigens keinen vollständigen Stopp der Entwicklung von KI. „Dies bedeutet keine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Rückzug aus dem gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit aufstrebenden Fähigkeiten“, heißt es in dem Brief.