Der ChatGPT-Erfinder OpenAI stellt ein Team zusammen, um die „Risiken“ der superintelligenten KI zu kontrollieren

Es ist nun mehr als sechs Monate her, seit ChatGPT auf der Bildfläche erschien. Seitdem regnet es in irgendeiner Form KI. Der OpenAI-Erfinder ChatGPT befasst sich nun mit der nächsten Generation der KI und der Kontrolle der damit verbundenen Risiken. In einem Blogbeitrag skizzierte das Unternehmen seine Ideen für superintelligente KI. „Superintelligenz wird die einflussreichste Technologie sein, die die Menschheit jemals erfunden hat, und könnte uns helfen, viele der wichtigsten Probleme der Welt zu lösen. Aber die enorme Macht der Superintelligenz könnte auch sehr gefährlich sein und zur Entmachtung der Menschheit oder sogar zum Aussterben der Menschheit führen“, sagte das Unternehmen.OpenAI glaubt, dass es derzeit keine Lösung gibt, um eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie abtrünnig wird. Dies ist einer der Gründe, warum das Unternehmen ein völlig neues Team aufbaut.

Woran wird das neue Team arbeiten?
Nach Angaben des Unternehmens wird das Team aus führenden Forschern und Ingenieuren für maschinelles Lernen bestehen, um an diesem Problem zu arbeiten. „Wir werden 20 % der Rechenleistung, die wir bisher in den nächsten vier Jahren gesichert haben, für die Lösung des Problems der Ausrichtung der Superintelligenz verwenden“, sagte OpenAI. Weiter hieß es: „Unser Haupteinsatzgebiet in der Grundlagenforschung ist unser neues Superalignment-Team, aber es ist entscheidend, dies richtig zu machen, um unsere Mission zu erreichen, und wir erwarten, dass viele Teams einen Beitrag leisten, von der Entwicklung neuer Methoden über deren Skalierung bis hin zur Bereitstellung.“OpenAI glaubt, dass dies ein Problem des maschinellen Lernens sein wird. Und deshalb ist OpenAI auch auf der Suche nach herausragenden neuen Forschern und Ingenieuren, die sich diesem Vorhaben anschließen. „Die Ausrichtung der Superintelligenz ist im Grunde ein Problem des maschinellen Lernens, und wir glauben, dass großartige Experten für maschinelles Lernen – auch wenn sie noch nicht an der Ausrichtung arbeiten – von entscheidender Bedeutung für die Lösung des Problems sein werden“, bemerkte das Unternehmen.



Ende des Artikels

gn-tech