Das ist die oberste Priorität des ChatGPT-Herstellers OpenAI für sein KI-Tool

ChatGPT, mit seinen menschenähnlichen Antworten, hat die Menschen so beeindruckt, dass einige begonnen haben, sich auf den KI-Chatbot zu verlassen. Jedoch, Sam AltmannVorstandsvorsitzender von OpenAI, das Unternehmen hinter ChatGPT, . Er sagte in einem Tweet, dass das Tool begrenzt sei und es „ein Fehler von Seiten der Leute wäre, sich gerade jetzt bei irgendetwas Wichtigem darauf zu verlassen“.
Es gab auch mehrere Fälle, in denen sich Leute über ungenaue Antworten des KI-Chatbots „beschwert“ haben. Sogar das „neue“ Bing, das dieselbe zugrunde liegende Technologie wie ChatGPT verwendet, wurde als „manipulativ“ gemeldet.

OpenAI hat in einem Blogbeitrag wiederholt, dass es sicherstellen möchte, dass die künstliche allgemeine Intelligenz (AGI) der gesamten Menschheit zugute kommt, und dass es sich um ein laufendes Projekt handelt.
„Bis heute ist dieser Prozess unvollkommen. Manchmal bleibt der Feinabstimmungsprozess hinter unserer Absicht (ein sicheres und nützliches Werkzeug erstellen) und der Absicht des Benutzers (Erhalten einer hilfreichen Ausgabe als Antwort auf eine bestimmte Eingabe) zurück. Verbesserung unserer Methoden für Die Ausrichtung von KI-Systemen an menschlichen Werten hat für unser Unternehmen höchste Priorität, insbesondere da KI-Systeme immer leistungsfähiger werden“, sagte das Unternehmen.
„Wir denken daher viel über das Verhalten von KI-Systemen nach, die wir im Vorfeld von AGI bauen, und die Art und Weise, wie dieses Verhalten bestimmt wird“, sagte das Unternehmen. Von AGI bedeutet OpenAI „hochautonome Systeme, die Menschen bei der wirtschaftlich wertvollsten Arbeit übertreffen“.

Wie ChatGPT trainiert wird
OpenAI sagte, dass ChatGPT nicht wie gewöhnliche Software sei und seine Trainingsmodelle massive neuronale Netze seien. Das Startup stellte fest, dass das Verhalten des KI-Chatbots aus einer Vielzahl von Daten gelernt und nicht explizit programmiert wurde.
OpenAI listete die beiden Trainingsphasen auf und sagte, dass es eine anfängliche „Vortrainingsphase“ gibt, in der das Modell lernt, das nächste Wort in einem Satz vorherzusagen, basierend auf seiner Exposition gegenüber viel Internettext (und einer riesigen Menge an Texten aus dem Internet). Reihe von Perspektiven).
Auf diesen Schritt folgt eine Phase der „Feinabstimmung“, in der die Modelle von OpenAI das Systemverhalten eingrenzen.
Es betonte auch, dass seine Modelle auch durch Benutzerfeedback trainiert werden und das Unternehmen seine Modelle und Systeme auf der Grundlage dieser Benutzerantworten iteriert.