Demnach stellt das nächste Flaggschiffmodell von OpenAI möglicherweise keinen so großen Sprung nach vorne dar wie seine Vorgänger ein neuer Bericht in Die Information.
Mitarbeiter, die das neue Modell mit dem Codenamen Orion testeten, stellten Berichten zufolge fest, dass seine Leistung zwar die bestehenden OpenAI-Modelle übertrifft, es jedoch weniger Verbesserungen gab als beim Sprung von GPT-3 zu GPT-4.
Mit anderen Worten: Die Verbesserungsrate scheint sich zu verlangsamen. Tatsächlich könnte Orion es tun nicht in manchen Bereichen, etwa bei der Codierung, zuverlässig überhaupt besser sein als die Vorgängermodelle.
Als Reaktion darauf hat OpenAI ein Grundlagenteam zusammengestellt, um herauszufinden, wie das Unternehmen seine Modelle angesichts eines schwindenden Angebots an neuen Trainingsdaten weiter verbessern kann. Berichten zufolge umfassen diese neuen Strategien das Training von Orion anhand synthetischer Daten, die von KI-Modellen erzeugt werden, sowie die Durchführung weiterer Verbesserungen der Modelle während des Post-Training-Prozesses.
OpenAI reagierte nicht sofort auf eine Bitte um Stellungnahme. Als Reaktion auf frühere Berichte über Pläne für sein Flaggschiffmodell sagte das Unternehmen: „Wir haben nicht vor, dieses Jahr ein Modell mit dem Codenamen Orion auf den Markt zu bringen.“