OpenAI-Kunden können jetzt benutzerdefinierte Daten in die schlanke Version von GPT-3.5, GPT-3.5 Turbo, integrieren – was es einfacher macht, die Zuverlässigkeit des textgenerierenden KI-Modells zu verbessern und gleichzeitig spezifische Verhaltensweisen einzubauen.
OpenAI behauptet, dass fein abgestimmte Versionen von GPT-3.5 bei „bestimmten engen Aufgaben“ mit den Basisfunktionen von GPT-4, dem Flaggschiffmodell des Unternehmens, mithalten oder diese sogar übertreffen können.
„Seit der Veröffentlichung von GPT-3.5 Turbo haben Entwickler und Unternehmen nach der Möglichkeit gefragt, das Modell anzupassen, um einzigartige und differenzierte Erlebnisse für ihre Benutzer zu schaffen“, schrieb das Unternehmen in einem Blogbeitrag veröffentlicht diesen Nachmittag. „Dieses Update gibt Entwicklern die Möglichkeit, Modelle anzupassen, die für ihre Anwendungsfälle eine bessere Leistung erbringen, und diese benutzerdefinierten Modelle im großen Maßstab auszuführen.“
Durch Feinabstimmung können Unternehmen, die GPT-3.5 Turbo über die API von OpenAI verwenden, dafür sorgen, dass das Modell den Anweisungen besser folgt, z. B. dass es immer in einer bestimmten Sprache reagiert. Oder sie können die Fähigkeit des Modells verbessern, Antworten konsistent zu formatieren (z. B. zum Vervollständigen von Codeausschnitten) und das „Gefühl“ der Ausgabe des Modells, wie z. B. seinen Ton, verfeinern, damit er besser zu einer Marke oder Stimme passt.
Darüber hinaus ermöglicht die Feinabstimmung OpenAI-Kunden, ihre Textaufforderungen zu kürzen, um API-Aufrufe zu beschleunigen und Kosten zu senken. „Frühe Tester haben die Größe der Eingabeaufforderungen um bis zu 90 % reduziert, indem sie die Anweisungen im Modell selbst optimiert haben“, behauptet OpenAI im Blogbeitrag.
Die Feinabstimmung erfordert derzeit die Vorbereitung von Daten, das Hochladen der erforderlichen Dateien und die Erstellung eines Feinabstimmungsjobs über die OpenAI-API. Alle Feinabstimmungsdaten müssen eine „Moderations“-API und ein GPT-4-gestütztes Moderationssystem durchlaufen, um festzustellen, ob sie im Widerspruch zu den Sicherheitsstandards von OpenAI stehen, sagt das Unternehmen. OpenAI plant jedoch, in Zukunft eine Feinabstimmungs-Benutzeroberfläche mit einem Dashboard zur Überprüfung des Status laufender Feinabstimmungs-Workloads einzuführen.
Die Kosten für die Feinabstimmung betragen:
- Training: 0,008 $ / 1.000 Token
- Verwendungseingabe: 0,012 $ / 1.000 Token
- Nutzungsausgabe: 0,016 $ / 1.000 Token
„Tokens“ stellen Rohtext dar – z. B. „fan“, „tas“ und „tic“ für das Wort „fantastic“. Laut OpenAI würde ein GPT-3.5-Turbo-Feinabstimmungsjob mit einer Trainingsdatei von 100.000 Token oder etwa 75.000 Wörtern etwa 2,40 US-Dollar kosten.
Darüber hinaus hat OpenAI heute zwei aktualisierte GPT-3-Basismodelle (babbage-002 und davinci-002) zur Verfügung gestellt, die ebenfalls fein abgestimmt werden können und Unterstützung für Paginierung und „mehr Erweiterbarkeit“ bieten. Wie bereits angekündigt, plant OpenAI, die ursprünglichen GPT-3-Basismodelle am 4. Januar 2024 außer Dienst zu stellen.
OpenAI sagte, dass die Feinabstimmung der Unterstützung für GPT-4 – das im Gegensatz zu GPT-3.5 neben Text auch Bilder verstehen kann – irgendwann im Herbst dieses Jahres verfügbar sein wird, machte aber darüber hinaus keine Einzelheiten.