Das französische KI-Startup Mistral führt neue Optionen zur Anpassung von KI-Modellen ein, darunter auch kostenpflichtige Pläne, mit denen Entwickler und Unternehmen ihre generativen Modelle für bestimmte Anwendungsfälle optimieren können.
Die erste ist Selbstbedienung. Mistral hat ein Software Development Kit (SDK) veröffentlicht, Mistral-Feinabstimmungzur Feinabstimmung seiner Modelle auf Workstations, Servern und kleinen Rechenzentrumsknoten.
In der Readme-Datei für das GitHub-Repository des SDK weist Mistral darauf hin, dass das SDK für Multi-GPU-Setups optimiert ist, aber zur Feinabstimmung kleinerer Modelle wie Mistral 7B auf eine einzelne Nvidia A100- oder H100-GPU herunterskaliert werden kann. Die Feinabstimmung eines Datensatzes wie UltraChat, einer Sammlung von 1,4 Millionen Dialogen mit OpenAIs ChatGPT, dauert mit Mistral-Finetune auf acht H100s etwa eine halbe Stunde, sagt Mistral.
Für Entwickler und Unternehmen, die eine besser verwaltete Lösung bevorzugen, gibt es Mistrals neu eingeführte Feinabstimmungsdienste, die über die API des Unternehmens verfügbar sind. Derzeit sind sie mit zwei Mistral-Modellen kompatibel, Mistral Small und dem bereits erwähnten Mistral 7B. Mistral gibt an, dass die Feinabstimmungsdienste in den kommenden Wochen Unterstützung für weitere Modelle erhalten werden.
Schließlich führt Mistral maßgeschneiderte Schulungsdienste ein – derzeit nur für ausgewählte Kunden verfügbar – um jedes Mistral-Modell für die Apps eines Unternehmens anhand seiner Daten zu optimieren. „Dieser Ansatz ermöglicht die Erstellung hochspezialisierter und optimierter Modelle für ihren spezifischen Bereich“, erklärt das Unternehmen in einem Beitrag auf seiner offiziellen Blog.
Mistral, das laut meiner Kollegin Ingrid Lunden kürzlich rund 600 Millionen US-Dollar bei einer Bewertung von 6 Milliarden US-Dollar einsammeln will, wird von Investoren wie DST, General Catalyst und Lightspeed Venture Partners gefördert und strebt zweifellos eine Umsatzsteigerung an, da das Unternehmen im Bereich der generativen KI mit erheblicher – und zunehmender – Konkurrenz konfrontiert ist.
Seit Mistral im September 2023 sein erstes generatives Modell vorgestellt hat, hat das Unternehmen mehrere weitere Modelle herausgebracht, darunter ein Code-generierendes Modell, und kostenpflichtige APIs eingeführt. Allerdings hat das Unternehmen weder bekannt gegeben, wie viele Benutzer es hat, noch wie hoch seine Einnahmen sind.