Google hat freigegeben ein Trio neuer, „offener“ generativer KI-Modelle, die als „sicherer“, „kleiner“ und „transparenter“ als die meisten anderen bezeichnet werden – zweifellos eine kühne Behauptung.
Sie sind Ergänzungen zu Googles Gemma 2-Familie generativer Modelle, die im Mai vorgestellt wurden. Die neuen Modelle Gemma 2 2B, ShieldGemma und Gemma Scope sind für leicht unterschiedliche Anwendungen und Anwendungsfälle konzipiert, haben aber gemeinsam, dass sie auf Sicherheit ausgelegt sind.
Die Gemma-Modellreihe von Google unterscheidet sich von den Gemini-Modellen darin, dass Google den Quellcode für Gemini nicht zur Verfügung stellt, der von Googles eigenen Produkten verwendet wird und auch Entwicklern zur Verfügung steht. Gemma ist vielmehr Googles Versuch, den guten Willen innerhalb der Entwickler-Community zu fördern, ähnlich wie Meta dies mit Llama versucht.
Gemma 2 2B ist ein leichtgewichtiges Modell zur Generierung und Analyse von Texten, das auf einer Reihe von Hardware-Geräten, darunter Laptops und Edge-Geräte, ausgeführt werden kann. Es ist für bestimmte Forschungs- und kommerzielle Anwendungen lizenziert und kann aus Quellen wie Googles Vertex AI-Modellbibliothek, der Data-Science-Plattform Kaggle und Googles AI Studio-Toolkit heruntergeladen werden.
ShieldGemma ist eine Sammlung von „Sicherheitsklassifizierern“, die versuchen, toxische Inhalte wie Hassreden, Belästigungen und sexuell eindeutige Inhalte zu erkennen. ShieldGemma basiert auf Gemma 2 und kann verwendet werden, um Eingabeaufforderungen an ein generatives Modell sowie die vom Modell generierten Inhalte zu filtern.
Schließlich ermöglicht Gemma Scope Entwicklern, auf bestimmte Punkte innerhalb eines Gemma 2-Modells „hereinzuzoomen“ und dessen Funktionsweise besser interpretierbar zu machen. So beschreibt es Google in einem Blogbeitrag: „[Gemma Scope is made up of] spezialisierte neuronale Netzwerke, die uns helfen, die dichten, komplexen Informationen, die Gemma 2 verarbeitet, zu entschlüsseln und in eine Form zu bringen, die leichter zu analysieren und zu verstehen ist. Durch das Studium dieser erweiterten Ansichten können Forscher wertvolle Erkenntnisse darüber gewinnen, wie Gemma 2 Muster erkennt, Informationen verarbeitet und letztendlich Vorhersagen trifft.“
Die Veröffentlichung der neuen Gemma 2-Modelle erfolgt kurz nachdem das US-Handelsministerium in einem vorläufigen Bericht offene KI-Modelle befürwortet hat. Offene Modelle erweitern die Verfügbarkeit generativer KI für kleinere Unternehmen, Forscher, gemeinnützige Organisationen und einzelne Entwickler, heißt es in dem Bericht, und unterstreichen gleichzeitig die Notwendigkeit von Fähigkeiten zur Überwachung solcher Modelle auf potenzielle Risiken.