Das Webbrowser-Unternehmen Opera gab heute bekannt, dass es Benutzern nun das Herunterladen und lokale Verwenden von Large Language Models (LLMs) auf ihrem Computer ermöglichen wird. Diese Funktion wird zunächst für Opera One-Benutzer eingeführt, die Entwickler-Stream-Updates erhalten, und ermöglicht Benutzern die Auswahl aus über 150 Modellen aus mehr als 50 Familien.
Zu diesen Modellen gehören Llama von Meta, Gemma von Google und Vicuna. Die Funktion wird Benutzern im Rahmen des AI Feature Drops-Programms von Opera zur Verfügung stehen, um Benutzern frühzeitigen Zugriff auf einige der KI-Funktionen zu ermöglichen.
Das Unternehmen gab an, dass es das Open-Source-Framework Ollama im Browser verwendet, um diese Modelle auf Ihrem Computer auszuführen. Derzeit sind alle verfügbaren Modelle eine Teilmenge der Ollama-Bibliothek, aber in Zukunft möchte das Unternehmen Modelle aus verschiedenen Quellen einbeziehen.
Bildnachweis: Oper
Das Unternehmen erwähnte, dass jede Variante mehr als 2 GB Speicherplatz auf Ihrem lokalen System beanspruchen würde. Sie sollten daher mit Ihrem freien Speicherplatz vorsichtig sein, um zu vermeiden, dass Ihnen der Speicherplatz ausgeht. Insbesondere unternimmt Opera beim Herunterladen eines Modells keine Maßnahmen, um Speicherplatz zu sparen.
„Opera bietet jetzt zum ersten Mal Zugriff auf eine große Auswahl lokaler LLMs von Drittanbietern direkt im Browser. Es wird erwartet, dass sie kleiner werden, da sie sich immer mehr auf die anstehenden Aufgaben spezialisieren“, sagte Jan Standal, Vizepräsident von Opera, gegenüber Tech in einer Erklärung.
Bildnachweis: Oper
Diese Funktion ist nützlich, wenn Sie verschiedene Modelle lokal testen möchten. Wenn Sie jedoch Platz sparen möchten, gibt es zahlreiche Online-Tools wie Poe und Quora HuggingChat verschiedene Modelle zu erkunden.
Opera spielt seit letztem Jahr mit KI-gestützten Funktionen. Das Unternehmen startete im vergangenen Mai einen Assistenten namens Aria in der Seitenleiste und führte ihn im August in der iOS-Version ein. Im Januar gab Opera bekannt, dass es einen KI-gestützten Browser mit eigener Engine für iOS entwickelt, da die Digital Market Acts (DMA) der EU Apple dazu aufforderten, die obligatorische WebKit-Engine-Anforderung für mobile Browser aufzugeben.