Qualcomm Und Meta haben angekündigt, dass die Unternehmen zusammenarbeiten, um Anwendungen auf den Markt zu bringen, die auf dem neuen großen Sprachmodell des Social-Networking-Unternehmens basieren. Lama 2auf Smartphones, die ab 2024 auf Telefonen und PCs mit Qualcomm-Chips laufen.
Beide Unternehmen arbeiten daran, die Ausführung der LLMs von Meta direkt auf dem Gerät zu optimieren, ohne dass Cloud-Dienste erforderlich sind. Nach Angaben des Chipherstellers wird die Technologie Anwendungen ermöglichen, die von betrieben werden Löwenmaulum in Bereichen ohne Konnektivität oder sogar im Flugzeugmodus zu arbeiten.
„Die Fähigkeit zu laufen generative KI „Modelle wie Llama 2 auf Geräten wie Smartphones, PCs, VR/AR-Headsets und Fahrzeugen ermöglichen es Entwicklern, Cloud-Kosten zu sparen und Benutzern private, zuverlässigere und personalisierte Erlebnisse zu bieten“, sagte Qualcomm.
Dies wird im Wesentlichen generative KI-Funktionen von großen Unternehmen mit leistungsstarken Prozessoren in die Hände der Benutzer bringen.
Intelligente virtuelle Assistenten auf Telefonen
Der in den USA ansässige Chiphersteller gab außerdem bekannt, dass er bereits Pläne hat, auf Llama 2 basierende KI-Implementierungen auf dem Gerät bereitzustellen, die es Kunden, Partnern und Entwicklern ermöglichen werden, Anwendungsfälle wie intelligente virtuelle Assistenten, Produktivitätsanwendungen und die Erstellung von Inhalten zu erstellen Werkzeuge, Unterhaltung und mehr.
Durga Malladi, Senior Vice President und General Manager für Technologie-, Planungs- und Edge-Solutions-Unternehmen, Qualcomm Technologieslobte Metas Ansatz, generative KI auf das Gerät zu bringen.
„Um generative KI effektiv in den Mainstream zu skalieren, muss KI sowohl in der Cloud als auch auf Geräten am Rande wie Smartphones, Laptops, Fahrzeugen und IoT-Geräten laufen“, fügte sie hinzu.
Während Qualcomm ab 2024 die auf Llama 2 basierende KI-Implementierung auf Geräten mit Snapdragon bereitstellen soll, können Entwickler bereits mit der Optimierung von Anwendungen für geräteinterne KI mit dem Qualcomm AI Stack beginnen.
Dabei handelt es sich um einen „speziellen Satz von Tools, die es ermöglichen, KI auf Snapdragon effizienter zu verarbeiten und so KI auf dem Gerät auch in kleinen, dünnen und leichten Geräten möglich zu machen.“
Beide Unternehmen arbeiten daran, die Ausführung der LLMs von Meta direkt auf dem Gerät zu optimieren, ohne dass Cloud-Dienste erforderlich sind. Nach Angaben des Chipherstellers wird die Technologie Anwendungen ermöglichen, die von betrieben werden Löwenmaulum in Bereichen ohne Konnektivität oder sogar im Flugzeugmodus zu arbeiten.
„Die Fähigkeit zu laufen generative KI „Modelle wie Llama 2 auf Geräten wie Smartphones, PCs, VR/AR-Headsets und Fahrzeugen ermöglichen es Entwicklern, Cloud-Kosten zu sparen und Benutzern private, zuverlässigere und personalisierte Erlebnisse zu bieten“, sagte Qualcomm.
Dies wird im Wesentlichen generative KI-Funktionen von großen Unternehmen mit leistungsstarken Prozessoren in die Hände der Benutzer bringen.
Intelligente virtuelle Assistenten auf Telefonen
Der in den USA ansässige Chiphersteller gab außerdem bekannt, dass er bereits Pläne hat, auf Llama 2 basierende KI-Implementierungen auf dem Gerät bereitzustellen, die es Kunden, Partnern und Entwicklern ermöglichen werden, Anwendungsfälle wie intelligente virtuelle Assistenten, Produktivitätsanwendungen und die Erstellung von Inhalten zu erstellen Werkzeuge, Unterhaltung und mehr.
Durga Malladi, Senior Vice President und General Manager für Technologie-, Planungs- und Edge-Solutions-Unternehmen, Qualcomm Technologieslobte Metas Ansatz, generative KI auf das Gerät zu bringen.
„Um generative KI effektiv in den Mainstream zu skalieren, muss KI sowohl in der Cloud als auch auf Geräten am Rande wie Smartphones, Laptops, Fahrzeugen und IoT-Geräten laufen“, fügte sie hinzu.
Während Qualcomm ab 2024 die auf Llama 2 basierende KI-Implementierung auf Geräten mit Snapdragon bereitstellen soll, können Entwickler bereits mit der Optimierung von Anwendungen für geräteinterne KI mit dem Qualcomm AI Stack beginnen.
Dabei handelt es sich um einen „speziellen Satz von Tools, die es ermöglichen, KI auf Snapdragon effizienter zu verarbeiten und so KI auf dem Gerät auch in kleinen, dünnen und leichten Geräten möglich zu machen.“