Ampere und Qualcomm sind nicht die offensichtlichsten Partner. Schließlich bieten beide ARM-basierte Chips für den Betrieb von Rechenzentrumsservern an (obwohl Qualcomms größter Markt nach wie vor mobil ist). Doch wie die beiden Unternehmen heute bekannt gaben, bündeln sie nun ihre Kräfte, um einen KI-fokussierten Server anzubieten, der die CPUs von Ampere und die Cloud AI 100 Ultra AI-Inferenzchips von Qualcomm zum Ausführen – nicht zum Trainieren – von Modellen nutzt.
Ampere will wie jeder andere Chiphersteller vom KI-Boom profitieren. Der Fokus des Unternehmens lag jedoch schon immer auf schnellen und energieeffizienten Serverchips. Obwohl es die Arm-IP nutzen kann, um einige dieser Funktionen zu seinen Chips hinzuzufügen, ist dies nicht unbedingt eine Kernkompetenz. „Aus diesem Grund hat Ampere beschlossen, mit Qualcomm zusammenzuarbeiten (und SuperMicro, um die beiden Lösungen zu integrieren“, erzählt mir Arm-CTO Jeff Wittich.
„Die Idee hier ist, dass ich Ihnen zwar eine großartige Leistung für Ampere-CPUs zeige, bei denen KI-Inferenz nur auf den CPUs ausgeführt wird, Sie aber auf noch größere Modelle skalieren möchten – zum Beispiel Modelle mit mehreren 100 Milliarden Parametern – genau wie alle anderen Bei den anderen Workloads gibt es keine Einheitslösung für KI“, sagte Wittich gegenüber Tech. „Wir haben mit Qualcomm an dieser Lösung gearbeitet, indem wir unsere supereffizienten Ampere-CPUs kombiniert haben, um viele der allgemeinen Aufgaben zu erledigen, die Sie in Verbindung mit Inferenzen ausführen, und dann ihre wirklich effizienten Karten verwendet haben, haben wir eine.“ Lösung auf Serverebene.“
Bezüglich der Partnerschaft mit Qualcomm sagte Wittich, Ampere wolle erstklassige Lösungen zusammenstellen.
„[R]„Wir haben hier wirklich eine gute Zusammenarbeit mit Qualcomm gehabt“, sagte er. „Das ist eines der Dinge, an denen wir gearbeitet haben. Ich denke, wir haben viele wirklich ähnliche Interessen, weshalb ich das wirklich überzeugend finde. Sie entwickeln wirklich sehr effiziente Lösungen für viele verschiedene Marktbereiche. Wir entwickeln wirklich sehr, sehr effiziente Lösungen auf der Server-CPU-Seite.“
Die Qualcomm-Partnerschaft ist Teil des jährlichen Roadmap-Updates von Ampere. Teil dieser Roadmap ist der neue AmpereOne-Chip mit 256 Kernen, der in einem modernen 3-nm-Prozess hergestellt wird. Diese neuen Chips sind noch nicht ganz allgemein verfügbar, aber Wittich sagt, dass sie in der Fabrik fertig sind und noch in diesem Jahr auf den Markt kommen sollen.
Neben den zusätzlichen Kernen ist das entscheidende Merkmal dieser neuen Generation von AmpereOne-Chips der 12-Kanal-DDR5-RAM, der es den Rechenzentrumskunden von Ampere ermöglicht, den Speicherzugriff ihrer Benutzer besser an ihre Bedürfnisse anzupassen.
Das Verkaufsargument ist hier jedoch nicht nur die Leistung, sondern auch der Stromverbrauch und die Kosten für den Betrieb dieser Chips im Rechenzentrum. Dies gilt insbesondere für die KI-Inferenz, bei der Ampere seine Leistung gerne mit der A10-GPU von Nvidia vergleicht.
Es ist erwähnenswert, dass Ampere keinen seiner bestehenden Chips zugunsten dieser neuen aufgibt. Wittich betonte, dass selbst diese älteren Chips noch zahlreiche Anwendungsfälle hätten.
Ampere gab heute außerdem eine weitere Partnerschaft bekannt. Das Unternehmen arbeitet mit NETINT eine gemeinsame Lösung zu entwickeln, die die CPUs von Ampere mit den Videoverarbeitungschips von NETINT kombiniert. Dieser neue Server wird in der Lage sein, 360 Live-Videokanäle parallel zu transkodieren und dabei auch OpenAIs zu verwenden Flüstern Sprach-zu-Text-Modell zum Untertiteln von 40 Streams.
„Wir haben diesen Weg vor sechs Jahren begonnen, weil klar ist, dass es der richtige Weg ist“, sagte Ampere-CEO Renee James in der heutigen Ankündigung. „Früher war geringer Stromverbrauch gleichbedeutend mit geringer Leistung. Ampere hat bewiesen, dass das nicht stimmt. Wir haben die Effizienzgrenze des Computings vorangetrieben und in einem effizienten Computing-Umfeld eine Leistung bereitgestellt, die über die herkömmlicher CPUs hinausgeht.“