Analysten glauben, dass der Markt für Rechenzentrums-Inferenzchips schnell wachsen wird, wenn Unternehmen KI-Technologien in ihre Produkte integrieren, aber Unternehmen wie Google von Alphabet Inc. untersuchen bereits, wie sie die zusätzlichen Kosten, die dadurch entstehen, im Zaum halten können. Einer dieser Hauptkosten ist Strom, und Qualcomm hat seine Geschichte zum Entwerfen von Chips für batteriebetriebene verwendet Geräte wie Smartphones, um einen Chip namens Cloud AI 100 zu entwickeln, der auf einen sparsamen Stromverbrauch abzielt. In Testdaten, die am Mittwoch von MLCommons veröffentlicht wurden, einem Engineering-Konsortium, das Test-Benchmarks unterhält, die in den USA weit verbreitet sind KI-Chip In der Branche schlug der AI 100 von Qualcomm den Flaggschiff-Chip H100 von Nvidia bei der Klassifizierung von Bildern, basierend darauf, wie viele Serverabfragen im Rechenzentrum jeder Chip pro Watt ausführen kann. Die Chips von Qualcomm erreichten 197,6 Serverabfragen pro Watt gegenüber 108,4 Abfragen pro Watt bei Nvidia. Neuchips, ein Startup, das von dem erfahrenen taiwanesischen Chip-Akademiker Youn-Long Lin gegründet wurde, belegte mit 227 Abfragen pro Watt den Spitzenplatz. Qualcomm schlug Nvidia auch bei der Objekterkennung mit einer Punktzahl von 3,2 Abfragen pro Watt gegenüber Nvidias 2,4 Abfragen pro Watt. Die Objekterkennung kann in Anwendungen wie der Analyse von Filmmaterial aus Einzelhandelsgeschäften verwendet werden, um zu sehen, wohin Käufer am häufigsten gehen. Nvidia belegte jedoch in einem Test zur Verarbeitung natürlicher Sprache, der in Systemen wie Chatbots am häufigsten verwendeten KI-Technologie, sowohl in Bezug auf die absolute Leistung als auch in Bezug auf die Energieeffizienz den ersten Platz. Nvidia erreichte 10,8 Samples pro Watt, während Neuchips mit 8,9 Samples pro Watt den zweiten Platz belegte und Qualcomm mit 7,5 Samples pro Watt den dritten Platz belegte.
Qualcomm und Nvidia ringen um den Spitzenplatz bei KI-Chip-Effizienztests
Künstliche Intelligenz Chips aus Qualcomm Inc schlagen NVIDIA Corp in zwei von drei Messungen der Energieeffizienz in einem neuen Satz von Testdaten, die am Mittwoch veröffentlicht wurden, während ein taiwanesisches Startup beide in einer Kategorie übertraf. Nvidia dominiert den Markt für das Training von KI-Modellen mit riesigen Datenmengen. Aber nachdem diese KI-Modelle trainiert wurden, werden sie für die sogenannte „Inferenz“ breiter eingesetzt, indem Aufgaben wie das Generieren von Textantworten auf Eingabeaufforderungen und die Entscheidung, ob ein Bild eine Katze enthält, erledigt werden.