Andreessen Horowitz verfügt über einen riesigen Cluster von Nvidia H100-GPUs, um seinem Portfolio an KI-Startups dabei zu helfen, ihren Rechenbedarf zu decken, bestätigte die Risikokapitalgesellschaft am Mittwoch erstmals. Das Programm mit dem Namen „Oxygen“ ermöglicht es ihren Portfoliounternehmen, ihre KI-Modelle zu trainieren oder zu betreiben, ohne Marktpreise auszuhandeln.
Der Oxygen-Cluster von A16Z gibt Startups sozusagen etwas Luft, um beim Aufbau großer KI-Modelle mit größeren Technologieunternehmen wie Google, Meta und Microsoft zu konkurrieren. In den letzten Jahren waren diese Unternehmen in einen Bieterkrieg um GPUs verwickelt, insbesondere um die H100, dem KI-Industriestandard, und gewannen oft Aufträge, indem sie größere und längere Verträge versprachen. Das lässt viele KI-Startups auf der Strecke bleiben, da sie möglicherweise nicht in der Lage sind, die großen Aufträge anzunehmen, die für die Sicherung von GPUs erforderlich sind, während dies bei OpenAIs und Anthropics auf der Welt der Fall ist.
„Alles begann mit der Erkenntnis, dass eine Reihe der KI-Gründer, die wir täglich betreuen, ein gemeinsames Problem hatten: Wir befanden uns mitten in einer Versorgungskrise, in der die Nvidia H100-Kapazität knapp war“, sagte A16Z-Partnerin Anjney Midha, die half Erstellen Sie das Oxygen-Programm in einem mit Tech geteilten Podcast-Transkript. „Als Startups wurden sie von den großen Clouds zugunsten größerer Kunden benachteiligt, was für sie wirklich hart war.“
Die Infrastruktur ist für A16Z auch eine gute Möglichkeit, neue Startups anzuziehen. Unternehmen, die KI-Modelle erstellen, benötigen für kurze Trainingsläufe oft uneingeschränkten Zugriff auf riesige Rechencluster, benötigen diesen aber nicht mehr, sobald die Modelle trainiert sind. Das Ableiten von KI-Modellen erfordert in der Regel weniger Rechenleistung als das Training, es sei denn, die Nutzung eines KI-Modells nimmt explosionsartig zu. Der Oxygen-Cluster von A16Z bietet Startups Flexibilität und ermöglicht den Zugriff auf GPUs, wenn sie ihn benötigen, ohne eine langfristige Bindung an einen Cloud-Anbieter oder einen großen Geldaufwand. Stattdessen beteiligen sie sich an A16Z an ihrem Geschäft, im Gegenzug (unter anderem) für niedrige Mietpreise für GPUs.
Aber A16Z sind nicht die einzigen Investoren, die Start-up-Gründern GPUs zusätzlich zu Finanzkapital und Beratung für Beteiligungen an ihren Unternehmen versprechen. Die Investmentpartner Nat Friedman und Daniel Gross bieten ihre Startups an Zugriff auf einen Cluster mit 4.000 GPUs wird laut Forbes Andromeda-Cluster genannt. Y Combinator bietet Startups auch einen Cluster von GPUs für Trainingsläufe durch Partnerschaften mit verschiedenen Cloud-Anbietern, zuletzt Google Cloud.
Ein Sprecher von Andreessen Horowitz lehnte es ab, sich zur Größe des Oxygen-Clusters zu äußern, A16Z verfügt jedoch möglicherweise über die größte GPU-Kriegskasse aller Venture-Unternehmen. Die Informationen berichtete im Juli, dass Oxygen mehr als 20.000 GPUs enthalten könnte.
An einer Stelle im Podcast sagt Midha, dass der Oxygen-Cluster den Druck auf KI-Startups verringern kann, zu überteuerten Bewertungen Geld zu sammeln, um ihre Rechenrechnungen zu bezahlen. Dies ist ein weiterer Vorteil von Sauerstoff für A16Z. Anstatt mehr in ein Startup zu investieren, damit es GPUs beispielsweise von Microsoft kaufen kann, kann A16Z die GPUs selbst anbieten und zu einem niedrigeren Preis investieren.
A16Z betrachtet Oxygen als ein zentrales Wertversprechen für seine Startups in der Zukunft, solange der KI-Boom wie geplant anhält. Das ist wahrscheinlich der Grund, warum das Startup die enormen Investitionen getätigt hat, die erforderlich waren, um sich diese Chips zu sichern.