San Francisco: Im vergangenen Jahr hat Jean Paoli, CEO des Startups für künstliche Intelligenz, Docugami, ist auf der Suche nach dem derzeit heißesten technischen Gut: Computerchips. Insbesondere benötigt Paoli eine Art Chip, der als Grafikprozessor oder GPU bezeichnet wird, da dies die schnellste und effizienteste Möglichkeit ist, die Berechnungen auszuführen, die Spitzenleistungen ermöglichen KI Unternehmen müssen enorme Datenmengen analysieren.
Deshalb hat er jeden, den er in der Branche kennt, um Hilfe gebeten. Er hat einen staatlichen Zuschuss beantragt, der den Zugang zu den Chips ermöglicht. Er hat versucht, die KI-Technologie von Docugami effizienter zu machen, sodass weniger GPUs erforderlich sind. Zwei seiner Wissenschaftler haben sogar alte Videospielchips einem neuen Zweck zugeführt. „Ich halte es derzeit für ein Seltenerdmetall“, sagte Paoli über die Chips.
Mehr als Geld, technisches Talent, Hype oder sogar Gewinne sind Technologieunternehmen in diesem Jahr verzweifelt nach GPUs. Der Jagd Denn die wesentliche Komponente wurde letztes Jahr ins Leben gerufen, als Online-Chatbots wie ChatGPT eine Welle der Aufregung über KI auslösten, was dazu führte, dass sich die gesamte Technologiebranche anhäufte und es zu einer Verknappung der Chips kam. Als Reaktion darauf unternehmen Startups und ihre Investoren nun große Anstrengungen, um an die winzigen Siliziumstückchen und die entscheidende „Rechenleistung“, die sie bereitstellen, zu gelangen.
Der Mangel an KI-Chips hat sich dadurch verschärft, dass Nvidia, ein langjähriger Anbieter der Chips, den Markt quasi blockiert hat. Das von der Nachfrage überschwemmte Unternehmen aus dem Silicon Valley, dessen Wert auf eine Billion US-Dollar gestiegen ist, wird voraussichtlich nächste Woche Rekordfinanzergebnisse vorlegen.
Technologieunternehmen erwerben Zugang zu KI-Chips und deren Rechenleistung typischerweise über Cloud-Computing-Dienste von Unternehmen wie Google, Microsoft und Amazon. Aber die KI-Explosion hat dazu geführt, dass es bei Cloud-Computing-Unternehmen lange Wartelisten für den Zugriff auf diese Chips gibt – in manchen Fällen bis zu einem Jahr –, was zu einer ungewöhnlichen Hürde in einer Zeit führt, in der die Technologiebranche nichts als Chancen und grenzenloses Wachstum sieht Unternehmen bauen generative KI auf, die eigene Bilder, Texte und Videos erstellen kann.
Die größten Technologieunternehmen können aufgrund ihrer Größe, ihrer finanziellen Mittel und ihrer Marktposition im Allgemeinen leichter an GPUs gelangen. Das hat dazu geführt, dass Startups und Forscher, die normalerweise nicht über die nötigen Beziehungen oder Kaufkraft verfügen, in Schwierigkeiten geraten.
Ihre Verzweiflung ist spürbar. Startup-Gründer und Investoren haben damit begonnen, in den sozialen Medien, in Blogbeiträgen und auf Konferenzrunden hochtechnische Tipps zur Bewältigung des Mangels auszutauschen. Einige spekulieren darüber, wie lange es ihrer Meinung nach dauern wird, bis Nvidias Warteliste abgearbeitet ist. Es gibt sogar einen zum Stöhnen würdigen YouTube-Song zur Melodie von Billy Joels „We Didn’t Start the Fire“, in dem ein Künstler namens Weird AI Yankochip singt: „GPUs sind Feuer, wir können sie nie finden, aber wir wollen.“ kauf sie.“
Einige Risikokapitalfirmen nutzen mittlerweile ihre Verbindungen, um Chips zu kaufen und diese dann ihren Portfoliounternehmen anzubieten. Unternehmer trommeln Startups und Forschungsgruppen zusammen, um ein Cluster von GPUs zu kaufen und zu teilen.
Bei Docugami erwog Paoli die Möglichkeit, GPU-Ressourcen von Forschung und Entwicklung auf sein Produkt umzuleiten, einen KI-Dienst, der Dokumente analysiert. Vor zwei Wochen wurde er fündig: Docugami sicherte sich den Zugriff auf die benötigte Rechenleistung durch ein US-Regierungsprogramm namens Access, das von der National Science Foundation betrieben wird, einer Bundesbehörde, die Wissenschaft und Technik finanziert.
Die Sorte veranlasste kürzlich zwei Gründer, Evan Conrad und Alex Gajewski, dazu, die San Francisco Compute Group zu gründen, ein Projekt, das es Unternehmern und Forschern ermöglichen soll, in kleinen Mengen Zugang zu GPUs zu erwerben. Nach Hunderten von E-Mails und einem Dutzend Telefonanrufen bei Cloud-Unternehmen, Geräteherstellern und Maklern gaben sie letzten Monat bekannt, dass sie sich 512 der H100-Chips von Nvidia gesichert hatten und diese an Interessenten vermieten würden.
Die Ankündigung ging „unglaublich viral“, sagte Conrad, und führte zu Hunderten von Nachrichten von Gründern, Doktoranden und anderen Forschungsorganisationen.
Conrad und Gajewski planen, 25 Millionen US-Dollar in einer speziellen Art von Schulden aufzunehmen, bei der die Computerchips als Sicherheit dienen. Ihr Anbieter, dessen Namen die Gründer nicht nennen wollten, weil sie befürchteten, jemand könnte auftauchen und ihnen die GPUs abkaufen, hat den Zugang in etwa einem Monat versprochen. Das Duo sagte, sie hofften, Startups dabei zu helfen, Geld zu sparen, indem sie nur die Rechenleistung kauften, die sie zum Experimentieren benötigen, anstatt große, jahrelange Verpflichtungen einzugehen. „Sonst gewinnen alle Amtsinhaber“, sagte Conrad. nyt
Deshalb hat er jeden, den er in der Branche kennt, um Hilfe gebeten. Er hat einen staatlichen Zuschuss beantragt, der den Zugang zu den Chips ermöglicht. Er hat versucht, die KI-Technologie von Docugami effizienter zu machen, sodass weniger GPUs erforderlich sind. Zwei seiner Wissenschaftler haben sogar alte Videospielchips einem neuen Zweck zugeführt. „Ich halte es derzeit für ein Seltenerdmetall“, sagte Paoli über die Chips.
Mehr als Geld, technisches Talent, Hype oder sogar Gewinne sind Technologieunternehmen in diesem Jahr verzweifelt nach GPUs. Der Jagd Denn die wesentliche Komponente wurde letztes Jahr ins Leben gerufen, als Online-Chatbots wie ChatGPT eine Welle der Aufregung über KI auslösten, was dazu führte, dass sich die gesamte Technologiebranche anhäufte und es zu einer Verknappung der Chips kam. Als Reaktion darauf unternehmen Startups und ihre Investoren nun große Anstrengungen, um an die winzigen Siliziumstückchen und die entscheidende „Rechenleistung“, die sie bereitstellen, zu gelangen.
Der Mangel an KI-Chips hat sich dadurch verschärft, dass Nvidia, ein langjähriger Anbieter der Chips, den Markt quasi blockiert hat. Das von der Nachfrage überschwemmte Unternehmen aus dem Silicon Valley, dessen Wert auf eine Billion US-Dollar gestiegen ist, wird voraussichtlich nächste Woche Rekordfinanzergebnisse vorlegen.
Technologieunternehmen erwerben Zugang zu KI-Chips und deren Rechenleistung typischerweise über Cloud-Computing-Dienste von Unternehmen wie Google, Microsoft und Amazon. Aber die KI-Explosion hat dazu geführt, dass es bei Cloud-Computing-Unternehmen lange Wartelisten für den Zugriff auf diese Chips gibt – in manchen Fällen bis zu einem Jahr –, was zu einer ungewöhnlichen Hürde in einer Zeit führt, in der die Technologiebranche nichts als Chancen und grenzenloses Wachstum sieht Unternehmen bauen generative KI auf, die eigene Bilder, Texte und Videos erstellen kann.
Die größten Technologieunternehmen können aufgrund ihrer Größe, ihrer finanziellen Mittel und ihrer Marktposition im Allgemeinen leichter an GPUs gelangen. Das hat dazu geführt, dass Startups und Forscher, die normalerweise nicht über die nötigen Beziehungen oder Kaufkraft verfügen, in Schwierigkeiten geraten.
Ihre Verzweiflung ist spürbar. Startup-Gründer und Investoren haben damit begonnen, in den sozialen Medien, in Blogbeiträgen und auf Konferenzrunden hochtechnische Tipps zur Bewältigung des Mangels auszutauschen. Einige spekulieren darüber, wie lange es ihrer Meinung nach dauern wird, bis Nvidias Warteliste abgearbeitet ist. Es gibt sogar einen zum Stöhnen würdigen YouTube-Song zur Melodie von Billy Joels „We Didn’t Start the Fire“, in dem ein Künstler namens Weird AI Yankochip singt: „GPUs sind Feuer, wir können sie nie finden, aber wir wollen.“ kauf sie.“
Einige Risikokapitalfirmen nutzen mittlerweile ihre Verbindungen, um Chips zu kaufen und diese dann ihren Portfoliounternehmen anzubieten. Unternehmer trommeln Startups und Forschungsgruppen zusammen, um ein Cluster von GPUs zu kaufen und zu teilen.
Bei Docugami erwog Paoli die Möglichkeit, GPU-Ressourcen von Forschung und Entwicklung auf sein Produkt umzuleiten, einen KI-Dienst, der Dokumente analysiert. Vor zwei Wochen wurde er fündig: Docugami sicherte sich den Zugriff auf die benötigte Rechenleistung durch ein US-Regierungsprogramm namens Access, das von der National Science Foundation betrieben wird, einer Bundesbehörde, die Wissenschaft und Technik finanziert.
Die Sorte veranlasste kürzlich zwei Gründer, Evan Conrad und Alex Gajewski, dazu, die San Francisco Compute Group zu gründen, ein Projekt, das es Unternehmern und Forschern ermöglichen soll, in kleinen Mengen Zugang zu GPUs zu erwerben. Nach Hunderten von E-Mails und einem Dutzend Telefonanrufen bei Cloud-Unternehmen, Geräteherstellern und Maklern gaben sie letzten Monat bekannt, dass sie sich 512 der H100-Chips von Nvidia gesichert hatten und diese an Interessenten vermieten würden.
Die Ankündigung ging „unglaublich viral“, sagte Conrad, und führte zu Hunderten von Nachrichten von Gründern, Doktoranden und anderen Forschungsorganisationen.
Conrad und Gajewski planen, 25 Millionen US-Dollar in einer speziellen Art von Schulden aufzunehmen, bei der die Computerchips als Sicherheit dienen. Ihr Anbieter, dessen Namen die Gründer nicht nennen wollten, weil sie befürchteten, jemand könnte auftauchen und ihnen die GPUs abkaufen, hat den Zugang in etwa einem Monat versprochen. Das Duo sagte, sie hofften, Startups dabei zu helfen, Geld zu sparen, indem sie nur die Rechenleistung kauften, die sie zum Experimentieren benötigen, anstatt große, jahrelange Verpflichtungen einzugehen. „Sonst gewinnen alle Amtsinhaber“, sagte Conrad. nyt