David Lazovsky und Preet Virk, Technologen mit Erfahrung in der Halbleitertechnik und Photonik, kamen vor einigen Jahren gemeinsam zu der Erkenntnis, dass dies der Fall ist KI und bei Arbeitslasten des maschinellen Lernens würde es schnell zu einem Problem der „Datenbewegung“ kommen. Sie prognostizierten, dass es zunehmend schwieriger werden würde, Daten von und zur Computerhardware zu übertragen, da KI-Modelle über das hinaus skalieren, was auf dem Chip eines einzelnen Speicherchips gespeichert werden könnte.
Ihre Lösung – entworfen von Phil Winterbottom, zuvor Forscher an den renommierten Bell Labs – war eine optische Verbindungstechnologie für Compute-to-Compute, Compute-to-Memory und On-Chip-Datenübertragung. Zusammen mit Winterbottom gründeten Lazovsky und Virk ein Startup, Himmlische KI, um die Technologie zu kommerzialisieren. Und jetzt zieht dieses Startup große Geldgeber an.
Celestial AI gab heute bekannt, dass es in einer Serie-B-Runde unter der Leitung von IAG Capital Partners, Koch Disruptive Technologies und Temaseks Xora Innovation Fund 100 Millionen US-Dollar eingesammelt hat. Laut CEO Lazovsky wird die Tranche, mit der sich die Gesamteinnahmen von Celestial AI auf mehr als 165 Millionen US-Dollar belaufen, zur Unterstützung der Produktion der Photonikplattform von Celestial durch die Erweiterung der Abteilungen für Technik, Vertrieb und technisches Marketing des Unternehmens verwendet.
Celestial beschäftigt derzeit etwa 100 Mitarbeiter – eine Zahl, von der Lazovsky erwartet, dass sie bis Ende des Jahres auf 130 ansteigt.
„Heutzutage sind Rechenleistung und Speicher eng miteinander verbunden. Die einzige Möglichkeit, mehr Speicher mit hoher Bandbreite hinzuzufügen, besteht darin, mehr Rechenleistung hinzuzufügen, unabhängig davon, ob die zusätzliche Rechenleistung erforderlich ist oder nicht“, sagte Lazovsky per E-Mail zu Tech. „Die Technologie von Celestial ermöglicht die Aufschlüsselung des Gedächtnisses.“
In einem Rechenzentrum ist der Speicher oft einer der wichtigsten teuer Ressourcen – zum Teil, weil sie nicht immer effizient genutzt werden. Da der Speicher an die Rechenleistung gebunden ist, ist es für Betreiber eine Herausforderung – und aufgrund von Bandbreitenbeschränkungen und extrem hoher Latenz manchmal sogar unmöglich –, den Speicher zu „disaggregieren“ und über die Hardware im Rechenzentrum hinweg zu bündeln.
Laut einem intern Einer Studie von Microsoft zufolge sind bis zu 25 % des Speichers in Azure „gestrandet“ oder bleiben übrig, nachdem die Kerne der Server an virtuelle Maschinen vermietet wurden. Durch die Reduzierung dieses verlorenen Speichers könnten die Rechenzentrumskosten um 4 bis 5 % gesenkt werden, so das Unternehmen geschätzt — potenziell erhebliche Einsparungen im Rahmen einer milliardenschweren Operation.
Celestial – das als Portfoliounternehmen von The Engine begann, dem 2016 aus dem MIT ausgegliederten VC-Unternehmen – entwickelte in seiner auf Photonik basierenden Architektur eine scheinbare Lösung, die sich über Systeme mit mehreren Chips skalieren lässt. Mithilfe von Licht zur Datenübertragung kann die Technologie von Celestial Informationen sowohl innerhalb von Chips als auch von Chip zu Chip übertragen und so sowohl Speicher als auch Rechenleistung für KI- und andere Arbeitslasten verfügbar machen.
Bildnachweis: Himmlisch
Celestial behauptet außerdem, dass seine Technologie die für die Datenübertragung erforderliche Strommenge reduzieren und so indirekt die Leistung eines Chips steigern kann. Typischerweise verwenden Chips einen Teil des Stroms, den sie beziehen, für die Datenbewegung zwischen ihren Schaltkreisen, wodurch der Strom entzogen wird, den der Chip für Rechenaufgaben verwenden kann. Die Photonik von Celestial reduziert die für die Datenbewegung erforderliche Energie, sodass ein Chip – zumindest theoretisch – seine Rechenleistung erhöhen kann.
Die Photonik-Technologie von Celestial, die mit den meisten Industrie-Verbindungsstandards kompatibel ist (z CXL, PCIe) liefert nach Angaben des Unternehmens eine 25-mal höhere Bandbreite und eine 10-mal geringere Latenz und einen geringeren Stromverbrauch als optische Alternativen.
„Mit dem Wachstum in KI „Insbesondere bei großen Sprachmodellen (LLMs) und Empfehlungs-Engine-Workloads gibt es eine Verlagerung hin zu beschleunigtem Computing“, sagte Lazovsky. „Das Hauptproblem für die Zukunft ist die Speicherkapazität, die Speicherbandbreite und die Datenbewegung – also die Chip-zu-Chip-Konnektivität –, die wir mit der photonischen Struktur von Celestial angehen.“
Celestial bietet sein Verbindungsprodukt über ein Lizenzprogramm an und arbeitet nach eigenen Angaben mit mehreren „Tier-One“-Kunden zusammen, darunter Hyperscaler sowie Prozessor- und Speicherunternehmen.
Das Interconnect-Produkt scheint für Celestial Priorität Nummer eins zu haben. Celestial verkauft seinen eigenen KI-Beschleunigerchip namens Orion, der auf der Photonik-Architektur des Unternehmens basiert. Aber wie Investoren Tech kürzlich in einem Artikel für TC+ sagten, müssen KI-Photonik-Chips noch technische Herausforderungen meistern, die sie in großem Maßstab praxistauglich machen würden. Sofern Celestial nicht auf Durchbrüche in den Bereichen Daten-Analog-Umwandlung und Signalregeneration stößt – die größten Stolpersteine für heutige Photonik-Chips – ist es unwahrscheinlich, dass Orion viel weiter ist als die Konkurrenz.
Abgesehen von den Chips hat Celestial eine Reihe von Konkurrenten auf dem Markt für photonische integrierte Schaltkreise könnte bis 2027 einen Wert von 26,42 Milliarden US-Dollar haben.
Ayar Labs, das Chiplösungen auf Basis optischer Netzwerkprinzipien herstellt, hat seit seiner Gründung im Jahr 2015 über 200 Millionen US-Dollar an Risikokapital eingesammelt. Ravonus, ein weiterer Konkurrent, hat kürzlich eine Investition in Höhe von 73,9 Millionen US-Dollar erhalten.
Allerdings könnte es im weiteren Bereich der optischen Verbindungstechnik zu einer Konsolidierung kommen. Vor etwa drei Jahren kaufte Marvell Inphi, ein Spezialist für optische Netzwerke, für 10 Milliarden Dollar. Nach einer Zeit der Ruhe erwarb Microsoft letztes Jahr Lumenisity, ein Startup, das optische Hochgeschwindigkeitskabel für Rechenzentrums- und Carrier-Netzwerke entwickelt.
Sowohl Inphi als auch Luminensity zielten mit ihrer Technologie auf unterschiedliche Anwendungsfälle ab. Bemerkenswert ist jedoch die Begeisterung der Big Tech für Optik und Photonik.
„Unsere Photonik-Technologie ist wirklich differenziert und einzigartig mit überlegenen Eigenschaften“, sagte Lazovsky. „Angesichts des Wachstums generativer KI-Arbeitslasten aufgrund von LLMs und des damit verbundenen Drucks auf aktuelle Rechenzentrumsarchitekturen steigt die Nachfrage nach optischer Konnektivität rapide an, um den Übergang von der allgemeinen Rechenzentrumsinfrastruktur zur Beschleunigung der Datenverarbeitung zu unterstützen.“
Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures und Tyche Partners nahmen ebenfalls an der Serie B von Celestial teil.