Der Wettlauf um den Aufbau des nächsten großen Sprachmodells ist eröffnet, und nun hat Berichten zufolge ein Konkurrent aus China eine große Finanzierungsrunde abgeschlossen, um es an die Spitze zu katapultieren.
Moonshot-KI, ein vor weniger als einem Jahr gegründetes Startup für künstliche Intelligenz, das LLMs entwickelt, die lange Text- und Dateneingaben verarbeiten können, hat laut mehreren Medienberichten aus China in einer Serie-B-Runde über 1 Milliarde US-Dollar eingesammelt. Wenn es stimmt, würde diese jüngste Kapitalspritze den Wert von Moonshot AI auf 2,5 Milliarden US-Dollar beziffern – die größte Einzelfinanzierungsrunde für chinesische LLM-Entwickler seit jeher.
Das Startup – das in China unter dem Namen YueZhiAnMian bekannt ist – hat sich, wie viele derzeit in der KI-Branche, auf die Entwicklung großer Sprachmodelle konzentriert. Sein Alleinstellungsmerkmal liegt insbesondere darin, dass es daran arbeitet, lange Kontexte und Antworten zu verarbeiten, ein Bereich, der andere auf diesem Gebiet lange überlistet hat.
Die ersten Schritte zur Lösung dieses Problems wurden zügig eingeleitet.
Im März letzten Jahres – zeitgleich mit dem 50. Jahrestag von Pink Floyds „The Dark Side of the Moon“, dem Lieblingsalbum des Gründers Yang Zhilin und Inspiration für den Namen des Startups – startete das Startup mit einem LLM mit 100 Milliarden Parametern.
Im Oktober startete Moonshot dann seinen ersten Chatbot in China. Kimidas behauptet, die Verarbeitung von 200.000 chinesischen Zeichen in einem einzigen Gespräch unterstützen zu können – angeblich achtmal so lang wie das, was OpenAIs GPT-4-32K erreichen kann.
Wir haben Kontakt aufgenommen Yang Zhilinder KI-Forscher und Akademiker, der Moonshot zusammen mit Zhou Xinyu und Wu Yuxin gegründet hat, für einen Kommentar und wird diesen Beitrag aktualisieren, wenn er antwortet.
Unterdessen heißt es in den Berichten, dass die Finanzierung von einer Liste namhafter Investoren stammt, zu denen auch eine Reihe potenziell interessanter strategischer Partner gehören. An der Spitze der Runde stehen demnach der E-Commerce-Riese Alibaba und HongShan – das VC-Unternehmen, das früher als Sequoia China bekannt war Süd China morgen Post. Andere in der Runde waren laut dem chinesischen Tech-Blog LatePost die chinesischen „Super-Apps“ Meituan und Xiaohongshu (manchmal auch Chinas Antwort auf Instagram genannt).
Laut Angaben hat Moonshot zuvor 200 Millionen US-Dollar vom HongShan and Zhen Fund in einer Runde eingesammelt, die einen Wert von 300 Millionen US-Dollar hatte PitchBook-Daten.
HongShan, der um einen Kommentar gebeten wurde, lehnte eine Stellungnahme zu den Berichten ab. Alibaba hat auf eine Bitte um Stellungnahme nicht geantwortet. Wir haben uns auch separat an Moonshot gewandt.
Wenn es stimmt, wäre HongShans Beteiligung hier bemerkenswert. Sequoia Capital gab letztes Jahr offiziell bekannt, dass es seine asiatischen Aktivitäten in Indien und China angesichts zunehmender geopolitischer Spannungen abspalten werde. Dieser Prozess soll bis zum 24. März endgültig abgeschlossen sein.
Aber inzwischen hat sich die China-Operation durchgesetzt auf den Prüfstand kommen von der US-Regierung für ihre KI-Deals in den USA; und das US-Unternehmen wird ebenfalls wegen laufender Aktivitäten in China untersucht. Angesichts all dessen ist es keine Überraschung, dass der einst hochkarätige Investor sich hier zurückhält.
Bezeichnenderweise ist der Rest der gemeldeten Investorenliste ein wahres Who-is-Who bekannter Technologieunternehmen. Dies unterstreicht den anhaltenden Rückzug – oder zumindest die Pause – von Finanzinvestoren in vielversprechende chinesische Startups, insbesondere solche aus dem Westen, die Geschäfte in US-Dollar tätigen.
Aber es weist auch darauf hin, dass – genau wie wir es in den USA gesehen haben, wo Unternehmen wie Microsoft, Google und Amazon Milliarden von Dollar in LLM-Startups wie OpenAI und Anthropic stecken – große Technologieunternehmen in China um das kämpfen, was ihnen gehören könnte große KI-Spiele in den kommenden Monaten und Jahren. Die finanzielle Unterstützung einer Handvoll vielversprechender Hoffnungsträger ist eine Möglichkeit, das, was sie intern aufbauen wollen, abzukürzen oder zu erweitern.
OpenAI regiert derzeit in den USA und wohl auch überall sonst, wo es expandiert hat, aber in China gibt es keinen ernannten Anführer, sodass es bei vielen Investitionsaktivitäten so aussieht, als ob es darum geht, Wetten zu verteilen.
Zu diesem Zweck ist Alibaba auch ein Investor in Baichuan – gegründet von Xiaochuan Wang, einem Pionier im Suchmaschinenbereich, der bis Ende letzten Jahres 350 Millionen US-Dollar einsammelte und dabei eine Bewertung von 1 Milliarde US-Dollar erreichte – sowie in Zhipu AI, ein weiterer LLM-Neuling, und 01.AI, das von Kai-Fu Lee gegründete LLM-Unternehmen.
Alibabas Erzrivale Tencent hat mittlerweile Baichuan, Zhipu, MiniMax und Light Years Beyond unterstützt. Machen Sie keinen Fehler: Chinas Internetgiganten haben diese westlichen Risikokapitalgeber bei der Unterstützung der LLM-Anwärter des Landes ersetzt.
Dennoch: Auch wenn eine Milliarde US-Dollar wie eine Menge Geld klingt, die man einem Start-up geben kann, das noch nicht einmal ein Jahr alt ist, ist der Stammbaum einer der Gründe, warum große Namen bereit sein könnten, große Wetten einzugehen.
Pink-Floyd-Fan wurde zum KI-Vorreiter
Yang Zhilin konnte bereits vor der Gründung von Moonshot eine lange Erfolgsliste vorweisen.
Er hat einen Doktortitel in Informatik von der Carnegie Mellon University, wo er von Ruslan Salakhutdinov beraten wurde, der zuvor die KI-Forschung bei Apple leitete, nachdem der iPhone-Hersteller stillschweigend ein von ihm gegründetes Startup namens Perceptual Machines übernommen hatte – eine Übernahme, über die offenbar nie berichtet wurde ist aber in der vermerkt LinkedIn-Profil des Professors und professioneller Zeitplan.
Zuvor studierte er an der Tsinghua-Universität, beraten von Jie Tang. Er hat auch bei Google Brain und Meta AI gearbeitet.
Yang hat auch ein weiteres KI-Startup in Arbeit: Wiederkehrende.KI, das sich offenbar speziell auf Technologien konzentriert, die Verkäufern dabei helfen sollen, ihre Arbeit besser zu erledigen (mit Funktionen, die Gong.AI nicht unähnlich klingen). Bis 2021 hatte Recurrent laut Angaben rund 60 Millionen US-Dollar eingesammelt PitchBook. Und obwohl seitdem keine große Kapitalaktivität mehr stattgefunden hat, scheint das Unternehmen weiterhin operativ zu sein.
Wichtig für Moonshot war, dass Yang auch einer der Hauptautoren von Transformer-XL war, einer wichtigen Entwicklung in der LLM-Architektur für die Aktivierung Verständnis natürlicher Sprache über einen Kontext fester Länge hinausetwas, das eine bedeutende Rolle bei der Entwicklung der Plattform von Moonshot und wohl auch bei der umfassenderen Mission gespielt hat.
Der Fokus von Moonshot auf eine längere Ein- und Ausgabe und die Erzielung genauerer Ergebnisse für diesbezügliche Abfragen bildet die Grundlage dafür, dass das Unternehmen auf textbasierte Anwendungsfälle abzielt, die von bestehenden LLMs und generativen KI-Anwendungen nicht umfassend genutzt werden, wie etwa juristische Dokumente und Belletristik Schreiben und tiefergehende Finanzanalyse. Kimi Chat ist auf Informationen bis Januar 2024 vorbereitet, sagt der Chatbot.
Es ist nicht der einzige chinesische Akteur, der daran arbeitet, die Grenzen des langen Kontexts zu beseitigen. Baichuan hat bereits im Oktober sein Modell Baichuan2-192K angekündigt verarbeiten rund 350.000 chinesische Schriftzeichen in einem Kontextfenster.
Der Markt für Fundraising bleibt weltweit begrenzt, aber diese Runde zeigt, dass diejenigen mit großem Budget bereit sind, einzuspringen, wenn sich die richtigen Gelegenheiten ergeben. Doch selbst angesichts der breiteren, globalen KI-Raserei – wo einige 200 Milliarden Dollar soll bis 2025 investiert werden, prognostiziert Goldman Sachs – die Finanzierungslandschaft in China ist überraschend verhalten.
Nach Angaben des Forschungsunternehmens CBInsight verzeichnete China im Jahr 2023 rund 232 Investitionen im KI-Bereich, was einem Rückgang von 38 % gegenüber dem Vorjahr entspricht. Der Gesamtbetrag, den Chinas KI-Firmen aufgebracht haben, belief sich auf rund 2 Milliarden US-Dollar, 70 % weniger als im Jahr zuvor.