A Mangel an Finanzierung für lebenswichtige Open-Source-Technologien führt zu einer breiten Unterstützung von Startups, Einhörnern, Konzernen und sogar Risikokapitalfirmen.
Letztes Jahr, Bloomberg gestartet Sein FOSS-Fonds (Free and Open Source Software) stellt bis zu 90.000 US-Dollar pro Jahr für verschiedene Projekte bereit. Und im Oktober startete das indische Finanzdienstleistungsunternehmen Zerodha eine ähnliche Initiative namens „ FLOSS/Fondsund stellt jährlich 1 Million US-Dollar für Open-Source-Projekte bereit. Der Grund? „Ein wesentlicher Teil unseres Erfolgs und Wachstums ist FOSS zu verdanken“, sagte Zerodha CTO Kailash Nadh sagte damals.
„Es versteht sich von selbst, dass dies für fast jedes im letzten Jahrzehnt gegründete Technologieunternehmen gilt, unabhängig davon, ob es öffentlich bekannt ist oder nicht“, fügte Nadh hinzu.
Zwar mangelt es nicht an Unternehmen, die mithilfe von Open-Source-Software Geschäfte aufbauen und Geld beschaffen, doch nicht jedes von der Community betriebene Projekt eignet sich für die Umwandlung in eine kommerzielle Einheit. Einige Open-Source-Tools ähneln eher Legosteinen: Sicherlich Schlüsselkomponenten eines Software-Stacks, aber schwer direkt zu monetarisieren – insbesondere in der Anfangszeit.
Und deshalb beobachten wir eine stetige Zunahme von Förderinitiativen, die in den Vordergrund rücken. Dazu gehört reaktiv Programme, wie zum Beispiel die von Big Tech im Jahr 2022 30 Millionen US-Dollar versprochene Zusage zur Stärkung der Open-Source-Sicherheit im Zuge der Log4Shell-Sicherheitslücke, die verheerende Schäden in der Software-Lieferkette angerichtet hat. Aber wir sehen auch mehr proaktiv Bemühungen aus allen Bereichen der Industrie.
Silicon Valley VC Sequoia-Hauptstadt hat 2023 ein Open-Source-Stipendium ins Leben gerufen zur Unterstützung von Projektbetreuern mit eigenkapitalfreiem Kapital zur Deckung des Lebensunterhalts für bis zu 12 Monate. Sein Gründungsmitglied war ein kolumbianischer Softwareentwickler Sebastián Ramírez MontañoSchöpfer von FastAPIein Open-Source-Webframework zum Erstellen von APIs.
Im Februar gab Sequoia bekannt, dass es ab sofort Bewerbungen entgegennehmen wird beliebig Entwickler, der ein Open-Source-Projekt leitet und plant, jährlich bis zu drei qualifizierende Projekte zu finanzieren. Neun Monate später wurden nun die ersten beiden Stipendiaten aus Sequoias erweitertem Programm bekannt gegeben: Chatbot-Arenaein beliebtes Open-Source-Benchmarking-Tool für KI-Modelle, das von vielen der größten Namen der Branche verwendet wird, darunter OpenAI, Meta und Google; Und vLLMeine Open-Source-Bibliothek, die sich auf die Speicherverwaltung konzentriert, um eine schnellere und kostengünstigere LLM-Bereitstellung zu ermöglichen.
Wirklich gute Leute
Chatbot Arena, hervorgegangen aus einer größeren Forschungsorganisation namens LMSYSist das Werk von Doktoranden Wei-Lin Chiang Und Anastasios Angelopoulos von Berkeley Sky Computing Lab. Mit mehr als 1 Million monatlichen Nutzern geht es bei Chatbot Arena darum, LLM-Entwicklern dabei zu helfen, Aussagen zur Leistung ihrer Modelle zu validieren irgendjemand können diese Modelle testen und für ihre Vorlieben abstimmen. Unternehmen wie OpenAI teilen häufig Versionen ihrer Modelle vor der Veröffentlichung der Modelle mit dem Team von Chatbot Arena, um bei der Feinabstimmung vor der offiziellen Einführung zu helfen.
Während Chatbot Arena im Rahmen der Doktorarbeit der Entwickler am Sky Computing Lab finanziert wird, wird der Sequoia-Stipendienpreis in Höhe von 100.000 US-Dollar dazu beitragen, die weitere technische Entwicklung zu finanzieren, einschließlich der Entwicklung einer besseren Schnittstelle.
„Der Sequoia-Zuschuss unterstützt die Entwicklung der Website von Chatbot Arena und deckt die Kosten für die Full-Stack-Entwicklung und Serverwartung ab“, sagte Chiang gegenüber Tech. „Dies ist eine Spende zur Unterstützung des Open-Source-Projekts ohne zukünftige Verpflichtungen.“
Sequoia ist nicht das einzige VC-Unternehmen, das Chatbot Arena eigenkapitalfrei unterstützt. Andreessen Horowitz hat ein Open-Source-KI-Förderprogramm ins Leben gerufen letzten Augustund LMSYS, das Dachunternehmen der Chatbot Arena, war darunter zweite Kohorte von Empfängern.
Chiang sagte, dass es keine Pläne gebe, das Projekt zu einer kommerziellen Einheit weiterzuentwickeln, und unterstrich damit die Notwendigkeit alternativer Finanzierungsquellen – jetzt und vielleicht noch lange in der Zukunft.
„Als Teil unserer langfristigen Vision könnten wir eine gemeinnützige Organisation gründen, die die Bestenliste ausrichtet, wobei wir uns weiterhin auf breite Zugänglichkeit und Auswirkungen auf die Gemeinschaft konzentrieren“, sagte Chiang.
Parallel dazu brachte das Sky Computing Lab in Berkeley im Jahr 2022 unter der Federführung von Forschern vLLM ins Leben Zhuohan Li, Woosuk KwonUnd Simon Moder das Projekt startete, nachdem er ein System entwickelt hatte, um komplexe Prozesse effizienter auf mehrere GPUs zu verteilen. vLLM basiert auf einem neuen „Aufmerksamkeitsalgorithmus“ namens PagedAttention, der zur Reduzierung der Speicherverschwendung beiträgt und bereits von Entwicklern bei Unternehmen wie AWS, Cloudflare und Nvidia verwendet wird.
Ähnlich wie Chatbot Arena dient vLLM als Mittelpunkt der Doktorarbeit seiner Entwickler, und eine zukünftige Kommerzialisierung steht derzeit nicht auf der Tagesordnung.
„Im Moment haben wir keinen Plan, es in ein eigenständiges Unternehmen umzuwandeln – wir konzentrieren uns ausschließlich darauf, das Open-Source-Projekt nützlich und weit verbreitet zu machen“, sagte Mo.
Zusätzlich zu Sequoias Beitrag von 100.000 US-Dollar für das Jahr, andere öffentliche Sponsoren Dazu gehören Andreessen Horowitz, die im Rahmen dessen gespendet letztes Jahr das erste Open-Source-KI-Förderprogramm, während Unternehmen wie AWS, Nvidia und andere vLLM gemeinsam dabei geholfen haben, seine Rechenressourcen zu decken – die nicht unerheblich sind.
„Für vLLM beabsichtigen wir, den Fonds zur Finanzierung unserer kontinuierlichen Integrationstest- und Benchmark-Suite zu verwenden“, sagte Mo. „Diese Suiten, die auf GPUs laufen, sind teuer in der Wartung, aber entscheidend, um die Leistung und Korrektheit von vLLM für den Produktionseinsatz sicherzustellen.“
Daraus ergibt sich eine klare Botschaft: KI und Dateninfrastruktur treiben zwar die Nachfrage nach Open-Source-Technologien voran, diese Nachfrage verursacht jedoch erhebliche Kosten für die Projektbetreuer. Ion StoicaProfessor der Informatikabteilung in Berkeley und Berater des Sky Computing Lab, sagt, dass der Finanzierungsdruck auf Open-Source-Projektbetreuer mit dem Aufkommen von LLMs „mindestens eine Größenordnung höher“ sei.
„Sie haben mehrere Arten von GPUs, Sie haben all diese anderen Beschleuniger und es gibt auch einen Unterschied in der Größenordnung“, sagte er. „Vor zehn Jahren floss der Großteil der Mittel für ein neues Startup in die Personalgewinnung; Heute geht es um die Infrastruktur.“
Ausrichtung
Schaut man etwas tiefer, wird deutlich, dass das Engagement von Sequoia nicht ganz so altruistisch ist, wie es scheinen mag, da sich die beiden neuen Partner mit Start-ups in seinem bestehenden Investitionsportfolio überschneiden. Beispielsweise wird vLLM verwendet von Replizierendie Sequoia (und Andreessen Horowitz) unterstützten seine Serie A Und Runden der Serie B.
An anderer Stelle war Sequoia letztes Jahr Mitleiter einer 5-Millionen-Dollar-Seed-Runde für ein KI-Startup namens Fabrikmit dem Gründer und CTO des Startups Eno Reyes Er bestätigt, dass sein Unternehmen Chatbot Arena nutzt, um die wichtigsten LLM-Optionen „im Auge zu behalten“.
„Sie sind ein wichtiger Input, um sicherzustellen, dass wir unseren Benutzern das beste Produkt bieten“, sagte Reyes.
In ähnlicher Weise stützt sich Sequoias erster Fellowship-Preis im letzten Jahr, FastAPI, stark darauf Pydantischdie beliebte Datenvalidierungsbibliothek, die vom gleichnamigen Startup im Sequoia-Portfolio erstellt wurde.
Allerdings ist Sequoia Capital Partner Lauren Reeder sagte Tech, dass diese gegenseitige Befruchtung zwischen Stipendiaten und Portfolio keine strikte Bedingung für seine Finanzierungsentscheidungen sei, sondern lediglich ein „schöner Bonus“, wenn es darum gehe Tun ausrichten. Und tatsächlich: Wenn ein Open-Source-Projekt wirklich beliebt ist, besteht eine gute Chance, dass es von einem der Portfoliounternehmen von Sequoia übernommen wird, was für das VC-Unternehmen eine gute Möglichkeit ist, von lohnenswerten Projekten zu erfahren.
Was die Verteilung der Mittel angeht, sagt Reeder, man sei offen für alles, was dem jeweiligen Team am besten passt. Für FastAPI bedeutete dies eine direkte Zahlung an Montaño selbst, was einfacher war, da es sich nur um eine Einzelperson handelte. Wenn jedoch Teams beteiligt sind, ist es sinnvoll, eine Fundraising-Plattform eines Drittanbieters zu nutzen wie Open Collectivewas auch mit zusätzlicher Transparenz einhergeht.
„Bei den beiden jüngsten Stipendiaten unterstützten wir eher kleine Gruppen als eine Einzelperson, und Open Collective erleichterte die Verwaltung der Mittel“, sagte Reeder. „In ähnlicher Weise haben wir je nach den Anforderungen des Projekts sowohl Vorauszahlungen als auch Zahlungen für mehrere Installationen vorgenommen. Open Collective ist transparenter, aber die Gebühren sind nicht unerheblich.“
Ein Versprechen geben
Allein in den letzten fünf Jahren gab es zahlreiche weitere Bemühungen, die Open-Source-Projektfinanzierung zu formalisieren, darunter spezielle FOSS-Mittel von In der Tat Und Salesforceein stillschweigendes Eingeständnis, dass kritische Komponenten des Tech-Stacks nach Unterstützung schreien.
Eine der größten Anstrengungen der letzten Zeit geht jedoch auf das Entwicklertool-Einhorn Sentry zurück, das selbst seit vielen Jahren an Open-Source-Projekte spendet. Im Jahr 2021 adoptierte Sentry a systematischeres Programm mit festeren und transparenteren Verpflichtungen und letzten Monat das Unternehmen offiziell gestartet Die Open-Source-Versprechen andere Unternehmen zu ermutigen, sich zu engagieren – entweder durch direkte Spenden über Plattformen wie GitHub-Sponsoren oder Danke.devoder indirekt über Stiftungen.
„Wir führen unser Programm seit drei Jahren erfolgreich durch, aber es allein reicht nicht aus, um die Open-Source-Nachhaltigkeitskrise zu lösen. Also dieses Jahr David [Sentry co-founder David Cramer] hat mich gebeten, andere Unternehmen mit ins Boot zu holen, um eine größere Wirkung zu erzielen“, sagte Sentrys Leiter der Open-Source-Abteilung. Chad Whitacresagte Tech.
Die Regeln für den Einsatz lauten wie folgt: Verpflichtungen sollten sich auf Folgendes belaufen mindestens 2.000 US-Dollar pro Jahr für jeden Entwickler, den das Mitgliedsunternehmen beschäftigt, was für Sentry selbst im letzten Jahr etwa 500.000 US-Dollar bedeutete – 3.704 US-Dollar für jeden seiner 135 Entwickler. Zu den Nutznießern zählten im Laufe der Jahre Django, Python, Rust und Apache. Dieses Jahr hat Sentry erhöhte sein eigenes Budget auf 750.000 US-Dollarund mit etwa zwei Dutzend weiteren Mitglieder Obwohl Whitacre zum Zeitpunkt des Verfassens dieses Artikels dem Pledge beigetreten ist, hofft er, dass Entwickler von Open-Source-Software in Zukunft etwas mehr Vergütung erhalten.
„Der Hauptzweck des Pledge sind unverbindliche Zahlungen an Open-Source-Betreuer“, sagte Whitacre. „Wir überprüfen Unternehmen bei ihrem Beitritt, um sicherzustellen, dass sie unsere Anforderungen einhalten Richtlinienaber innerhalb dieser Richtlinien gibt es einen beträchtlichen Spielraum.“
Neben Unternehmensmitgliedern, die Bargeld spenden, hat das Pledge auch „Ökosystempartner“ angezogen das Versprechen unterstützenzu dem Stiftungen, Einzelpersonen und sogar Geschichten gehören VC-Firma Acceldas im Laufe der Jahre selbst in zahlreiche Open-Source-Startups investiert hat (einschließlich Sentry, sowohl vor als auch nach der Umstellung von einer Open-Source-Lizenz). im Jahr 2019).
Accel-Partner Dan Levine sagte, wenn etwas „wirklich kritisch“ ist, sollte es theoretisch in der Lage sein, sich als Unternehmen zu behaupten. Die Realität ist jedoch, dass es keine Probleme geben sollte, finanzielle Unterstützung zu erhalten, wenn genügend Unternehmen und Entwickler aus einem bestimmten Open-Source-Projekt Nutzen ziehen – zumindest in der Anfangszeit, bevor die Betreuer den Weg zur Kommerzialisierung einschlagen können .
„Im Fall von Open-Source-Software kann sie zwar kostenlos genutzt werden, aber Benutzer, die sie für wesentlich halten, sind von Natur aus motiviert, ihre Nachhaltigkeit sicherzustellen“, sagte Levine gegenüber Tech. „Die Open-Source-Community, insbesondere auf der Nachfrageseite, muss ihre Strategien überdenken und fundiertere Entscheidungen zur Unterstützung kritischer Projekte treffen. Das Versprechen ist ein hervorragender Versuch, die Nachfrageseite dazu zu bewegen, das zu tun, was in ihrem eigenen Interesse liegt.“