Groq, ein Startup, das Chips entwickelt, um generative KI-Modelle schneller als herkömmliche Hardware auszuführen, hat ein Auge auf Unternehmen – und den öffentlichen Sektor – geworfen.
Heute gab Groq bekannt, dass es eine neue Abteilung – Groq Systems – gründet, die sich auf die deutliche Erweiterung seines Kunden- und Entwickler-Ökosystems konzentriert. In den Zuständigkeitsbereich von Groq Systems fallen Organisationen, einschließlich Regierungsbehörden, die die Chips von Groq zu bestehenden Rechenzentren hinzufügen oder neue Rechenzentren mit Groq-Prozessoren bauen möchten.
Mit der Gründung der neuen Einheit hat Groq Definitive Intelligence übernommen, ein in Palo Alto ansässiges Unternehmen, das eine Reihe geschäftsorientierter KI-Lösungen anbietet, darunter Chatbots, Datenanalysetools und Dokumentationsersteller. Sunny Madra, CEO von Definitive Intelligence, leitet jetzt GroqCloud, die Cloud-Plattform von Groq, die Groq-Hardwaredokumentation, Codebeispiele und Self-Service-API-Zugriff auf die in der Cloud gehosteten Beschleuniger des Unternehmens bereitstellt.
„Bei Groq setzen wir uns dafür ein, eine KI-Wirtschaft zu schaffen, die für jeden mit einer brillanten Idee zugänglich und erschwinglich ist“, sagte Jonathan Ross, Mitbegründer und CEO von Groq, in einer Pressemitteilung. „Wir freuen uns, Sunny und sein Team von Definitive Intelligence begrüßen zu dürfen, die uns bei der Verwirklichung dieser Mission unterstützen … Das Definitive-Team verfügt über Fachwissen in KI-Lösungen und Markteinführungsstrategien sowie ein nachweisliches Engagement für den Wissensaustausch mit der Community. ”
Madra gründete Definitive Intelligence im Jahr 2022 zusammen mit Gavin Sherry, dem ehemaligen technischen Direktor von EMC. Vor der Einführung von Definitive Intelligence haben Madra und Sherry gemeinsam Autonomic auf den Markt gebracht, eine cloudbasierte Plattform zur Verbindung von Mobilitätssystemen, die Ford 2018 übernommen hat.
Definitive Intelligence bietet mehrere geschäftsorientierte GenAI-Produkte an, darunter OpenAssistants (eine Sammlung von Open-Source-Bibliotheken für die Entwicklung von KI-Chatbots) und Advisor (ein Visualisierungsgenerator, der sowohl eine Verbindung zu Unternehmens- als auch öffentlichen Datenbanken herstellt). Eines der führenden Tools von Definitive ist Pioneer, ein „autonomer Data-Science-Agent“, der für die Abwicklung verschiedener Datenanalyseaufgaben, einschließlich prädiktiver Modellierung, entwickelt wurde.
Vor der Übernahme hatte Definitive Intelligence Risikokapital in Höhe von 25,5 Millionen US-Dollar eingesammelt.
„Die Welt erkennt gerade jetzt, wie wichtig Hochgeschwindigkeitsinferenz für die generative KI ist“, sagte Madra in einer per E-Mail versandten Erklärung. „Bei Groq bieten wir Entwicklern die Geschwindigkeit, niedrige Latenz und Effizienz, die sie benötigen, um das Versprechen der generativen KI einzulösen. Ich bin ein großer Fan von Groq, seit ich Jonathan 2016 zum ersten Mal traf, und ich freue mich sehr, ihn und das Groq-Team bei ihrem Bestreben zu unterstützen, die schnellste Inferenz-Engine auf die Welt zu bringen.“
Groq, das 2016 aus dem Verborgenen hervorging, entwickelt eine sogenannte LPU-Inferenzmaschine (Language Processing Unit). Das Unternehmen behauptet, dass seine LPU bestehende große Sprachmodelle mit einer ähnlichen Architektur wie ChatGPT und GPT-4 von OpenAI mit zehnfacher Geschwindigkeit ausführen kann.
Ross‘ Anspruch auf Ruhm trägt dazu bei, die Tensor Processing Unit (TPU) zu erfinden, Googles maßgeschneiderten KI-Beschleunigerchip, der zum Trainieren und Ausführen von Modellen verwendet wird.
Definitive Intelligence ist die zweite Akquisition von Groq nach Maxeler Technologies, einem Unternehmen für leistungsstarke Rechen- und KI-Infrastrukturlösungen im Jahr 2022. Es ist möglicherweise nicht die letzte. Der Markt für kundenspezifische KI-Chips ist hart umkämpft, und – soweit der endgültige Kauf die Pläne von Groq verdeutlicht – ist Groq eindeutig darauf bedacht, Fuß zu fassen, bevor seine Konkurrenten eine Chance haben.