Deci landet 25 Millionen Dollar für Technologie, die KI-Modelle effizienter macht – Tech

Deci landet 25 Millionen Dollar fuer Technologie die KI Modelle effizienter

Dez, ein Start-up-Unternehmen mit 50 Mitarbeitern, das eine Plattform zum Aufbau und zur Optimierung von KI-gestützten Systemen entwickelt, gab heute bekannt, dass es eine Finanzierungsrunde der Serie B in Höhe von 25 Millionen US-Dollar unter der Leitung von Insight Partners mit Beteiligung von Square Peg, Emerge, Jibe Ventures und Fort Ross abgeschlossen hat Ventures und ICON, wodurch sich das Gesamtkapital des Unternehmens auf 55,1 Millionen US-Dollar beläuft. Die Mittel werden für den Ausbau verwendet Dezlaut Mitbegründer und CEO Yonatan Geifman die Markteinführungsaktivitäten von und die F&E-Bemühungen des Unternehmens unterstützen.

Unternehmen stehen vor mehreren Hürden bei der Erstellung von KI-Modellen zur Text-, Audio- und Bildanalyse für den Einsatz in ihren Apps und Diensten. Die Kosten sind enorm – das Trainieren eines einzelnen Modells auf kommerzieller Hardware kann teuer werden Zehntausende von Dollar, wenn nicht mehr. Während neuere Generationen von Chips und kundenspezifische KI-Beschleuniger dazu beigetragen haben, die Belastung etwas zu verringern, ist es immer noch kein leichtes Unterfangen, ein Modell von Grund auf neu zu erstellen.

Als Lösung schlägt Geifman die Neural Architecture Search (NAS) vor. NAS, eine Familie von Techniken, auf die sich Deci stark verlässt, kann dabei helfen, automatisch kostengünstige, optimale Modelle für ein bestimmtes Problem zu finden. Deci ist damit nicht einzigartig – der KI-Dienst Vertex von Google nutzt NAS, um die Leistung von Modellen bei bestimmten, kundenspezifischen Aufgaben zu optimieren. Aber Geifman argumentiert, dass die Plattform von Deci Zugang zu NAS-Funktionen zu geringeren Kosten bietet.

2019 war Geifman zusammen mit Ran El-Yaniv und dem Unternehmer Jonathan Elial Mitbegründer von Deci. Geifman und El-Yaniv lernten sich in der Informatikabteilung des Technion kennen, wo Geifman Doktorand und El-Yaniv Professor war.

„Dezi’s proprietäre Technologie [can generate] neue Bildklassifizierungsmodelle, die … im Vergleich zu den leistungsstärksten öffentlich verfügbaren Modellen eine mehr als zweifache Verbesserung der Laufzeit bei gleichzeitig verbesserter Genauigkeit bieten“, sagte Geifman Tech in einer E-Mail. „Das bedeutet, dass KI-Anwendungen, die bisher nur auf großen und teuren GPUs bereitgestellt werden konnten, jetzt auf CPUs bereitgestellt werden können.“

Bildnachweis: Dez

Das sind hohe Ansprüche. Aber Deci hat die Unterstützung von Intel, das im vergangenen März eine strategische geschäftliche und technologische Zusammenarbeit mit dem Startup ankündigte, um das maschinelle Lernen auf Intel-Prozessoren zu optimieren. Die Partnerschaft führte zur Entwicklung eines Modells, das die Leistung von Aufgaben zur Beantwortung von Fragen auf Intel-CPUs beschleunigt, und eines Bildklassifizierungsmodells für Cascade-Lake-Prozessoren, das „den Rechenaufwand erheblich reduziert“, behauptet Geifman.

Geifman sagte Tech zuvor, dass einer der Kunden von Deci, ein Anbieter von Videokonferenzen, die Plattform verwendet habe, um eine Funktion einzuführen, die den Hintergrund auf den Geräten der Benutzer verwischt. Andere haben Deci angezapft, um bessere Modelle für ihr eigenes internes Computing zu bauen, selbst wenn sie theoretisch die GPUs und Rechenleistung zur Verfügung haben, um alles auszuführen.

Dez wurde geschaffen, um Entwickler zu unterstützen und produktionsbedingte Engpässe im gesamten KI-Lebenszyklus zu beseitigen“, sagte Geifman. „Die geschäftlichen Auswirkungen dieser Fähigkeit führen zu … einer Verkürzung der Produktionszeit und der Möglichkeit, neue KI-Anwendungsfälle zu erschließen und neue Marktsegmente auf ressourcenbeschränkten Geräten anzusprechen.“

Geifman weist auch darauf hin, dass komprimierte Modelle Unternehmen dabei helfen können, Kosten für Inferenzberechnungen einzusparen – also die Kosten für die tatsächliche Bereitstellung von Modellen nach ihrer Bereitstellung. Teilweise aufgrund der Popularität von Hosting-Modellen in der Cloud hat laut a. mehr als ein Drittel der Unternehmen regelmäßig Cloud-Budgetüberschreitungen von bis zu 40 % Umfrage vom Observability-Softwareanbieter Pepperdata.

Während Geifman behauptet, dass das Geschäft von Deci weiter wächst, steht das Startup vor Herausforderungen, einschließlich der technischen Einschränkungen von NAS. (NAS, das ist schwer zu bewertenkann teuer und zeitaufwändig sein.) Darüber hinaus konkurriert Deci auch mit einer Reihe von Unternehmen, die Methoden entwickeln, um Modelle effizienter zu machen, wie OctoML, Neural Magic und OmniML.

Die kommenden Monate werden ein Test für die Robustheit von Deci gegenüber Gegenwinden sein.

„Obwohl wir die Bewertung nicht offenlegen können, können wir sagen, dass sie im Vergleich zur vorherigen Runde erheblich gestiegen ist. Aufgrund des Geschäftswachstums von Deci und der Möglichkeiten zur Produktexpansion in zusätzliche Bereiche wie unter anderem die Verarbeitung natürlicher Sprache haben unsere bestehenden Investoren beschlossen, sich zu verdoppeln, um dieses Wachstum zu unterstützen“, sagte Geifman. „Wir haben keine größeren Auswirkungen gesehen [from recent economic developments]. Unser Fokus lag hauptsächlich auf Unternehmen, während die Verlangsamung hauptsächlich mittelständische Unternehmen und Start-ups betrifft.“

Lonne Jaffe, Geschäftsführerin von Insight Partners, Vorstandsmitglied bei Deci, fügte in einer E-Mail mit Tech hinzu: „Mit der leistungsstarken Technologie von Deci können Sie Ihre KI-Modelle, Daten und Zielhardware eingeben – unabhängig davon, ob sich diese Hardware am Rand oder in der Cloud befindet – und führt Sie bei der Suche nach alternativen Modellen, die eine ähnliche Vorhersagegenauigkeit mit massiv verbesserter Effizienz erzielen … [It’s a value add because] hEine effizientere Infrastruktur für KI-Systeme kann KI-Produkte qualitativ anders und besser machen, nicht nur billiger und schneller in der Ausführung.“



tch-1-tech