Ein neues KI-Orchestrierungs-Startup von den Gründern des litauischen Einhorns Nord-Sicherheit möchte Unternehmen dabei helfen, ihre KI-Projekte in die Produktion zu bringen, wobei der Schwerpunkt zunächst auf der Verbesserung der Sichtbarkeit, Sicherheit und Anpassungsfähigkeit großer Sprachmodelle (LLMs) liegt.
Nexos.aiwie das Startup genannt wird, ist das Werk von Tomas Okmanas (Bild oben) und Eimantas Sabaliauskasder nicht nur in Litauen, sondern in ganz Europa eine der bekanntesten Marken aufgebaut hat. Nord Security, vor allem für sein Flaggschiff-VPN-Produkt NordVPN bekannt, kämpfte sich in den ersten zehn Jahren durch, bevor es im Jahr 2022 einer Rekordinvestition von 100 Millionen US-Dollar bei einer Bewertung von 1,6 Milliarden US-Dollar zum Opfer fiel.
Ihr neues Unternehmen verlässt heute seine Tarnung mit einer Finanzierung in Höhe von 8 Millionen US-Dollar von einer Reihe hochkarätiger Geldgeber, darunter dem Hauptinvestor Index Ventures, der nun seine erste Investition überhaupt in Litauen getätigt hat.
„Wir kennen Tomas und die Arbeit, die er seit vielen Jahren leistet. Als wir hörten, dass er ein neues Unternehmen im KI-Bereich aufbaute, waren wir endlich bereit, dafür Risikokapital zu nehmen [early] „In der Phase waren wir sehr gespannt“, sagte der Partner von Index Ventures Hannah Seal sagte Tech.
Weitere namhafte Investoren sind Creandum und Dig Ventures, aber auch prominente Angels wie die CEOs von Datadog, Klarna, Supercell und Wix beteiligten sich.
Einen Katalysator nutzen
Derzeit müssen Teams, die ihre KI in die Produktion bringen möchten, unzählige Tools verbinden, was wahrscheinlich die Rekrutierung und den Aufbau von Teams mit den erforderlichen Fähigkeiten erfordert. Hier möchte Nexos.ai ansetzen.
„Ich habe gesehen, dass es eine große Lücke zwischen dem Einsatz von KI als Pilotprojekt und dem Übergang in die Produktion gibt“, sagte Okmanas gegenüber Tech in einem Interview. „Wenn Sie KI in Ihrem Labor testen, funktioniert sie vielleicht und kann nützlich sein, aber wenn Sie sie in die Produktion bringen möchten, insbesondere in Unternehmen, wie stellen Sie eine hohe Verfügbarkeit sicher? Wie stellen Sie die Sicherheit sicher? Wie managen Sie die Kosten?“
Nord Security gibt es schon seit mehr als einem Jahrzehnt, aber vor fünf Jahren wurde es zu einer Dachgesellschaft namens „ Tesonetein Inkubator mit a Portfolio von mehr als zwei Dutzend Unternehmen. Eines davon ist ein Webhosting-Unternehmen Hostingerdie kürzlich hinzugefügt wurde KI-gestützte Smarts für sein Website-Erstellungstool. Okmanas, Vorstandsmitglied und Aktionär von Hostinger, sagte, einige der Probleme, auf die sie gestoßen seien, hätten als Katalysator für das gedient, was später zu Nexos.ai werden sollte.
„Wir wollten KI in unserem Website-Builder einsetzen, also haben wir OpenAI aktiviert, mit dem Testen begonnen und es in Produktion genommen“, sagte Okmanas. „Im August wurden uns 150.000 US-Dollar in Rechnung gestellt. Wofür? Warum war es so teuer? Es gab keine Sicht.“
Und als OpenAI ein paar Mal ausfiel, war Okmanas davon überzeugt, dass etwas getan werden musste, um die Bereitstellung, Verwaltung und Optimierung des „immer komplexer werdenden Ökosystems von KI-Modellen“, das Unternehmen möglicherweise benötigen, zu vereinfachen.
Über eine einfache API (Application Programming Interface) können Kunden auf mehr als 200 KI-Modelle zugreifen, von namhaften etablierten Anbietern wie OpenAI und Anthropic bis hin zu kleineren Nischen-LLMs. Die Idee dahinter ist, dass ein Unternehmen bei einem Ausfall von OpenAI vorübergehend (und automatisch) ohne Unterbrechung zu einem anderen Anbieter wechseln kann. Oder wenn die Kosten für den Zugriff auf ein bestimmtes LLM aus irgendeinem Grund explodieren, kann ein Unternehmen zu einem anderen wechseln, um die Kosten niedrig zu halten.
Nexos.ai bringt auch „intelligentes Caching“ in den Mix – wenn eine bestimmte Frage von mehreren Benutzern wiederholt wird, kann das System auf seine eigene Datenbank zurückgreifen, anstatt weiterhin das LLM zu nutzen, was teuer werden kann.
Im Hinblick auf Sicherheit und Compliance verhindert Nexos.ai außerdem, dass Einzelpersonen private Daten an LLM-Anbieter senden. Wenn ein Mitarbeiter ein Unternehmen verlässt, kann sein Zugriff sofort gesperrt werden.
Allerdings kann man sich dem Elefanten im Raum nicht entziehen: Einer der Gründe, warum Unternehmen zögern, KI zu nutzen, ist das heikle Thema der Datensicherheit – Gesundheitsunternehmen, Banken oder Versicherungsunternehmen können LLM-Anbietern nicht einfach alle ihre sensiblen Informationen anvertrauen . Es ist erwähnenswert, dass Hostinger selbst im Jahr 2019 von einem Datenverstoß betroffen war und NordVPN in der Vergangenheit ebenfalls gehackt wurde – die Art von Angriffen, denen heute alle Unternehmen ausgesetzt sind.
Dies wirft Fragen darüber auf, wie Nexos.ai mit solchen Daten umgeht, da es alles in seiner eigenen Infrastruktur hostet. Okmanas sagte, dass das Unternehmen wahrscheinlich in Zukunft Selbsthosting anbieten wird und dass es bereits Integrationen mit unternehmenseigenen internen LLMs unterstützt.
Es verfügt außerdem über Leitplanken, um zu erkennen, wann Daten, wie z. B. personenbezogene Daten (PII), an das Unternehmen gesendet werden. In solchen Fällen kann es die Daten zurück an die LLMs oder die Datenbank des Ursprungsunternehmens umleiten. Wenn es sich jedoch um eine generische Anfrage handelt, beispielsweise wenn ein Kunde einen KI-Agenten nach Details zu seinem Standort und seinen Öffnungszeiten fragt, wird die Anfrage auf der Nexos.ai-Seite bearbeitet.
Von der Idee bis zur Gründung
Von der Idee bis zur formellen Gründung brauchte Nexos.ai etwa sechs Wochen, und während die Geschwindigkeit, mit der die Finanzierung gesichert wurde, weitgehend von der Abstammung der Gründer abhing, war ein großer Teil davon einfach das Timing.
„Ich habe das Gefühl, dass wir den KI-Hype endlich hinter uns gelassen haben und nun die realen Anwendungen kommen“, fügte Seal hinzu. „Alle großen Unternehmen erkennen, dass dies wirklich sinnvoll ist, und sie müssen KI in großem Maßstab einführen. Und jetzt ist es an der Zeit, dass die Infrastruktur mit den Modellen Schritt hält.“
Die Geschwindigkeit der Umsetzung war jedoch im Wesentlichen auf die breitere Organisationsstruktur bei Tesonet zurückzuführen, das in seinem gesamten Portfolio rund 4.000 Mitarbeiter beschäftigt. Dies ermöglichte es Okmanas, schnell ein Team von rund 30 Personen zusammenzustellen, die er kannte und denen er vertraute, um Vollzeit an Nexos.ai zu arbeiten.
„Wir haben diese Teams, die wirklich ihre Kräfte bündeln können – sie arbeiten seit so vielen Jahren zusammen, dass es keinen Grund gibt, ihnen zu sagen, was was ist“, sagte Okmanas. „Wir werden auch externe Mitarbeiter einstellen, aber das dauert viel länger.“
Die Plattform von Nexos.ai soll Ende März starten, obwohl Okmanas sagte, dass sie bereits mit einer Reihe von „Beta-Kunden und Designpartnern“ zusammenarbeitet.