KI stellt Unternehmen vor ein Dilemma: Wenn Sie sie noch nicht implementieren, verpassen Sie möglicherweise Produktivitätssteigerungen und andere potenzielle Vorteile. Aber wenn Sie es falsch machen, setzen Sie Ihr Unternehmen und Ihre Kunden möglicherweise uneingeschränkten Risiken aus. Hier kommt eine neue Welle von „Sicherheit für KI“-Startups ins Spiel, mit der Prämisse, dass diese Bedrohungen wie Jailbreak und Prompt-Injection nicht ignoriert werden können.
Wie das israelische Startup Noma und in den USA ansässige Konkurrenten Versteckte Ebene und Protect AI, Spin-off einer britischen Universität Mindgard ist einer davon. „KI ist immer noch Software, daher gelten alle Cyberrisiken, von denen Sie wahrscheinlich gehört haben, auch für KI“, sagte ihr CEO und CTO, Professor Peter Garraghan (rechts im Bild oben). Aber „wenn man sich die Undurchsichtigkeit und das intrinsisch zufällige Verhalten neuronaler Netze und Systeme ansieht“, fügte er hinzu, rechtfertige dies auch einen neuen Ansatz.
Im Fall von Mindgard handelt es sich bei diesem Ansatz um ein Dynamic Application Security Testing for AI (DAST-AI), das auf Schwachstellen abzielt, die nur zur Laufzeit erkannt werden können. Dabei handelt es sich um kontinuierliches und automatisiertes Red Teaming, eine Möglichkeit, Angriffe auf Basis der Bedrohungsbibliothek von Mindgard zu simulieren. Es kann beispielsweise die Robustheit von Bildklassifikatoren testen gegen gegnerische Eingaben.
In dieser Hinsicht und darüber hinaus ist die Technologie von Mindgard Garraghans Hintergrund als Professor und Forscher mit Schwerpunkt auf KI-Sicherheit zu verdanken. Das Feld entwickelt sich schnell weiter – ChatGPT existierte noch nicht, als er dort einstieg, aber er spürte, dass NLP und Bildmodelle neuen Bedrohungen ausgesetzt sein könnten, sagte er gegenüber Tech.
Was klang seitdem zukunftsweisend ist Realität geworden innerhalb eines schnell wachsenden Sektors, aber LLMs ändern sich ständig, ebenso wie die Bedrohungen. Garraghan glaubt, dass seine anhaltenden Verbindungen zur Lancaster University dem Unternehmen helfen können, mitzuhalten: Mindgard wird in den nächsten Jahren automatisch das geistige Eigentum an der Arbeit von 18 weiteren Doktoranden besitzen. „Es gibt kein Unternehmen auf der Welt, das einen solchen Deal bekommt.“
Obwohl es Verbindungen zur Forschung hat, ist Mindgard bereits weitgehend ein kommerzielles Produkt, genauer gesagt, eine SaaS-Plattform, deren Mitbegründer Steve Street als COO und CRO die Leitung übernimmt. (Ein früher Mitbegründer, Neeraj Suri, der auf der Forschungsseite beteiligt war, ist nicht mehr im Unternehmen.)
Unternehmen seien für Mindgard ein natürlicher Kunde, ebenso wie traditionelle Red-Teamer und Pen-Tester, aber das Unternehmen arbeite auch mit KI-Startups zusammen, die ihren Kunden zeigen müssen, dass sie KI-Risikoprävention betreiben, sagte Garraghan.
Da viele dieser potenziellen Kunden in den USA ansässig sind, hat das Unternehmen seiner Cap-Tabelle etwas amerikanisches Flair hinzugefügt. Nach dem Anheben von a 3-Millionen-Pfund-Seed-Runde Im Jahr 2023 kündigt Mindgard nun eine neue 8-Millionen-Dollar-Runde an, die von .406 Ventures mit Sitz in Boston angeführt wird und an der sich Atlantic Bridge, WillowTree Investments und die bestehenden Investoren IQ Capital und Lakestar beteiligen.
Die Finanzierung wird beim „Aufbau des Teams, der Produktentwicklung, Forschung und Entwicklung und all den Dingen, die man von einem Startup erwarten kann“ helfen, aber auch bei der Expansion in die USA helfen. Der kürzlich ernannte Vizepräsident für Marketing, der ehemalige CMO von Next DLP, Fergal Glynn, hat seinen Sitz in Boston. Das Unternehmen plant jedoch auch, Forschung und Entwicklung sowie Technik in London zu belassen.
Mit einer Mitarbeiterzahl von 15 ist das Team von Mindgard relativ klein und wird es auch bleiben. Bis Ende nächsten Jahres soll es 20 bis 25 Mitarbeiter sein. Das liegt daran, dass die KI-Sicherheit „noch nicht einmal in ihrer Blütezeit ist“. Aber wenn KI überall zum Einsatz kommt und Sicherheitsbedrohungen folgen, ist Mindgard bereit. Garraghan sagt: „Wir haben dieses Unternehmen aufgebaut, um etwas Gutes für die Welt zu tun, und das Positive daran ist, dass die Menschen der KI vertrauen und sie sicher und geschützt nutzen können.“