Der Schutz generativer KI-basierter Anwendungen vor auslösenden Angriffen und die Sicherstellung, dass sie keine sensiblen Daten preisgeben oder schädliche Ausgaben oder Ergebnisse erzeugen, die möglicherweise gegen Datenschutzbestimmungen verstoßen, wird zu einem echten Geschäft. Wir haben bereits einige Start-ups in diesem Bereich gesehen und sind heute in Tel Aviv ansässig Zielsicherheit beteiligt sich mit einer neuen GenAI-Sicherheitsplattform und einer Startfinanzierungsrunde in Höhe von 10 Millionen US-Dollar am Kampf. Diese Runde wurde von YL Ventures geleitet, unter Beteiligung des Cyber Club London und einer Gruppe von Angel-Investoren, zu denen auch die Gründer von WIZ gehören.
Wie so viele israelische Sicherheits-Startups sind die Gründer von Aim Security Matan Getz (CEO) und Adir Gruss (CTO) erhielten ihre Cybersicherheitsausbildung während ihrer Zeit bei den israelischen Streitkräften. Getz verbrachte Zeit bei der Einheit 8200 und wurde stellvertretender CISO bei der IDF, während Gruss der Kommandeur dessen war, was Getz als „Elite-Bildungsprogramm für Cybersicherheit“ bezeichnete. Nach seiner Zeit bei der Armee wurde Gruss Feld-CTO von Laminar.
Bildnachweis: Zielsicherheit
„Wir haben bei meinen internen Projekten zusammengearbeitet [at the IDF] Und als dann GenAI in den Hype geriet, und das nicht nur bei Geeks, erkannten wir schnell die Leistungsfähigkeit von GenAI. „Das war genau der Zeitpunkt, an dem wir beschlossen, eine Partnerschaft einzugehen und Aim Security zu gründen“, erzählte mir Getz.
Getz erklärte, dass das Unternehmen einen ganzheitlichen Blick auf die Sicherheitsauswirkungen von GenAI werfen möchte. Die meisten davon drehen sich um die Verhinderung von Datenlecks und die Sicherstellung der Nutzung von GenAI – sowohl durch Mitarbeiter, die öffentliche GenAI-Produkte wie ChatGPT verwenden, als auch durch Entwickler, die möglicherweise eigene Produkte erstellen interne oder öffentlich zugängliche Anwendungen – geben keine privaten Daten preis.
„Die verfügbaren Verbraucheranwendungen sind sehr einfach zu bedienen. Es ist so, als würde man es nennen [Data Loss Prevention] auf Steroiden, weil Sie jetzt ein Interesse daran haben, sensible Daten hochzuladen, und die Anwendungen ein großes Interesse daran haben, ihre Modelle auf diesen Daten zu trainieren“, sagte Getz. Mittlerweile haben viele große Unternehmen damit begonnen, ihre internen Daten mit Copiloten (hauptsächlich von Microsoft) zu verbinden, was es für sie schwierig macht, ihre bestehenden Autorisierungsregeln durchzusetzen, während die internen Entwickler versuchen, ihre eigenen, selbst entwickelten Anwendungen zu erstellen.
Die Plattform des Unternehmens lässt sich in viele bestehende Sicherheitslösungen integrieren, bietet aber auch eine einfache Browsererweiterung. Auf diese Weise sitzt das Unternehmen immer zwischen dem großen Sprachmodell und dem Benutzer (oder der Anwendung) und weiß genau, welche GenAI-Tools die Mitarbeiter eines Unternehmens verwenden und mit welchen Daten sie sie füttern.
Getz stellte fest, dass das Unternehmen in einer Reihe von Branchen bereits großen Anklang findet. Mit Investoren, die sowohl in den USA als auch in Europa tief verwurzelt sind, hat sich das Unternehmen nun zum Ziel gesetzt, in diesen Märkten zu expandieren.