Unternehmen befürchten, dass ihre Bereitschaft, KI einzuführen, sie anfälliger für Cyberbedrohungen gemacht hat. Laut einem aktuellen Umfrage Von über 350 IT-Führungskräften gab mehr als die Hälfte der befragten Führungskräfte an, dass die Komplexität von KI-Anwendungen die Cybersicherheitslage ihres Unternehmens geschwächt habe. Laut einer anderen Umfrage glauben mehr als zwei Fünftel der Führungskräfte, dass ihren Sicherheitsteams die erforderlichen Fähigkeiten zum Schutz ihrer KI-Anwendungen und -Workloads fehlen.
Die Nachfrage nach Lösungen zur Sicherung von KI-Apps hat eine ganze Kohorte von Startups hervorgebracht. HiddenLayer und Protect AI konzentrieren sich beispielsweise auf die Verteidigung von KI-Systemen vor gegnerischen Angriffen, während Cranium Einblick in KI-Systeme auf Anwendungsebene bietet.
Ein neues Unternehmen, das heute aus dem Verborgenen auftaucht, Noma-Sicherheittut all dies und noch mehr, behauptet Mitbegründer und CEO Niv Braun. Das Startup entwickelt Tools, um anfällige Datenpipelines und Code in datenwissenschaftlichen Umgebungen sowie Bedrohungen wie Prompt-Injection-Angriffe zu identifizieren.
Braun gründete Noma mit Alon Tron, nachdem er das Unternehmen zur Automatisierung von Kundenerlebnissen, Verint, verlassen hatte, wo er einen „erheblichen blinden Fleck“ für Sicherheitsteams im Daten- und KI-Lebenszyklus feststellte.
„Bestehende Tools sind für den traditionellen Software-Lebenszyklus konzipiert“, sagte Braun. „Der Daten- und KI-Lebenszyklus ist jedoch von Natur aus unterschiedlich. Es umfasst unterschiedliche F&E-Prozesse, stützt sich auf unterschiedliche Technologien und weist einzigartige technische Schwachstellen innerhalb von KI-Modellen auf.“
Noma soll dabei helfen, Fehlkonfigurationen in den Komponenten zu erkennen und zu beheben, die zur Entwicklung und Ausführung von KI-Anwendungen verwendet werden. Beispielsweise sucht die Plattform nach „sensiblen“ Daten in Modelltrainingsdatensätzen, beispielsweise nach Texten, die persönlich identifizierbare Informationen enthalten.
Braun argumentiert, dass Unternehmen besser für den Umgang mit Bedrohungen gerüstet sein können, wenn sie KI-App-Sicherheitsfunktionen in einem Dashboard konsolidieren können, das in cloudbasierten und selbst gehosteten Umgebungen bereitgestellt werden kann.
„Viele Sicherheitslösungen mit nur einer Funktion überschwemmen den Markt und versuchen, aus dem KI-Hype Kapital zu schlagen“, sagte er. „Indem Noma Unternehmen hilft, den Fußabdruck ihrer KI-Anwendungen zu verstehen und ihnen Governance-Kontrollen zu geben, hilft es ihnen nicht nur, Risiken zu minimieren und zu mindern, sondern gibt ihnen auch das Vertrauen, das sie brauchen, um ihre KI-Nutzung schneller und auf hochwertigere Teile des Unternehmens auszudehnen.“ .“
Noma, gegründet im Jahr 2023, hat laut Braun bereits zahlende Kunden, darunter Fortune-500-Kunden in den Bereichen B2B-Software, Finanzdienstleistungen und Einzelhandel. Das Startup schloss kürzlich eine Serie-A-Finanzierungsrunde über 25 Millionen US-Dollar ab, die laut Braun von Investoren verhindert wurde. Noma hatte Bargeld übrig.
„Wir haben uns entschieden, das zu akzeptieren [$25 million]„, auch wenn noch erhebliche Mittel auf der Bank sind, um unsere Entwicklung und insbesondere unsere Go-to-Market-Teams und -Bemühungen zu beschleunigen“, sagte er und fügte hinzu, dass Noma plant, die Größe seines 20-köpfigen Teams im kommenden Jahr zu verdoppeln.
Ballistic Ventures leitete Nomas Serie A, wodurch sich das Gesamtkapital des Unternehmens auf 32 Millionen US-Dollar beläuft. Noma sammelte 7 Millionen US-Dollar in einer bisher unbekannten Seed-Runde unter der Leitung von Glilot Capital Partners und unter Beteiligung des Cyber Club London.