Als Teil einer laufenden Initiative des Weißen Hauses, um Software sicherer zu machen, plant die Defense Advanced Research Projects Agency (DARPA), einen zweijährigen Wettbewerb, die AI Cyber Challenge, zu starten, bei dem Konkurrenten die Aufgabe haben, Software-Schwachstellen zu identifizieren und zu beheben KI.
In Zusammenarbeit mit den KI-Startups Anthropic und OpenAI sowie Microsoft und Google werden bei der AI Cyber Challenge in den USA ansässige Teams gegeneinander antreten, um „lebenswichtige Software“ – insbesondere kritischen Infrastrukturcode – mithilfe von KI am besten zu sichern. Unter der Leitung der Open Source Security Foundation (OSC) der Linux Foundation als Challenge-Berater werden den besten Teilnehmern Preise in Höhe von 18,5 Millionen US-Dollar verliehen.
DARPA sagt, dass es außerdem bis zu sieben kleinen Unternehmen, die teilnehmen möchten, jeweils 1 Million US-Dollar zur Verfügung stellen wird.
„Wir wollen Systeme schaffen, die jede Art von Software automatisch vor Angriffen schützen können“, sagte DARPA-Programmmanager Perry Adams, der die AI Cyber Challenge konzipiert hat, gestern in einer Pressekonferenz gegenüber Reportern. „TIch denke, dass die jüngsten Fortschritte in der KI bei verantwortungsvollem Einsatz ein bemerkenswertes Potenzial für die Sicherung unseres Codes haben.“
Adams stellte fest, dass in kritischer Software zunehmend Open-Source-Code verwendet werde. A jüngste Eine GitHub-Umfrage zeigt, dass satte 97 % der Apps Open-Source-Code nutzen und dass 90 % der Unternehmen Open-Source-Code in irgendeiner Weise anwenden oder nutzen.
Die Verbreitung von Open Source hat zu einer Explosion von Innovationen geführt. Aber es hat auch die Tür für schädliche neue Schwachstellen und Exploits geöffnet. Eine Analyse von Synopsys aus dem Jahr 2023 gefunden dass 84 % der Codebasen mindestens eine bekannte Open-Source-Schwachstelle enthielten und dass 91 % über veraltete Versionen von Open-Source-Komponenten verfügten.
Im Jahr 2022 stieg die Zahl der Supply-Chain-Angriffe – Angriffe auf Drittanbieter, typischerweise Open-Source-Komponenten einer größeren Codebasis – laut Sonatype im Jahresvergleich um 633 % lernen gefunden.
Nach aufsehenerregenden Vorfällen wie dem Ransomware-Angriff auf die Colonial Pipeline, der die Gas- und Öllieferungen im gesamten Südosten der USA lahmlegte, und dem Angriff auf die Lieferkette von SolarWinds gab die Biden-Harris-Administration im vergangenen Jahr eine Warnung heraus oberster Befehl Um die Sicherheit der Software-Lieferkette zu verbessern, wird ein Gremium zur Überprüfung der Cybersicherheitssicherheit eingerichtet, um Cyberangriffe zu analysieren und Empfehlungen für zukünftige Schutzmaßnahmen auszusprechen. Und im Mai 2022 forderte das Weiße Haus zusammen mit der Open Source Security Foundation und der Linux Foundation eine Finanzierung in Höhe von 150 Millionen US-Dollar über einen Zeitraum von zwei Jahren, um offene Open-Source-Sicherheitsprobleme zu beheben.
Doch mit dem Start der AI Cyber Challenge ist die Biden-Administration offensichtlich davon überzeugt, dass KI eine größere Rolle bei der Cyberverteidigung spielen wird.
„Die AI Cyber Challenge ist eine Gelegenheit zu erkunden, was möglich ist, wenn Experten für Cybersicherheit und KI Zugriff auf eine Reihe unternehmensübergreifender Ressourcen von kombinierter, beispielloser Qualität haben“, sagte Adams. „Wenn wir erfolgreich sind, hoffe ich, dass die AI Cyber Challenge nicht nur die nächste Generation von Cybersicherheitstools in diesem Bereich hervorbringt, sondern auch zeigt, wie KI zur Verbesserung der Gesellschaft eingesetzt werden kann, indem hier ihre entscheidenden Grundlagen verteidigt werden.“
Es wurde zwar schon viel über das Potenzial von KI geschrieben, im Cyber-Umfeld zu helfenAnschläge – durch die Generierung von bösartigem Code – einige Experten glauben, dass Fortschritte in der KI dabei helfen könnten stärken Die Cyberabwehr von Organisationen wird verbessert, indem Sicherheitsexperten in die Lage versetzt werden, Sicherheitsaufgaben effizienter auszuführen. Nach Laut einer Kroll-Umfrage unter globalen Wirtschaftsführern gaben mehr als die Hälfte an, dass sie bei ihren neuesten Cybersicherheitsbemühungen jetzt KI einsetzen.
Teams in der AI Cyber Challenge werden im Frühjahr 2024 an einer Qualifikationsveranstaltung teilnehmen und die besten Torschützen – bis zu 20 – werden zu einem Halbfinalwettbewerb auf der jährlichen DEF CON-Konferenz im Jahr 2024 eingeladen. Bis zu fünf Teams erhalten Preise in Höhe von 2 Millionen US-Dollar und kommen in die Endphase des Wettbewerbs, der auf der DEF CON 2025 stattfinden wird. Und die ersten drei der letzten Runde erhalten zusätzliche Preise, wobei der Erstplatzierte 4 Millionen US-Dollar erhält.
Alle Gewinner werden gebeten – aber nicht verpflichtet –, ihre KI-Systeme als Open Source bereitzustellen.
Die AI Cyber Challenge baut auf der bereits angekündigten Modellbewertung des Weißen Hauses auf der diesjährigen EF CON auf, die darauf abzielt, herauszufinden, wie große Sprachmodelle nach dem Vorbild von OpenAIs ChatGPT für böswillige Absichten ausgenutzt werden können – und mit etwas Glück auch ankommen an Korrekturen für diese Exploits. Bei der Bewertung wird außerdem gemessen, wie die Modelle mit den Grundsätzen und Praktiken übereinstimmen, die kürzlich im Entwurf der Biden-Harris-Regierung für eine „KI-Gesetzgebung der Rechte“ und im KI-Risikomanagementrahmen des National Institute of Standards and Technology dargelegt wurden.