Algorithmen der künstlichen Intelligenz werden schnell Teil des Alltags. Viele Systeme, die hohe Sicherheit erfordern, basieren entweder bereits auf maschinellem Lernen oder werden dies bald tun. Zu diesen Systemen gehören Gesichtserkennung, Bankwesen, militärische Zielanwendungen sowie Roboter und autonome Fahrzeuge, um nur einige zu nennen.
Dies wirft eine wichtige Frage auf: Wie sicher sind diese maschinellen Lernalgorithmen vor böswilligen Angriffen?
In einem Artikel heute veröffentlicht In Naturmaschinenintelligenzdiskutieren meine Kollegen von der University of Melbourne und ich eine mögliche Lösung für die Anfälligkeit von Modellen für maschinelles Lernen.
Wir schlagen vor, dass die Integration von Quantencomputern in diese Modelle neue Algorithmen mit hoher Widerstandsfähigkeit gegen gegnerische Angriffe hervorbringen könnte.
Die Gefahren von Datenmanipulationsangriffen
Algorithmen für maschinelles Lernen können für viele Aufgaben bemerkenswert genau und effizient sein. Sie eignen sich besonders zur Klassifizierung und Identifizierung von Bildmerkmalen. Allerdings sind sie auch sehr anfällig für Datenmanipulationsangriffe, die ein ernstes Sicherheitsrisiko darstellen können.
Datenmanipulationsangriffe, bei denen es sich um eine sehr subtile Manipulation von Bilddaten handelt, können auf verschiedene Arten gestartet werden. Ein Angriff kann dadurch gestartet werden, dass beschädigte Daten in einen Trainingsdatensatz gemischt werden, der zum Trainieren eines Algorithmus verwendet wird, was dazu führt, dass dieser Dinge lernt, die er nicht sollte.
Manipulierte Daten können auch während der Testphase (nach Abschluss des Trainings) eingefügt werden, wenn das KI-System die zugrunde liegenden Algorithmen während der Nutzung weiter trainiert.
Menschen können solche Angriffe sogar aus der physischen Welt heraus ausführen. Jemand könnte einen Aufkleber auf ein Stoppschild kleben ein selbstfahrendes Auto zum Narren halten KI erkennt es als Geschwindigkeitsbegrenzungsschild. Oder an der Front tragen Truppen möglicherweise Uniformen, die KI-basierte Drohnen dazu verleiten können, sie als Landschaftsmerkmale zu identifizieren.
In jedem Fall können die Folgen von Datenmanipulationsangriffen schwerwiegend sein. Wenn beispielsweise ein selbstfahrendes Auto einen kompromittierten maschinellen Lernalgorithmus verwendet, kann es fälschlicherweise vorhersagen, dass sich keine Menschen auf der Straße befinden – obwohl es welche gibt.
Wie Quantencomputing helfen kann
In unserem Artikel beschreiben wir, wie die Integration von Quantencomputern und maschinellem Lernen zu sicheren Algorithmen führen könnte, die als Modelle für Quantenmaschinelles Lernen bezeichnet werden.
Diese Algorithmen wurden sorgfältig entwickelt, um spezielle Quanteneigenschaften auszunutzen, die es ihnen ermöglichen würden, bestimmte Muster in Bilddaten zu finden, die nicht leicht manipulierbar sind. Das Ergebnis wären belastbare Algorithmen, die auch gegen mächtige Angriffe sicher sind. Sie würden auch nicht das teure „gegnerisches Training„ wird derzeit verwendet, um Algorithmen beizubringen, wie sie solchen Angriffen widerstehen können.
Darüber hinaus könnte quantenmaschinelles Lernen ein schnelleres algorithmisches Training und eine höhere Genauigkeit bei den Lernfunktionen ermöglichen.
Wie würde es also funktionieren?
Heutige klassische Computer speichern und verarbeiten Informationen als „Bits“ oder Binärziffern, die kleinste Dateneinheit, die ein Computer verarbeiten kann. In klassischen Computern, die den Gesetzen der klassischen Physik folgen, werden Bits als Binärzahlen dargestellt – insbesondere als Nullen und Einsen.
Quantencomputing hingegen folgt Prinzipien der Quantenphysik. Informationen in Quantencomputern werden als Qubits (Quantenbits) gespeichert und verarbeitet, die als 0, 1 oder als Kombination aus beiden gleichzeitig existieren können. Ein Quantensystem, das in mehreren Zuständen gleichzeitig existiert, wird als Überlagerungszustand bezeichnet. Mit Quantencomputern lassen sich clevere Algorithmen entwerfen, die diese Eigenschaft ausnutzen.
Der Einsatz von Quantencomputing zur Sicherung von Modellen für maschinelles Lernen bietet zwar erhebliche potenzielle Vorteile, könnte aber auch ein zweischneidiges Schwert sein.
Einerseits werden quantenmechanische Lernmodelle für viele sensible Anwendungen entscheidende Sicherheit bieten. Andererseits könnten Quantencomputer zur Generierung leistungsstarker gegnerischer Angriffe eingesetzt werden, die selbst hochmoderne konventionelle Modelle des maschinellen Lernens leicht täuschen könnten.
In Zukunft müssen wir ernsthaft darüber nachdenken, wie wir unsere Systeme am besten schützen können. Ein Gegner mit Zugang zu frühen Quantencomputern würde eine erhebliche Sicherheitsbedrohung darstellen.
Einschränkungen, die es zu überwinden gilt
Die aktuellen Erkenntnisse deuten darauf hin, dass wir aufgrund der Einschränkungen der aktuellen Generation von Quantenprozessoren noch einige Jahre von der Realität des maschinellen Quantenlernens entfernt sind.
Heutige Quantencomputer sind relativ klein (mit weniger als 500 Qubits) und ihre Fehlerraten sind hoch. Fehler können aus mehreren Gründen auftreten, darunter fehlerhafte Herstellung von Qubits, Fehler in der Steuerschaltung oder Informationsverlust (genannt „Quantendekohärenz„) durch Interaktion mit der Umwelt.
Dennoch haben wir in den letzten Jahren enorme Fortschritte bei Quantenhardware und -software gesehen. Laut aktueller Quantenhardware StraßenkartenEs wird erwartet, dass Quantengeräte, die in den kommenden Jahren hergestellt werden, über Hunderte bis Tausende von Qubits verfügen werden.
Diese Geräte sollten in der Lage sein, leistungsstarke Quanten-Maschinenlernmodelle auszuführen, um zum Schutz einer Vielzahl von Branchen beizutragen, die auf maschinelles Lernen und KI-Tools angewiesen sind.
Weltweit erhöhen Regierungen und Privatsektoren gleichermaßen ihre Investitionen in Quantentechnologien.
Diesen Monat hat die australische Regierung das ins Leben gerufen Nationale Quantenstrategie, mit dem Ziel, die Quantenindustrie des Landes auszubauen und Quantentechnologien zu kommerzialisieren. Nach Angaben des CSIRO Australiens Quantenindustrie könnte sich lohnen etwa 2,2 Milliarden australische Dollar bis 2030.
Dieser Artikel wurde erneut veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel.