Microsoft hat rechtliche Schritte gegen eine Gruppe eingeleitet, von der das Unternehmen behauptet, sie habe absichtlich Tools entwickelt und eingesetzt, um die Sicherheitsvorkehrungen seiner Cloud-KI-Produkte zu umgehen.
Entsprechend eine vom Unternehmen eingereichte Beschwerde Im Dezember soll vor dem US-Bezirksgericht für den östlichen Bezirk von Virginia eine Gruppe von namentlich nicht genannten zehn Angeklagten mithilfe gestohlener Kundenanmeldedaten und maßgeschneiderter Software in den Azure OpenAI-Dienst eingedrungen sein, den vollständig verwalteten Dienst von Microsoft, der auf den Technologien des ChatGPT-Herstellers OpenAI basiert.
In der Klage wirft Microsoft den Beklagten – die es nur als „Does“, ein juristisches Pseudonym – bezeichnet, vor, gegen den Computer Fraud and Abuse Act, den Digital Millennium Copyright Act und ein Bundesgesetz gegen Erpressung verstoßen zu haben, indem sie unerlaubt auf die Software von Microsoft zugegriffen und diese genutzt haben und Server mit dem Ziel, „anstößige“ und „schädliche und illegale Inhalte“ zu erstellen. Microsoft machte keine konkreten Angaben zu den missbräuchlichen Inhalten, die generiert wurden.
Das Unternehmen beantragt eine einstweilige Verfügung und „andere Billigkeitsansprüche“ sowie Schadensersatz.
In der Beschwerde gibt Microsoft an, im Juli 2024 festgestellt zu haben, dass Kunden mit Anmeldeinformationen für den Azure OpenAI-Dienst – insbesondere API-Schlüsseln, den eindeutigen Zeichenfolgen, die zur Authentifizierung einer App oder eines Benutzers verwendet werden – zum Generieren von Inhalten verwendet wurden, die gegen die Richtlinien zur akzeptablen Nutzung des Dienstes verstoßen. Anschließend habe Microsoft durch eine Untersuchung herausgefunden, dass die API-Schlüssel von zahlenden Kunden gestohlen worden seien, heißt es in der Beschwerde.
„Die genaue Art und Weise, wie die Beklagten an alle API-Schlüssel gelangt sind, die zur Begehung des in dieser Klage beschriebenen Fehlverhaltens verwendet wurden, ist unbekannt“, heißt es in der Beschwerde von Microsoft, „aber es scheint, dass die Beklagten sich an einem Muster systematischen API-Schlüsseldiebstahls beteiligt haben, der ihnen dies ermöglicht hat.“ Microsoft-API-Schlüssel von mehreren Microsoft-Kunden zu stehlen.“
Microsoft behauptet, dass die Beklagten gestohlene Azure OpenAI Service API-Schlüssel von in den USA ansässigen Kunden verwendet haben, um ein „Hacking-as-a-Service“-System zu erstellen. Um diesen Plan durchzusetzen, haben die Beklagten laut Klageschrift ein clientseitiges Tool namens de3u sowie Software zur Verarbeitung und Weiterleitung der Kommunikation von de3u an die Systeme von Microsoft entwickelt.
De3u ermöglichte es Benutzern, gestohlene API-Schlüssel zu nutzen, um Bilder mit DALL-E, einem der OpenAI-Modelle, die Azure OpenAI Service-Kunden zur Verfügung stehen, zu generieren, ohne eigenen Code schreiben zu müssen, behauptet Microsoft. Der Beschwerde zufolge versuchte De3u außerdem, den Azure OpenAI Service daran zu hindern, die Eingabeaufforderungen zur Generierung von Bildern zu überarbeiten, was beispielsweise passieren kann, wenn eine Texteingabeaufforderung Wörter enthält, die die Inhaltsfilterung von Microsoft auslösen.
Ein Repo mit de3u-Projektcode, gehostet auf GitHub – einem Unternehmen, das Microsoft gehört – ist zum Zeitpunkt der Drucklegung nicht mehr zugänglich.
„Diese Funktionen, kombiniert mit dem rechtswidrigen programmatischen API-Zugriff der Beklagten auf den Azure OpenAI-Dienst, ermöglichten es den Beklagten, Mittel zur Umgehung der Inhalts- und Missbrauchsmaßnahmen von Microsoft zurückzuentwickeln“, heißt es in der Klageschrift. „Die Angeklagten haben wissentlich und absichtlich ohne Genehmigung auf die durch den Azure OpenAl Service geschützten Computer zugegriffen und durch dieses Verhalten Schäden und Verluste verursacht.“
In einem Blogbeitrag Im am Freitag veröffentlichten Verfahren erklärt Microsoft, dass das Gericht es ermächtigt habe, eine Website zu beschlagnahmen, die „wesentlich“ für den Betrieb der Beklagten sei und es dem Unternehmen ermöglichen soll, Beweise zu sammeln, zu entschlüsseln, wie die angeblichen Dienste der Beklagten monetarisiert werden, und jede zusätzliche technische Infrastruktur, die es findet, zu stören .
Microsoft gibt außerdem an, „Gegenmaßnahmen ergriffen“ zu haben, die das Unternehmen nicht spezifiziert hat, und dem Azure OpenAI-Dienst „zusätzliche Sicherheitsmaßnahmen hinzugefügt“ zu haben, die auf die beobachtete Aktivität abzielen.