Am späten Freitagnachmittag, einem Zeitfenster, das Unternehmen normalerweise für unvorteilhafte Enthüllungen reservieren, teilte das KI-Startup Hugging Face mit, sein Sicherheitsteam habe Anfang dieser Woche „unbefugten Zugriff“ auf Spaces festgestellt, die Plattform von Hugging Face zum Erstellen, Teilen und Hosten von KI-Modellen und -Ressourcen.
In einem BlogeintragHugging Face sagte, dass der Einbruch mit Spaces-Geheimnissen zusammenhing, also mit den privaten Informationen, die als Schlüssel zum Entsperren geschützter Ressourcen wie Konten, Tools und Entwicklungsumgebungen dienen, und dass der „Verdacht“ bestehe, dass auf einige Geheimnisse unbefugt von Dritten zugegriffen worden sein könnte.
Als Vorsichtsmaßnahme hat Hugging Face eine Reihe von Token in diesen Geheimnissen widerrufen. (Token werden zur Identitätsüberprüfung verwendet.) Hugging Face sagt, dass Benutzer, deren Token widerrufen wurden, bereits eine E-Mail-Benachrichtigung erhalten haben, und empfiehlt allen Benutzern, „alle Schlüssel oder Token zu aktualisieren“ und den Wechsel zu feinkörnigen Zugriffstoken in Betracht zu ziehen, die laut Hugging Face sicherer sind.
Es war nicht sofort klar, wie viele Benutzer oder Apps von dem potenziellen Verstoß betroffen waren.
„Wir arbeiten mit externen Cybersicherheitsforensikern zusammen, um das Problem zu untersuchen und unsere Sicherheitsrichtlinien und -verfahren zu überprüfen. Wir haben diesen Vorfall auch den Strafverfolgungsbehörden und dem Datenschutz gemeldet. [sic] Datenschutzbehörden“, schrieb Hugging Face in dem Post. „Wir bedauern zutiefst die Störungen, die dieser Vorfall möglicherweise verursacht hat, und verstehen die Unannehmlichkeiten, die er für Sie verursacht haben könnte. Wir versprechen, dies als Gelegenheit zu nutzen, die Sicherheit unserer gesamten Infrastruktur zu stärken.“
In einer per E-Mail versandten Erklärung erklärte ein Sprecher von Hugging Face gegenüber Tech:
„Wir haben in den letzten Monaten einen deutlichen Anstieg der Zahl der Cyberangriffe beobachtet, wahrscheinlich weil unsere Nutzung stark zugenommen hat und KI immer mehr zum Mainstream wird. Es ist technisch schwierig zu wissen, wie viele geheime Räume kompromittiert wurden.“
Der mögliche Hackerangriff auf Spaces erfolgt zu einem Zeitpunkt, da Hugging Face – eine der größten Plattformen für kollaborative KI- und Data-Science-Projekte mit über einer Million Modellen, Datensätzen und KI-gestützten Apps – hinsichtlich ihrer Sicherheitspraktiken zunehmend unter die Lupe genommen wird.
Im April fanden Forscher der Cloud-Sicherheitsfirma Wiz eine Verletzlichkeit – inzwischen behoben –, das es Angreifern ermöglichte, während der Erstellungszeit einer von Hugging Face gehosteten App beliebigen Code auszuführen, der es ihnen ermöglichte, die Netzwerkverbindungen ihrer Maschinen zu untersuchen. Anfang des Jahres hat das Sicherheitsunternehmen JFrog unbedeckt Beweise dafür, dass Code, der auf Hugging Face hochgeladen wurde, heimlich Backdoors und andere Arten von Malware auf Endbenutzer-Rechnern installierte. Und das Sicherheits-Startup HiddenLayer identifizierte Möglichkeiten, Hugging Faces angeblich sichereres Serialisierungsformat Safetensors zu nutzen. missbraucht um sabotierte KI-Modelle zu erstellen.
Umarmendes Gesicht sagte vor kurzem dass es eine Partnerschaft mit Wiz eingehen werde, um die Schwachstellen-Scan- und Konfigurationstools für Cloud-Umgebungen des Unternehmens zu nutzen, „mit dem Ziel, die Sicherheit auf unserer Plattform und im gesamten KI/ML-Ökosystem zu verbessern.“