Mehrere Cybersicherheitsunternehmen haben bereits berichtet, dass Hacker jetzt KI-Tools verwenden, um ihre Techniken zu verfeinern, und jetzt benennen zwei Technologiekonzerne, die seit einigen Monaten als Synonym für KI gelten, die Gruppen, die Chatbots verwenden, um ihre Cyberangriffe zu verbessern . Beide Microsoft Und OpenAI haben fünf staatsnahe böswillige Akteure aufgelistet, die die vom Staat angebotenen Dienste nutzen ChatGPT Hersteller.
„Wir entwickeln KI-Tools, die das Leben verbessern und bei der Lösung komplexer Herausforderungen helfen, aber wir wissen, dass böswillige Akteure manchmal versuchen, unsere Tools zu missbrauchen, um anderen zu schaden, auch zur Förderung von Cyber-Operationen.“ Unter diesen böswilligen Akteuren können staatsnahe Gruppen – die möglicherweise Zugang zu fortschrittlicher Technologie, großen finanziellen Ressourcen und qualifiziertem Personal haben – einzigartige Risiken für das digitale Ökosystem und das menschliche Wohlergehen darstellen“, sagte OpenAI in einem Beitrag.
Das Unternehmen hat sich mit Microsoft zusammengetan, um diese „fünf staatsnahen Akteure, die es nutzen wollten, zu stören.“ KI-Dienste zur Unterstützung böswilliger Cyberaktivitäten.“
Wie Hacker OpenAI-Dienste für Cyberangriffe nutzten
So wie KI-Modelle zur Stärkung der Abwehr von Cyberangriffen eingesetzt werden, verwenden Hacker dieselben Tools zum Übersetzen, Auffinden von Codierungsfehlern und zum Ausführen grundlegender Codierungsaufgaben, um ihre Angriffsmechanismen zu stärken.
Dazu gehören die Verwendung großer Sprachmodelle zum Sammeln verwertbarer Informationen zu Technologien und potenziellen Schwachstellen, Skripttechniken, Social Engineering, Payload-Crafting, Umgehung der Anomalieerkennung und Ressourcenentwicklung.
Die fünf staatlich unterstützten Hackergruppen sind:
Mit China verbundener Charcoal Typhoon nutzte OpenAI-Dienste, um verschiedene Unternehmen und Cybersicherheitstools zu recherchieren, Code zu debuggen, Skripte zu generieren und Inhalte zu erstellen, die wahrscheinlich für Phishing-Kampagnen verwendet werden könnten.
Salmon Typhoon, eine weitere mit China verbundene Gruppenutzte OpenAI-Dienste, um technische Dokumente zu übersetzen, öffentlich verfügbare Informationen über mehrere Geheimdienste und regionale Bedrohungsakteure abzurufen, bei der Codierung zu helfen und zu recherchieren, wie Prozesse auf einem System versteckt werden könnten.
Crimson Sandstorm, mit dem Iran verbundener Bedrohungsakteurnutzte KI zur Skriptunterstützung im Zusammenhang mit der App- und Webentwicklung und zur Generierung von Inhalten, die für Spear-Phishing-Kampagnen geeignet sind.
Nordkorea-nahes Unternehmen Emerald Sleet nutzte KI-Technologie, um Experten und Organisationen zu identifizieren, die sich auf Verteidigungsfragen im asiatisch-pazifischen Raum konzentrieren, bei grundlegenden Skriptaufgaben zu helfen und Inhalte zu entwerfen, die in Phishing-Kampagnen verwendet werden könnten.
Der mit Russland verbundene Schauspieler Forest Blizzard nutzte die OpenAI-Technologie für die Open-Source-Forschung zu Satellitenkommunikationsprotokollen und Radarbildgebungstechnologie sowie zur Unterstützung bei Skriptaufgaben.
„Wir entwickeln KI-Tools, die das Leben verbessern und bei der Lösung komplexer Herausforderungen helfen, aber wir wissen, dass böswillige Akteure manchmal versuchen, unsere Tools zu missbrauchen, um anderen zu schaden, auch zur Förderung von Cyber-Operationen.“ Unter diesen böswilligen Akteuren können staatsnahe Gruppen – die möglicherweise Zugang zu fortschrittlicher Technologie, großen finanziellen Ressourcen und qualifiziertem Personal haben – einzigartige Risiken für das digitale Ökosystem und das menschliche Wohlergehen darstellen“, sagte OpenAI in einem Beitrag.
Das Unternehmen hat sich mit Microsoft zusammengetan, um diese „fünf staatsnahen Akteure, die es nutzen wollten, zu stören.“ KI-Dienste zur Unterstützung böswilliger Cyberaktivitäten.“
Wie Hacker OpenAI-Dienste für Cyberangriffe nutzten
So wie KI-Modelle zur Stärkung der Abwehr von Cyberangriffen eingesetzt werden, verwenden Hacker dieselben Tools zum Übersetzen, Auffinden von Codierungsfehlern und zum Ausführen grundlegender Codierungsaufgaben, um ihre Angriffsmechanismen zu stärken.
Dazu gehören die Verwendung großer Sprachmodelle zum Sammeln verwertbarer Informationen zu Technologien und potenziellen Schwachstellen, Skripttechniken, Social Engineering, Payload-Crafting, Umgehung der Anomalieerkennung und Ressourcenentwicklung.
Die fünf staatlich unterstützten Hackergruppen sind:
Mit China verbundener Charcoal Typhoon nutzte OpenAI-Dienste, um verschiedene Unternehmen und Cybersicherheitstools zu recherchieren, Code zu debuggen, Skripte zu generieren und Inhalte zu erstellen, die wahrscheinlich für Phishing-Kampagnen verwendet werden könnten.
Salmon Typhoon, eine weitere mit China verbundene Gruppenutzte OpenAI-Dienste, um technische Dokumente zu übersetzen, öffentlich verfügbare Informationen über mehrere Geheimdienste und regionale Bedrohungsakteure abzurufen, bei der Codierung zu helfen und zu recherchieren, wie Prozesse auf einem System versteckt werden könnten.
Crimson Sandstorm, mit dem Iran verbundener Bedrohungsakteurnutzte KI zur Skriptunterstützung im Zusammenhang mit der App- und Webentwicklung und zur Generierung von Inhalten, die für Spear-Phishing-Kampagnen geeignet sind.
Nordkorea-nahes Unternehmen Emerald Sleet nutzte KI-Technologie, um Experten und Organisationen zu identifizieren, die sich auf Verteidigungsfragen im asiatisch-pazifischen Raum konzentrieren, bei grundlegenden Skriptaufgaben zu helfen und Inhalte zu entwerfen, die in Phishing-Kampagnen verwendet werden könnten.
Der mit Russland verbundene Schauspieler Forest Blizzard nutzte die OpenAI-Technologie für die Open-Source-Forschung zu Satellitenkommunikationsprotokollen und Radarbildgebungstechnologie sowie zur Unterstützung bei Skriptaufgaben.