Die Agentur äußerte während eines Telefonats mit Journalisten Bedenken. Es zeigte sich, dass KI-Chatbots für verschiedene illegale Aktivitäten eingesetzt wurden, darunter Betrüger und Betrüger, die ihre Techniken perfektionierten, und Terroristen, die die Werkzeuge konsultierten, um zerstörerischere chemische Angriffe zu starten.
Während einer Telefonkonferenz mit Reportern enthüllte ein anonymer Beamter des Büros, dass mit dem Einsatz von KI zwei Hauptrisiken verbunden sind.
Das erste Risiko besteht in einer „Modellfehlausrichtung“, wenn KI-Software auf eine Weise entwickelt oder eingesetzt wird, die zu unerwünschten Ergebnissen führt. Das zweite Risiko ist der direkte „Missbrauch von KI“ zur Unterstützung anderer Operationen.
Ein Beamter gab an, dass man mit fortschreitender Einführung und Demokratisierung dieser Technologie mit einer zunehmenden Nutzung von KI-Modellen durch die Menschen rechnet. Leider gibt es auch Kriminelle, die KI nutzen können, um ihre kriminellen Aktivitäten zu verstärken.
Cyberkriminelle nutzen KI, um neue Malware-Angriffe und Verbreitungsmethoden zu entwickeln, etwa KI-generierte Phishing-Websites und polymorphe Malware, die Antivirensoftware umgehen kann. Der FBI warnt vor Betrügern, die KI nutzen, um sexuell explizite Deep Fakes zur Erpressung zu erstellen. Kriminelle verstärken auch traditionelle Betrügereien, indem sie beispielsweise KI-Technologie zum Klonen von Stimmen bei betrügerischen Telefonanrufen einsetzen.
Das FBI gab nicht bekannt, welche KI-Modelle Kriminelle verwenden. Ein Beamter erwähnte jedoch, dass Hacker sich eher für kostenlose, anpassbare Open-Source-Modelle sowie für von Hackern entwickelte private KI-Programme interessieren, die im Forum für Cyberkriminalität verfügbar sind
Die Beamten erwähnten auch, dass ausländische Akteure zunehmend Informationen von US-Unternehmen, Universitäten und staatlichen Forschungseinrichtungen für KI-Fortschritte ins Visier nehmen und sammeln. Dazu gehören Algorithmen, Datenexpertise, Computerinfrastruktur und sogar talentierte Einzelpersonen.