Der Verteidigungsminister des Landes warnte, dass das Hochladen persönlicher Fotos in eine App, die eine „digitale Person“ erstellt, ein Sicherheitsrisiko darstellen könnte
Apps, bei denen Benutzer ihre persönlichen Fotos hochladen und dann mithilfe künstlicher Intelligenz den digitalen Klon einer Person erstellen müssen, sind für philippinisches Militärpersonal jetzt verboten, teilte das Verteidigungsministerium des Landes mit. Verteidigungsminister Gilberto Teodoro Jr. warnte, dass solche Apps ein Sicherheitsrisiko darstellen könnten. Am Freitag bestätigten Militärbeamte die Echtheit eines Memos, das Teodoro letzte Woche herausgegeben und in den letzten Tagen im Internet verbreitet hatte. Das Ministerium verzichtete jedoch darauf, weitere Einzelheiten zu dem Verbot bekannt zu geben. In dem Memo bezog sich der Verteidigungsminister auf eine App, die mithilfe von KI eine „digitale Person erschafft, die nachahmt, wie eine echte Person spricht und sich bewegt“, nachdem sie zehnmal gefüttert wurde Fotos eines Benutzers. „Diese scheinbar harmlose und amüsante KI-gestützte Anwendung kann in böswilliger Absicht dazu verwendet werden, gefälschte Profile zu erstellen, die zu Identitätsdiebstahl, Social Engineering, Phishing-Angriffen und anderen böswilligen Aktivitäten führen können“, schrieb Teodoro und fügte hinzu, dass ihm solche Fälle bereits bekannt seien. Der Beamte forderte seine Untergebenen auf, bei der Weitergabe von Informationen im Internet generell Vorsicht walten zu lassen. Letzten Monat gaben die US-amerikanische National Security Agency (NSA) und das FBI eine Bedrohungswarnung wegen „Deepfake“-Technologie heraus, die möglicherweise dazu verwendet werden könnte, Computersysteme beim Militär und anderen sensiblen Zielen zu durchbrechen. „Die Werkzeuge und Techniken zur Manipulation authentischer Multimedia-Inhalte sind Nicht neu, aber die Leichtigkeit und das Ausmaß, mit der Cyber-Akteure diese Techniken nutzen, sind schon“, sagte NSA-Mathematikerin Candice Rockwell Gerstner in einer Erklärung. Sie riet US-Unternehmen, zu lernen, Deepfakes zu erkennen und einen Plan für den Fall zu entwickeln, dass die Technologie gegen sie eingesetzt wird. Neben Unternehmen seien auch amerikanische Sicherheitsbehörden sowie das Pentagon und Rüstungsunternehmen gefährdet, warnte die Stellungnahme. Eine weitere Dimension der Die angebliche Bedrohung, die in dem Dokument hervorgehoben wird, ist die Sorge, dass „synthetische Medien auch durch die Verbreitung falscher Informationen über politische, soziale, militärische oder wirtschaftliche Themen öffentliche Unruhe hervorrufen können“.
: