Die Generalstaatsanwälte in allen 50 US-Bundesstaaten sowie 4 Territorien haben unterzeichnet ein Brief fordert den Kongress auf, Maßnahmen gegen KI-gestütztes Material zum sexuellen Missbrauch von Kindern (CSAM) zu ergreifen.
„Während Internetverbrechen gegen Kinder bereits aktiv strafrechtlich verfolgt werden, befürchten wir, dass KI eine neue Grenze für Missbrauch schafft, die eine solche Strafverfolgung erschwert“, heißt es in dem Brief.
Tatsächlich macht es KI für Kriminelle einfacher denn je, Deep-Fake-Bilder zu erstellen, die Menschen in falschen Szenarien realistisch darstellen. Manchmal sind die Ergebnisse harmlos, etwa als das Internet getäuscht wurde und glaubte, der Papst trage einen modischen Balenciaga-Mantel. Aber im schlimmsten Fall kann diese Technologie, wie die Generalstaatsanwälte betonen, genutzt werden, um Missbrauch zu erleichtern
„Ob die Kinder auf den Quellfotos für Deepfakes körperlich misshandelt werden oder nicht, die Erstellung und Verbreitung sexualisierter Bilder, die echte Kinder zeigen, gefährdet das physische, psychische und emotionale Wohlergehen der Kinder, die Opfer davon sind, sowie das ihrer Eltern.“ “, heißt es in dem Brief.
Die Unterzeichner drängen darauf, dass der Kongress einen Ausschuss zur Erforschung von Lösungen zur Bewältigung der Risiken von KI-generiertem CSAM einrichtet und dann die bestehenden Gesetze gegen CSAM erweitert, um explizit KI-generiertes CSAM abzudecken.
Nicht einvernehmliche, sexuell ausbeuterische KI-Deepfakes bereits verbreiten sich online, aber es gibt kaum rechtlichen Schutz für die Opfer dieses Materials. New York, Kalifornien, Virginia und Georgia haben dies getan Gesetze die die Verbreitung sexuell ausbeuterischer KI-Deepfakes verbieten, und im Jahr 2019 Texas war der erste Staat, der den Einsatz von KI-Deepfakes zur Beeinflussung politischer Wahlen verbot. Obwohl große soziale Plattformen diese Inhalte verbieten, können sie durchs Raster fallen. Im März eine App, die vorgibt, „jedes Gesicht“ in anzügliche Videos zu verwandeln hat über 230 Anzeigen geschaltet über Facebook, Instagram und Messenger; Meta entfernte die Anzeigen nach Benachrichtigung durch NBC News-Reporterin Kat Tenbarge.
Im Ausland wollen europäische Gesetzgeber mit anderen Ländern zusammenarbeiten, um einen KI-Verhaltenskodex zu ratifizieren, die Verhandlungen sind jedoch noch im Gange.