Papst warnt vor „perversen“ Deepfakes – World

Papst Franziskus hat vor den potenziellen Gefahren künstlicher Intelligenz gewarnt und erklärt, dass die rasch fortschreitende Technologie ohne „ethische Regulierung“ zu einer „Verzerrung der Realität“ führen könnte. In einer ausführlichen Botschaft, die am Mittwoch veröffentlicht wurde, sagte Francis, die jüngsten Entwicklungen in der KI seien sowohl „aufregend als auch verwirrend“, wirften aber auch tiefere Fragen über die Beziehung der Menschheit zur Technologie auf. „Wie können wir völlig menschlich bleiben und diesen kulturellen Wandel so gestalten, dass er einem guten Zweck dient?“ Er schrieb: „Künstliche Intelligenzsysteme können helfen, Unwissenheit zu überwinden und den Informationsaustausch zwischen verschiedenen Völkern und Generationen zu erleichtern“, schrieb der Papst. „Gleichzeitig können sie jedoch eine Quelle ‚kognitiver Verschmutzung‘ sein, einer Verzerrung der Realität durch teilweise oder vollständig falsche Narrative, die geglaubt und verbreitet werden, als ob sie wahr wären.“ Der Papst verwies weiter auf das „seit langem bestehende Problem der Desinformation in Form von Fake News“ und stellte fest, dass er selbst Opfer von „Deepfakes“ geworden sei – äußerst überzeugenden KI-generierten Bildern oder Audiodateien, die typischerweise verwendet werden, um sich als Persönlichkeiten des öffentlichen Lebens auszugeben .„Die Simulationstechnologie hinter diesen Programmen kann in bestimmten Bereichen nützlich sein, aber sie wird pervers, wenn sie unsere Beziehung zu anderen und zur Realität verzerrt“, fuhr Francis fort.Die digitale Revolution kann uns mehr Freiheit bringen, aber nicht, wenn sie uns in Modellen gefangen hält, die man heute „Echokammern“ nennt.Der Kirchenführer wurde letztes Jahr auf einem gefälschten Bild abgebildet, das ihn in einem trug Stilvolle, knöchellange Pufferjacke. Die Fälschung wurde Berichten zufolge mit Midjourney, einem KI-basierten Kunsttool, erstellt, so der selbst identifizierte Urheber. Das Bild ging in den sozialen Medien viral und täuschte viele Nutzer. Während die Menschen „katastrophale Vorhersagen“ über die Zukunft der KI beiseite legen sollten, argumentierte Francis, dass die Technologie „am Ende neue Kasten schaffen könnte, die auf dem Zugang zu Informationen basieren“ und zu „neuen Formen der Ausbeutung und Ungleichheit“ führen könnte. Um die schlimmsten Folgen zu vermeiden, betonte er die Notwendigkeit, „Instrumente zu verstehen, zu schätzen und zu regulieren, die in den falschen Händen zu beunruhigenden Szenarien führen könnten.“

„Wie jedes andere Produkt menschlicher Intelligenz und Fähigkeiten sind Algorithmen nicht neutral. Aus diesem Grund besteht die Notwendigkeit, präventiv zu handeln und Modelle ethischer Regulierung vorzuschlagen, um schädliche, diskriminierende und sozial ungerechte Auswirkungen des Einsatzes künstlicher Intelligenzsysteme zu verhindern und deren Missbrauch zu bekämpfen“, sagte er und forderte eine „ „Verbindlicher internationaler Vertrag“, der den Einsatz und die Entwicklung von KI regelt.

: