SEOUL: Die südkoreanischen Behörden forderten Telegramm und anderen Social-Media-Plattformen am Mittwoch, mit ihnen zusammenzuarbeiten, um sexuell explizite Inhalte zu löschen und zu blockieren Deepfake-Inhalteund versucht, die öffentliche und politische Empörung über das Problem zu beschwichtigen.
Die Schritte folgen auf Berichte mehrerer inländischer Medien, wonach in Telegram-Chatrooms häufig sexuell eindeutige Deepfake-Bilder und -Videos südkoreanischer Frauen zu finden seien.
Außerdem wird eine 24-Stunden-Hotline für Opfer eingerichtet und die Zahl der Aufsichtspersonal Überwachung digitale Sexualverbrechen Die Zahl der derzeit 70 soll verdoppelt werden, teilte die Korea Communications Standards Commission mit.
Die koreanische Polizeibehörde kündigte außerdem an, dass sie eine siebenmonatige Kampagne zur Bekämpfung von Online-Sexualverbrechen.
Die Medienaufsicht plant die Einrichtung eines Beratungsgremiums zur Verbesserung der Kommunikation mit Social-Media-Unternehmen über das Löschen und Blockieren von sexuellen Deepfake-Inhalten, sagte dessen Vorsitzender Ryu Hee-lim bei einem Treffen zu diesem Thema.
Für Unternehmen ohne Niederlassungen in Südkoreawill sie einen Face-to-Face-Kanal für regelmäßige Konsultationen einrichten.
„Die Produktion, der Besitz und die Verbreitung von Deepfake-Videos mit Sexualverbrechen sind schwere Verbrechen, die die Würde und die Persönlichkeitsrechte des Einzelnen zerstören“, sagte Ryu.
Neben Telegram werde die Kommission auch die Zusammenarbeit mit X sowie den Facebook- und Instagram-Unternehmen von Meta und YouTube von Google anstreben. Die Unternehmen antworteten nicht auf Reuters-Anfragen um einen Kommentar.
Die Kritik an Telegram in Südkorea fiel mit der Verhaftung des in Russland geborenen Telegram-Gründers Pavel Durov am Wochenende zusammen. Sie war Teil französischer Ermittlungen zu Kinderpornografie, Drogenhandel und Betrug auf der verschlüsselten Messaging-App.
Die Zahl der Fälle von Deepfake-Sexualverbrechen in Südkorea ist von 156 im Jahr 2021, als die Daten erstmals erhoben wurden, in diesem Jahr bisher auf 297 gestiegen, wobei es sich bei den Tätern laut Polizei überwiegend um Teenager handelt.
Bei den Opfern handelt es sich in der Regel um Frauen, darunter Schülerinnen sowie Soldatinnen des südkoreanischen Militärs.
In diesem Jahr haben Südkoreaner mehr als 6.300 Anfragen an die Korea Communications Standards Commission gestellt, um sexuell explizite Deepfake-Inhalte entfernen zu lassen. Im Vergleich dazu erklärte sich die Kommission im letzten Jahr in fast 7.200 Fällen bereit, bei der Entfernung von Inhalten zu helfen.
Telegram sei mittlerweile die bevorzugte Plattform für Täter sexuell eindeutiger Deepfake-Inhalte, sagte Kim Yeo-jin, Leiter des Korea Cyber Sexual Violence Response Center, und fügte hinzu, dass die Polizei mehr tun müsse.
In vielen Fällen hätten die Opfer von der Polizei erfahren, dass eine Anzeige nichts nütze, weil die Inhalte auf Telegram zu finden seien und es deshalb schwierig sei, die Kriminellen zu fassen, sagte sie.
Auf die Bitte von Reuters um einen Kommentar antworteten Polizeibeamte nicht unmittelbar.
Informationen darüber, wie Social-Media-Unternehmen auf Anfragen der südkoreanischen Behörden reagieren, sind schwer erhältlich.
Doch aus den 2020 von Abgeordnetem Kim Young-bae veröffentlichten Polizeidaten ging hervor, dass die Polizei zwischen Februar und August desselben Jahres sieben Mal per E-Mail um Unterstützung bei der Untersuchung digitaler Sexualverbrechen an Telegram geantwortet hatte. Telegram antwortete auf keine einzige dieser Anfragen.
Die Schritte folgen auf Berichte mehrerer inländischer Medien, wonach in Telegram-Chatrooms häufig sexuell eindeutige Deepfake-Bilder und -Videos südkoreanischer Frauen zu finden seien.
Außerdem wird eine 24-Stunden-Hotline für Opfer eingerichtet und die Zahl der Aufsichtspersonal Überwachung digitale Sexualverbrechen Die Zahl der derzeit 70 soll verdoppelt werden, teilte die Korea Communications Standards Commission mit.
Die koreanische Polizeibehörde kündigte außerdem an, dass sie eine siebenmonatige Kampagne zur Bekämpfung von Online-Sexualverbrechen.
Die Medienaufsicht plant die Einrichtung eines Beratungsgremiums zur Verbesserung der Kommunikation mit Social-Media-Unternehmen über das Löschen und Blockieren von sexuellen Deepfake-Inhalten, sagte dessen Vorsitzender Ryu Hee-lim bei einem Treffen zu diesem Thema.
Für Unternehmen ohne Niederlassungen in Südkoreawill sie einen Face-to-Face-Kanal für regelmäßige Konsultationen einrichten.
„Die Produktion, der Besitz und die Verbreitung von Deepfake-Videos mit Sexualverbrechen sind schwere Verbrechen, die die Würde und die Persönlichkeitsrechte des Einzelnen zerstören“, sagte Ryu.
Neben Telegram werde die Kommission auch die Zusammenarbeit mit X sowie den Facebook- und Instagram-Unternehmen von Meta und YouTube von Google anstreben. Die Unternehmen antworteten nicht auf Reuters-Anfragen um einen Kommentar.
Die Kritik an Telegram in Südkorea fiel mit der Verhaftung des in Russland geborenen Telegram-Gründers Pavel Durov am Wochenende zusammen. Sie war Teil französischer Ermittlungen zu Kinderpornografie, Drogenhandel und Betrug auf der verschlüsselten Messaging-App.
Die Zahl der Fälle von Deepfake-Sexualverbrechen in Südkorea ist von 156 im Jahr 2021, als die Daten erstmals erhoben wurden, in diesem Jahr bisher auf 297 gestiegen, wobei es sich bei den Tätern laut Polizei überwiegend um Teenager handelt.
Bei den Opfern handelt es sich in der Regel um Frauen, darunter Schülerinnen sowie Soldatinnen des südkoreanischen Militärs.
In diesem Jahr haben Südkoreaner mehr als 6.300 Anfragen an die Korea Communications Standards Commission gestellt, um sexuell explizite Deepfake-Inhalte entfernen zu lassen. Im Vergleich dazu erklärte sich die Kommission im letzten Jahr in fast 7.200 Fällen bereit, bei der Entfernung von Inhalten zu helfen.
Telegram sei mittlerweile die bevorzugte Plattform für Täter sexuell eindeutiger Deepfake-Inhalte, sagte Kim Yeo-jin, Leiter des Korea Cyber Sexual Violence Response Center, und fügte hinzu, dass die Polizei mehr tun müsse.
In vielen Fällen hätten die Opfer von der Polizei erfahren, dass eine Anzeige nichts nütze, weil die Inhalte auf Telegram zu finden seien und es deshalb schwierig sei, die Kriminellen zu fassen, sagte sie.
Auf die Bitte von Reuters um einen Kommentar antworteten Polizeibeamte nicht unmittelbar.
Informationen darüber, wie Social-Media-Unternehmen auf Anfragen der südkoreanischen Behörden reagieren, sind schwer erhältlich.
Doch aus den 2020 von Abgeordnetem Kim Young-bae veröffentlichten Polizeidaten ging hervor, dass die Polizei zwischen Februar und August desselben Jahres sieben Mal per E-Mail um Unterstützung bei der Untersuchung digitaler Sexualverbrechen an Telegram geantwortet hatte. Telegram antwortete auf keine einzige dieser Anfragen.