Die Europäische Union fordert die Unterzeichner ihres Verhaltenskodex zur Online-Desinformation auf, Deepfakes und andere KI-generierte Inhalte zu kennzeichnen.
In einer Stellungnahme gestern im Anschluss an ein Treffen mit den über 40 Unterzeichnern des Kodex sagte die EU-Kommissarin für Werte und Transparenz, Vera Jourova, dass diejenigen, die sich zur Bekämpfung von Desinformation verpflichtet haben, Technologien einführen sollten, um KI-Inhalte zu erkennen und sie den Nutzern klar zu kennzeichnen.
„Die neuen KI-Technologien können eine treibende Kraft sein und neue Wege für mehr Effizienz und kreativen Ausdruck bieten. Aber wie immer müssen wir die Schattenseiten dieser Angelegenheit erwähnen und sie bergen auch neue Risiken und das Potenzial für negative Folgen für die Gesellschaft“, warnte sie. „Auch wenn es um die Erstellung und Verbreitung von Desinformation geht.
„Fortschrittliche Chatbots wie ChatGPT sind in der Lage, in Sekundenschnelle komplexe, scheinbar fundierte Inhalte und Bilder zu erstellen. Bildgeneratoren können authentisch aussehende Bilder von Ereignissen erstellen, die nie stattgefunden haben. Sprachgenerierungssoftware kann die Stimme einer Person anhand einer Stichprobe von wenigen Sekunden nachahmen. Die neuen Technologien stellen auch den Kampf gegen Desinformation vor neue Herausforderungen. Deshalb habe ich heute die Unterzeichner gebeten, einen eigenen und separaten Abschnitt innerhalb des Kodex zu erstellen, um darüber zu diskutieren.“
Die aktuelle Version des Kodex, die die EU im vergangenen Sommer verschärft hat – als sie auch bestätigte, dass sie beabsichtigt, das freiwillige Instrument zu einer Abhilfemaßnahme zu machen, die auf die Einhaltung des (rechtsverbindlichen) Digital Services Act (DSA) angerechnet wird – verpflichtet derzeit nicht zur Identifizierung und Kennzeichnung von Deepfakes. Aber die Kommission hofft, das zu ändern.
Der EU-Kommissar sagte, er sehe zwei Hauptdiskussionspunkte für die Aufnahme von Abhilfemaßnahmen für KI-generierte Inhalte in den Kodex: Der eine würde sich auf Dienste konzentrieren, die generative KI integrieren, wie Microsofts New Bing oder Googles Bard AI-erweiterte Suchdienste – die sollte sich dazu verpflichten, „notwendige Sicherheitsvorkehrungen zu treffen, damit diese Dienste nicht von böswilligen Akteuren zur Generierung von Desinformation genutzt werden können“.
Ein zweiter Schritt würde Unterzeichner, die über Dienste verfügen, die das Potenzial zur Verbreitung KI-generierter Desinformationen haben, dazu verpflichten, „Technologien einzuführen, um solche Inhalte zu erkennen und sie den Nutzern klar zu kennzeichnen“.
Jourova sagte, sie habe mit Sundar Pichai von Google gesprochen und erfahren, dass Google über eine Technologie verfüge, die KI-generierte Textinhalte erkennen könne, aber auch, dass das Unternehmen die Technologie weiterentwickelt, um seine Fähigkeiten zu verbessern.
In weiteren Bemerkungen während einer Frage-und-Antwort-Runde sagte die Kommissarin, dass die EU möchte, dass Kennzeichnungen für Deepfakes und andere KI-generierte Inhalte klar und schnell sind – so dass normale Benutzer sofort verstehen können, dass ein Inhalt, der ihnen präsentiert wird, dies getan hat wurde von einer Maschine erstellt, nicht von einer Person.
Sie präzisierte auch, dass die Kommission möchte, dass Plattformen die Kennzeichnung jetzt – „sofort“ – einführen.
Das DSA enthält zwar einige Bestimmungen, die sehr große Online-Plattformen (VLOPs) dazu verpflichten, manipulierte Audio- und Bildinhalte zu kennzeichnen, aber Jourova sagte, die Idee, eine Kennzeichnung in den Desinformationskodex aufzunehmen, bestehe darin, dass dies sogar früher als bis zum 25. August, der Einhaltungsfrist für VLOPs im Rahmen des DSA, geschehen könne .
„Ich habe oft gesagt, dass unsere Hauptaufgabe darin besteht, die Meinungsfreiheit zu schützen. Aber wenn es um die KI-Produktion geht, sehe ich keinen Anspruch auf freie Meinungsäußerung der Maschinen. Und damit kehren wir auch zu den alten guten Säulen unseres Rechts zurück. Und deshalb wollen wir auch im Rahmen des Verhaltenskodex auf der Grundlage dieses sehr grundlegenden Gedankens weiter daran arbeiten“, fügte sie hinzu.
Die Kommission geht auch davon aus, dass im nächsten Monat Maßnahmen zur Meldung von durch KI erzeugten Desinformationsrisiken ergriffen werden. Jourova sagte, dass die relevanten Unterzeichner die Juli-Berichte nutzen sollten, um „die Öffentlichkeit über Sicherheitsmaßnahmen zu informieren, die sie ergreifen, um die Verbreitung des Missbrauchs generativer KI zu verhindern.“ Desinformation“.
Der Desinformationskodex hat mittlerweile insgesamt 44 Unterzeichner – darunter Technologiegiganten wie Google, Facebook und Microsoft sowie kleinere Adtech-Unternehmen und Organisationen der Zivilgesellschaft – eine Zahl, die sich von 34 Personen erhöht, die die Verpflichtungen bis Juni 2022 unterzeichnet hatten.
Ende letzten Monats unternahm Twitter jedoch den ungewöhnlichen Schritt, sich vom freiwilligen EU-Kodex zurückzuziehen.
Zu den weiteren wichtigen Themen, die Jourova bei ihrem gestrigen Treffen mit den verbleibenden Unterzeichnern angesprochen und sie zu mehr Maßnahmen aufgefordert hatte, zählten Russlands Kriegspropaganda und kremlfreundliche Desinformation; die Notwendigkeit einer „konsequenten“ Moderation und Faktenprüfung; Bemühungen zur Wahlsicherheit; und Zugang zu Daten für Forscher.
„Auf den Plattformen kursieren immer noch viel zu viele gefährliche Desinformationsinhalte und zu wenig Kapazitäten“, warnte sie und verwies auf eine seit langem bestehende Beschwerde der Kommission, dass Initiativen zur Faktenprüfung nicht umfassend auf Inhalte angewendet werden, die auf alle in der EU gesprochenen Sprachen abzielen Mitgliedstaaten, einschließlich kleinerer Nationen.
„Besonders die mittel- und osteuropäischen Länder werden ständig von vor allem russischen Desinformationsquellen angegriffen“, fügte sie hinzu. „Es gibt viel zu tun. Hier geht es um Fähigkeiten, hier geht es um unser Wissen, hier geht es um unser Verständnis der Sprache. Und auch Verständnis für die Gründe, warum in manchen Mitgliedstaaten der Nährboden bzw. der Boden vorhanden ist, der für die Aufnahme großer Teile der Desinformation vorbereitet ist.“
Der Zugang für Forscher sei immer noch unzureichend, betonte sie ebenfalls und forderte die Plattformen auf, ihre Bemühungen zu verstärken.
Jourova fügte auch ein paar warnende Worte über den von Elon Musk gewählten Weg hinzu – was darauf hindeutet, dass Twitter sich als designierter VLOP im Rahmen des DSA ins Fadenkreuz der EU-Durchsetzung geraten hat.
Das DSA verpflichtet VLOPs gesetzlich dazu, gesellschaftliche Risiken wie Desinformation zu bewerten und zu mindern. Deshalb lädt Twitter zu Tadel und Sanktionen ein, indem es den EU-Kodex ignoriert (Bußgelder im Rahmen des DSA können bis zu 6 % des weltweiten Jahresumsatzes betragen).
„Ab August dieses Jahres werden unsere Strukturen, die die Rolle der Durchsetzungsbehörden des DSA übernehmen werden, die Leistung von Twitter daraufhin prüfen, ob sie die Vorschriften einhalten, ob sie die erforderlichen Maßnahmen ergreifen, um die Risiken zu mindern und Maßnahmen gegen … insbesondere illegale Inhalte zu ergreifen. “, warnte sie weiter.
„Die Europäische Union ist nicht der Ort, an dem wir das importierte kalifornische Recht sehen wollen“, fügte sie hinzu. „Wir haben es oft gesagt und deshalb möchte ich auch zurückkommen und die Zusammenarbeit mit den … ehemaligen Twitter-Mitarbeitern würdigen, die mit uns zusammengearbeitet haben [for] bereits mehrere Jahre zum Verhaltenskodex gegen Hassrede und zum Verhaltenskodex [on disinformation] sowie. Das tut uns leid. Ich denke, dass Twitter sehr sachkundige und entschlossene Leute hatte, die verstanden haben, dass es auf der Website von Plattformen wie Twitter eine gewisse Verantwortung geben muss, eine viel größere Verantwortung.“
Auf die Frage, ob der Community-Notes-Ansatz von Twitter – der Crowdsourcing (also im Wesentlichen die Auslagerung) von Faktenprüfungen an Twitter-Nutzer durchführt, wenn sich genügend Leute einbringen, um einen Konsens über den Kontext zu umstrittenen Tweets zu schaffen – allein ausreichen könnte, um die rechtlichen Anforderungen zur Bekämpfung von Desinformation zu erfüllen Jourova sagte, es sei Sache der Durchsetzungsbehörden der Kommission, zu beurteilen, ob sie die Vorschriften des DSA einhalten oder nicht.
Sie wies jedoch darauf hin, dass der Rückzug von Twitter aus dem Kodex ein bedeutender Schritt in die falsche Richtung sei und fügte hinzu: „Der Verhaltenskodex wird als sehr ernstzunehmende und vertrauenswürdige mildernde Maßnahme gegen schädliche Inhalte anerkannt.“