In het kort
- De EU heeft een belangrijk voorlopig akkoord bereikt om de ontwikkeling van kunstmatige intelligentie (AI) aan banden te leggen, ondanks pogingen vanuit de techindustrie om maatregelen te verzachten.
- De regels moeten zorgen dat AI veilig en transparant wordt ingezet in Europa, waarbij strengere regels gelden voor systemen die meer risico’s opleveren.
- Er blijven voorlopig nog vragen over de precieze invulling van de wet, bijvoorbeeld over hoe je meet of een AI-model voldoet aan de bescherming van mensenrechten.
Kein vollständiges Verbot der biometrischen Identifizierung
Einer der Stolpersteine bei den Gesprächen war der Einsatz intelligenter Kameras im öffentlichen Raum, mit denen Menschen verfolgt werden können. Es wird ein Verbot geben, allerdings mit Ausnahmen für Ermittlungsdienste.
„Wir sind davon wirklich enttäuscht“, sagt Nadia Benaissa von der Bürgerrechtsorganisation Bits of Freedom. „Wir haben uns immer dafür eingesetzt, dass sich Menschen im öffentlichen Raum frei bewegen können. Diese Ausnahmen vom Verbot scheinen die Tür für eine Legitimierung der Massenüberwachung zu öffnen.“
Van Sparrentak bevorzugte ebenfalls ein vollständiges Verbot. Allerdings hätten einige Mitgliedstaaten dort eine absolute Grenze gezogen, was bedeutete, dass Kompromisse eingegangen werden müssten. „Wir haben jetzt explizite Regeln für die Ausnahmen, mit denen wir zufrieden sein können“, sagt sie. „Diese Systeme dürfen nur mit Genehmigung des Richters und dann auch nur auf der Grundlage bestimmter Fotos, an bestimmten Orten und zu bestimmten Zeiten eingesetzt werden.“
Ihrer Meinung nach stellen diese Regeln sicher, dass wir nicht von Massenüberwachung sprechen können. „Das ist weniger intensiv, als ständig Menschen auf der Straße zu verfolgen. Andere Systeme, die zum Beispiel Fotos von Gesichtern aus dem Internet abrufen können, um eine Datenbank zu erstellen, werden komplett verboten. Wir konnten die gruseligsten Formen stoppen.“
Darüber hinaus ist es den Mitgliedstaaten überlassen, selbst zu entscheiden, ob sie dies nutzen wollen. Länder können sich weiterhin dafür entscheiden, die biometrische Identifizierung innerhalb ihrer eigenen Grenzen zu verbieten.
Es bleiben viele Fragen zur Auslegung des Gesetzes offen
Generell steht Bits of Freedom dem KI-Gesetz vorsichtig positiv gegenüber. „Es ist gut, dass es eine verpflichtende Folgenabschätzung für Menschenrechte geben wird“, sagt Benaissa. „Das bedeutet, dass vor dem Einsatz eines KI-Systems klar sein muss, welche Risiken für den Menschen bestehen. Anschließend kann geprüft werden, wie Risiken beseitigt oder reduziert werden können. Erscheinen die Risiken zu groß, muss der Einsatz eines KI-Systems möglich sein.“ KI-System Das ist ein wichtiges Kontrollmittel.“
Auch Bo Hijstek lobt diesen Teil des Gesetzes. Hijstek ist Forscher für generative KI am Rathenau-Institut. „Aber Fragen bleiben offen“, sagt sie. „Wie misst man, ob ein KI-Modell dem Menschenrechtsschutz entspricht? Anforderungen in den Regeln können oft unterschiedlich interpretiert werden. Die Funktionsweise vieler Produkte kann überprüft werden, aber ob etwas den Menschenrechten entspricht, ist viel abstrakter.“
Es gibt verschiedene Methoden, um Diskriminierung in Modellen zu erkennen. Die Frage ist dann, welches unserer Meinung nach am fairsten ist und für wen. Und ab wann ist der Schutz akzeptabel genug?
Van Sparrentak sagt, dass im kommenden Jahr viele weitere Gesetze eingeführt werden, die solche Fragen klären sollen. Diese werden von der Europäischen Kommission verfasst.
Kim van Sparrentak zat namens GroenLinks bij de onderhandelingen.
Foto: ANP
Ein Meilenstein, aber auch viel Unsicherheit
Da der vollständige Gesetzestext noch nicht veröffentlicht ist, ziehen Hijstek und Benaissa immer noch einige Schläge durch. Details zum Text werden in den kommenden Monaten ausgearbeitet. Erst kurz vor der Abstimmung werden wir sicher wissen, wie das Gesetz aussehen wird.
„Die Tatsache, dass diese Einigung erzielt wurde, ist wirklich ein Meilenstein“, sagt Hijstek. „Zum ersten Mal auf der Welt wird KI so umfassend reguliert. Aber vieles wird von der Auslegung des Gesetzes und der Art und Weise der Durchsetzung abhängen.“
Dies sind Bedenken, die Benaissa teilt. „Es steht und fällt mit einem guten Vorgesetzten“, sagt sie. „Beim europäischen Datenschutzrecht haben wir gesehen, dass ein starker Regulierer hohe Bußgelder verhängen kann, es aber noch viel Raum für Verbesserungen gibt. Beschwerden von Bürgern bleiben oft ungehört.“
Den Vereinbarungen zufolge soll in Europa ein neues Gremium geschaffen werden, das die KI überwachen wird. Darüber hinaus wird die Europäische Kommission in die großen KI-Modelle eingreifen.
Zudem wird es noch einige Zeit dauern, bis das europäische KI-Gesetz in Kraft tritt. Der Europäische Rat und die Mitgliedstaaten werden Anfang nächsten Jahres darüber abstimmen. Dies ist normalerweise eine Formalität. Bis die Regeln tatsächlich in Kraft treten, wird es dann noch zwei Jahre dauern.