Die Gesetzgeber der Europäischen Union sind auf dem besten Weg, die Verwendung biometrischer Fernüberwachung für allgemeine Strafverfolgungszwecke zu verbieten. Das hat die Parlamentarier in Frankreich jedoch nicht davon abgehalten, während der Olympischen Spiele 2024 in Paris für den Einsatz von KI zur Überwachung öffentlicher Räume auf verdächtiges Verhalten zu stimmen.
Am Donnerstag genehmigte das Parlament einen Plan zur automatisierten Verhaltensüberwachung öffentlicher Räume während der Spiele und ignorierte die Einwände von rund 40 Abgeordneten, die einen offenen Brief verfasst hatten, in dem der Vorschlag angeprangert wurde. Die Abstimmung folgte einer früheren Zustimmung des französischen Senats. (Über Politisch.)
Der Olympische Spiele 2024 finden vom 26. Juli bis 11. August in Paris statt.
Das KI-Gesetz der EU, ein neuer risikobasierter Rahmen zur Regulierung von KI-Anwendungen, enthält ein Verbot der Verwendung von biometrischen „Echtzeit“-Fernerkennungssystemen in öffentlich zugänglichen Räumen zum Zweck der Strafverfolgung – mit Ausnahmen, die im ursprünglichen Entwurfsvorschlag für Durchsuchungen zugelassen sind bestimmte potenzielle Opfer von Straftaten (z. B. vermisste Kinder); zur Vorbeugung von „eine konkrete, erhebliche und unmittelbare Bedrohung“ des Lebens oder der körperlichen Unversehrtheit oder eines Terroranschlags; oder zur Identifizierung eines bestimmten Täter oder Verdächtiger einer verwiesenen Straftat. Obwohl die Abgeordneten auf ein umfassenderes Verbot drängen.
Kritiker des französischen Plans schlagen vor, dass er weit über die begrenzten Ausnahmen der Strafverfolgungsbehörden hinausgeht, die im Entwurfsvorschlag zulässig sind, und sich auf unbewiesene KI stützen, um etwas so Vages wie verdächtiges Verhalten zu identifizieren.
Patrick Breyer, ein Europaabgeordneter der Piratenpartei, kommentierte in einer Erklärung die Verwendung einer, wie er es nannte, „fehleranfälligen“ und aufdringlichen Technologie und sagte: „Die Entscheidung des französischen Parlaments, die automatisierte Verhaltensüberwachung zu genehmigen öffentliche Räume, um nach „abnormalem Verhalten“ zu suchen, schafft eine neue Realität der Massenüberwachung, die in Europa beispiellos ist. Ich erwarte, dass das Gericht diese wahllose Überwachungsgesetzgebung wegen Verletzung unserer Grundrechte annulliert.
„Solche Verdachtsmaschinen werden unzählige Bürger falsch anzeigen, sind diskriminierend, erziehen zu konformistischem Verhalten und sind absolut nutzlos, um Kriminelle zu fangen, wie Studien und Erfahrungen belegen. Schritt für Schritt wird, wie in China, die gesellschaftliche Vielfalt bedroht und unsere offene Gesellschaft durch eine konformistische Konsumgesellschaft ersetzt.“
Das KI-Gesetz wurde von der Europäischen Kommission vorgeschlagen vor fast zwei Jahren, aber wird von den Institutionen des Blocks noch verhandelt – wobei die Diskussion über die Akte durch Spaltungen und laufende technische Entwicklungen erschwert wird, wie z Der KI-Bereich ist schnelllebig und daher die Herausforderung für die Regulierungsbehörden, effektive, zukunftssichere Rahmenbedingungen zu schaffen, um Anwendungen der Technologie zu regulieren).
Das bedeutet, dass der vollständige Umfang und die Einzelheiten des künftigen EU-Gesetzes noch nicht geklärt sind. Und selbst im besten Fall – dh wenn die Gesetzgeber des Blocks einen schnellen Kompromiss finden – wird es möglicherweise immer noch nicht rechtzeitig für die Olympischen Spiele in Paris angewendet. Nichtsdestotrotz sieht der französische Schritt, gelinde gesagt, unangenehm aus – was darauf hindeutet, dass der Block auf dem Weg zu einer neuen Ära rechtlicher Spannungen zwischen nationalen Sicherheitsprioritäten und dem Schutz der Grundrechte durch die EU ist.
Frankreich ist einer von mehreren EU-Mitgliedstaaten, die sich wiederholt geweigert haben, sich den EU-Vorschriften zur allgemeinen und unterschiedslosen Vorratsdatenspeicherung zu beugen – und damit entgegenwirken, dass die Aktivität für die nationale Sicherheit von wesentlicher Bedeutung ist –, obwohl das oberste Gericht des Blocks eine Reihe von Urteilen erlassen hat, die dies bemängeln Massendatenerfassungsregime. Und künftige Wellen rechtlicher Anfechtungen wegen staatlichem Missbrauch leistungsstarker KI-Tools zur allgemeinen und wahllosen Überwachung könnten durchaus ins Rollen kommen.
In der Zwischenzeit könnte der Plan der französischen Regierung, die Olympischen Spiele in Paris mit KI-gestützter Überwachung zu überziehen, immer noch vor dem Verfassungsgericht des Landes angefochten werden. Es bleibt also abzuwarten, ob die Teilnehmer der Olympischen Sommerspiele 2024 einer Verhaltensbewertung durch Algorithmen ausgesetzt sein werden.
Die CNIL, Frankreichs Datenschutzbehörde, hat in den letzten Monaten ihre Aufmerksamkeit auf künstliche Intelligenz gelenkt und eine eigene Abteilung eingerichtet, um an der Technologie zu arbeiten Januar, in Vorbereitung auf das kommende EU-KI-Gesetz. Sie könnte sich also intensiv mit dem Plan der Regierung befassen. (Wir haben die CNIL mit Fragen zu ihren Ansichten zu dem Plan kontaktiert und werden diesen Bericht aktualisieren, wenn sie antwortet.)