Eine unabhängige Überprüfung der britischen Gesetzgebung kam zu dem Schluss, dass das Land dringend neue Gesetze braucht, um die Verwendung biometrischer Technologien zu regeln, und forderte die Regierung auf, Primärgesetze vorzulegen.
Zu den zehn Empfehlungen der rechtlichen Überprüfung gehört, dass die öffentliche Nutzung der Live-Gesichtserkennungstechnologie (LFR) bis zur Schaffung eines rechtsverbindlichen Verhaltenskodex für ihre Verwendung und bis zur Verabschiedung umfassenderer, technologisch neutraler Gesetze zur Schaffung eines gesetzlichen Rahmens ausgesetzt wird die Verwendung biometrischer Daten gegen Mitglieder der Öffentlichkeit.
Eine Handvoll britischer Polizeikräfte haben LFR eifrig übernommen, was zu Bürgerrechtsstreitigkeiten und anhaltender Verurteilung durch Menschenrechtsgruppen geführt hat.
Vor einem Jahr ging auch der britische Informationsbeauftragte mit Bedenken über die rücksichtslose und unangemessene Verwendung von LFR an öffentlichen Orten an die Öffentlichkeit.
Seitdem haben wir auch gesehen, wie das Information Commissioner’s Office (ICO) das umstrittene, in den USA ansässige Gesichtserkennungsunternehmen Clearview AI mit einer Geldstrafe belegt hat, das Selfies verwendet, die ohne Zustimmung aus dem Internet geschabt wurden, um einen KI-basierten Identifikationsabgleichsdienst zu betreiben, der gegen das Gesetz gerichtet ist Strafverfolgungsbehörden und andere öffentliche Stellen, und befehlen Sie ihm auch, die Daten britischer Bürger zu löschen.
Trotz zahlreicher Bedenken hinsichtlich der bestehenden Verwendung von Biometrie gegen die britische Öffentlichkeit und ihrer lückenhaften Regulierung hat sich die digitale Politikgestaltung der Regierung bisher weitgehend auf andere Bereiche konzentriert – beispielsweise auf die Regulierung von Online-Inhalten und die Deregulierung des Datenschutzes nach dem Brexit im digitalen Bereich.
Obwohl die Regierung kürzlich auch angedeutet hat, dass ihr bevorstehendes Gesetz zur Datenreform die Regeln für die Verwendung biometrischer Daten durch die Polizei klarstellen wird – durch die Unterstützung der Entwicklung von „polizeilich geführten Leitlinien wie neuen Verhaltenskodizes“.
Die heute veröffentlichte unabhängige Rechtsprüfung fordert jedoch einen umfassenderen Ansatz zur Regulierung der Nutzung biometrischer Daten im öffentlichen Sektor.
Die Überprüfung, die von der beauftragt wurde Ada-Lovelace-Institut bereits im Jahr 2020 und unter der Leitung von Matthew Ryder QC, warnt davor, dass das derzeitige Rechtssystem des Vereinigten Königreichs „fragmentiert, verwirrt und nicht Schritt halten kann“ mit den Entwicklungen in der Biometrie.
„Wir brauchen dringend einen ehrgeizigen neuen Rechtsrahmen speziell für die Biometrie. Wir dürfen nicht zulassen, dass sich die Verwendung biometrischer Daten durch unzureichende Gesetze und Vorschriften ausbreitet“, sagte Ryder von Matrix Chambers in einer Erklärung.
Eine zentrale Empfehlung, die er in der Überprüfung fordert, ist, dass der Anwendungsbereich der Biometriegesetzgebung die Verwendung der Technologie nicht nur für die eindeutige Identifizierung von Personen, sondern auch für die Klassifizierung abdeckt.
„Nur weil die Verwendung biometrischer Daten nicht zu einer eindeutigen Identifizierung führt, wird die rechtseingreifende Fähigkeit biometrischer Systeme nicht beseitigt, und der Rechtsrahmen muss in diesem Bereich angemessene Garantien bieten“, argumentiert die Überprüfung.
Es fordert auch die Veröffentlichung branchen- und/oder technologiespezifischer Verhaltenskodizes, in denen „spezifische und detaillierte Pflichten“ festgelegt sind, die sich in bestimmten Anwendungsfällen ergeben. Es empfiehlt auch, dass ein Rahmenwerk zur Regelung der Verwendung biometrischer Daten gegenüber Mitgliedern der Öffentlichkeit bestehende Pflichten aus dem Menschenrechtsgesetz, dem Gleichstellungsgesetz und dem Datenschutzgesetz ergänzen (und nicht ersetzen) sollte.
Eine weitere Empfehlung ist die Einrichtung eines nationalen Biometrie-Ethikausschusses, der eine gesetzlich vorgeschriebene beratende Funktion in Bezug auf die Verwendung von Biometrie im öffentlichen Sektor hat. Die Überprüfung empfiehlt außerdem, dass ihr Rat veröffentlicht wird und dass Stellen, die gegen ihren Rat verstoßen, ihre Gründe dafür öffentlich darlegen müssen.
„Die Regulierung und Überwachung biometrischer Daten sollte konsolidiert, geklärt und mit angemessenen Ressourcen ausgestattet werden. Die derzeitige Überlappung und Fragmentierung der Aufsicht behindert eine gute Regierungsführung“, heißt es in der Überprüfung weiter und warnt vor „erheblichen Bedenken“ hinsichtlich der vorgeschlagenen Einbeziehung der Rolle des Beauftragten für Biometrie und Überwachungskameras in die bestehenden Pflichten des ICO.
„Wir glauben, dass die Bekanntheit und Bedeutung der Biometrie bedeutet, dass sie entweder eine bestimmte unabhängige Rolle und/oder einen spezialisierten Kommissar oder stellvertretenden Kommissar innerhalb des ICO erfordert“, heißt es in der Überprüfung. „Wo auch immer es sich befindet, es muss finanziell, logistisch und fachlich angemessen ausgestattet sein, um die Governance-Rolle zu erfüllen, die dieser Bereich erfordert.“
Die Überprüfung konzentriert sich hauptsächlich auf die Verwendung von Biometrie im öffentlichen Sektor, aber ihre Autoren fordern eine zusätzliche Untersuchung der Anwendungen von Biometrie im privaten Sektor, um zu überlegen, wie eine angemessene Gesetzgebung am besten gestaltet werden kann Beziehung zwischen Organisationen des privaten Sektors, die biometrische Daten sammeln und verarbeiten und biometrische Tools entwickeln, und Behörden, die auf diese Datensätze zugreifen und diese Tools einsetzen.“
„[S]Strenge Gesetze und Vorschriften werden manchmal als hinderliche Fortschritte bei der praktischen Nutzung biometrischer Daten bezeichnet. Dies sollte nicht der Fall sein. In der Praxis ermöglicht ein klarer Regulierungsrahmen denjenigen, die mit biometrischen Daten arbeiten, Vertrauen in die ethischen und rechtlichen Grenzen, innerhalb derer sie arbeiten müssen“, fügt Ryder in einem Vorwort zu der Überprüfung hinzu.
„Sie werden von der nicht hilfreichen Last der Selbstregulierung befreit, die sich aus unklaren Richtlinien und allzu flexiblen Grenzen ergibt. Dieses Vertrauen setzt Innovationen frei und fördert effektive Arbeitspraktiken. Gesetzgeber und Aufsichtsbehörden helfen denen, die verantwortungsvoll handeln wollen, nicht immer mit der leichten Hand.“
Das Forschungsinstitut Ada Lovelace, das die Überprüfung in Auftrag gegeben hat, veröffentlicht einen begleitenden Politikbericht, in dem es die Regierung zum Handeln drängt – gestützt auf ein angeblich dreijähriges Programm des öffentlichen Engagements zur Förderung der Politikforschung, einschließlich der Durchführung eine repräsentative Umfrage über die Einstellung der britischen Öffentlichkeit zur Gesichtserkennungstechnologie und die Zusammenarbeit mit dem Citizens ‚Biometrics Council, einem Gremium aus 50 britischen Erwachsenen, „das sich versammelt hat, um zu lernen und dann eingehender über biometrische Governance zu beraten“.
„Sowohl die Umfrage als auch der Bürgerrat haben die öffentliche Unterstützung für stärkere Sicherheitsvorkehrungen für biometrische Technologien hervorgehoben“, heißt es darin.
Einige der Empfehlungen des Instituts stimmen mit denen in der rechtlichen Überprüfung überein – einschließlich der Aufforderung an die Regierung, Primärgesetze zu verabschieden, um die Verwendung biometrischer Daten zu regeln, und dass die Aufsicht und Durchsetzung des Regimes Teil einer neuen Regulierungsfunktion sein sollte, die sich auf biometrische Technologien konzentriert und „national, unabhängig und angemessen ausgestattet und befähigt.“
Es fordert auch die vorgeschlagene Regulierungsbehörde auf, biometrische Technologien zu bewerten – sowohl um zu verlangen, dass alle biometrischen Technologien „wissenschaftlich fundierte und klar festgelegte Standards für Genauigkeit, Zuverlässigkeit und Gültigkeit“ erfüllen, als auch um die Verhältnismäßigkeit biometrischer Technologien „in ihren vorgeschlagenen Kontexten zuvor zu bewerten zu verwenden, für diejenigen, die vom öffentlichen Sektor, in öffentlichen Diensten oder in öffentlich zugänglichen Räumen verwendet werden oder die eine wichtige Entscheidung über eine Person treffen.“
„Dieser Verhältnismäßigkeitstest sollte individuelle Schäden, kollektive Schäden und gesellschaftliche Schäden berücksichtigen, die sich aus der Verwendung biometrischer Technologien ergeben können“, schlägt sie vor. „Wenn die Genehmigung erteilt wird, sollte die Regulierungsfunktion die Technologie während ihrer Bereitstellungs- und Implementierungsphase und kontinuierlich überwachen, solange das System verwendet wird.“
Eine weitere Empfehlung des Instituts ist, dass die Regulierungsüberwachung die Erstellung von Verhaltenskodizes auslöst, „die Verbote oder Moratorien beinhalten können“. Und das Institut fordert auch ein Moratorium für die Verwendung von Biometrie zur One-to-Many-Identifikation in öffentlich zugänglichen Räumen und zur Kategorisierung im öffentlichen Sektor (oder für öffentliche Dienste und in öffentlich zugänglichen Räumen), bis die Governance-Gesetzgebung verabschiedet ist.
Carly Kind, die Direktorin des Instituts, kommentierte in einer Erklärung: „Unser dreijähriges Forschungsprogramm zeigt, dass die Öffentlichkeit stärkere Sicherheitsvorkehrungen unterstützt und die bestehende Rechtslandschaft unzureichend ist. Die Regierung muss sich diesem wichtigen Thema annehmen und neue Primärgesetze zur Biometrie vorlegen.“
Die Europäische Union ist den politischen Entscheidungsträgern des Vereinigten Königreichs voraus, wenn es um die Regulierung von Anwendungen von KI-Technologien geht – nachdem sie bereits im vergangenen Jahr einen Vorschlagsentwurf (auch bekannt als KI-Gesetz) vorgelegt hat. Der von der EU vorgeschlagene risikobasierte Rahmen zur Regulierung von Anwendungen von KI wurde jedoch von der Zivilgesellschaft und Menschenrechtsgruppen vielfach kritisiert, da sie befürchten, dass er nicht weit genug geht, um Grundrechte mit Leitplanken zu versehen.
Und während der Gesetzesentwurf einen Vorschlag enthält, die (teilweise) polizeiliche Verwendung von Fernbiometrie in der Öffentlichkeit zu verbieten, argumentieren Kritiker erneut, dass die Bestimmung so viele Einschränkungen enthält, dass sie eigentlich keine sinnvolle Einschränkung darstellt.
Bei der Erörterung der von der EU vorgeschlagenen KI-Verordnung argumentiert Imogen Parker, stellvertretende Direktorin für Politik am Ada Lovelace Institute, dass das Vereinigte Königreich die Möglichkeit hat, weiter zu gehen – und eine stärkere Regulierung der Biometrie zu erreichen – aber nur, wenn die Minister die politischen Empfehlungen annehmen, die gemacht werden heute.
„Der Entwurf [EU] Act setzt sich nicht ausreichend mit den Risiken auseinander, die sich aus emotionalen Erkennungssystemen und Klassifizierungen ergeben. Sie klassifizieren sie als KI mit „begrenztem Risiko“ (abgesehen von einigen Umständen im öffentlichen Sektor, z. B. von Strafverfolgungsbehörden), und verlangen von den Benutzern nur, transparent zu sein, wenn die Technologie eingesetzt wird, z. B. durch Kennzeichnung oder Offenlegung“, argumentiert sie.
„Die Kategorisierung birgt vergleichbare Risiken wie die Identifizierung. Der Citizens Biometrics Council war besorgt über die Genauigkeit, sowohl ob die Tools gut funktionieren als auch ob die Kategorien auf Beweisen oder Pseudowissenschaft beruhen; Sie stellen Datenschutzrisiken dar, da intime Daten verwendet werden und sensible Informationen über Sie, wie Sexualität oder Religion, preisgeben oder vermuten könnten; und es gibt Bedenken, dass diese Technologien bei ihrem Einsatz diskriminierend sein könnten, wenn sie beurteilen, ob jemand aufgrund seiner Art zu gehen (seiner Gangart) verdächtig oder aufgrund seines Gesichtsausdrucks und Stimmtons arbeitswürdig aussieht.
„Wir empfehlen außerdem, dass alle biometrischen Technologien die Standardanforderungen erfüllen und dass die Mehrheit der Verwendungen (im öffentlichen Sektor, durch öffentliche Dienste, an öffentlichen Orten oder mit erheblichen Auswirkungen) im Kontext und vor der Verwendung oder Beschaffung einer Verhältnismäßigkeitsprüfung unterzogen werden müssen. Unsere Empfehlungen stellen sicher, dass sowohl bei der Kategorisierung als auch bei der Identifizierung umfassende, hohe Regulierungsstandards angewendet werden; und privater sowie öffentlicher Sektor verwendet.“
Auf die Frage nach der teilweisen Aufmerksamkeit der britischen Regierung für die Regulierung der Biometrie im Datenreformgesetz schlägt Parker vor, dass die bisher festgelegten Maßnahmen nicht weit genug gehen.
„Bei den Vorschlägen zur biometrischen Regulierung in Data: A New Direction scheint der Fokus der Regierung auf Bemühungen zu liegen, diese zu rationalisieren, zu klären und Verwirrung zu reduzieren. Wir haben die Notwendigkeit erkannt, die Aufsichtsfunktionen erheblich zu stärken, was über eine Reorganisation oder Klärung hinausgeht“, sagt sie gegenüber Tech. „Der Citizens Biometrics Council wollte eine stärkere Regulierung der Biometrie, und die Ryder-Überprüfung ergab, dass die bestehende Governance nicht zweckmäßig ist: dass die bestehenden Gesetze und Aufsichtsmechanismen fragmentiert, unklar, ineffektiv sind und mit den sich entwickelnden Technologien nicht Schritt halten.
„Wir schlagen auch vor, den Regulierungsansatz zu stärken und die Forschung widerzuspiegeln. Wir möchten, dass Standards entwickelt werden, um die Genauigkeit und die wissenschaftliche Gültigkeit dieser Werkzeuge zu bewerten – unabhängig davon, ob sie auf stereotypen oder pseudowissenschaftlichen Annahmen beruhen. Wir empfehlen auch die Anforderung einer Verhältnismäßigkeitsprüfung zur Bewertung jeglicher Verwendung biometrischer Technologien im öffentlichen Sektor, im öffentlichen Raum oder dort, wo wichtige Entscheidungen über Einzelpersonen getroffen werden (z. B. bei der Einstellung). Diese Bewertung sollte sich auf biometrische Technologien im Kontext und vor der Verwendung oder Beschaffung beziehen.
„Unsere Forschung zeigt, dass wir bei der Regulierung ehrgeiziger sein müssen, als wir in den aktuellen Vorschlägen gesehen haben. Aber wir freuen uns auf den Gesetzesentwurf, um die weiteren Details zu sehen.“