Nach fast dreitägigen Marathon-Abschlussgesprächen haben die Gesetzgeber der Europäischen Union heute Abend eine politische Einigung über einen risikobasierten Rahmen für die Regulierung künstlicher Intelligenz erzielt. Das Dossier wurde ursprünglich im April 2021 vorgeschlagen, aber es hat monatelange knifflige Verhandlungen zwischen drei Parteien gedauert, bis eine Einigung zustande kam. Die Entwicklung bedeutet, dass ein EU-weites KI-Gesetz definitiv auf dem Weg ist.
In einer triumphalen, aber erschöpften Pressekonferenz in den frühen Morgenstunden von Freitagabend/Samstagmorgen Ortszeit begrüßten wichtige Vertreter des Europäischen Parlaments, des Rates und der Kommission – die Mitgesetzgeber der Union – die Einigung als hart erkämpft, als Meilenstein und historisch. jeweils.
Nehmen zu X zu Twittern Sie die NeuigkeitenAuch EU-Präsidentin Ursula von der Leyen, die bei ihrem Amtsantritt Ende 2019 die Verabschiedung eines KI-Gesetzes zu einer zentralen Priorität ihrer Amtszeit gemacht hatte, lobte die politische Einigung als „globale Premiere“.
Die vollständigen Einzelheiten der Vereinbarungen werden erst vollständig bestätigt, wenn ein endgültiger Text zusammengestellt und veröffentlicht wurde, was einige Wochen dauern kann. Aber a Pressemitteilung Der vom Europäischen Parlament herausgegebene Bericht bestätigt, dass die mit dem Rat erzielte Einigung ein vollständiges Verbot des Einsatzes von KI für Folgendes beinhaltet:
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. politische, religiöse, philosophische Überzeugungen, sexuelle Orientierung, Rasse);
- ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken;
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen;
- soziales Scoring basierend auf sozialem Verhalten oder persönlichen Merkmalen;
- KI-Systeme, die menschliches Verhalten manipulieren, um ihren freien Willen zu umgehen;
- KI nutzte früher die Schwachstellen von Menschen aus (aufgrund ihres Alters, ihrer Behinderung, ihrer sozialen oder wirtschaftlichen Situation).
Der Einsatz biometrischer Fernidentifizierungstechnologie an öffentlichen Orten durch Strafverfolgungsbehörden wurde nicht vollständig verboten – aber das Parlament sagte, die Verhandlungsführer hätten sich auf eine Reihe von Schutzmaßnahmen und engen Ausnahmen geeinigt, um den Einsatz von Technologien wie der Gesichtserkennung einzuschränken. Dazu gehört die Anforderung einer vorherigen gerichtlichen Genehmigung – und die Verwendung ist auf eine „streng definierte“ Liste von Straftaten beschränkt.
Der rückwirkende (nicht in Echtzeit erfolgende) Einsatz von ferngesteuerten biometrischen ID-KIs wird auf „die gezielte Suche nach einer Person beschränkt, die wegen einer schweren Straftat verurteilt oder verdächtigt wird“. Die Echtzeitnutzung dieser aufdringlichen KI-Technologie ist zwar zeitlich und örtlich begrenzt und kann nur für die folgenden Zwecke verwendet werden:
- gezielte Suche nach Opfern (Entführung, Menschenhandel, sexuelle Ausbeutung),
- Abwehr einer konkreten und gegenwärtigen terroristischen Bedrohung, oder
- die Lokalisierung oder Identifizierung einer Person, die verdächtigt wird, eine der in der Verordnung genannten spezifischen Straftaten begangen zu haben (z. B. Terrorismus, Menschenhandel, sexuelle Ausbeutung, Mord, Entführung, Vergewaltigung, bewaffneter Raubüberfall, Beteiligung an einer kriminellen Vereinigung, Umweltkriminalität).
Das vereinbarte Paket umfasst auch Verpflichtungen für KI-Systeme, die als „hohes Risiko“ eingestuft werden, weil sie „erhebliche potenzielle Schäden an Gesundheit, Sicherheit, Grundrechten, Umwelt, Demokratie und Rechtsstaatlichkeit“ aufweisen.
„Den Abgeordneten ist es gelungen, neben anderen Anforderungen auch eine verbindliche Folgenabschätzung für die Grundrechte einzuführen, die auch für den Versicherungs- und Bankensektor gilt. Auch KI-Systeme, die zur Beeinflussung des Wahlergebnisses und des Wählerverhaltens eingesetzt werden, werden als hochriskant eingestuft“, schrieb das Parlament. „Bürger werden das Recht haben, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf KI-Systemen mit hohem Risiko basieren und sich auf ihre Rechte auswirken.“
Es gab auch Einigkeit über ein „zweistufiges“ System von Leitplanken, das auf „allgemeine“ KI-Systeme angewendet werden soll, wie etwa die sogenannten Basismodelle, die den viralen Boom generativer KI-Anwendungen wie ChatGPT untermauern.
Wie wir bereits berichtet haben, enthält die Einigung über grundlegende Modelle/Allzweck-KIs (GPAIs) einige Transparenzanforderungen für das, was die Mitgesetzgeber als „Low-Tier“-KIs bezeichnet haben – was bedeutet, dass Modellhersteller technische Dokumentationen erstellen und detaillierte erstellen (und veröffentlichen) müssen Zusammenfassungen der für die Schulung verwendeten Inhalte, um die Einhaltung des EU-Urheberrechts zu unterstützen.
Für „High-Impact“-GPAIs (definiert als die kumulative Rechenmenge, die für ihr Training verwendet wird, gemessen in Gleitkommaoperationen, ist größer als 10^25) mit sogenanntem „systemischem Risiko“ gelten strengere Verpflichtungen.
„Wenn diese Modelle bestimmte Kriterien erfüllen, müssen sie Modellbewertungen durchführen, systemische Risiken bewerten und mindern, kontradiktorische Tests durchführen, der Kommission schwerwiegende Vorfälle melden, die Cybersicherheit gewährleisten und über ihre Energieeffizienz Bericht erstatten“, schrieb das Parlament. „Die Abgeordneten bestanden außerdem darauf, dass sich GPAIs mit systemischem Risiko bis zur Veröffentlichung harmonisierter EU-Standards auf Verhaltenskodizes stützen können, um die Verordnung einzuhalten.“
Die Kommission arbeitet seit einigen Monaten mit der Industrie an einem Notlösungs-KI-Pakt – und hat heute bestätigt, dass damit die Praxislücke bis zum Inkrafttreten des KI-Gesetzes geschlossen werden soll.
Während Basismodelle/GPAIs, die kommerzialisiert wurden, der Regulierung durch das Gesetz unterliegen, soll Forschung und Entwicklung nicht in den Geltungsbereich des Gesetzes fallen – und vollständig Open-Source-Modelle werden gemäß den heutigen Verlautbarungen geringere regulatorische Anforderungen haben als Closed-Source-Modelle.
Das vereinbarte Paket fördert außerdem die Einrichtung regulatorischer Sandboxen und realer Tests durch nationale Behörden, um Start-ups und KMU bei der Entwicklung und Schulung von KIs vor deren Markteinführung zu unterstützen.
Strafen bei Nichteinhaltung können je nach Verstoß und Größe des Unternehmens zu Bußgeldern zwischen 35 Millionen Euro oder 7 % des weltweiten Umsatzes und 7,5 Millionen Euro oder 1,5 % des Umsatzes führen.
Die heute vereinbarte Vereinbarung sieht auch ein schrittweises Inkrafttreten nach der Verabschiedung des Gesetzes vor – mit einer Frist von sechs Monaten, bis die Regeln für verbotene Anwendungsfälle in Kraft treten; 12 Monate für Transparenz- und Governance-Anforderungen; und 24 Monate für alle anderen Anforderungen. Daher wird die volle Wirksamkeit des EU-KI-Gesetzes möglicherweise erst im Jahr 2026 spürbar sein.
Carme Artigas, Spaniens Staatssekretärin für digitale und KI-Fragen, die die Ratsverhandlungen zum KI-Dossier leitete, während das Land seit dem Sommer die rotierende Ratspräsidentschaft innehat, begrüßte die Einigung zu dem heftig umstrittenen Dossier als „den größten Meilenstein in der …“. Geschichte der digitalen Information in Europa“; sowohl für den digitalen Binnenmarkt des Blocks – aber auch, wie sie vorschlug, „für die Welt“.
„Wir haben die erste internationale Offenbarung und künstliche Intelligenz der Welt erreicht“, verkündete sie während einer Pressekonferenz nach Mitternacht, in der sie die Vereinbarung bestätigte, und fügte hinzu: „Wir sind sehr stolz.“
Das Gesetz werde europäische Entwickler, Startups und zukünftige Scale-Ups unterstützen, indem es ihnen „Rechtssicherheit mit technischer Sicherheit“ gebe, prognostizierte sie.
Im Namen des Europäischen Parlaments sagten die Ko-Berichterstatter Dragoș Tudorache und Brando Benifei, ihr Ziel sei es gewesen, eine KI-Gesetzgebung zu erlassen, die sicherstellen würde, dass sich das Ökosystem mit einem „menschenzentrierten Ansatz“ entwickelt, der die Grundrechte und europäischen Werte respektiert. Ihre Einschätzung des Ergebnisses war ebenso optimistisch – sie nannten die Aufnahme eines völligen Verbots des Einsatzes von KI für die prädiktive Polizeiarbeit und die biometrische Kategorisierung in den vereinbarten Text als große Erfolge.
„Endlich haben wir den richtigen Weg eingeschlagen und die Grundrechte angesichts der Notwendigkeit verteidigt, die es für unsere Demokratien gibt, solche unglaublichen Veränderungen zu ertragen“, sagte Benifei. „Wir sind die ersten auf der Welt, die über eine horizontale Gesetzgebung verfügen, die diese Ausrichtung auf die Grundrechte hat, die die Entwicklung der KI auf unserem Kontinent unterstützt und mit den leistungsfähigsten Modellen an der Grenze der künstlichen Intelligenz auf dem neuesten Stand ist.“ unter klarer Verpflichtung. Ich denke also, dass wir geliefert haben.“
„Wir wurden immer gefragt, ob es in diesem Text genügend Schutz gibt, ob es genug Anreize für Innovationen gibt, und ich kann sagen, dieses Gleichgewicht ist da“, fügte Tudorache hinzu. „Wir haben Schutzmaßnahmen, wir haben alle Bestimmungen, die wir brauchen, die Wiedergutmachung, die wir brauchen, um unseren Bürgern Vertrauen in die Interaktion mit KI zu geben, in die Produkte und Dienstleistungen, mit denen sie von nun an interagieren werden.“
„Wir müssen diesen Plan jetzt nutzen, um globale Konvergenz anzustreben, denn dies ist eine globale Herausforderung für alle.“ Und ich denke, dass wir trotz der Arbeit, die wir geleistet haben, so schwierig sie auch war – und es war schwierig, nach allen Maßstäben, wenn man alle bisherigen Präzedenzfälle betrachtet – eine Marathon-Verhandlung war – aber ich denke, wir haben geliefert.“
Auch der EU-Binnenmarktkommissar Thierry Breton mischte sich mit seinen zwei Euro-Cents ein und bezeichnete die Einigung kurz vor Mitternacht Brüsseler Zeit als „historisch“. „Es ist ein Gesamtpaket. Es ist ein kompletter Deal. Und deshalb haben wir so viel Zeit verbracht“, erklärte er. „Hier geht es darum, Benutzersicherheit und Innovation für Startups in Einklang zu bringen und gleichzeitig … unsere Grundrechte und unsere europäischen Werte zu respektieren.“
Auch wenn sich die EU heute Abend sichtlich selbst die Schulter klopft, weil sie eine Einigung über „weltweit erste“ KI-Regeln erzielt hat, ist der Weg für den Gesetzgebungsprozess des Blocks noch nicht ganz zu Ende, da noch einige formelle Schritte zu gehen sind – nicht zuletzt die Der endgültige Text muss im Parlament und im Rat verabschiedet werden. Doch wenn man bedenkt, wie groß die Meinungsverschiedenheiten und Meinungsverschiedenheiten darüber sind, wie (oder ob) KI reguliert werden soll, ist klar, dass die größten Hindernisse beseitigt wurden und der Weg zur Verabschiedung des EU-KI-Gesetzes in den kommenden Monaten klar ist.
Die Kommission strahlt durchaus Vertrauen aus. Laut Breton beginnen die Arbeiten zur Umsetzung des Abkommens sofort mit der Einrichtung eines KI-Büros innerhalb der EU-Exekutive, dessen Aufgabe die Koordinierung mit den Aufsichtsbehörden der Mitgliedstaaten sein wird, die die Regeln für KI-Unternehmen durchsetzen müssen. „Wir werden viele neue Kollegen willkommen heißen“, sagte er. „Also werden wir ab morgen daran arbeiten, uns vorzubereiten.“