Das Europäische Parlament hat dafür gestimmt, sein Verhandlungsmandat für das KI-Gesetz zu bestätigen – und hat damit einen wichtigen Meilenstein erreicht, der die nächste Phase der Verhandlungen zu einem EU-weiten Regelwerk für künstliche Intelligenz einleitet.
Die Parlamentarier unterstützten eine geänderte Fassung des Kommissionsvorschlags, die das Regelwerk in einer Weise erweitert, die ihrer Meinung nach darauf abzielt, sicherzustellen, dass die in Europa entwickelte und genutzte KI „völlig im Einklang mit den Rechten und Werten der EU steht, einschließlich menschlicher Aufsicht, Sicherheit, Privatsphäre und Transparenz“. , Nichtdiskriminierung und soziales und ökologisches Wohlergehen“.
Zu den von den Abgeordneten unterstützten Änderungen gehört ein vollständiges Verbot der biometrischen Fernüberwachung und der vorausschauenden Polizeiarbeit. Sie haben außerdem ein Verbot des „ungezielten Auslesens von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken“ hinzugefügt – im Grunde also ein striktes Verbot von Clearview AI und dergleichen.
Das vorgeschlagene Verbot der biometrischen Fernüberwachung würde sowohl für Echtzeit- als auch für nachträgliche (nachträgliche) Anwendungen von Technologien wie der Gesichtserkennung gelten, mit Ausnahme im letzteren Fall für die Strafverfolgung zur Verfolgung schwerer Straftaten mit gerichtlicher Genehmigung.
Die Abgeordneten fügten außerdem ein Verbot des Einsatzes emotionaler Erkennungstechnologie durch Strafverfolgungsbehörden, Grenzbehörden, Arbeitsplätze und Bildungseinrichtungen hinzu.
Die Parlamentarier erweiterten außerdem die Klassifizierung von KI-Systemen mit hohem Risiko um solche, die einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sowie um KI-Systeme, die zur Beeinflussung von Wählern und Wahlergebnissen eingesetzt werden.
Auch größere Social-Media-Plattformen, die Algorithmen zur Empfehlung von Inhalten nutzen, wurden von den Abgeordneten auf die Hochrisikoliste gesetzt.
Die Abstimmung im Plenum folgt auf die Unterstützung des Ausschusses für den geänderten Vorschlag im letzten Monat, nachdem Abgeordnete aus verschiedenen Fraktionen überlegt hatten, wie sie den Kommissionstext optimieren wollten, unter anderem durch die Einführung von Verpflichtungen für Hersteller sogenannter Allzweck-KI.
Als Reaktion auf die rasanten Entwicklungen in der generativen KI haben sich die Abgeordneten dafür ausgesprochen, eine Reihe von Verpflichtungen für grundlegende/allgemeine KI-Modelle einzuführen, wie etwa die Technologie, die dem KI-Chatbot ChatGPT von OpenAI zugrunde liegt, und die vorschreibt, dass solche Systeme Risiken erkennen und mindern müssen, bevor sie eingesetzt werden des Marktes sowie die Anwendung von Transparenzoffenlegungen auf KI-generierte Inhalte und die Implementierung von Schutzmaßnahmen gegen die Generierung illegaler Inhalte.
Hersteller von Allzweck-KIs müssen gemäß dem Vorschlag der Abgeordneten außerdem „detaillierte Zusammenfassungen“ urheberrechtlich geschützter Informationen veröffentlichen, die zum Trainieren ihrer Modelle verwendet werden.
Während einer Tour durch europäische Hauptstädte, um sich letzten Monat mit Gesetzgebern zu treffen, äußerte sich OpenAI-CEO Sam Altman kritisch zu diesem Aspekt des EU-Vorschlags. Er deutete an, dass das Unternehmen möglicherweise seine Dienstleistungen in der Region einstellen müsse, wenn es den Verpflichtungen nicht nachkommen könne, und sagte gegenüber Journalisten, er sei zuversichtlich, dass die Verpflichtungen zurückgenommen würden.
Tatsächlich zeigt die heutige Abstimmung im Plenum eine überwältigende Unterstützung der Parlamentarier für die geänderte Fassung des Gesetzesentwurfs – einschließlich der vorgeschlagenen Verpflichtungen für Allzweck-KIs – mit 499 Ja-Stimmen und nur 28 Nein-Stimmen (plus 93 Enthaltungen).
Die Abstimmung über das Mandat bedeutet, dass die Diskussionen zwischen dem Parlament und den Regierungen der EU-Mitgliedstaaten nun beginnen können – der erste Trilog soll heute Abend stattfinden.
In einer Erklärung nach der Abstimmung sagte Co-Berichterstatter Brando Benifei:
Alle Augen sind heute auf uns gerichtet. Während Big-Tech-Unternehmen wegen ihrer eigenen Kreationen Alarm schlagen, hat Europa eine konkrete Antwort auf die Risiken vorgeschlagen, die KI mit sich bringt. Wir wollen, dass das positive Potenzial der KI für Kreativität und Produktivität genutzt wird, aber wir werden auch dafür kämpfen, unsere Position zu schützen und Gefahren für unsere Demokratien und Freiheiten während der Verhandlungen mit dem Rat entgegenzuwirken.
In einer weiteren unterstützenden Erklärung fügte Mitberichterstatter Dragos Tudorache hinzu:
Das KI-Gesetz wird weltweit den Ton bei der Entwicklung und Steuerung der künstlichen Intelligenz angeben und sicherstellen, dass diese Technologie, die unsere Gesellschaften durch die enormen Vorteile, die sie bieten kann, radikal verändern wird, im Einklang mit den europäischen Grundwerten der Demokratie weiterentwickelt und genutzt wird Rechte und Rechtsstaatlichkeit.
Die heute von den Abgeordneten des Europäischen Parlaments unterstützte Version des KI-Gesetzes sieht außerdem Ausnahmen für Forschungsaktivitäten und KI-Komponenten vor, die unter Open-Source-Lizenzen bereitgestellt werden, was nach Ansicht der Abgeordneten die Unterstützung von Innovationen sicherstellen wird – zusammen mit regulatorischen Sandboxen für Testsysteme, die im Rahmen des Rahmenwerks eingerichtet werden sollen.
Der Vorschlag der Abgeordneten fügt außerdem eine Reihe von Verbraucherrechten in Bezug auf KI-Entscheidungen hinzu – einschließlich der Möglichkeit für Verbraucher, kollektive Rechtsbehelfe zu beantragen, wenn ihnen ein KI-System Schaden zugefügt hat.
Die europäische Verbraucherorganisation BEUC begrüßte diese Änderungen, kritisierte jedoch das Parlament dafür, dass es kein vollständiges Verbot des Einsatzes von KIs zur Emotionserkennung befürworte (da der Vorschlag die kommerzielle Nutzung solchen Schlangenöls nicht einschränkt).
Sie ist außerdem der Ansicht, dass die Abgeordneten den Entwicklern zu viel Ermessensspielraum bei der Entscheidung eingeräumt haben, ob ihre Systeme in die Hochrisikokategorie fallen oder nicht, was ihrer Meinung nach die Wirksamkeit des risikobasierten Rahmenwerks untergraben könnte.
Dies könnte sich als ein Streitpunkt während der Triloggespräche erweisen, bei denen es darum geht, einen Kompromiss zwischen der Position des EU-Rats, dem Gremium, das sich aus den Regierungen der Mitgliedstaaten zusammensetzt, und den Gesetzgebern im Parlament zu finden, um die notwendige politische Einigung über einen endgültigen Text zu erzielen Versiegeln Sie die Akte.
Typischerweise vertritt der EU-Rat eine eher industriefreundliche Haltung, während sich das Parlament eher mit den Grundrechten beschäftigt. Es bleibt also abzuwarten, wo sich die beiden Seiten bei der Regulierung der KI in der Mitte treffen werden.
Wenn sie sich nicht einigen können, kann der Gesetzgebungsprozess der EU ins Stocken geraten – oder sogar scheitern. Aber es gibt in Brüssel einen Anstoß, dieses Dossier auf den Weg zu bringen, wenn man bedenkt, wie viel weltweite Aufmerksamkeit mittlerweile auf die Regulierung von KI gerichtet ist. (Mit einem demokratischen Regelwerk für KI der Erste zu sein, bietet dem Block die Möglichkeit, Einfluss über seine Grenzen hinaus auszuüben, während andere Jurisdiktionen darum kämpfen, ihre eigenen Ansätze zur Regulierung eines komplexen Bereichs sich schnell entwickelnder Technologie zu finden.)
Der Rat nahm seinen Standpunkt zu dem Dossier wieder an Im Dezember. Damals waren die Mitgliedstaaten weitgehend dafür, die Maßnahmen gegen Allzweck-KI auf zusätzliche, umsetzende Rechtsvorschriften zu verschieben. Angesichts dessen, was in der Zwischenzeit passiert ist und generative KI-Tools wie ChatGPT in den Mittelpunkt der Diskussion über die Technologie geraten und zahlreiche Forderungen nach Regulierung hervorrufen (auch von vielen Vertretern der Technologiebranche selbst), wird es interessant sein zu sehen, ob die Mitgliedstaaten wird mit den Abgeordneten darin übereinstimmen, dass es notwendig ist, Verpflichtungen für diese Klasse von KI-Systemen in den Text des KI-Gesetzes aufzunehmen.
Die EU-Exekutive legte den ursprünglichen Vorschlag für den risikobasierten Rahmen für KI bereits im April 2021 vor. Während sich dieser erste Textentwurf der Kommission nicht so ausführlich mit dem Thema Allzweck-KI befasste, schlug er Transparenzbestimmungen für Chatbots und Deepfake-Technologie vor. Schon damals vertraten die EU-Gesetzgeber die Auffassung, dass Verbraucher darüber informiert werden sollten, dass sie mit maschinell generierten Inhalten interagieren.
Während die Kommission weiterhin hofft, dass die Triloggespräche zum Dossier zum KI-Gesetz bis Ende dieses Jahres zu einer politischen Einigung führen werden, wird es noch eine Umsetzungsfrist geben – die Gesetzgebung wird also wahrscheinlich nicht vor 2026 in Kraft treten.
Aus diesem Grund arbeitet die EU auch an mehreren freiwilligen Initiativen, die darauf abzielen, KI-Unternehmen in der Zwischenzeit dazu zu drängen, ihre Sicherheit selbst zu regulieren.