Der bahnbrechende Gesetzesentwurf enthält Dinge, die völlig verboten sind, und macht es für Unternehmen wie den ChatGPT-Hersteller OpenAI zur Pflicht, die für das Training verwendeten Daten offenzulegen KIDas Europäische Parlament hat den Entwurf mit überwältigender Mehrheit angenommen: mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungen.
Es ist zu beachten, dass die endgültige Fassung des KI-Gesetzes, mit dem ein globaler Standard für die Technologie festgelegt werden soll, die in automatisierten Fabriken für KI-Chatbots und selbstfahrende Autos verwendet wird, möglicherweise erst später in diesem Jahr verabschiedet wird. „Am Mittwoch wird der Das Europäische Parlament hat seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI) mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungen angenommen, bevor mit den EU-Mitgliedstaaten über die endgültige Ausgestaltung des Gesetzes verhandelt wird“, heißt es in einer Erklärung des Europäischen Parlaments.
„Die Regeln würden sicherstellen, dass die in Europa entwickelte und genutzte KI vollständig im Einklang mit den Rechten und Werten der EU steht, einschließlich menschlicher Aufsicht, Sicherheit, Privatsphäre, Transparenz, Nichtdiskriminierung sowie sozialem und ökologischem Wohlergehen“, fügte sie hinzu.
AI Act: Verbotene Praktiken
Die Regeln folgen einem risikobasierten Ansatz und legen Verpflichtungen für diejenigen fest, die KI-Systeme einsetzen. Diese Verpflichtungen hängen von der Höhe des Risikos ab, das die KI erzeugen kann.
Das bedeutet, dass jene KI-Systeme verboten würden, die ein inakzeptables Maß an Risiko für die Sicherheit von Menschen darstellen, wie etwa solche, die für das Social Scoring (Klassifizierung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) verwendet werden.
„Echtzeit“- und „postbasierte“ biometrische Fernidentifizierungssysteme in öffentlich zugänglichen Räumen sowie biometrische Kategorisierungssysteme, die sensible Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaftsstatus, Religion, politische Orientierung) verwenden, werden nach dem kommenden Gesetz verboten.
Prädiktive Polizeisysteme (basierend auf Profilerstellung, Standort oder früherem kriminellem Verhalten) und Emotionserkennungssysteme in der Strafverfolgung, im Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen werden ebenfalls verboten.
Schließlich wird auch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken, das im Wesentlichen gegen die Menschenrechte und das Recht auf Privatsphäre verstößt, nicht erlaubt sein.
KI-Systeme, die einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt von Menschen darstellen, werden als Hochrisikoanwendungen eingestuft. Der europäische Gesetzgeber hat außerdem KI-Systeme zur Beeinflussung von Wählern und Wahlergebnissen sowie Empfehlungssysteme, die von Social-Media-Plattformen verwendet werden, auf die Hochrisikoliste gesetzt.
Was KI-Unternehmen tun müssen
Unternehmen wie Google, OpenAI, Microsoft und andere müssen mögliche Risiken (für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit) bewerten und mindern und ihre Modelle vor ihrer Veröffentlichung in der EU in der EU-Datenbank registrieren Markt.
Generative KI-Systeme, die auf solchen Modellen basieren, wie ChatGPT, müssten Transparenzanforderungen erfüllen, zu denen die Offenlegung gehört, dass der Inhalt KI-generiert wurde, und auch dabei helfen, „deep fake“ Bilder von echten zu unterscheiden.
Unternehmen müssen außerdem Schutzmaßnahmen gegen die Generierung illegaler Inhalte gewährleisten und Zusammenfassungen der für ihre Schulungen verwendeten urheberrechtlich geschützten Daten müssten ebenfalls öffentlich zugänglich gemacht werden.
Was ist erlaubt
Der Gesetzgeber sagte, dass es einige Ausnahmen gebe, um die KI-Innovation anzukurbeln und kleine und mittlere Unternehmen (KMU) zu unterstützen.
Das neue Gesetz wird regulatorische Sandboxen oder reale Umgebungen fördern, die von Behörden eingerichtet werden, um KI vor ihrem Einsatz zu testen. Die Verordnungen geben den Bürgern auch die Befugnis, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf KI-Systemen mit hohem Risiko basieren.