LONDON: europäische Union Der Gesetzgeber wird dem 27-Nationen-Block seine endgültige Zustimmung erteilen künstliche Intelligenz Gesetz am Mittwoch verabschiedet und damit die weltweit führenden Regeln auf den richtigen Weg gebracht, damit sie später in diesem Jahr in Kraft treten können. Die Abgeordneten im Europäischen Parlament sind bereit, fünf Jahre nach ihrem ersten Vorschlag für das Gesetz über künstliche Intelligenz zu stimmen. Der KI-Gesetz Es wird erwartet, dass es als globaler Wegweiser für andere Regierungen dient, die sich mit der Regulierung der sich schnell entwickelnden Technologie auseinandersetzen.
„Das KI-Gesetz hat die Zukunft der KI in eine Richtung gelenkt, in der der Mensch im Mittelpunkt steht, in eine Richtung, in der der Mensch die Kontrolle über die Technologie hat und in der sie – die Technologie – uns dabei hilft, neue Entdeckungen, Wirtschaftswachstum und gesellschaftlichen Fortschritt zu nutzen und menschliches Potenzial freizusetzen.“ „, sagte Dragos Tudorache, ein rumänischer Gesetzgeber, der die Verhandlungen des Parlaments über den Gesetzesentwurf gemeinsam leitete.
Große Technologieunternehmen haben die Notwendigkeit im Allgemeinen unterstützt KI regulieren während sie Lobbyarbeit betreiben, um sicherzustellen, dass alle Regeln zu ihren Gunsten wirken. Sam Altman, CEO von OpenAI, sorgte letztes Jahr für ein wenig Aufsehen, als er vorschlug, dass sich der ChatGPT-Hersteller aus Europa zurückziehen könnte, wenn er das AI-Gesetz nicht einhalten könne – bevor er einen Rückzieher machte und erklärte, dass es keine Pläne für einen Austritt gäbe.
Hier ist ein Blick auf das weltweit erste umfassende KI-Regelwerk:
Wie funktioniert das KI-Gesetz?
Wie viele EU-VorschriftenUrsprünglich sollte das KI-Gesetz als solche dienen Verbrauchersicherheit Gesetzgebung, die einen „risikobasierten Ansatz“ für Produkte oder Dienstleistungen verfolgt, die künstliche Intelligenz nutzen.
Je riskanter eine KI-Anwendung ist, desto genauer wird sie geprüft. Für Systeme mit geringem Risiko, wie Content-Empfehlungssysteme oder Spam-Filter, gelten nur leichte Regeln, wie etwa die Offenlegung, dass sie auf KI basieren. Die EU geht davon aus, dass die meisten KI-Systeme in diese Kategorie fallen werden.
Hochriskante Anwendungen von KI, etwa in medizinischen Geräten oder kritischen Infrastrukturen wie Wasser- oder Stromnetzen, unterliegen strengeren Anforderungen wie der Verwendung hochwertiger Daten und der Bereitstellung klarer Informationen für Benutzer.
Einige KI-Anwendungen sind verboten, weil sie ein inakzeptables Risiko darstellen, etwa Social-Scoring-Systeme, die das Verhalten von Menschen regeln, einige Arten von prädiktiver Polizeiarbeit und Systeme zur Emotionserkennung in Schulen und am Arbeitsplatz.
Zu den weiteren verbotenen Verwendungszwecken gehört das Scannen von Gesichtern durch die Polizei in der Öffentlichkeit mithilfe von KI-gestützten „biometrischen Fernerkennungssystemen“, mit Ausnahme schwerer Verbrechen wie Entführung oder Terrorismus.
Was ist mit generativer KI?
Die ersten Gesetzesentwürfe konzentrierten sich auf KI-Systeme, die eng begrenzte Aufgaben wie das Scannen von Lebensläufen und Bewerbungen ausführen. Der erstaunliche Aufstieg universeller KI-Modelle, beispielhaft dargestellt am ChatGPT von OpenAI, hat die EU-Politiker dazu veranlasst, mitzuhalten.
Sie fügten Bestimmungen für sogenannte generative KI-Modelle hinzu, die Technologie, die KI-Chatbot-Systemen zugrunde liegt und einzigartige und scheinbar lebensechte Antworten, Bilder und mehr erzeugen kann.
Entwickler von Allzweck-KI-Modellen – von europäischen Startups bis hin zu OpenAI und Google – müssen eine detaillierte Zusammenfassung der Texte, Bilder, Videos und anderen Daten im Internet bereitstellen, die zum Trainieren der Systeme verwendet werden, und das EU-Urheberrecht befolgen.
KI-generierte Deepfake-Bilder, Video- oder Audiodateien von bestehenden Personen, Orten oder Ereignissen müssen als künstlich manipuliert gekennzeichnet werden.
Die größten und leistungsstärksten KI-Modelle, die „systemische Risiken“ bergen, werden besonders genau unter die Lupe genommen, darunter GPT4 von OpenAI – das fortschrittlichste System – und Gemini von Google.
Die EU befürchtet, dass diese leistungsstarken KI-Systeme „schwere Unfälle verursachen oder für weitreichende Cyberangriffe missbraucht werden könnten“. Sie befürchten auch, dass generative KI „schädliche Vorurteile“ über viele Anwendungen verbreiten könnte, was viele Menschen beeinträchtigen könnte.
Unternehmen, die diese Systeme bereitstellen, müssen die Risiken bewerten und mindern; Melden Sie alle schwerwiegenden Vorkommnisse, wie z. B. Fehlfunktionen, die zum Tod einer Person oder zu schweren Gesundheits- oder Sachschäden führen. Maßnahmen zur Cybersicherheit ergreifen; und offenlegen, wie viel Energie ihre Modelle verbrauchen.
Beeinflussen Europas Regeln den Rest der Welt?
Brüssel schlug erstmals 2019 KI-Regulierungen vor und übernahm damit eine bekannte globale Rolle bei der Verschärfung der Kontrolle aufstrebender Industrien, während andere Regierungen sich bemühen, mitzuhalten.
In den USA unterzeichnete Präsident Joe Biden im Oktober eine umfassende Durchführungsverordnung zu KI, die voraussichtlich durch Gesetze und globale Vereinbarungen untermauert wird. Mittlerweile arbeiten Gesetzgeber in mindestens sieben US-Bundesstaaten an einer eigenen KI-Gesetzgebung.
Der chinesische Präsident Xi Jinping hat seine Global AI Governance Initiative vorgeschlagen, und die Behörden haben „vorläufige Maßnahmen“ für die Verwaltung generativer KI erlassen, die für Texte, Bilder, Audio-, Video- und andere Inhalte gelten, die für Menschen in China generiert werden.
Andere Länder, von Brasilien bis Japan, sowie globale Gruppierungen wie die Vereinten Nationen und die Gruppe der Sieben Industrienationen sind dabei, KI-Leitplanken aufzustellen.
Was passiert als nächstes?
Es wird erwartet, dass das KI-Gesetz nach einigen letzten Formalitäten, einschließlich der Zustimmung der EU-Mitgliedsländer, im Mai oder Juni offiziell in Kraft tritt. Die Bestimmungen werden schrittweise in Kraft treten, wobei die Länder verpflichtet sind, verbotene KI-Systeme sechs Monate nach Aufnahme der Regeln in die Gesetzesbücher zu verbieten.
Regeln für Allzweck-KI-Systeme wie Chatbots werden ein Jahr nach Inkrafttreten des Gesetzes in Kraft treten. Bis Mitte 2026 soll das komplette Regelwerk inklusive Anforderungen an Hochrisikosysteme in Kraft treten.
Was die Durchsetzung betrifft, wird jedes EU-Land seine eigene KI-Überwachungsbehörde einrichten, bei der Bürger eine Beschwerde einreichen können, wenn sie glauben, Opfer eines Verstoßes gegen die Regeln geworden zu sein. In der Zwischenzeit wird Brüssel ein KI-Büro einrichten, das mit der Durchsetzung und Überwachung der Gesetze für allgemeine KI-Systeme beauftragt ist.
Verstöße gegen das KI-Gesetz können Geldstrafen von bis zu 35 Millionen Euro (38 Millionen US-Dollar) oder 7 % des weltweiten Umsatzes eines Unternehmens nach sich ziehen.
„Das KI-Gesetz hat die Zukunft der KI in eine Richtung gelenkt, in der der Mensch im Mittelpunkt steht, in eine Richtung, in der der Mensch die Kontrolle über die Technologie hat und in der sie – die Technologie – uns dabei hilft, neue Entdeckungen, Wirtschaftswachstum und gesellschaftlichen Fortschritt zu nutzen und menschliches Potenzial freizusetzen.“ „, sagte Dragos Tudorache, ein rumänischer Gesetzgeber, der die Verhandlungen des Parlaments über den Gesetzesentwurf gemeinsam leitete.
Große Technologieunternehmen haben die Notwendigkeit im Allgemeinen unterstützt KI regulieren während sie Lobbyarbeit betreiben, um sicherzustellen, dass alle Regeln zu ihren Gunsten wirken. Sam Altman, CEO von OpenAI, sorgte letztes Jahr für ein wenig Aufsehen, als er vorschlug, dass sich der ChatGPT-Hersteller aus Europa zurückziehen könnte, wenn er das AI-Gesetz nicht einhalten könne – bevor er einen Rückzieher machte und erklärte, dass es keine Pläne für einen Austritt gäbe.
Hier ist ein Blick auf das weltweit erste umfassende KI-Regelwerk:
Wie funktioniert das KI-Gesetz?
Wie viele EU-VorschriftenUrsprünglich sollte das KI-Gesetz als solche dienen Verbrauchersicherheit Gesetzgebung, die einen „risikobasierten Ansatz“ für Produkte oder Dienstleistungen verfolgt, die künstliche Intelligenz nutzen.
Je riskanter eine KI-Anwendung ist, desto genauer wird sie geprüft. Für Systeme mit geringem Risiko, wie Content-Empfehlungssysteme oder Spam-Filter, gelten nur leichte Regeln, wie etwa die Offenlegung, dass sie auf KI basieren. Die EU geht davon aus, dass die meisten KI-Systeme in diese Kategorie fallen werden.
Hochriskante Anwendungen von KI, etwa in medizinischen Geräten oder kritischen Infrastrukturen wie Wasser- oder Stromnetzen, unterliegen strengeren Anforderungen wie der Verwendung hochwertiger Daten und der Bereitstellung klarer Informationen für Benutzer.
Einige KI-Anwendungen sind verboten, weil sie ein inakzeptables Risiko darstellen, etwa Social-Scoring-Systeme, die das Verhalten von Menschen regeln, einige Arten von prädiktiver Polizeiarbeit und Systeme zur Emotionserkennung in Schulen und am Arbeitsplatz.
Zu den weiteren verbotenen Verwendungszwecken gehört das Scannen von Gesichtern durch die Polizei in der Öffentlichkeit mithilfe von KI-gestützten „biometrischen Fernerkennungssystemen“, mit Ausnahme schwerer Verbrechen wie Entführung oder Terrorismus.
Was ist mit generativer KI?
Die ersten Gesetzesentwürfe konzentrierten sich auf KI-Systeme, die eng begrenzte Aufgaben wie das Scannen von Lebensläufen und Bewerbungen ausführen. Der erstaunliche Aufstieg universeller KI-Modelle, beispielhaft dargestellt am ChatGPT von OpenAI, hat die EU-Politiker dazu veranlasst, mitzuhalten.
Sie fügten Bestimmungen für sogenannte generative KI-Modelle hinzu, die Technologie, die KI-Chatbot-Systemen zugrunde liegt und einzigartige und scheinbar lebensechte Antworten, Bilder und mehr erzeugen kann.
Entwickler von Allzweck-KI-Modellen – von europäischen Startups bis hin zu OpenAI und Google – müssen eine detaillierte Zusammenfassung der Texte, Bilder, Videos und anderen Daten im Internet bereitstellen, die zum Trainieren der Systeme verwendet werden, und das EU-Urheberrecht befolgen.
KI-generierte Deepfake-Bilder, Video- oder Audiodateien von bestehenden Personen, Orten oder Ereignissen müssen als künstlich manipuliert gekennzeichnet werden.
Die größten und leistungsstärksten KI-Modelle, die „systemische Risiken“ bergen, werden besonders genau unter die Lupe genommen, darunter GPT4 von OpenAI – das fortschrittlichste System – und Gemini von Google.
Die EU befürchtet, dass diese leistungsstarken KI-Systeme „schwere Unfälle verursachen oder für weitreichende Cyberangriffe missbraucht werden könnten“. Sie befürchten auch, dass generative KI „schädliche Vorurteile“ über viele Anwendungen verbreiten könnte, was viele Menschen beeinträchtigen könnte.
Unternehmen, die diese Systeme bereitstellen, müssen die Risiken bewerten und mindern; Melden Sie alle schwerwiegenden Vorkommnisse, wie z. B. Fehlfunktionen, die zum Tod einer Person oder zu schweren Gesundheits- oder Sachschäden führen. Maßnahmen zur Cybersicherheit ergreifen; und offenlegen, wie viel Energie ihre Modelle verbrauchen.
Beeinflussen Europas Regeln den Rest der Welt?
Brüssel schlug erstmals 2019 KI-Regulierungen vor und übernahm damit eine bekannte globale Rolle bei der Verschärfung der Kontrolle aufstrebender Industrien, während andere Regierungen sich bemühen, mitzuhalten.
In den USA unterzeichnete Präsident Joe Biden im Oktober eine umfassende Durchführungsverordnung zu KI, die voraussichtlich durch Gesetze und globale Vereinbarungen untermauert wird. Mittlerweile arbeiten Gesetzgeber in mindestens sieben US-Bundesstaaten an einer eigenen KI-Gesetzgebung.
Der chinesische Präsident Xi Jinping hat seine Global AI Governance Initiative vorgeschlagen, und die Behörden haben „vorläufige Maßnahmen“ für die Verwaltung generativer KI erlassen, die für Texte, Bilder, Audio-, Video- und andere Inhalte gelten, die für Menschen in China generiert werden.
Andere Länder, von Brasilien bis Japan, sowie globale Gruppierungen wie die Vereinten Nationen und die Gruppe der Sieben Industrienationen sind dabei, KI-Leitplanken aufzustellen.
Was passiert als nächstes?
Es wird erwartet, dass das KI-Gesetz nach einigen letzten Formalitäten, einschließlich der Zustimmung der EU-Mitgliedsländer, im Mai oder Juni offiziell in Kraft tritt. Die Bestimmungen werden schrittweise in Kraft treten, wobei die Länder verpflichtet sind, verbotene KI-Systeme sechs Monate nach Aufnahme der Regeln in die Gesetzesbücher zu verbieten.
Regeln für Allzweck-KI-Systeme wie Chatbots werden ein Jahr nach Inkrafttreten des Gesetzes in Kraft treten. Bis Mitte 2026 soll das komplette Regelwerk inklusive Anforderungen an Hochrisikosysteme in Kraft treten.
Was die Durchsetzung betrifft, wird jedes EU-Land seine eigene KI-Überwachungsbehörde einrichten, bei der Bürger eine Beschwerde einreichen können, wenn sie glauben, Opfer eines Verstoßes gegen die Regeln geworden zu sein. In der Zwischenzeit wird Brüssel ein KI-Büro einrichten, das mit der Durchsetzung und Überwachung der Gesetze für allgemeine KI-Systeme beauftragt ist.
Verstöße gegen das KI-Gesetz können Geldstrafen von bis zu 35 Millionen Euro (38 Millionen US-Dollar) oder 7 % des weltweiten Umsatzes eines Unternehmens nach sich ziehen.