Die europäischen Regulierungsbehörden stehen an einem Scheideweg darüber, wie KI in der Region reguliert und letztendlich kommerziell und nicht kommerziell genutzt werden soll. Heute ist die größte Verbrauchergruppe der EU, die BEUC, brachte seine eigene Position ein: Hören Sie auf, Ihre Schritte zu schleppen, und „leiten Sie jetzt dringende Untersuchungen zu den Risiken generativer KI ein“, hieß es.
„Generative KI wie ChatGPT hat den Verbrauchern alle möglichen Möglichkeiten eröffnet, es bestehen jedoch ernsthafte Bedenken darüber, wie diese Systeme Menschen täuschen, manipulieren und schädigen könnten. Sie können auch zur Verbreitung von Desinformation, zur Aufrechterhaltung bestehender Vorurteile, die die Diskriminierung verstärken, oder zum Betrug genutzt werden“, sagte Ursula Pachl, stellvertretende Generaldirektorin von BEUC, in einer Erklärung. „Wir fordern die Sicherheits-, Daten- und Verbraucherschutzbehörden auf, jetzt Untersuchungen einzuleiten und nicht untätig zu warten, bis Verbraucherschäden jeglicher Art eingetreten sind, bevor sie Maßnahmen ergreifen.“ Diese Gesetze gelten für alle Produkte und Dienstleistungen, unabhängig davon, ob sie KI-gesteuert sind oder nicht, und die Behörden müssen sie durchsetzen.“
Der BEUC, der Verbraucherorganisationen in 13 Ländern der EU vertritt, veröffentlichte den Aufruf zeitgleich mit einem melde mich heute noch von einem seiner Mitglieder, Forbrukerrådet in Norwegen.
Dieser norwegische Bericht ist in seiner Position eindeutig: KI verursacht Verbraucherschäden (der Titel des Berichts sagt alles: „Geist in der Maschine: Die Verbraucherschäden generativer KI angehen“) und wirft zahlreiche problematische Probleme auf.
Während einige Technologen Alarmglocken läuten, weil KI ein Instrument zur Ausrottung der Menschheit ist, dreht sich die Debatte in Europa eher um die Auswirkungen der KI in Bereichen wie gleichberechtigter Zugang zu Dienstleistungen, Desinformation und Wettbewerb.
Darin wird beispielsweise hervorgehoben, wie „bestimmte KI-Entwickler, darunter Big-Tech-Unternehmen“, Systeme vor externer Kontrolle abgeschottet haben, was es schwierig macht, zu erkennen, wie Daten gesammelt werden oder Algorithmen funktionieren; die Tatsache, dass manche Systeme falsche Informationen genauso unbekümmert produzieren wie korrekte Ergebnisse, wobei die Benutzer oft nicht wissen, um was es sich handelt; KI, die darauf ausgelegt ist, Benutzer irrezuführen oder zu manipulieren; das Bias-Problem basierend auf den Informationen, die in ein bestimmtes KI-Modell eingespeist werden; und Sicherheit, insbesondere wie KI als Waffe eingesetzt werden könnte, um Menschen zu betrügen oder Systeme zu durchbrechen.
Obwohl die Veröffentlichung von OpenAIs ChatGPT die KI und das Potenzial ihrer Reichweite definitiv in das öffentliche Bewusstsein gerückt hat, ist der Fokus der EU auf die Auswirkungen der KI nicht neu. Es heißt, dass bereits im Jahr 2020 Fragen des „Risikos“ diskutiert wurden, obwohl diese anfänglichen Bemühungen als Grundlage für die Stärkung des „Vertrauens“ in die Technologie gedacht waren.
Im Jahr 2021 wurde konkreter von KI-Anwendungen mit „hohem Risiko“ gesprochen, und zwar von einigen 300 Organisationen haben sich zusammengeschlossen Ich möchte mich dafür einsetzen, einige Formen der KI vollständig zu verbieten.
Die Stimmungen sind im Laufe der Zeit immer kritischer geworden, da die EU ihre regionalen Gesetze durchsetzt. In der vergangenen Woche sprach die EU-Wettbewerbschefin Margarethe Vestager insbesondere, wie KI das Risiko einer Voreingenommenheit birgt bei der Anwendung in kritischen Bereichen wie Finanzdienstleistungen wie Hypotheken und anderen Kreditanträgen.
Ihre Kommentare kamen kurz nach der EU hat sein offizielles KI-Gesetz verabschiedet, das KI-Anwendungen vorläufig in Kategorien wie inakzeptables, hohes und begrenztes Risiko einteilt. Wenn dieses Gesetz umgesetzt wird, wird es der weltweit erste Versuch sein, ein gewisses Verständnis und eine rechtliche Durchsetzung darüber zu kodifizieren, wie KI kommerziell und nichtkommerziell genutzt wird.
Der nächste Schritt in diesem Prozess besteht darin, dass die EU mit einzelnen Ländern in der EU zusammenarbeitet, um die endgültige Form des Gesetzes auszuarbeiten – insbesondere um herauszufinden, was (und wer) in seine Kategorien passen würde und was nicht. Die Frage wird sein, wie schnell sich verschiedene Länder einigen können. Die EU wolle diesen Prozess bis Ende dieses Jahres abschließen, hieß es.
„Es ist entscheidend, dass die EU dieses Gesetz so wasserdicht wie möglich macht, um die Verbraucher zu schützen“, sagte Pachl in ihrer Stellungnahme. „Alle KI-Systeme, einschließlich der generativen KI, benötigen eine öffentliche Kontrolle, und die Behörden müssen die Kontrolle über sie wiedererlangen. Der Gesetzgeber muss verlangen, dass die Ergebnisse jedes generativen KI-Systems für Verbraucher sicher, fair und transparent sind.“
Der BEUC ist dafür bekannt, in kritischen Momenten einzugreifen und einflussreiche Entscheidungen zu treffen, die die Richtung widerspiegeln, die die Regulierungsbehörden letztendlich einschlagen. Es war beispielsweise eine frühe Stimme gegen Google in den langfristigen Kartelluntersuchungen gegen den Such- und Mobilfunkgiganten und meldete sich schon Jahre vor Maßnahmen gegen das Unternehmen zu Wort. Dieses Beispiel unterstreicht jedoch noch etwas anderes: Die Debatte über KI und ihre Auswirkungen sowie die Rolle, die die Regulierung dabei spielen könnte, wird wahrscheinlich langwierig sein.