Die Europäische Union hat einen Plan angekündigt, den Zugang zu ihren Hochleistungsrechnern (HPC) zu erweitern, indem Start-ups die Ressource zum Trainieren von KI-Modellen nutzen dürfen. Allerdings gibt es einen Haken: Startups, die Zugang zu den Hochleistungsrechenressourcen der EU erhalten möchten – zu denen derzeit Supercomputer im Prä-Exa- und Peta-Maßstab gehören – müssen sich am Programm des Blocks zur KI-Governance beteiligen.
Bereits im Mai kündigte die EU einen Plan für ein Überbrückungspaket freiwilliger Regeln oder Standards an, das auf die Industrie abzielt, die KI entwickelt und anwendet, während gleichzeitig an formellen Vorschriften gearbeitet wird. Ziel der Initiative sei es, Unternehmen auf die Umsetzung formeller KI-Regeln vorzubereiten ein paar Jahre Zeit.
Der Block hat auch das KI-Gesetz in Arbeit: ein risikobasierter Rahmen zur Regulierung von KI-Anwendungen, der noch von den EU-Gesetzgebern verhandelt wird, dessen Verabschiedung jedoch in naher Zukunft erwartet wird. Darüber hinaus hat es Anstrengungen unternommen, mit den USA und anderen internationalen Partnern an einem KI-Verhaltenskodex zusammenzuarbeiten, um internationale Gesetzeslücken zu schließen, während verschiedene Länder an ihren eigenen KI-Governance-Systemen arbeiten.
Aber die KI-Governance-Strategie der EU beinhaltet auch einige Zuckerbrote – in Form des Zugangs zu Hochleistungsrechnern für „verantwortungsvolle“ KI-Startups.
Ein Sprecher der Kommission bestätigte, dass der auf Startups ausgerichtete Plan darauf abzielt, auf der bestehenden Politik aufzubauen, die der Industrie bereits den Zugang zu den Supercomputern ermöglicht (über a EuroHPC-Zugangsaufrufe für den Vorschlagsprozess) – mit „eine neue Initiative zur Erleichterung und Unterstützung des Zugangs zu europäischen Supercomputerkapazitäten für ethische und verantwortungsvolle KI-Start-ups.“
Die Initiative „HPC-Zugang für KI-Startups“ wurde heute von EU-Präsidentin Ursula von der Leyen während ihrer jährlichen Rede zur Lage der Union angekündigt.
Warnung vor Aussterbegefahr
Während der Rede nahm sich der EU-Präsident auch etwas Zeit, um auf Bedenken hinzuweisen, die von bestimmten Teilen der Technologiebranche geäußert wurden, dass KI ein vom Aussterben bedrohtes Risiko für die Menschheit darstellt – und warnte, dass sich die Technologie „schneller entwickelt, als selbst ihre Entwickler erwartet haben“; und das als Ausgangspunkt nutzen, um zu argumentieren: „Wir haben immer weniger Möglichkeiten, diese Technologie verantwortungsvoll zu steuern.“
„[AI] wird die Gesundheitsversorgung verbessern, die Produktivität steigern und den Klimawandel bekämpfen. Aber wir sollten auch die sehr realen Bedrohungen nicht unterschätzen“, schlug sie vor. „Hunderte führende KI-Entwickler, Akademiker und Experten haben kürzlich mit folgenden Worten gewarnt – und ich zitiere: „Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“
Anschließend förderte sie die Bemühungen der EU, umfassende Rechtsvorschriften zur KI-Governance zu verabschieden brachte die Idee ins Spiel, ein „ähnliches Gremium“ zu gründen IPCC um politische Entscheidungsträger weltweit mit Recherchen und Briefings zu den neuesten wissenschaftlichen Erkenntnissen zu unterstützen Risiken, die mit KI verbunden sind – vermutlich unter der Annahme der oben genannten existenziellen Bedenken.
„Ich glaube, dass Europa gemeinsam mit seinen Partnern eine Vorreiterrolle bei einem neuen globalen Rahmen für KI übernehmen sollte, der auf drei Säulen aufbaut: Leitplanken, Governance und Lenkung von Innovationen“, sagte sie und bekräftigte: „Unser KI-Gesetz ist bereits eine Blaupause für das Ganze.“ Welt. Wir müssen uns jetzt darauf konzentrieren, die Regeln so schnell wie möglich zu verabschieden und uns der Umsetzung zuzuwenden.“
Sie ging auf die umfassendere Strategie der EU für die KI-Governance ein und schlug vor: „[W]Wir sollten auch mit unseren Partnern zusammenarbeiten, um einen globalen Ansatz zum Verständnis der Auswirkungen von KI auf unsere Gesellschaften sicherzustellen. Denken Sie an den unschätzbaren Beitrag des IPCC zum Klima, einem globalen Gremium, das politischen Entscheidungsträgern die neuesten wissenschaftlichen Erkenntnisse liefert.
„Ich glaube, wir brauchen ein ähnliches Gremium für KI – zu den Risiken und ihren Vorteilen für die Menschheit. Mit Wissenschaftlern, Technologieunternehmen und unabhängigen Experten am Tisch. Dies wird es uns ermöglichen, eine schnelle und global koordinierte Reaktion zu entwickeln – aufbauend auf der Arbeit der [G7] Hiroshima-Prozess und andere.“
Von der Leyens Berufung auf (mögliche) existenzielle KI-Risiken erscheint bemerkenswert, da der Fokus der EU auf die KI-Sicherheit bisher darauf gerichtet war, darüber nachzudenken, wie weniger theoretische Risiken, die sich aus der Automatisierung ergeben, wie etwa im Zusammenhang mit der physischen Sicherheit, verringert werden können; Probleme mit Voreingenommenheit, Diskriminierung und Desinformation; Haftungsfragen usw.
In London ansässiges KI-Sicherheits-Startup, Vermutunggehörte zu denjenigen, die die hochrangige Intervention zum existenziellen KI-Risiko begrüßten.
„Es ist schön zu sehen, dass Kommissionspräsidentin Ursula von der Leyen heute anerkannt hat, dass KI eine Gefahr des Aussterbens darstellt, wie selbst die CEOs der Unternehmen, die die größten KI-Modelle entwickeln, zugegeben haben“, sagte Andrea Miotti, Leiterin für Strategie und Governance. sagte Tech.
„Bei diesen Einsätzen kann der Fokus nicht darauf liegen, Regionen gegeneinander auszuspielen, um etwas ‚Wettbewerbsfähigkeit‘ zu erlangen; Es geht darum, die Verbreitung zu stoppen und die Kurve der Fähigkeitszuwächse abzuflachen.“
EU drängt auf „verantwortungsvolle“ KI
In Bezug auf die dritte Säule – die Lenkung von Innovationen – erläuterte von der Leyen in ihrer Ansprache den Plan, den Zugang zu den HPC-Supercomputern des Blocks auf KI-Startups für die Modellschulung auszuweiten, und sagte, dass weitere Lenkungsbemühungen folgen würden.
Derzeit hat die EU acht Supercomputer die rund um den Block verteilt sind, oft in Forschungseinrichtungen – darunter Lumi, ein HPC-Supercomputer aus der Zeit vor Exascale in Finnland; MareNostrum 5, ein in Spanien gehosteter Vor-Exa-Supercomputer; und Leonardo, ein dritter Vor-Exa-Supercomputer mit Standort in Italien – mit zwei (noch leistungsstärkeren) Exa-Supercomputern, die in Zukunft in Betrieb gehen sollen (auch bekannt als Jupiter in Deutschland und Jules Verne in Frankreich).
„Dank unserer Investitionen in den letzten Jahren ist Europa mittlerweile führend im Supercomputing – mit drei der fünf leistungsstärksten Supercomputer der Welt“, bemerkte sie. „Wir müssen daraus Kapital schlagen. Aus diesem Grund kann ich heute eine neue Initiative ankündigen, die darauf abzielt, unsere Hochleistungscomputer für KI-Start-ups zum Trainieren ihrer Modelle zu öffnen. Dies wird jedoch nur ein Teil unserer Arbeit zur Steuerung von Innovationen sein. Wir brauchen einen offenen Dialog mit denen, die KI entwickeln und einsetzen. Dies geschieht in den Vereinigten Staaten, wo sieben große Technologieunternehmen bereits freiwilligen Regeln für Sicherheit und Vertrauen zugestimmt haben.
„Das passiert hier, wo wir mit KI-Unternehmen zusammenarbeiten, damit sie sich freiwillig zu den Grundsätzen des KI-Gesetzes verpflichten, bevor es in Kraft tritt. Jetzt sollten wir all diese Arbeit bündeln, um globale Mindeststandards für den sicheren und ethischen Einsatz von KI zu erreichen.“
Wissenschaftliche Institute, Industrie und öffentliche Verwaltung haben über die oben genannten Ausschreibungen bereits Zugang zu EuroHPC-Supercomputern Zugangsrichtlinien Prozess – der von ihnen verlangt, ihren Bedarf (und ihre Nutzungskapazität) „extrem großer Zuteilungen in Bezug auf Rechenzeit, Datenspeicherung und Supportressourcen“ zu beantragen und zu begründen, so der Sprecher der Kommission.
Aber er sagte das EuroHPC JU [joint undertaking] Die Zugangspolitik werde „mit dem Ziel verfeinert, einen dedizierten und schnelleren Zugangsweg für KMU und KI-Start-ups zu schaffen“.
„Das für Horizon verwendete ethische Kriterium [research] Projekte werden bereits genutzt, um den Zugang zu EPC-Supercomputern zu evaluieren. In die gleiche Richtung, „Dies kann ein Kriterium für Ausschreibungen für Kandidaten sein, die einen HPC-Zugang im Rahmen eines KI-Programms nutzen möchten“, fügte der Sprecher hinzu.
Kritik an der Ankündigung von der Leyens in einem Blogeintrag Auf LinkedIn schrieb auch Thierry Breton, EU-Binnenmarktkommissar: „[W]Wir werden die EU-KI-Start-up-Initiative starten und dabei einen der größten Vermögenswerte Europas nutzen: seine öffentliche Hochleistungsrechner-Infrastruktur. Wir werden die vielversprechendsten europäischen Start-ups im Bereich KI identifizieren und ihnen Zugang zu unserer Supercomputing-Kapazität gewähren.“
„Der Zugang zur europäischen Supercomputing-Infrastruktur wird Start-ups dabei helfen, die Schulungszeit für ihre neuesten KI-Modelle von Monaten oder Jahren auf Tage oder Wochen zu verkürzen. Und es wird ihnen dabei helfen, die Entwicklung und Ausweitung der KI verantwortungsvoll und im Einklang mit europäischen Werten voranzutreiben“, schlug Breton vor und fügte hinzu, dass die neue Initiative darauf abzielen würde, auf umfassenderen Bemühungen der Kommission zur Förderung von KI-Innovationen aufzubauen – wie beispielsweise dem Start im Januar von Test- und Experimentiereinrichtungen für KI; und sein Fokus auf die Entwicklung Digitale Innovationszentren. Er wies auch darauf hin die Entwicklung von regulatorische Sandboxen im Rahmen des kommenden KI-Gesetzes und Bemühungen zur Förderung der KI-Forschung durch das Europäische Partnerschaft für KI, Daten und Robotik und das Forschungsprogramm HorizonEurope.
Wie groß der Wettbewerbsvorteil der EU-Initiative zur Unterstützung ausgewählter Start-ups mit HPC für die Ausbildung von KI-Modellen sein könnte, bleibt abzuwarten. Aber es ist ein klares Bemühen der EU, (nachgefragte) Ressourcen zu nutzen, um „die richtige Art von Innovation“ (d. h. Technologie, die im Einklang mit europäischen Werten steht) zu fördern.
Diskussionsrunde zur KI-Governance
In einer weiteren Ankündigung enthüllt Bretons Blogbeitrag, dass die EU plant, einen bestehenden KI-Talkshop zu starten, um eine integrativere Regierungsführung voranzutreiben.
„Bei der Entwicklung der Governance für KI müssen wir die Beteiligung aller sicherstellen – nicht nur großer Technologiekonzerne, sondern auch Start-ups, Unternehmen, die KI in unseren industriellen Ökosystemen nutzen, Verbrauchern, NGOs, akademischen Experten und politischen Entscheidungsträgern“, schrieb er. „Deshalb werde ich im November die Versammlung der Europäischen KI-Allianz einberufen und alle diese Interessengruppen zusammenbringen.“
Angesichts dieser Ankündigung dürften die jüngsten Bemühungen der britischen Regierung, sich durch die Einberufung eines KI-Gipfels in diesem Herbst als globaler KI-Sicherheitsführer zu positionieren, parallel dazu einen regionalen Wettbewerb auslösen.
Es ist nicht klar, wer am britischen Gipfel teilnehmen wird, aber es gab welche frühe Sorge Die britische Regierung berät nicht so umfassend, wie behauptet wird, wie die Minister die Konferenz planen. Die Initiative erhielt auch schnelle und überschwängliche Unterstützung von KI-Giganten – einschließlich der Zusage eines frühen/vorrangigen Zugangs zu „Frontier“-Modellen für die britische KI-Sicherheitsforschung von Google DeepMind, OpenAI und Anthropic – kurz nach einer Reihe von Treffen zwischen den CEOs der Unternehmen und der britische Premierminister.
Es ist also möglich, Bretons Linie zu lesen, in der es darum geht, „die Beteiligung aller“ an der KI-Governance sicherzustellen – „nicht nur große Technologieunternehmen, sondern auch Start-ups, Unternehmen, die KI in unseren industriellen Ökosystemen nutzen, Verbraucher, NGOs, akademische Experten und politische Entscheidungsträger“. – als Seitenhieb auf den von Big Tech unterstützten Ansatz Großbritanniens. (Allerdings sagte OpenAI-CEO Sam Altman traf sich auch mit von der Leyen im Juni während seiner größeren Europatournee, was ihre plötzliche Aufmerksamkeit für das KI-Risiko „Aussterbensniveau“ erklären könnte.)
Die Europäische KI-Allianz wurde bereits im Jahr 2018 von der Kommission ins Leben gerufen, zunächst als Online-Diskussionsforum, das aber auch eine Reihe persönlicher Treffen und Workshops durchführte, von denen die EU sagt, dass sie bislang Tausende von Interessenträgern zusammengebracht habe Absicht, „einen offenen politischen Dialog über künstliche Intelligenz“ zu etablieren. Dazu gehörte auch die Steuerung der Arbeit der hochrangigen Expertengruppe für KI, die die Politikgestaltung der Kommission bei der Ausarbeitung des KI-Gesetzes mitgestaltete.
„Die KI-Allianz besteht seit 2019. Sie hat sich in den letzten zwei Jahren nicht getroffen, daher hielt Kommissar Breton es für an der Zeit, die Allianz erneut einzuberufen“, sagte uns der Sprecher der Kommission. „Die Versammlung im November wird zu einem wichtigen Zeitpunkt im Verabschiedungsprozess des KI-Gesetzes stattfinden. Der Schwerpunkt wird auf der Umsetzung des KI-Gesetzes und des KI-Pakts sowie auf unseren umfassenderen Bemühungen zur Förderung von Exzellenz und Vertrauen in KI liegen.“