Eine vom Vereinigten Königreich im Juni zur Vorbereitung des diese Woche stattfindenden KI-Sicherheitsgipfels eingerichtete Frontier-KI-Taskforce wird auf dem Weg zu einer festen Einrichtung, da das Vereinigte Königreich künftig eine Führungsrolle in der KI-Politik übernehmen möchte. Der britische Premierminister Rishi Sunak gab heute offiziell die Gründung des AI Safety Institute bekannt, eines „globalen Zentrums mit Sitz im Vereinigten Königreich, dessen Aufgabe darin besteht, die Sicherheit neuer Arten von KI zu testen“.
Das Institut wurde letzte Woche im Vorfeld des Gipfels dieser Woche informell bekannt gegeben. Jetzt hat die Regierung bestätigt, dass sie von Ian Hogarth geleitet wird – einem Investor, Gründer und Ingenieur, der auch Vorsitzender der Taskforce war – und dass Yoshuo Bengio, einer der prominentesten Köpfe auf dem Gebiet der KI, die Führung übernehmen wird die Erstellung seines ersten Berichts.
Es ist nicht klar, wie viel Geld die Regierung dem AI Safety Institute zukommen lassen wird oder ob von den Branchenakteuren erwartet wird, dass sie einen Teil der Rechnung bezahlen. Das Institut, das dem Ministerium für Wissenschaft, Innovation und Technologie unterstellt sein wird, wird als „von führenden KI-Unternehmen unterstützt“ beschrieben, obwohl sich dies möglicherweise eher auf Unterstützung als auf finanzielle Unterstützung bezieht. Wir haben uns mit der Anfrage an das DSIT gewandt und werden es aktualisieren, sobald wir mehr erfahren.
Die Nachricht geht einher mit der gestrigen Ankündigung einer neuen Vereinbarung, der Bletchley-Erklärung, die von allen Ländern, die am Gipfel teilgenommen haben, unterzeichnet wurde und sie zu gemeinsamen Tests und anderen Verpflichtungen zur Bewertung der Risiken von „Grenz-KI“-Technologien verpflichtet Beispiel große Sprachmodelle.
„Bisher waren die einzigen Leute, die die Sicherheit neuer KI-Modelle testeten, die Unternehmen, die sie entwickelten“, sagte Sunak heute Abend bei einem Treffen mit Journalisten. Unter Berufung auf die Arbeit, die auch andere Länder, die UN und die G7 zur Bekämpfung der KI leisten, soll es nun darum gehen, „gemeinsam daran zu arbeiten, die Sicherheit neuer KI-Modelle zu testen, bevor sie veröffentlicht werden“.
Allerdings steckt das alles noch in den Kinderschuhen. Das Vereinigte Königreich hat sich bisher geweigert, Überlegungen zur Regulierung von KI-Technologien sowohl auf Plattformebene als auch auf spezifischeren Anwendungsebenen anzustellen, und einige glauben, dass die Vorstellungen von Sicherheit und Risikoquantifizierung bedeutungslos sind, wenn es keine Zähne gibt.
Sunak argumentierte, dass es für eine Regulierung noch zu früh sei.
„Die Technologie entwickelt sich in einem solchen Tempo, dass die Regierungen sicherstellen müssen, dass wir mithalten können“, antwortete Sunak auf den Vorwurf, er sei bei der Gesetzgebung zu zurückhaltend, während er sich zu sehr auf große Ideen konzentriert. „Bevor Sie anfangen, Dinge vorzuschreiben und Gesetze zu erlassen, müssen Sie genau wissen, wofür Sie Gesetze erlassen.“
Während Transparenz ein ganz klares Ziel vieler langfristiger Bemühungen rund um diese schöne neue Welt der Technologie zu sein scheint, waren die heutigen Treffen in Bletchley, dem zweiten Tag des Gipfels, sehr weit von diesem Ethos entfernt.
Neben bilateralen Sitzungen mit EU-Kommissionspräsidentin Ursula von der Leyen und dem Generalsekretär der Vereinten Nationen António Guterres standen heute zwei Plenarsitzungen im Mittelpunkt des Gipfels. Zu den Teilnehmern gehörten die CEOs von DeepMind, OpenAI, Antrhopic, InflectionAI, Salesforce und Mistral sowie der Präsident von Microsoft und der Leiter von AWS. Zu den Regierungsvertretern gehörten Sunak und US-Vizepräsidentin Kamala Harris sowie die Italienerin Giorgia Meloni und der französische Finanzminister Bruno Le Maire.
Bemerkenswert ist, dass China, obwohl es am ersten Tag ein vielgepriesener Gast war, bei den nichtöffentlichen Plenarsitzungen am zweiten Tag nicht auftauchte.
Bei den heutigen Sitzungen schien auch Elon Musk, der Besitzer von X.ai (früher bekannt als Twitter), abwesend zu sein. Sunak wird heute Abend auf Musks sozialer Plattform ein Kamingespräch mit ihm führen. Interessanterweise wird es sich voraussichtlich nicht um eine Live-Übertragung handeln.