Regierungsbeamte und Führungskräfte der KI-Branche einigten sich am Dienstag darauf, in dem schnelllebigen Bereich grundlegende Sicherheitsmaßnahmen anzuwenden und ein internationales Sicherheitsforschungsnetzwerk aufzubauen.
Fast sechs Monate nach dem ersten globalen Gipfel zur KI-Sicherheit im englischen Bletchley Park veranstalten Großbritannien und Südkorea diese Woche den KI-Sicherheitsgipfel in Seoul. Das Treffen unterstreicht die neuen Herausforderungen und Chancen, vor denen die Welt mit dem Aufkommen der KI-Technologie steht.
Das teilte die britische Regierung am Dienstag mit eine neue Vereinbarung zwischen 10 Ländern und der Europäischen Union, um ein internationales Netzwerk ähnlich dem britischen AI Safety Institute aufzubauen, das die weltweit erste öffentlich geförderte Organisation ist, um den Fortschritt der KI-Sicherheitswissenschaft zu beschleunigen. Das Netzwerk wird ein gemeinsames Verständnis der KI-Sicherheit fördern und seine Arbeit an Forschung, Standards und Tests ausrichten. Australien, Kanada, die EU, Frankreich, Deutschland, Italien, Japan, Singapur, Südkorea, das Vereinigte Königreich und die USA haben das Abkommen unterzeichnet.
Am ersten Tag des KI-Gipfels in Seoul trafen sich globale Führungspersönlichkeiten und führende KI-Unternehmen zu einem virtuellen Treffen unter dem Vorsitz des britischen Premierministers Rishi Sunak und des südkoreanischen Präsidenten Yoon Suk Yeol, um über KI-Sicherheit, Innovation und Inklusion zu diskutieren.
Während der Diskussionen einigten sich die Staats- und Regierungschefs auf das Gesamtergebnis Seoul-Erklärungwobei der Schwerpunkt auf einer verstärkten internationalen Zusammenarbeit beim Aufbau von KI liegt, um große globale Probleme anzugehen, die Menschenrechte zu wahren und digitale Kluften weltweit zu schließen, wobei gleichzeitig der Schwerpunkt darauf gelegt wird, „menschenzentriert, vertrauenswürdig und verantwortungsbewusst“ zu sein.
„KI ist eine äußerst spannende Technologie – und Großbritannien hat weltweite Anstrengungen unternommen, um mit ihrem Potenzial umzugehen, indem es letztes Jahr den weltweit ersten KI-Sicherheitsgipfel veranstaltete“, sagte Sunak in einer Erklärung der britischen Regierung. „Aber um die Vorteile zu nutzen, müssen wir sicherstellen, dass es sicher ist. Deshalb freue ich mich sehr, dass wir heute eine Vereinbarung für ein Netzwerk von KI-Sicherheitsinstituten getroffen haben.“
Erst letzten Monat in Großbritannien und den USA unterzeichneten eine Absichtserklärung zur Partnerschaft Zusammenarbeit bei der Forschung, Sicherheitsbewertung und Anleitung zur KI-Sicherheit.
Die heute bekannt gegebene Vereinbarung folgt die weltweit ersten KI-Sicherheitsverpflichtungen von 16 Unternehmen, die sich mit KI befassen, darunter Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi und Zhipu.ai. (Zhipu.ai ist ein chinesisches Unternehmen, das von Alibaba, Ant und Tencent unterstützt wird.)
Die KI-Unternehmen, darunter solche aus den USA, China und den Vereinigten Arabischen Emiraten (VAE), haben den Sicherheitsverpflichtungen zugestimmt, „überhaupt kein Modell oder System zu entwickeln oder einzusetzen, wenn die Risiken durch Abhilfemaßnahmen nicht unter den Schwellenwerten gehalten werden können“, heißt es zur Erklärung der britischen Regierung.
„Es ist weltweit einmalig, dass so viele führende KI-Unternehmen aus so vielen verschiedenen Teilen der Welt sich alle auf die gleichen Verpflichtungen zur KI-Sicherheit einigen“, sagte Sunak. „Diese Verpflichtungen stellen sicher, dass die weltweit führenden KI-Unternehmen Transparenz und Rechenschaftspflicht bei ihren Plänen zur Entwicklung sicherer KI bieten.“