STOCKHOLM: Top-Führungskräfte im Bereich künstliche Intelligenz, darunter der CEO von OpenAI Sam Altman Am Dienstag schlossen sich Experten und Professoren dem „Risiko des Aussterbens durch KI“ an und forderten die politischen Entscheidungsträger auf, es mit den Risiken von Pandemien und Atomkrieg gleichzusetzen. „Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein“, schrieben mehr als 350 Unterzeichner in einem Brief, der vom gemeinnützigen Center for AI Safety (CAIS) veröffentlicht wurde.
Zu ihnen gehörten neben Altman auch die CEOs der KI-Firmen DeepMind und Anthropic sowie Führungskräfte von Microsoft und Google. Unter ihnen waren auch Geoffrey Hinton und Yoshua Bengio – zwei der drei sogenannten „Paten der KI“, die 2018 den Turing Award für ihre Arbeit zum Deep Learning erhielten – und Professoren von Institutionen von Harvard bis zur chinesischen Tsinghua-Universität.
In einer Erklärung von CAIS wurde Meta hervorgehoben, wo der dritte Pate der KI, Yann LeCun, arbeitet, weil er den Brief nicht unterschrieben hat. Der Brief fiel mit dem Treffen des US-EU-Handels- und Technologierats in Schweden zusammen, bei dem von Politikern erwartet wird, dass sie über die Regulierung von KI sprechen. Elon Musk und eine Gruppe von KI-Experten und Branchenführern waren die ersten, die im April potenzielle Risiken für die Gesellschaft nannten.
Die Erklärung kommt zu einer Zeit wachsender Besorgnis über die möglichen Schäden von KI. Jüngste Fortschritte bei sogenannten großen Sprachmodellen – der Art von KI-Systemen, die von ChatGPT und anderen Chatbots verwendet werden – haben Befürchtungen geweckt, dass KI bald in großem Umfang zur Verbreitung von Fehlinformationen und Propaganda eingesetzt werden könnte oder dass dadurch Millionen von Angestelltenjobs vernichtet werden könnten . Einige glauben, dass die KI am Ende so mächtig werden könnte, dass sie innerhalb weniger Jahre zu gesellschaftlichen Störungen führen könnte, wenn nichts unternommen wird, um sie zu bremsen, obwohl Forscher manchmal nicht erklären, wie das passieren würde.
Diese Befürchtungen werden von zahlreichen Branchenführern geteilt und bringen sie in die ungewöhnliche Lage, zu argumentieren, dass eine Technologie, die sie entwickeln – und in vielen Fällen rasant darum bemüht sind, schneller als ihre Konkurrenten zu entwickeln – große Risiken birgt und strenger reguliert werden sollte.
Jüngste Entwicklungen in der KI haben Befürchtungen geweckt, dass die Technologie auch zu Datenschutzverletzungen führen, Fehlinformationskampagnen vorantreiben und zu Problemen mit selbstständig denkenden „intelligenten Maschinen“ führen könnte. Der KI-Pionier Hinton sagte zuvor, dass KI eine „dringlichere“ Bedrohung für die Menschheit darstellen könnte als der Klimawandel. Diesen Monat, Altmann traf sich mit US-Präsident Joe Biden und Vizepräsidentin Kamala Harris, um über die KI-Regulierung zu sprechen. In einer Aussage vor dem Senat nach der Sitzung warnte Altman, dass die Risiken fortschrittlicher KI-Systeme ernst genug seien, um ein Eingreifen der Regierung zu rechtfertigen, und forderte eine Regulierung der KI wegen ihrer potenziellen Schäden.
Zu ihnen gehörten neben Altman auch die CEOs der KI-Firmen DeepMind und Anthropic sowie Führungskräfte von Microsoft und Google. Unter ihnen waren auch Geoffrey Hinton und Yoshua Bengio – zwei der drei sogenannten „Paten der KI“, die 2018 den Turing Award für ihre Arbeit zum Deep Learning erhielten – und Professoren von Institutionen von Harvard bis zur chinesischen Tsinghua-Universität.
In einer Erklärung von CAIS wurde Meta hervorgehoben, wo der dritte Pate der KI, Yann LeCun, arbeitet, weil er den Brief nicht unterschrieben hat. Der Brief fiel mit dem Treffen des US-EU-Handels- und Technologierats in Schweden zusammen, bei dem von Politikern erwartet wird, dass sie über die Regulierung von KI sprechen. Elon Musk und eine Gruppe von KI-Experten und Branchenführern waren die ersten, die im April potenzielle Risiken für die Gesellschaft nannten.
Die Erklärung kommt zu einer Zeit wachsender Besorgnis über die möglichen Schäden von KI. Jüngste Fortschritte bei sogenannten großen Sprachmodellen – der Art von KI-Systemen, die von ChatGPT und anderen Chatbots verwendet werden – haben Befürchtungen geweckt, dass KI bald in großem Umfang zur Verbreitung von Fehlinformationen und Propaganda eingesetzt werden könnte oder dass dadurch Millionen von Angestelltenjobs vernichtet werden könnten . Einige glauben, dass die KI am Ende so mächtig werden könnte, dass sie innerhalb weniger Jahre zu gesellschaftlichen Störungen führen könnte, wenn nichts unternommen wird, um sie zu bremsen, obwohl Forscher manchmal nicht erklären, wie das passieren würde.
Diese Befürchtungen werden von zahlreichen Branchenführern geteilt und bringen sie in die ungewöhnliche Lage, zu argumentieren, dass eine Technologie, die sie entwickeln – und in vielen Fällen rasant darum bemüht sind, schneller als ihre Konkurrenten zu entwickeln – große Risiken birgt und strenger reguliert werden sollte.
Jüngste Entwicklungen in der KI haben Befürchtungen geweckt, dass die Technologie auch zu Datenschutzverletzungen führen, Fehlinformationskampagnen vorantreiben und zu Problemen mit selbstständig denkenden „intelligenten Maschinen“ führen könnte. Der KI-Pionier Hinton sagte zuvor, dass KI eine „dringlichere“ Bedrohung für die Menschheit darstellen könnte als der Klimawandel. Diesen Monat, Altmann traf sich mit US-Präsident Joe Biden und Vizepräsidentin Kamala Harris, um über die KI-Regulierung zu sprechen. In einer Aussage vor dem Senat nach der Sitzung warnte Altman, dass die Risiken fortschrittlicher KI-Systeme ernst genug seien, um ein Eingreifen der Regierung zu rechtfertigen, und forderte eine Regulierung der KI wegen ihrer potenziellen Schäden.