Mehr als 1.100 Fachleute stimmen in einem offenen Brief darin überein, dass der Wettlauf zwischen den KI-Laboren „tiefgreifende Risiken für die Gesellschaft und die Menschheit“ birgt.
Mehr als 1.100 KI-Forscher, Tech-Koryphäen und andere Futuristen haben eine unterzeichnet offener Brief Er fordert ein sechsmonatiges Moratorium für „riesige KI-Experimente“, seit der Text letzte Woche vom gemeinnützigen Future of Life Institute veröffentlicht wurde. Zu den bemerkenswerten Unterzeichnern des Briefes gehören Tesla-CEO Elon Musk, Apple-Mitbegründer Steve Wozniak und der transhumanistische Historiker Yuval Noah Harari. Die Korrespondenz warnt davor, dass „KI-Systeme mit menschlicher Wettbewerbsintelligenz tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen können“. Es besteht auch darauf, dass die schnell fortschreitende Technologie „mit angemessener Sorgfalt und Ressourcen geplant und verwaltet“ werden sollte, anstatt einen „außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe zuzulassen, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig steuern kann.“ Anstatt zu riskieren, die Kontrolle über eine möglicherweise die Zivilisation beendende Technologie zu verlieren, sollten Interessengruppen im KI-Bereich „gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliches KI-Design und -Entwicklung entwickeln und implementieren, die von unabhängigen externen Experten streng geprüft und überwacht werden“, so das Institut schlägt vor, die Entwicklung anzuhalten, bis diese Protokolle vorhanden sind. Sicherheit „über jeden Zweifel erhaben“ statt Innovation um jeden Preis solle das Ziel sein, hieß es weiter , während Entwickler ihre Energie darauf konzentrieren sollten, „die heutigen leistungsstarken hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, vertrauenswürdiger und loyaler zu machen“. Wenn die Entwickler sich nicht selbst regieren können, müssen die Regierungen eingreifen in, die Schaffung von Regulierungsbehörden, die in der Lage sind, außer Kontrolle geratene Systeme einzudämmen, Sicherheitsforschung zu finanzieren und den wirtschaftlichen Schlag abzumildern, wenn superintelligente Systeme beginnen, ernsthaft menschliche Arbeitsplätze zu verschlingen, heißt es in dem Brief. Musk warnt seit langem vor den Gefahren der KI und prognostiziert für 2020, dass die Singularität – der Punkt, an dem die maschinelle Intelligenz die menschliche in den Schatten stellt – bis 2025 eintreffen und Menschen Gefahr laufen, als Haustiere von Supercomputern zu enden. Er schlug zunächst die Gehirn-Computer-Schnittstelle Neuralink als Werkzeug vor, um der Menschheit einen Wettbewerbsvorteil gegenüber KI zu verschaffen. Der Milliardär war auch einer der Gründer von OpenAI, dem Unternehmen hinter dem bahnbrechenden großen Sprachmodell ChatGPT. Er verließ das Unternehmen jedoch 2018 und tat es als ein von Microsoft kooptiertes, gewinnbringendes Unternehmen ab. Musks Rivale (und Microsoft-Gründer) Bill Gates, dessen Name am Mittwoch in dem offenen Brief fehlte, hat OpenAI angenommen und kürzlich erklärt, dass „das Zeitalter der KI begonnen hat“. ChatGPT unterstützt jetzt die Bing-Suchmaschine von Microsoft.
: