Dario Amodei, CEO von Anthropic, möchte Sie wissen lassen, dass er kein KI-„Doomer“ ist.
Zumindest ist das meine Interpretation des „Mic Drop“ von ca. 15.000 Wörtern Aufsatz Amodei veröffentlichte am späten Freitag in seinem Blog. (Ich habe versucht, den Claude-Chatbot von Anthropic zu fragen, ob er damit übereinstimmt, aber leider hat der Beitrag die Längenbeschränkung des kostenlosen Plans überschritten.)
In groben Zügen zeichnet Amodei das Bild einer Welt, in der alle KI-Risiken gemindert sind und die Technologie bisher nicht realisierten Wohlstand, sozialen Aufschwung und Überfluss liefert. Er beteuert, dass dies nicht dazu dient, die Nachteile der KI zu minimieren – zu Beginn zielt Amodei (ohne Namen zu nennen) darauf ab, dass KI-Unternehmen die Fähigkeiten ihrer Technologie übermäßig verkaufen und allgemein propagieren. Aber man könnte argumentieren – und dieser Autor tut dies –, dass der Aufsatz zu weit in die techno-utopische Richtung tendiert und Behauptungen aufgestellt werden, die einfach nicht durch Fakten gestützt werden.
Amodei glaubt, dass „leistungsstarke KI“ bereits 2026 eintreffen wird. (Von leistungsstarke KIDamit meint er eine KI, die in Bereichen wie Biologie und Ingenieurwesen „intelligenter als ein Nobelpreisträger“ ist und Aufgaben wie den Beweis ungelöster mathematischer Theoreme und das Schreiben „extrem guter Romane“ ausführen kann.) Diese KI, sagt Amodei, wird in der Lage sein, zu kontrollieren Jede erdenkliche Software oder Hardware, einschließlich Industriemaschinen, erledigt im Wesentlichen die meisten Aufgaben, die Menschen heute erledigen – aber besser.
„[This AI] kann sich an allen Aktionen, Kommunikationen oder Fernoperationen beteiligen … einschließlich Aktionen im Internet, Anweisungen an Menschen erteilen oder geben, Materialien bestellen, Experimente leiten, Videos ansehen, Videos erstellen und so weiter“, schreibt Amodei. „Es hat keine physische Verkörperung (außer dem Leben auf einem Computerbildschirm), aber es kann vorhandene physische Werkzeuge, Roboter oder Laborgeräte über einen Computer steuern; Theoretisch könnte es sogar Roboter oder Geräte für sich selbst entwerfen.“
Um diesen Punkt zu erreichen, müsste noch viel passieren.
Selbst die beste KI von heute kann nicht so „denken“, wie wir sie verstehen. Modelle argumentieren nicht so sehr, sondern replizieren Muster, die sie in ihren Trainingsdaten beobachtet haben.
Für Amodeis Argumentation wird davon ausgegangen, dass die KI-Industrie dies tut bald Würde die Robotik aufholen, um menschenähnliches Denken zu „lösen“, damit zukünftige KI Laborexperimente durchführen, eigene Werkzeuge herstellen usw. kann? Die Sprödigkeit heutiger Roboter lässt darauf schließen, dass dies ein weiter Weg ist.
Dennoch ist Amodei optimistisch – sehr optimistisch.
Er glaubt, dass KI in den nächsten sieben bis zwölf Jahren dazu beitragen könnte, fast alle Infektionskrankheiten zu behandeln, die meisten Krebsarten zu beseitigen, genetische Störungen zu heilen und Alzheimer im Frühstadium zu stoppen. Amodei geht davon aus, dass Erkrankungen wie posttraumatische Belastungsstörung, Depression, Schizophrenie und Sucht in den nächsten fünf bis zehn Jahren durch mithilfe künstlicher Intelligenz hergestellte Medikamente geheilt oder durch Embryo-Screening genetisch verhindert werden können (a kontroverse Meinung), und dass es auch durch KI entwickelte Medikamente geben wird, die „die kognitiven Funktionen und den emotionalen Zustand anpassen“, um „zu bekommen [our brains] sich ein bisschen besser zu benehmen und eine erfüllendere Alltagserfahrung zu haben.“
Amodei geht davon aus, dass sich die durchschnittliche Lebenserwartung eines Menschen in diesem Fall auf 150 verdoppeln wird.
„Meine grundlegende Prognose ist, dass KI-gestützte Biologie und Medizin es uns ermöglichen werden, den Fortschritt, den Humanbiologen in den nächsten 50–100 Jahren erzielt hätten, auf 5–10 Jahre zu komprimieren“, schreibt er. „Ich bezeichne dies als das ‚komprimierte 21. Jahrhundert‘: die Idee, dass wir nach der Entwicklung einer leistungsstarken KI in ein paar Jahren alle Fortschritte in Biologie und Medizin machen werden, die wir im gesamten 21. Jahrhundert gemacht hätten.“
Auch das scheint weit hergeholt zu sein, wenn man bedenkt, dass KI die Medizin noch nicht radikal verändert hat – und vielleicht auch noch für längere Zeit oder überhaupt nicht. Auch wenn KI es tut reduzieren Aufgrund des Arbeits- und Kostenaufwands, der damit verbunden ist, ein Medikament in die vorklinische Testphase zu bringen, kann es zu einem späteren Zeitpunkt scheitern, wie es bei von Menschen entwickelten Medikamenten der Fall ist. Bedenken Sie, dass die KI, die heute im Gesundheitswesen eingesetzt wird, sich in vielerlei Hinsicht als voreingenommen und riskant erwiesen hat oder dass die Implementierung in bestehende klinische und Laborumgebungen äußerst schwierig ist. Die Annahme, dass all diese Probleme und noch mehr in etwa innerhalb des Jahrzehnts gelöst sein werden, scheint, nun ja … ehrgeizigmit einem Wort.
Aber Amodei hört hier nicht auf.
KI könnte den Welthunger lösen, behauptet er. Es könnte das Blatt beim Klimawandel wenden. Und es könnte die Volkswirtschaften in den meisten Entwicklungsländern verändern; Amodei glaubt, dass KI das Pro-Kopf-BIP von Subsahara-Afrika (1.701 US-Dollar im Jahr 2022) in 5–10 Jahren auf das Pro-Kopf-BIP von China (12.720 US-Dollar im Jahr 2022) bringen kann.
Dies sind, gelinde gesagt, mutige Aussagen, obwohl sie wahrscheinlich jedem bekannt sind, der den Anhängern der „Singularity“-Bewegung zugehört hat, die ähnliche Ergebnisse erwartet. Man muss Amodei zugute halten, dass er anerkennt, dass dafür „enorme Anstrengungen in den Bereichen globale Gesundheit, Philanthropie, [and] politische Interessenvertretung.“
Amodei geht davon aus, dass diese Interessenvertretung erfolgen wird, weil sie im besten wirtschaftlichen Interesse der Welt liegt. Aber ich möchte darauf hinweisen, dass dies in der Vergangenheit in einem wichtigen Aspekt nicht der Fall war: Viele der Arbeitnehmer, die für die Kennzeichnung der zum Training der KI verwendeten Datensätze verantwortlich sind, werden weit unter dem Mindestlohn bezahlt, während ihre Arbeitgeber Dutzende Millionen – oder Hunderte – einstreichen Millionen von Dollar aus den Ergebnissen.
Amodei geht kurz auf die Gefahren der KI für die Zivilgesellschaft ein und schlägt vor, dass eine Koalition von Demokratien die Lieferkette der KI absichern und Gegner, die KI für schädliche Zwecke einsetzen wollen, von den Mitteln der leistungsstarken KI-Produktion (Halbleiter usw.) fernhält. Im gleichen Atemzug schlägt er vor, dass KI – in den richtigen Händen – genutzt werden könnte, um „repressive Regierungen zu untergraben“ und sogar die Voreingenommenheit im Rechtssystem zu verringern. (KI hat historisch gesehen verschärfte Vorurteile im Rechtssystem.)
„Eine wirklich ausgereifte und erfolgreiche Implementierung von KI hat das Potenzial dazu reduzieren Voreingenommen sein und für alle gerechter sein“, schreibt Amodei.
Wenn also die KI jede erdenkliche Aufgabe übernimmt und sie besser macht, lässt das den Menschen dann nicht wirtschaftlich im Stich? Amodei gibt zu, dass dies der Fall sei – und dass die Gesellschaft zu diesem Zeitpunkt Gespräche darüber führen müsse, „wie die Wirtschaft organisiert werden sollte“. Aber er schlägt keine Lösung vor.
„Die Menschen wollen ein Erfolgserlebnis, sogar ein Gefühl des Wettbewerbs, und in einer Post-KI-Welt wird es durchaus möglich sein, Jahre damit zu verbringen, sich einer sehr schwierigen Aufgabe mit einer komplexen Strategie zu widmen, ähnlich wie es die Menschen heute tun, wenn sie damit beginnen.“ Sie recherchieren Projekte, versuchen Hollywood-Schauspieler zu werden oder gründen Unternehmen“, schreibt er. „Die Tatsache, dass (a) irgendwo eine KI diese Aufgabe prinzipiell besser erledigen könnte und (b) diese Aufgabe kein wirtschaftlich lohnendes Element einer globalen Wirtschaft mehr ist, scheint mir nicht sehr wichtig zu sein.“
Abschließend schlägt Amodei vor, dass KI lediglich ein Beschleuniger sei – dass Menschen von Natur aus zu „Rechtsstaatlichkeit, Demokratie und Werten der Aufklärung“ tendieren. Dabei ignoriert er jedoch die vielen Kosten, die KI mit sich bringt. Es wird prognostiziert, dass KI massive Auswirkungen auf die Umwelt haben wird – und das hat sie bereits getan. Und es schafft Ungleichheit. Der mit dem Nobelpreis ausgezeichnete Ökonom Joseph Stiglitz und andere haben dies getan notiert Die durch KI verursachten Arbeitsunterbrechungen könnten den Wohlstand noch weiter in den Händen von Unternehmen konzentrieren und dazu führen, dass die Arbeitnehmer weniger Macht haben als je zuvor.
Zu diesen Unternehmen gehört auch Anthropic, so ungern Amodei es auch zugeben möchte. (Er erwähnt Anthropic in seinem Aufsatz nur sechs Mal.) Anthropic ist schließlich ein Geschäft – eines angeblich im Wert von fast 40 Milliarden US-Dollar. Und diejenigen, die von seiner KI-Technologie profitieren, sind im Großen und Ganzen Unternehmen, deren einzige Verantwortung darin besteht, die Erträge für ihre Aktionäre zu steigern – und nicht die Verbesserung der Menschlichkeit.
Der Aufsatz scheint tatsächlich zynisch getimt zu sein, wenn man bedenkt, dass Anthropic angeblich dabei ist, Milliarden von Dollar einzusammeln. Sam Altman, CEO von OpenAI, veröffentlichte ein ähnlich technopotimistisches Manifest, kurz bevor OpenAI eine Finanzierungsrunde in Höhe von 6,5 Milliarden US-Dollar abschloss.
Vielleicht ist es Zufall. Andererseits ist Amodei kein Philanthrop. Er hat, wie jeder CEO, ein Produkt zu verkaufen. Es ist einfach so sein Das Produkt wird die Welt retten (so möchte er Sie zumindest glauben lassen) – und diejenigen, die etwas anderes glauben, laufen Gefahr, abgehängt zu werden.