In einem am Mittwoch veröffentlichten Richtlinienpapier, der ehemalige Google-CEO Eric Schmidt, skalierter KI-CEO Alexandr Wang und Dan Hendrycks, Center for AI-Sicherheitsdirektor, sollten die USA nicht an einem Project-Push in Manhattan-Projekt nach der Entwicklung von KI-Systemen mit „Superhuman“ -Ergarten, auch bekannt als AGI, verfolgen.
Das Papier mit dem Titel „Superintelligence -Strategie”Behauptet, dass ein aggressives Angebot der USA, um die Superintelligent -KI -Systeme ausschließlich zu kontrollieren, eine heftige Vergeltungsmaßnahme aus China in Form eines Cyberangriffs ausführen könnte, was die internationalen Beziehungen destabilisieren könnte.
“[A] Manhattan -Projekt [for AGI] Angenommen, dass Rivalen sich zu einem dauerhaften Ungleichgewicht oder einem Omnizid einlassen, anstatt sich zu bewegen, um dies zu verhindern “, schreiben die Co-Autoren. „Was als Drang für eine Superwaffe- und globale Kontrollrisiken beginnt, die feindliche Gegenmaßnahmen und eskalierende Spannungen veranlasst, wodurch genau die Stabilität, die die Strategie sicherstellt, untergraben.“
Mitautonisiert von drei hoch einflussreichen Zahlen in der Amerikas KI-Branche, erfolgt das Papier nur wenige Monate, nachdem eine US-Kongresskommission ein „Manhattan Project“ -Stil-Bemühungen zur Finanzierung der AGI-Entwicklung vorgeschlagen hat, das in den 1940er Jahren dem amerikanischen Atombombenprogramm modelliert wurde. US -Energieminister Chris Wright sagte kürzlich, die USA sei bei “Der Beginn eines neuen Manhattan -Projekts”Auf KI, während er neben OpenAI-Mitbegründer Greg Brockman vor einem Supercomputer-Standort steht.
Die Superintelligence-Strategie-Papier stellt die Idee in Frage, die in den letzten Monaten von mehreren amerikanischen Politik- und Branchenführern eingestuft wurde, dass ein von der Regierung unterstütztes Programm, das AGI verfolgt, der beste Weg ist, um mit China zu konkurrieren.
In der Meinung von Schmidt, Wang und Hendrycks befinden sich die USA in einer AGI -Pattsituation, die nicht unähnlich ist gegenseitig gesicherte Zerstörung. Auf die gleiche Weise, wie globale Mächte keine Monopole über Atomwaffen suchen-was einen präventiven Streik eines Gegners auslösen könnte, argumentieren Schmidt und seine Mitautoren, dass die USA vorsichtig sein sollten, um äußerst mächtige KI-Systeme zu dominieren.
Während das Vergleich von KI -Systemen mit Atomwaffen extrem klingen mag, betrachten die Weltführer KI bereits für einen Top -militärischen Vorteil. Das Pentagon sagt bereits, dass die KI dazu beiträgt, die Kill -Kette des Militärs zu beschleunigen.
Schmidt et al. Führen Sie ein Konzept ein, das sie als gegenseitig versicherte KI -Fehlfunktion (MAIM) bezeichnen, bei dem Regierungen bedrohliche KI -Projekte proaktiv deaktivieren konnten, anstatt darauf zu warten, dass die Gegner AGI waffen.
Schmidt, Wang und Hendrycks schlagen vor, dass die USA ihren Fokus vom „Gewinn des Rennens bis zur Superintelligence“ auf die Entwicklung von Methoden verlagern andere Länder abschrecken vom Erstellen von Superintelligent AI. Die Co-Autoren argumentieren, dass die Regierung „expandieren sollte [its] Arsenal von Cyberangriffen, um bedrohliche KI-Projekte zu deaktivieren.
Die Co-Autoren identifizieren eine Dichotomie, die in der KI-Politikwelt gespielt hat. Es gibt die „Doomere“, die glauben, dass katastrophale Ergebnisse der KI -Entwicklung eine ausführliche Schlussfolgerung sind und sich für Länder befürworten, die den Fortschritt der KI verlangsamen. Auf der anderen Seite gibt es die „Strauße“, die glauben, dass Nationen die KI -Entwicklung beschleunigen sollten und im Wesentlichen nur hoffen, dass alles funktionieren wird.
Das Papier schlägt einen dritten Weg vor: einen gemessenen Ansatz zur Entwicklung der AGI, die Verteidigungsstrategien priorisiert.
Diese Strategie ist besonders bemerkenswert von Schmidt, der zuvor über die Notwendigkeit der USA gesanglich war, aggressiv mit China bei der Entwicklung fortschrittlicher KI -Systeme zu konkurrieren. Noch vor wenigen Monaten veröffentlichte Schmidt einen Op-Ed, in dem Deepseek einen Wendepunkt im Amerikas KI-Rennen mit China markierte.
Die Trump -Administration scheint in der Amerikas KI -Entwicklung tot zu sein. Wie die Co-Autoren feststellen, gibt es jedoch nicht in einem Vakuum die Entscheidungen Amerikas um AGI.
Während die Welt zu sehen, wie Amerika die Grenze von KI vorantreibt, schlagen Schmidt und seine Co-Autoren vor, dass es klüger sein könnte, einen defensiven Ansatz zu verfolgen.