Das Cosmos Instituteine gemeinnützige Organisation, zu deren Gründungsmitgliedern der Mitbegründer von Anthropic, Jack Clark, und der ehemalige Technologe des Verteidigungsministeriums, Brendan McCord, gehören, hat ein Risikokapitalprogramm und Forschungsinitiativen angekündigt, um – in den Worten der Organisation – „eine neue Generation von Technologen und Unternehmern heranzubilden, die mit tiefem philosophischem Denken ausgestattet sind, um das unerforschte Gebiet unseres KI-Zeitalters zu beschreiten.“
In einem Blog-BeitragMcCord, Vorsitzender von Cosmos, sagte, dass das Institut an der Universität Oxford ein KI-Labor namens Human-Centered AI Lab oder kurz „HAI Lab“ gründen werde. Es wird vom Oxford-Philosophen Philipp Koralus geleitet – einem weiteren Gründungsmitglied des Instituts – und soll „die philosophischen Prinzipien des menschlichen Gedeihens in Open-Source-Software und KI-Systeme übersetzen“.
Was genau bedeutet „die philosophischen Prinzipien menschlichen Gedeihens umzusetzen“? Unklar. Aber der springende Punkt ist, die Entwicklung von KI-Technologie zu fördern, die die Menschenwürde respektiert und gleichzeitig schädliche Störungen vermeidet (z. B. Automatisierung, die zu Arbeitsplatzverlusten führt). Das ist sicherlich eine hohe und nebulöse Messlatte – aber eine, die das HAI Lab anstreben wird.
Das Institut richtet außerdem ein Stipendium ein – das Cosmos Fellowship – mit einer Gruppe von zunächst vier Stipendiaten. Die Stipendiaten arbeiten zwischen „einem Semester und einem Jahr“ im HAI Lab oder anderen Partnerinstitutionen, arbeiten mit Cosmos-Mentoren zusammen und verfolgen unabhängige Projekte, um „[explore the] Schnittstelle zwischen KI-Expertise und tiefen philosophischen Erkenntnissen“, sagte McCord.
Die Pläne des Instituts beinhalten auch eine Investitionskomponente, die in Form einer Venture-Organisation an den Start geht: Cosmos Ventures. Unter der Leitung des ehemaligen DeepMind-Produktleiters Jason Zhao, des ehemaligen Stripe-Leiters für Unternehmensstrategie Alex Komoroske, Darren Zhu und Zoe Weinberg wird Cosmos Ventures „provokative neue Prototypen, Essays und kreative Projekte unterstützen, die grundlegende Fragen zur Philosophie der Technologie untersuchen“, sagte McCord.
McCord charakterisiert Cosmos Ventures als „mit geringen Gemeinkosten verbunden“ und orientiert sich an Emergent Ventures von Tyler Cowen, einem Fellow des Institute. Die Investitionen liegen zwischen 1.000 und 10.000 Dollar pro Projekt, und Projekte – die neu oder bereits existieren – müssen innerhalb von drei Monaten ein „großes Ergebnis“ liefern.
Die erste Gruppe sei bereits finanziert worden, sagte McCord.
Das Cosmos Institute ist nicht das erste, das versucht, eine ethischere, humanistischere Vision der KI voranzutreiben. OpenAI, gegründet mit der Mission, die Vorteile der fortgeschrittenen KI der gesamten Menschheit zugänglich zu machen, hat ganze Sicherheitsteams aufgelöst. Clarks eigenes Unternehmen Anthropic positionierte sich einst als sicherer, ethischerer Anbieter, aber in die letzten Monate hat sich gegen KI-Vorschriften gewehrt und in aggressiver Weise ohne Genehmigung Daten gesammelt.
Vielleicht schneidet das Cosmos Institute besser ab, wenn es sich dessen verschrieben hat, was McCord als „Akzelerationismus“ bezeichnet: der Idee, dass die Zukunft nicht vorherbestimmt ist und die Menschheit deshalb für das, was sie bringt, verantwortlich ist.
„Wir müssen eine KI entwickeln, die zum Forschen anregt und nicht zur Selbstgefälligkeit, sondern zu aktivem Engagement statt passiver Abhängigkeit, insbesondere in den Bereichen Bildung, Medizin, öffentlichem Leben und anderen wichtigen Bereichen“, schreibt McCord. „Wir setzen uns für eine KI ein, die Macht dezentralisiert und Bottom-up-Lösungen ermöglicht, sodass Einzelpersonen und Gemeinschaften gemeinsam eine reichere und vielfältigere Gesellschaft schaffen können.“
Das sind bewundernswerte Positionen. Der Reporter hofft nur, dass Geld, Einfluss und Macht die Versuchung, sie aufzugeben, nicht unwiderstehlich machen.