OpenAI sagt, dass es ein startet Programm zehn Zuschüsse in Höhe von 100.000 US-Dollar zu vergeben, um Experimente zur Einrichtung eines demokratischen Prozesses zur Entscheidung darüber zu finanzieren, welche Regeln KI-Systeme befolgen sollen – „innerhalb der gesetzlich festgelegten Grenzen“.
Konkret sagt OpenAI, dass es Einzelpersonen, Teams und Organisationen finanzieren möchte, um Proof-of-Concepts für einen „demokratischen Prozess“ zu entwickeln, der Fragen zu Leitplanken für KI beantworten könnte. Das Unternehmen wolle aus diesen Experimenten lernen und sie als Grundlage für einen globaleren – und ehrgeizigeren – Prozess in der Zukunft nutzen.
„Obwohl diese ersten Experimente (zumindest im Moment) nicht dazu gedacht sind, für Entscheidungen bindend zu sein, hoffen wir, dass sie entscheidungsrelevante Fragen untersuchen und neuartige demokratische Werkzeuge entwickeln, die Entscheidungen in der Zukunft direkter beeinflussen können“, schrieb das Unternehmen in einem Blog Beitrag heute veröffentlicht. „Dieser Zuschuss stellt einen Schritt zur Etablierung demokratischer Prozesse zur Überwachung … der Superintelligenz dar.“
Mit den Zuschüssen, die von der gemeinnützigen Organisation von OpenAI bereitgestellt werden, hofft OpenAI, einen Prozess zu etablieren, der das platonische Ideal der Demokratie widerspiegelt: eine „weitgehend repräsentative“ Gruppe von Menschen, die ihre Meinungen austauscht, sich an „bewussten“ Diskussionen beteiligt und letztendlich auf transparentem Wege über ein Ergebnis entscheidet Entscheidungsprozess. Im Idealfall, sagt OpenAI, wird der Prozess dabei helfen, Fragen zu beantworten wie „Unter welchen Bedingungen sollten KI-Systeme Persönlichkeiten des öffentlichen Lebens verurteilen oder kritisieren, wenn man bedenkt, dass die verschiedenen Gruppen unterschiedliche Meinungen zu diesen Persönlichkeiten haben?“ und „Wie sollten umstrittene Ansichten in KI-Ausgaben dargestellt werden?“
„Das Hauptziel dieses Zuschusses besteht darin, Innovationen in Prozessen zu fördern – wir brauchen verbesserte demokratische Methoden, um das KI-Verhalten zu steuern“, schreibt OpenAI. „Wir glauben, dass Entscheidungen darüber, wie sich KI verhält, von verschiedenen Perspektiven geprägt sein sollten, die das öffentliche Interesse widerspiegeln.“
In dem Ankündigungsbeitrag deutet OpenAI an, dass das Förderprogramm völlig von seinen kommerziellen Interessen getrennt sei. Angesichts der jüngsten Kritik von OpenAI-CEO Sam Altman an der vorgeschlagenen KI-Regulierung in der EU ist das jedoch eine schwierige Pille. Auch der Zeitpunkt erscheint auffällig, nachdem Altman letzte Woche vor dem Kongressausschuss des US-Senats aufgetreten war, wo er sich für eine ganz bestimmte Variante der KI-Regulierung einsetzte, die nur minimale Auswirkungen auf die heute existierende OpenAI-Technologie haben würde.
Auch wenn das Förderprogramm am Ende eigennützig ist, ist es dennoch eine interessante Richtung für die KI-Politikgestaltung. Ich jedenfalls bin gespannt, welche Ideen für demokratische Prozesse entstehen – und für welche Bewerber sich OpenAI am Ende entscheidet.
Teams können sich ab heute bewerben – die Frist endet am 24. Juni um 21 Uhr. Sobald die Bewerbungsfrist endet, wählt OpenAI zehn erfolgreiche Stipendiaten aus. Die Empfänger müssen ein Konzept vorlegen, an dem mindestens 500 Teilnehmer beteiligt sind, bis zum 20. Oktober einen öffentlichen Bericht über ihre Ergebnisse veröffentlichen und den Code hinter ihrer Arbeit als Open Source veröffentlichen.