Encode, die gemeinnützige Organisation, die Kaliforniens unglückseliges KI-Sicherheitsgesetz SB 1047 mitfinanziert hat, hat um Erlaubnis gebeten, einen Amicus-Schriftsatz zur Unterstützung der einstweiligen Verfügung von Elon Musk einzureichen, mit der der Übergang von OpenAI zu einem gewinnorientierten Unternehmen gestoppt werden soll.
In einem vorgeschlagener Brief Der Anwalt von Encode, der am Freitagnachmittag beim US-Bezirksgericht für den nördlichen Bezirk von Kalifornien eingereicht wurde, sagte, dass die Umwandlung von OpenAI in eine gewinnorientierte Organisation die Mission des Unternehmens, „transformative Technologie auf sichere und vorteilhafte Weise zu entwickeln und einzusetzen“, „untergraben“ würde an die Öffentlichkeit.“
„OpenAI und sein CEO Sam Altman behaupten, gesellschaftsverändernde Technologien zu entwickeln, und diese Behauptungen sollten ernst genommen werden“, heißt es in der Kurzfassung. „Wenn die Welt wirklich an der Schwelle eines neuen Zeitalters der künstlichen allgemeinen Intelligenz (AGI) steht, dann hat die Öffentlichkeit ein großes Interesse daran, dass diese Technologie von einer öffentlichen Wohltätigkeitsorganisation kontrolliert wird, die gesetzlich dazu verpflichtet ist, Sicherheit und den Nutzen der Allgemeinheit Vorrang vor einer Organisation zu geben.“ konzentrierte sich auf die Erzielung finanzieller Erträge für einige wenige privilegierte Anleger.“
In einer Erklärung warf Sneha Revanur, Gründerin und Präsidentin von Encode, OpenAI vor, „die Gewinne zu internalisieren“. [of AI] sondern die Konsequenzen für die gesamte Menschheit nach außen tragen“, und sagte: „
Der Auftrag von Encode wurde von Geoffrey Hinton, einem Pionier auf dem Gebiet der KI und Nobelpreisträger des Jahres 2024, sowie von Stuart Russell, Informatikprofessor und Direktor des Center for Human-Compatible AI an der UC Berkeley, unterstützt.
„OpenAI wurde als ausdrücklich sicherheitsorientierte gemeinnützige Organisation gegründet und hat in seiner Satzung eine Reihe sicherheitsbezogener Versprechen abgegeben“, sagte Hinton in einem Pressemitteilung. „Durch seinen gemeinnützigen Status erhielt es zahlreiche Steuer- und andere Vorteile. Wenn man zulässt, dass das Ganze kaputtgeht, wenn es unpraktisch wird, ist das ein sehr schlechtes Signal an andere Akteure im Ökosystem.“
OpenAI wurde 2015 als gemeinnütziges Forschungslabor gegründet. Doch als seine Experimente immer kapitalintensiver wurden, schuf es seine aktuelle Struktur und übernahm externe Investitionen von VCs und Unternehmen, darunter Microsoft.
Heute hat OpenAI eine hybride Struktur: eine gewinnorientierte Seite, die von einer gemeinnützigen Organisation kontrolliert wird, mit einem „begrenzten Gewinnanteil“ für Investoren und Mitarbeiter. Aber in einem Blogbeitrag heute Morgen sagte das Unternehmen, dass es plant, mit der Umwandlung seiner bestehenden gewinnorientierten Gesellschaft in eine Delaware Public Benefit Corporation (PBC) mit Stammaktien und Aktien zu beginnen OpenAI-Mission als sein Gemeinnützigkeitsinteresse.
Die gemeinnützige Organisation von OpenAI bleibt bestehen, gibt jedoch die Kontrolle im Tausch gegen Anteile an der PBC ab.
Musk, einer der ersten Mitwirkenden der ursprünglichen gemeinnützigen Organisation, reichte im November Klage ein und beantragte eine einstweilige Verfügung, um die geplante Änderung, die schon seit langem in Arbeit ist, zu stoppen. Er beschuldigte OpenAI, seine ursprüngliche philanthropische Mission aufgegeben zu haben, die Früchte seiner KI-Forschung allen zugänglich zu machen, und Rivalen – darunter sein KI-Startup xAI – mit wettbewerbswidrigen Mitteln das Kapital zu entziehen.
OpenAI bezeichnete Musks Beschwerden als „unbegründet“ und lediglich als einen Fall von Missgunst.
Facebooks Muttergesellschaft und KI-Rivale Meta unterstützt ebenfalls Bemühungen, die Umstellung von OpenAI zu blockieren. Im Dezember schickte Meta einen Brief an den kalifornischen Generalstaatsanwalt Rob Bonta, in dem er argumentierte, dass die Zulassung der Verschiebung „seismische Auswirkungen auf das Silicon Valley“ hätte.
Anwälte von Encode sagten, dass die Pläne von OpenAI, die Kontrolle über seinen Betrieb an eine PBC zu übertragen, „eine Organisation, die gesetzlich dazu verpflichtet ist, die Sicherheit fortschrittlicher KI zu gewährleisten, in eine Organisation umwandeln würden, die gesetzlich dazu verpflichtet ist, ihre Abwägung zwischen öffentlichen Vorteilen und finanziellem Nutzen abzuwägen.“ Interessen von [its] Aktionäre.‘“
Der Anwalt von Encode stellt in dem Schriftsatz beispielsweise fest, dass sich die gemeinnützige Organisation von OpenAI verpflichtet hat, den Wettbewerb mit jedem „wertorientierten, sicherheitsbewussten Projekt“ einzustellen, das dem Aufbau von AGI nahe kommt, bevor dies der Fall ist, was OpenAI als gewinnorientierte Organisation jedoch getan hätte weniger (wenn überhaupt) Anreiz, dies zu tun. In dem Schriftsatz wird auch darauf hingewiesen, dass der Vorstand der gemeinnützigen OpenAI nach Abschluss der Umstrukturierung des Unternehmens nicht mehr in der Lage sein wird, das Eigenkapital der Anleger zu streichen, wenn dies aus Sicherheitsgründen erforderlich ist.
OpenAI erlebt weiterhin einen Abfluss hochqualifizierter Talente, was teilweise auf Bedenken zurückzuführen ist, dass das Unternehmen kommerziellen Produkten auf Kosten der Sicherheit Vorrang einräumt. Ein ehemaliger Mitarbeiter, Miles Brundage, ein langjähriger Politikforscher, der OpenAI im Oktober verließ, sagte in einem Reihe von Beiträgen auf
„Die angepriesene treuhänderische Pflicht von OpenAI gegenüber der Menschheit würde verschwinden, da das Gesetz von Delaware eindeutig besagt, dass die Direktoren einer PBC überhaupt keine Pflicht gegenüber der Öffentlichkeit haben“, heißt es in der Stellungnahme von Encode weiter. „Das öffentliche Interesse würde geschädigt, wenn eine sicherheitsorientierte, auftragsbeschränkte gemeinnützige Organisation die Kontrolle über etwas, das um jeden Preis so transformativ ist, an ein gewinnorientiertes Unternehmen ohne durchsetzbare Verpflichtung zur Sicherheit abgibt.“
Encode wurde im Juli 2020 von Revanur gegründet und beschreibt sich selbst als ein Netzwerk von Freiwilligen, das sich dafür einsetzt, dass die Stimmen jüngerer Generationen in Gesprächen über die Auswirkungen von KI gehört werden. Encode hat zusätzlich zu SB 1047 zu verschiedenen Teilen der KI-Gesetzgebung auf Landes- und Bundesebene beigetragen, darunter zur KI-Bill of Rights des Weißen Hauses und zur Durchführungsverordnung von Präsident Joe Biden zu KI.
Aktualisiert am 30. Dezember, 10:10 Uhr Pazifische Zeit mit Aussagen von Revanur und Hinton.
Tech hat einen KI-fokussierten Newsletter! Melden Sie sich hier an um es jeden Mittwoch in Ihrem Posteingang zu erhalten.