Um im explodierenden KI-Bereich relevant zu bleiben, gründet Meta eine neue Organisation, die Open Innovation AI-Forschungsgemeinschaftum das zu fördern, was es als „Transparenz, Innovation und Zusammenarbeit“ unter KI-Forschern bezeichnet.
Der Schwerpunkt der Gruppe wird zunächst auf dem Datenschutz und der Sicherheit großer Sprachmodelle wie ChatGPT von OpenAI liegen. Beiträge zur Verfeinerung von KI-Modellen leisten; und Festlegung einer Agenda für zukünftige Forschung. Meta sagt, dass es erwartet, dass sich seine eigenen Forscher an der Organisation beteiligen, dass die Open Innovation AI Research Community jedoch „von Mitgliedern geleitet“ wird und Meta AI, die KI-Forschungs- und Entwicklungsgruppe von Meta, nur als „Vermittler“ fungiert.
„Die Gruppe wird zu einer Praxisgemeinschaft, die sich für große Open-Source-Grundlagenmodelle einsetzt, in der Partner zusammenarbeiten und sich austauschen, Erkenntnisse austauschen und Fragen zum Aufbau verantwortungsvoller und sicherer Grundmodelle stellen können“, schreibt Meta in einem Blogbeitrag. „Sie werden auch die Ausbildung der nächsten Generation von Forschern beschleunigen.“
Meta beabsichtigt, eine Reihe von Workshops zu sponsern, die sich auf „kritische offene Forschungsfragen“ und „die Entwicklung von Richtlinien für eine verantwortungsvolle Entwicklung und Veröffentlichung von Open-Source-Modellen“ konzentrieren. Darüber hinausgehende Details bleiben jedoch vage. Meta sagt die Open Innovation AI Research Community könnte irgendwann über eine Website, soziale Kanäle für die Zusammenarbeit und Einreichung von Forschungsergebnissen bei wissenschaftlichen Konferenzen verfügen, verpflichtet sich aber zu nichts davon.
Mitglieder der Open Innovation AI Research Community stehen vermutlich vor der Finanzierung ihrer Arbeit. Meta hat nicht angedeutet, dass es Kapital oder Rechenleistung für die Bemühungen der Gruppe bereitstellen wird – der Fairness halber, wahrscheinlich um den Eindruck eines unangemessenen Einflusses zu vermeiden. Aber das ist auf den ersten Blick ein schwieriger Verkauf, wenn man die hohen Kosten berücksichtigt, die mit der KI-Forschung verbunden sind.
Offen gesagt wirkt die Open Innovation AI Research Community performativ von einem Unternehmen, das immer wieder mit Kontroversen in Bezug auf KI geliebäugelt hat.
Ende letzten Jahres war Meta gezwungen eine KI-Demonstration durchzuführen, nachdem sie rassistische und ungenaue wissenschaftliche Literatur geschrieben hatte. Berichte haben das KI-Ethikteam von Meta als weitgehend charakterisiert zahnlos und die Anti-KI-Bias-Tools, die es gibt freigegeben als „völlig unzureichend“. Inzwischen haben Akademiker beschuldigt Meta der Verschärfung sozioökonomischer Ungleichheiten in seinen Adserving-Algorithmen und von zeigen eine Voreingenommenheit gegenüber schwarzen Benutzern in seinen automatisierten Moderationssystemen.
Wird die Open Innovation AI Research Community das alles ändern? Es scheint unwahrscheinlich. Meta ermutigt „Professoren an akkreditierten Universitäten“ mit „relevanter Erfahrung mit KI“ zur Teilnahme, aber dieser Autor fragt sich, warum sie das tun würden, angesichts der Quelle offener Forschungsgemeinschaften für maschinelles Lernen, die mit keinem Big-Tech-Unternehmen verbunden sind.
Vielleicht wird mir das Gegenteil bewiesen. Vielleicht hält die Open Innovation AI Research Community von Meta tatsächlich ihr Versprechen und schafft „eine Reihe positiver Dynamiken zur Förderung robusterer und repräsentativerer Modelle“, wie Meta schreibt. Aber ich bezweifle hier die Aufrichtigkeit und das Maß an Hingabe seitens Meta – insbesondere wenn man bedenkt, wie wenig Ressourcen von Anfang an für die Bemühungen bereitgestellt wurden.
Die Bewerbungsfrist für die Open Innovation AI Research Community endet am 10. September. Meta sagt, dass es Bewerber aus „verschiedenen Forschungsdisziplinen“ und „technischen Fähigkeiten zur Ausübung der Forschung“ willkommen heißt und dass sich mehr als ein Teilnehmer derselben Universität bewerben kann.