Meta gab am Mittwoch die Schaffung eines KI-Beirat mit nur weißen Männern darauf. Was würden wir sonst noch erwarten? Frauen und farbige Menschen äußern sich seit Jahrzehnten darüber, dass sie von der Welt der künstlichen Intelligenz ignoriert und ausgeschlossen werden, obwohl sie qualifiziert sind und eine Schlüsselrolle bei der Entwicklung dieses Bereichs spielen.
Meta antwortete nicht sofort auf unsere Bitte, sich zur Diversität des Beirats zu äußern.
Dieser neue Beirat unterscheidet sich vom eigentlichen Vorstand und Aufsichtsgremium von Meta, das mehr ist vielfältig in der Geschlechter- und Rassenrepräsentation. Die Aktionäre haben diesen KI-Vorstand nicht gewählt, der auch keine Treuepflicht hat. Meta sagte Bloomberg dass der Vorstand würde „Einblicke und Empfehlungen zu technologischen Fortschritten, Innovationen und strategischen Wachstumschancen“ bieten. Es würde „regelmäßig“ zusammenkommen.
Es ist bezeichnend, dass der KI-Beirat ausschließlich aus Geschäftsleuten und Unternehmern besteht, nicht aus Ethikern oder Personen mit akademischem oder fundiertem Forschungshintergrund. Man könnte zwar argumentieren, dass aktuelle und ehemalige Führungskräfte von Stripe, Shopify und Microsoft angesichts der immensen Anzahl von Produkten, die sie auf den Markt gebracht haben, gut positioniert sind, um Metas KI-Produkt-Roadmap zu überwachen, aber es wurde immer wieder bewiesen, dass KI nicht wie andere Produkte ist. Es ist ein riskantes Geschäft, und wenn man es falsch macht, können die Folgen weitreichend sein, insbesondere für marginalisierte Gruppen.
In einem kürzlichen Interview mit Tech sagte Sarah Myers West, Geschäftsführerin des AI Now Institute, einer gemeinnützigen Organisation, die die sozialen Auswirkungen von KI untersucht, dass es von entscheidender Bedeutung sei, die Institutionen, die KI produzieren, „kritisch zu prüfen“, um „sicherzustellen, dass die Bedürfnisse der Öffentlichkeit berücksichtigt werden.“ [are] serviert.“
„Dies ist eine fehleranfällige Technologie, und wir wissen aus unabhängigen Untersuchungen, dass diese Fehler nicht gleichmäßig verteilt sind und Gemeinschaften, die seit langem die Hauptlast der Diskriminierung tragen, unverhältnismäßig schaden“, sagte sie. „Wir sollten die Messlatte viel, viel höher legen.“
Frauen erleben weitaus häufiger als Männer die Schattenseiten der KI. Sensity AI stellte im Jahr 2019 fest, dass 96 % der KI-Deepfake-Videos im Internet nicht einvernehmliche, sexuell eindeutige Videos waren. Generative KI hat seitdem weitaus mehr Verbreitung gefunden und Frauen sind immer noch das Ziel dieses gewalttätigen Verhaltens.
Bei einem aufsehenerregenden Vorfall im Januar gingen nicht einvernehmliche, pornografische Deepfakes von Taylor Swift auf X viral, wobei einer der am weitesten verbreiteten Beiträge Hunderttausende Likes und 45 Millionen Aufrufe erhielt. Soziale Plattformen wie
Aber wenn Ihnen das passiert und Sie keine globale Pop-Sensation sind, dann haben Sie vielleicht Pech gehabt. Es gibt zahlreiche Berichte von Schülern im Mittel- und Oberstufenalter, die explizite Deepfakes ihrer Klassenkameraden erstellen. Obwohl diese Technologie schon seit einiger Zeit existiert, war sie noch nie so einfach zugänglich – man muss kein technologisches Genie sein, um Apps herunterzuladen, die speziell dafür beworben werden, Fotos von Frauen „auszuziehen“ oder ihre Gesichter in Pornos zu verwandeln. Laut einem Bericht von Kat Tenbarge von NBC: Auf Facebook und Instagram gehostete Anzeigen für eine App namens Perky AI, die sich selbst als Werkzeug zur Erstellung expliziter Bilder beschrieb.
Zwei der Anzeigen, die Meta angeblich nicht entdeckte, bis Tenbarge das Unternehmen auf das Problem aufmerksam machte, zeigten Fotos der Prominenten Sabrina Carpenter und Jenna Ortega, deren Körper unscharf gemacht waren, und forderten die Kunden auf, die App aufzufordern, ihre Kleidung auszuziehen. Die Anzeigen verwendeten ein Bild von Ortega, als sie gerade einmal 16 Jahre alt war.
Der Fehler, Perky AI Werbung zu erlauben, war kein Einzelfall. Metas Aufsichtsgremium hat kürzlich Untersuchungen eingeleitet, weil das Unternehmen Meldungen über sexuell explizite, KI-generierte Inhalte nicht richtig bearbeitet.
Es ist unbedingt erforderlich, dass die Stimmen von Frauen und farbigen Menschen in die Innovation von Produkten der künstlichen Intelligenz einbezogen werden. Lange Zeit wurden solche Randgruppen von der Entwicklung weltverändernder Technologien und Forschung ausgeschlossen, und die Ergebnisse waren katastrophal.
Ein einfaches Beispiel ist die Tatsache, dass Frauen bis in die 1970er Jahre von klinischen Studien ausgeschlossen waren, was bedeutet, dass ganze Forschungsbereiche entwickelt wurden, ohne zu verstehen, welche Auswirkungen dies auf Frauen haben würde. Insbesondere Schwarze sehen die Auswirkungen von Technologien, die ohne sie im Hinterkopf entwickelt wurden – zum Beispiel ist es wahrscheinlicher, dass selbstfahrende Autos sie treffen, weil ihre Sensoren habe es schwerer Erkennung schwarzer Haut, nach eine Studie aus dem Jahr 2019 durchgeführt vom Georgia Institute of Technology.
Algorithmen, die auf bereits diskriminierenden Daten trainiert werden, bringen nur die gleichen Vorurteile wieder hervor, die Menschen ihnen beigebracht haben. Im Großen und Ganzen sehen wir bereits, dass KI-Systeme Rassendiskriminierung aufrechterhalten und verstärken arbeitstätig, Gehäuseund Strafjustiz. Sprachassistenten haben oft Schwierigkeiten, verschiedene Akzente zu verstehen Markieren Sie die Arbeit von Nicht-Muttersprachlern des Englischen als KI-generiert angesehen, da wie Axios bemerkteEnglisch ist die Muttersprache der KI. Gesichtserkennungssysteme flag Schwarze Menschen werden häufiger als mögliche Täter für Straftaten eingestuft als Weiße.
Die aktuelle Entwicklung der KI verkörpert dieselben bestehenden Machtstrukturen in Bezug auf Klasse, Rasse, Geschlecht und Eurozentrismus, die wir anderswo sehen, und es scheint, dass sich nicht genügend Führungskräfte damit befassen. Stattdessen verstärken sie es. Investoren, Gründer und Technologieführer konzentrieren sich so darauf, schnell voranzukommen und Dinge kaputt zu machen, dass sie scheinbar nicht begreifen können, dass generative KI – die derzeit angesagte KI-Technologie – die Probleme verschlimmern und nicht verbessern könnte. Laut a Bericht Laut McKinsey könnte KI etwa die Hälfte aller Jobs automatisieren, die keinen vierjährigen Abschluss erfordern und über 42.000 US-Dollar pro Jahr zahlen, Jobs, in denen Minderheitenarbeiter überrepräsentiert sind.
Es gibt Anlass zur Sorge, wie ein Team rein weißer Männer bei einem der bedeutendsten Technologieunternehmen der Welt, das sich an diesem Wettlauf um die Rettung der Welt mithilfe von KI beteiligt, jemals Produkte für alle Menschen beraten könnte, wenn es sich dabei nur um eine begrenzte Bevölkerungsgruppe handelt wird repräsentiert. Es wird enorme Anstrengungen erfordern, eine Technologie zu entwickeln, die jeder – wirklich jeder – nutzen kann. Tatsächlich sind die Ebenen, die zum Aufbau einer sicheren und integrativen KI erforderlich sind – von der Forschung bis zum Verständnis auf intersektionaler gesellschaftlicher Ebene – so komplex, dass es fast offensichtlich ist, dass dieser Beirat Meta nicht dabei helfen wird, es richtig zu machen. Zumindest dort, wo Meta zu kurz kommt, könnte ein weiteres Startup entstehen.