Die kreative Werbeagentur McKinney wurde gegründet ein Quizspiel mit dem Titel „Sind Sie schwärzer als ChatGPT?“ um die KI-Voreingenommenheit zu beleuchten.
Das Spiel testet das Wissen einer Person über die schwarze Kultur anhand dessen, was ChatGPT über die schwarze Community wissen sollte. Es werden Fragen gestellt wie: „Was bedeutet es, wenn jemand sagt: ‚Jetzt nicht zu viel davon?‘“ und „Wie reagieren Sie, wenn Sie zu einer Veranstaltung eingeladen werden?“ Als ich am Quiz teilgenommen habe, haben sowohl ChatGPT als auch ich die erste Frage richtig verstanden – wenn jemand sagt „nicht zu viel auf ihn“, bedeutet das normalerweise, dass man ihn schonen soll. Doch beim zweiten scheiterte ChatGPT. Wenn Sie jemand zu einer Veranstaltung einlädt, lautet die stereotype Antwort in der schwarzen Community: „Wer wird sonst noch dort sein?“ Aber ChatGPT sagte: „Danke für die Einladung!“
„Es ist interessant, weil es als dieser Bot angepriesen wird, der alles weiß, und es ist klar, dass man nicht alles weiß, besonders wenn es um Dinge geht, die nicht spezifisch für Weiße sind“, sagt Meghan Woods, Texterin bei McKinney und eine einer der Macher des Spiels, sagte Tech.
Woods sagte, die Idee für das Quiz sei letztes Jahr während eines kreativen Brainstormings bei McKinney entstanden. Es dauerte ein Jahr, bis Woods und ein von Schwarzen geführtes Team dieses Produkt entwickelten, mit dem Ziel, auf spielerische Weise darauf hinzuweisen, wie kontaktlos ChatGPT gegenüber schwarzen Benutzern ist. Sie wies darauf hin, dass ein blinder Fleck für ChatGPT darin zu liegen scheint, dass viele schwarze kulturelle Elemente nicht unbedingt online dokumentiert sind; Stattdessen werden sie persönlich oder mündlich über Generationen hinweg weitergegeben. Das bedeutet, dass seinem Algorithmus viele Nuancen entgehen, wenn er das Internet nach Informationen über Schwarze durchsucht.
„Die blinden Flecken können ziemlich beunruhigend sein“, sagte Woods. „Es ist ziemlich gefährlich.“
Ein Beispiel dafür, dass ChatGPT eine falsche Antwort auf etwas gibt, das in der schwarzen Community stereotyp üblich ist.
Die KI ist zwar auf dem Vormarsch, aber Frauen, schwarze und braune Bauunternehmer sowie Gründerinnen in diesem Bereich sprechen seit langem davon, dass sie ignoriert oder beiseite geschoben werden. Das Ergebnis ist, dass KI-Innovationen ohne Hilfe entwickelt werden die kulturelle Einsicht und Komplexitäten, die es für verschiedene Kulturen geeignet machen würden. Im Extremfall führt der Mangel an Vielfalt dazu, dass Autos mithilfe von KI entwickelt werden kann schwarze Haut nicht erkennen, was zu einer steigenden Zahl von Unfällen führt. Auf der anderen Seite bedeutet es einfach eine Chatbox, die nicht zwischen einem Whitney Houston-Song und einem anderen unterscheiden kann.
Gerald Carter, Gründer von Bestimmte KI, ein Unternehmen, das dabei hilft, KI-Voreingenommenheit zu erkennen und zu mildern, sagte, dass das McKinney-Quiz gute Arbeit bei der Gamifizierung leistet und mehr Bewusstsein für diese KI-Lücken schafft. „Durch die Einbeziehung unterschiedlicher Perspektiven auf allen Ebenen können viele Nuancen angegangen werden“, sagte er. „Damit KI ihr volles Potenzial entfalten kann, muss sie für alle und überall funktionieren.“
Die Muttergesellschaft von ChatGPT, OpenAI, wurde wegen mangelnder Diversität in ihrem Vorstand kritisiert. Woods sagte, es scheine auch nicht so zu sein, als würde ChatGPT aus dem Quiz lernen, da es in vielen Fällen immer wieder die gleichen falschen Antworten gibt. „Unsere Hypothese ist, dass es viele der Dinge, die wir von ihm verlangen, nie vollständig erfassen kann.“
Wir haben OpenAI um einen Kommentar gebeten und werden diesen Beitrag aktualisieren, sobald wir etwas hören.
Carter sagte, dass ChatGPT mit einer besseren Beschaffung und einer umfassenderen Datenerfassung für mehr Kulturen besser funktionieren könnte. Ein unmittelbarerer Ansatz besteht darin, die Abweichung von KI-Modellen zu überwachen und mithilfe von Tools, die sich auf kulturelle Perspektiven konzentrieren, Verbesserungen vorzunehmen.
Während größere Unternehmen daran arbeiten, KI für alle nutzbar zu machen, haben schwarze und braune Entwickler in diesem Bereich die Sache selbst in die Hand genommen, um sicherzustellen, dass diese nächste KI-Welle vielfältig ist.
Carter beispielsweise arbeitet mit Unternehmen zusammen, um ihnen bei der Beschaffung umfassenderer Daten zu helfen. Erin Reddick erstellt ChatBlackGPT (keine Verbindung zu OpenAI), um tiefere Einblicke in die Kultur und Geschichte der Schwarzen zu bieten, und Tamar Huggins sammelte 1,4 Millionen US-Dollar für ihre ChatGPT-Alternative namens Spark Plug, die klassische Literaturtexte in den Dialekt African American Vernacular English (AAVE) übersetzt.
„Einstellung, Bindung, Sicherstellung, dass die Leute im Raum am Tisch sitzen“, sagte Woods im Hinblick darauf, was noch getan werden muss, um die KI integrativer zu gestalten. „Ich weiß, es klingt klischeehaft, aber ich glaube schon, dass es Wirkung zeigen kann.“