John Pasmore war zunächst von ChatGPT begeistert.
Der Seriengründer war seit mindestens 2008 im Bereich der künstlichen Intelligenz tätig. Er erinnerte sich an die Tage, als Experten erklärten, es würde Jahrzehnte dauern, bis die Welt etwas wie ChatGPT sehen würde. Schneller Vorlauf – dieser Tag ist nun gekommen.
Aber die Sache hat einen Haken.
ChatGPT, eines der weltweit leistungsstärksten Tools für künstliche Intelligenz, hat Probleme mit kulturellen Nuancen. Das ist für eine schwarze Person wie Pasmore ziemlich ärgerlich. Tatsächlich hat dieses Versäumnis den Zorn vieler Schwarzer auf sich gezogen, die sich bereits in den Algorithmen, die eines Tages die Welt retten sollen, nicht angemessen repräsentiert sahen. Das aktuelle ChatGPT bietet Antworten, die für spezifische Fragen, die sich an bestimmte Gemeinschaften richten, zu allgemein sind, da sein Training in seiner Voreingenommenheit eurozentrisch und westlich erscheint. Das ist nicht einzigartig – die meisten KI-Modelle werden nicht für Menschen mit dunkler Hautfarbe entwickelt. Aber viele schwarze Gründer sind fest entschlossen, nicht zurückgelassen zu werden.
Im vergangenen Jahr sind zahlreiche ChatGPT-Versionen in schwarzem Besitz aufgetaucht, die sich speziell an die schwarze und braune Community richten, da schwarze Gründer wie Pasmore versuchen, aus dem kulturellen Ausrutscher von OpenAI Kapital zu schlagen.
„Wenn Sie das Modell allgemein fragen, wer die bedeutendsten Künstler unserer Kultur sind, werden Sie Leonardo da Vinci und Michelangelo finden“, sagte Pasmore über ChatGPT. „Es wird nichts über Indien oder China, Afrika oder sogar Afroamerikaner sagen, weil es eine Tendenz hat, die auf den europäischen Verlauf der Geschichte fokussiert ist.“
So startete Pasmore Latimer.AIein Sprachmodell, das Antworten gibt, die auf die Erfahrungen von Schwarzen und Braunen zugeschnitten sind. Erin Reddick begann ChatBlackGPT, ein Chatbot, der sich auch an schwarze und braune Communities richtet. Weltweit gibt es den in Kanada ansässigen Zündkerzeim Wesentlichen ein ChatGPT für schwarze und braune Studenten. Auch in Afrika gibt es in diesem Bereich enorme Innovationen. Es entstehen Sprachmodelle, die den mehr als 2.000 auf dem Kontinent gesprochenen Sprachen und Dialekten gerecht werden, die von westlichen KI-Modellen immer noch übersehen werden.
„Wir sind die Bewahrer unserer eigenen Geschichten und Erfahrungen“, sagte Tamar Huggins, Gründerin von Spark Plug, gegenüber Tech. „Wir müssen Systeme und Infrastrukturen schaffen, die wir besitzen und kontrollieren, um sicherzustellen, dass unsere Daten auch weiterhin unsere bleiben.“
Personalisierte KI ist da
Verallgemeinerte KI-Modelle können die Erfahrungen der Afroamerikaner nicht ohne weiteres erfassen, da viele Aspekte dieser Kultur nicht online verfügbar sind. Aktuelle Algorithmen durchforsten das Internet nach Quellen, aber viele Traditionen und Dialekte innerhalb der afroamerikanischen Kultur werden mündlich oder aus erster Hand weitergegeben. Dadurch entsteht eine Lücke zwischen dem, was ein KI-Modell über die Gemeinschaft verstehen kann, und den Nuancen dessen, was tatsächlich passiert.
Dies ist einer der Gründe, warum Pasmore beim Aufbau von Latimer.AI versucht hat, Quellen wie Amsterdam News, eine der ältesten schwarzen Zeitungen in den USA, zu nutzen. Dabei hat er sich auf Genauigkeit konzentriert und nicht auf Training mit benutzergenerierten Daten aus dem Internet. Dabei fielen ihm Unterschiede zwischen seinem Modell und dem von ChatGPT auf.
Er fragte ChatGPT einmal nach der Underground Railroad, der Route, die versklavte schwarze Amerikaner nutzten, um in die Nordstaaten zu reisen und der Sklaverei zu entkommen. ChatGPTs Modell würde entlaufene Sklaven erwähnen, während Latimer.AI die Formulierung angepasst hat und von „versklavten“ oder „freiheitssuchenden Menschen“ spricht, was eher dem entspricht, was gesellschaftlich akzeptierter geworden ist, wenn es um die Diskussion über ehemalige Sklaven geht.
„Aufgrund der Trainingsdaten gibt es einige subtile Unterschiede in der Sprache, die das Modell verwendet, und das Modell selbst denkt nur an Schwarze und Braune“, sagte Pasmore.
Unterdessen befindet sich Erin Reddicks ChatBlackGPT noch im Beta-Modus und soll am 19. Juni starten. Ihr Produkt funktioniert genau so, wie es klingt: ein Chatbot, bei dem man Fragen zur schwarzen Kultur stellen und maßgeschneiderte Antworten erhalten kann. „Der Kern dessen, was wir tun, wird wirklich von der Community getragen“, sagte sie.
Sie ist dabei, das Tool zu entwickeln, Benutzer fragen wie es aussehen und wie es sich verhalten soll. Sie arbeitet auch mit Bildungseinrichtungen wie historisch afroamerikanischen Colleges und Universitäten (HBCUs) zusammen, um mit den Studierenden zusammenzuarbeiten und sie zu unterrichten und sie dabei zu unterstützen, ihren Algorithmus zu trainieren. Sie sagte, sie wolle „eine umfassende Lernmöglichkeit für schwarze und braune Menschen schaffen, um einen sicheren Raum für die Erforschung von KI zu haben.“
„Der Algorithmus priorisiert schwarze Informationsquellen, damit er einen Wissensbestand ansprechen kann, der unmittelbarer nachvollziehbar ist als die durchschnittliche Erfahrung“, sagte sie gegenüber Tech und fügte hinzu, dass es, wie das Produkt von Pasmore, technisch gesehen jeder nutzen könne.
Tamar Huggins hat Spark Plug entwickelt, um auch schwarzen und braunen Communities ein maßgeschneidertes Erlebnis zu bieten. Ihre Plattform übersetzt Lehrmaterial in African American Vernacular English (AAVE), den Ethnolekt, der mit schwarzen amerikanischen Communities assoziiert wird. Dieser Dialekt wird traditionell mündlich und aus erster Hand weitergegeben und nicht wie Standardenglisch gelernt und niedergeschrieben, was bedeutet, dass die Genauigkeit eines KI-Modells (oder einer Person), das ihn lernt, nur das Internet wird schwanken in Präzision. Die genaue Erfassung von AAVE ist wichtig, nicht nur, damit der GPT damit antwortet, sondern auch, damit die Schüler einfacher Eingabeaufforderungen schreiben können, damit die KI die gewünschten Ergebnisse zurückgibt.
„Indem wir Inhalte erstellen, die bei schwarzen Studenten Anklang finden, sorgen wir dafür, dass sie sich selbst in der Bildung wiedererkennen, was für hohes Engagement und akademischen Erfolg entscheidend ist“, sagte Huggins. „Wenn sich die Gelegenheit bietet, wird Big Tech fast immer den Profit über die Menschen stellen. Deshalb haben wir unseren eigenen Weg im KI-Bereich geschaffen.“
Huggins trainierte ihren Algorithmus an Texten wie Shakespeare, aber auch an den Schriften schwarzer Autoren der Harlem Renaissance und sogar an der Ausdrucksweise ihrer Teenager-Tochter, um die Essenz von AAVE einzufangen. Huggins arbeitet außerdem mit Pädagogen, Linguisten und Kulturexperten zusammen, um die Ergebnisse von Spark Plug zu überprüfen und zu validieren.
Pasmore arbeitet außerdem daran, sein Unternehmen auf Schulen auszuweiten, insbesondere HBCUs, da immer mehr Studierende ChatGPT nutzen, um ihre Aufgaben zu erledigen.
„Dies ist ein besserer KI-Begleiter für viele der Aufgaben, die schwarze und braune Kinder erledigen müssen“, sagte er.
Die Diaspora vereinen
Afrika sieht sich in der aktuellen KI-Bewegung übersehen. So stammen laut einer Studie aus dem Jahr 2023 nur 0,77 % aller KI-Zeitschriften der Welt aus Afrika südlich der Sahara, verglichen mit 47,1 % in Ostasien und 11,6 % in Nordamerika. Indexbericht zur künstlichen Intelligenz. Bevölkerungsmäßig macht Afrika im Vergleich zu Nordamerika etwa 17 % der Weltbevölkerung aus, verglichen mit nur 7 % in Nordamerika. Wenn es darum geht, Informationen und Experten zum Thema KI zusammenzutragen, ist die Wahrscheinlichkeit, dass Forschungsergebnisse aus Subsahara-Afrika genutzt werden, ziemlich gering, was die Entwicklung globaler KI-Tools beeinträchtigen könnte.
Während in Afrika große Fortschritte bei der Schaffung umfassenderer Sprachmodelle erzielt werden, die der schwarzen Diaspora besser dienen, können aktuelle KI-Modelle von ChatGPT bis Gemini die über 2.000 in Afrika gesprochenen Sprachen derzeit nicht vollständig unterstützen.
Yinka Iyinolakan erstellte CDIAL.AI um dieses Problem zu lösen. CDIAL.AI ist ein Chatbot, der fast alle afrikanischen Sprachen und Dialekte sprechen und verstehen kann, wobei der Schwerpunkt eher auf Sprachmustern als auf Text liegt.
Iyinolakan äußerte gegenüber Tech dieselbe Meinung wie viele schwarze Amerikaner – nämlich, dass grundlegende KI-Modelle hauptsächlich auf Internetdaten und den am häufigsten gesprochenen Sprachen basieren. Wie die Kultur der afroamerikanischen Nachkommen fehlen viele afrikanische Sprachen und Traditionen im Internet, da diese Kultur historisch eher mündlich als schriftlich kommuniziert wird. Das bedeutet, dass KI-Modelle nicht über genügend Informationen über afrikanische Kulturen verfügen, um sich selbst zu trainieren, wodurch eine Wissenslücke entsteht.
Für CDIAL.AI holte Iyinolakan mehr als 1.200 Muttersprachler und Linguisten aus ganz Afrika, um Wissen und Erkenntnisse zu sammeln und das zu entwickeln, was er als „das weltweit erste mehrsprachige Sprachmodell für große Sprachen“ bezeichnet. Das Unternehmen plant, in den nächsten 12 Monaten zu expandieren, um noch mehr Sprachen aufzunehmen und ein Modell zu entwickeln, das Text, Stimmen und Bilder unterstützt.
Damit ist er nicht allein. Google hat dem in Kenia ansässigen Unternehmen Jacaranda Health kürzlich einen Zuschuss von 1,4 Millionen Dollar gewährt, um seine maschinellen Lerndienste auszubauen, damit diese in mehr afrikanischen Sprachen arbeiten können, und Intron Health hat kürzlich mehrere Millionen Dollar aufgebracht, um seine klinische Spracherkennung für die über 200 in ganz Afrika gesprochenen Akzente zu skalieren.
„Silicon Valley will glauben, dass es das A und O der künstlichen Intelligenz ist“, sagte Iyinolakan. „Aber um künstliche Intelligenz zu ‚verstehen‘, die für alle Unternehmen der Leitstern ist, müssen sie ein Drittel des weltweiten Wissens einbeziehen.“
Fortschritte machen
Die Entwicklung von KI-Chatbots ist nicht die einzige Innovation, die schwarze Gründer in Angriff nehmen möchten.
Steve Jones gründete das Unternehmen Abonnieren um Stockbilder von Menschen mit dunkler Hautfarbe zu erstellen, da es seit Jahrzehnten einen Mangel an Minderheiten gibt, die in Stockbildern vertreten sind. Dies ist ein Grund, warum Models heute hauptsächlich Bilder von Weißen ausspucken, wenn Benutzer sie bitten, Bilder von Ärzten bis zu Popsängern zu erstellen.
„Alle Plattformen und Tools sollten mit vollständigen, rassisch inklusiven und kulturell korrekten Daten trainiert werden, sonst werden wir [perpetuate] die Vorurteilsprobleme, mit denen unsere Gesellschaft derzeit konfrontiert ist“, sagte Jones gegenüber Tech. Um dieses Problem anzugehen, hat pocstock in den letzten fünf Jahren Diversitätsdaten gesammelt und ein eigenes visuelles Tagging-System entwickelt, das zu einer Datenbank beiträgt, die Unternehmen verwenden, um ihre KI-Modelle zu trainieren, damit sie inklusivere Bilder erstellen können.
Es gibt jedoch einige Verbesserungen. Jones sagte, er habe bemerkt, dass größere Bildagenturen, die ihre Bilder an KI-Unternehmen liefern, größere Anstrengungen unternehmen, um die Vielfalt ihrer Inhalte zu erhöhen. Auch Pasmore sieht eine bessere Zukunft voraus: Die Zukunft liege ohnehin in der personalisierten KI, und je mehr KI-Modelle mit ihren Nutzern interagieren, desto besser würden sie die Wünsche und Bedürfnisse einer bestimmten Person verstehen, „was meiner Meinung nach viele Vorurteile ausschließt“.
In Zukunft könnte es sogar noch mehr Raum für kulturspezifischere KI-Modelle geben, insbesondere da immer mehr Alternativen in schwarzer Hand auftauchen. Schließlich ist die Welt riesig und vielschichtiger – es hat keinen Sinn, zu versuchen, sie in eine Blackbox zu pressen.
„Ich hoffe, dass sich mehr farbige Gründer so früh wie möglich in diesem nächsten Wirtschaftsboom an der Entwicklung ihrer eigenen KI-Plattformen oder der Schaffung neuer KI-bezogener Arbeitsplätze beteiligen“, sagte Jones. „KI wird Billionäre hervorbringen, und ich würde es begrüßen, wenn farbige Menschen die Position der Produzenten und nicht nur der Konsumenten einnehmen würden.“