„Rassistische“ Google-KI nach historischem Misserfolg suspendiert – World

Das künstliche Intelligenzprogramm Gemini darf bis zu einem Patch keine Bilder von Menschen erzeugen, kündigte Google am Donnerstag an, nachdem Kritiker es als „absurd aufgeweckt“ und „eklatant rassistisch“ eingestuft hatten.Früher war der Zwilling als Barde bekannt gestartet Anfang dieses Monats wurde es als Googles „leistungsfähigste Modellfamilie“ beworben, die in der Lage sei, „fesselnde Bilder“ zu erzeugen. Auf die Frage nach Bildern von US-Gründervätern, russischen Kaisern, französischen Königen, Päpsten und sogar deutschen Nazi-Soldaten der 1930er-Jahre lieferte die KI stattdessen Ergebnisse, die das moderne US-Konzept der „Vielfalt“ würdigten: „Weiße Menschen schienen die einzige Rassenkategorie zu sein, die Zwillinge umfasste.“ weigerte sich zu zeigen“, so ein Fox Business Zusammenfassung von ihrem Experiment mit der KI.Am Mittwoch sagte Google, es sei „sich bewusst, dass Gemini Ungenauigkeiten in einigen Darstellungen der historischen Bilderzeugung anbietet“. Am Donnerstag gab das Unternehmen bekannt, dass es „bereits daran arbeitet, aktuelle Probleme mit der Bildgenerierungsfunktion zu beheben“ und fügte hinzu, dass Anfragen zur Generierung von Bildern von Personen bis zur Veröffentlichung einer verbesserten Version ausgesetzt werden. Gemini-Benutzer haben zahlreiche Beispiele für „Ungenauigkeiten“ auf X (ehemals Twitter) gepostet, darunter einen schwarzen Mann und eine südasiatisch aussehende Frau, die als Oberhaupt der römisch-katholischen Kirche, schwarze und asiatische Wikinger und amerikanische „Gründer“ verkleidet sind waren nichts dergleichen. Ein anderer Benutzer veröffentlichte einen Thread, in dem Alexandre Dumas‘ Drei Musketiere sowohl rassisch vielfältig als auch weiblich waren – genau wie die beiden „größten Zaren Russlands“. Ein weiteres weit verbreitetes Beispiel zeigte, dass Zwillinge auch unter den Nazis auf Vielfalt bestanden .Gemini, das Bilder „eines breiten Spektrums von Menschen“ erzeugt, ist „im Allgemeinen eine gute Sache, weil Menschen auf der ganzen Welt es nutzen“, sagte Jack Krawczyk, Senior Director of Product Management des Projekts, gegenüber Fox Business. „Aber hier fehlt das Ziel.“Die New York Post verspottet die KI als „absurd aufgewacht“, während der Tech-Unternehmer und ehemalige Präsidentschaftskandidat Vivek Ramaswamy habe es beschrieben als „offensichtlich rassistisch“. Einige Kritiker haben Krawczyks eigene ausgegraben Social-Media-Beiträge um darauf hinzuweisen, dass er möglicherweise der Grund dafür ist, dass die KI auf diese Weise programmiert wurde.
Ramaswamy bemerkte auch, dass Geminis „weltweit peinlicher Rollout“ bewies, dass James Damore – der Ingenieur, der 2017 wegen Kritik an der Diversitätsdoktrin des Konzerns entlassen wurde – „zu 100 % Recht hatte, was Googles Abstieg in eine ideologische Echokammer angeht“.„Diese Unternehmen programmieren ihre Mitarbeiter mit fehlerhaften Anreizen, und diese Mitarbeiter programmieren dann die KI mit den gleichen Vorurteilen“, fügte Ramaswamy hinzu.Laut Fox Business antwortete Gemini auf alle Anfragen nach Bildern von Weißen mit der Aussage, dass dies „schädliche Stereotypen und Verallgemeinerungen über Menschen aufgrund ihrer Rasse verstärkt“. Bilder von weißen Menschen verkörpern „eine stereotype Sichtweise des Weißseins“, die für Menschen, die nicht weiß sind, und für die Gesellschaft als Ganzes „schädigend“ sein können, fügte die KI hinzu.„Die Leute, die es für eine gute Idee halten, KI/GPT-Modelle mit inkohärenten ‚Sicherheits‘-Filtern zu vergiften, stellen eine Bedrohung für die allgemeine Berechnung dar“, sagte NSA-Whistleblower Edward Snowden sagte auf X.In der Zwischenzeit trollte X-Besitzer Elon Musk Gemini, indem er echte Fotos des kanadischen Premierministers Justin Trudeau in ethnischer Tracht und Make-up veröffentlichte und so tat, als hätte die Google-KI sie erstellt.