Bereits im Februar stellte Google die Fähigkeit seines KI-gestützten Chatbots Gemini ein, Bilder von Menschen zu generieren, nachdem sich Nutzer darüber beschwert hatten historisch Ungenauigkeiten. Gemini soll beispielsweise „eine römische Legion“ darstellen und zeigt eine anachronistische Gruppe rassisch unterschiedlicher Soldaten, während „Zulu-Krieger“ als stereotypisch Schwarze dargestellt werden.
Sundar Pichai, CEO von Google, entschuldigte sich und Demis Hassabis, Mitbegründer von Googles KI-Forschungsabteilung DeepMind, sagte, dass eine Lösung „in sehr kurzer Zeit“ eintreffen sollte – innerhalb der nächsten Wochen. Aber wir sind jetzt schon weit im Mai und die versprochene Lösung bleibt in weiter Ferne.
Google hat diese Woche auf seiner jährlichen I/O-Entwicklerkonferenz zahlreiche weitere Gemini-Funktionen angekündigt, von benutzerdefinierten Chatbots über einen Reiseplaner für den Urlaub bis hin zur Integration mit Google Kalender, Keep und YouTube Music. Allerdings sei die Bilderzeugung von Personen in Gemini-Apps im Web und auf Mobilgeräten weiterhin ausgeschaltet, bestätigte ein Google-Sprecher.
Was ist also der Grund für die Verzögerung? Nun, das Problem ist wahrscheinlich komplexer, als Hassabis angedeutet hat.
Die Datensätze, die zum Trainieren von Bildgeneratoren wie dem von Gemini verwendet werden, enthalten im Allgemeinen mehr Bilder von Weißen als Menschen anderer Rassen und Ethnien sowie die Bilder von Nicht-Weißen in diesen Datensätzen verstärken Negativ Stereotypen. In dem offensichtlichen Bemühen, diese Vorurteile zu korrigieren, hat Google unter der Haube eine ungeschickte Hardcodierung implementiert. Und jetzt kämpft es darum, einen vernünftigen Mittelweg zu finden, der das vermeidet wiederholen Geschichte.
Wird Google dort ankommen? Vielleicht. Vielleicht nicht. Auf jeden Fall dient die langwierige Angelegenheit als Erinnerung daran, dass es keine einfache Lösung für Fehlverhalten der KI gibt – insbesondere, wenn Voreingenommenheit die Ursache des Fehlverhaltens ist.
Wir starten einen KI-Newsletter! Melden Sie sich an Hier um es ab dem 5. Juni in Ihren Posteingängen zu erhalten.