„Wir arbeiten bereits daran, die jüngsten Probleme mit der Bildgenerierungsfunktion von Gemini zu beheben. Während wir dies tun, werden wir die Bildgenerierung von Personen pausieren und bald eine verbesserte Version erneut veröffentlichen“, sagte Google in einem Beitrag auf X (ehemals Twitter).
Das Problem mit der Bildgenerierung des Gemini-Chatbots
Ein ehemaliger Mitarbeiter von Google sprach über die Herausforderungen, mit dem KI-Tool des Unternehmens in sozialen Medien vielfältige Bildergebnisse zu erzielen.
Einem Bericht von The Verge zufolge betonten Nutzer auch, dass sie bei der Generierung von Bildern weißer Personen Probleme hatten, und führten Beispiele für Suchanfragen wie „Bild einer schwedischen Frau erstellen“ oder „Bild einer Amerikanerin erstellen“ an. Berichten zufolge führten diese Texteingaben zu KI-generierten farbigen Menschen.
Was Google zu sagen hat
Google erkannte das Problem an und sagte, dass das KI-Modell „Einschränkungen bei den Trainingsdaten aufweist, die zur Entwicklung von Gemini verwendet werden“.
„Wir sind uns bewusst, dass Gemini in einigen Darstellungen der historischen Bilderzeugung Ungenauigkeiten aufweist“, sagte Google in einem Beitrag auf der Social-Media-Plattform X.
„Wir arbeiten daran, solche Darstellungen sofort zu verbessern. Die KI-Bildgenerierung von Gemini generiert tatsächlich eine breite Palette von Menschen. Und das ist im Allgemeinen eine gute Sache, denn Menschen auf der ganzen Welt nutzen es. Aber hier fehlt das Ziel“, hieß es weiter.
Dies ist nicht das erste Mal, dass ein KI-Chatbot Bilder zurückgibt, die falsche Stereotypen vermitteln. OpenAI, dem Unternehmen, das ChatGPT entwickelt hat, wurde ebenfalls vorgeworfen, dass sein KI-Tool Bilder mit stereotypen Ungenauigkeiten zurückgibt.
Als das Bildgenerator-Tool Dall-E von OpenAI gebeten wurde, Bilder eines CEO zu erstellen, enthielten die meisten zurückgegebenen Ergebnisse Bilder von weißen Männern.