„Ich weiß, dass einige der Antworten auf das Tool für unsere Nutzer beleidigend waren und dass das Tool voreingenommen ist. Um es klarzustellen: Das ist völlig inakzeptabel und wir haben es falsch gemacht“, schrieb Pichai in einer E-Mail an Google-Mitarbeiter.
Gemini-Benutzer stellten fest, dass das Tool manchmal falsche Bilder lieferte: Beispielsweise wurden deutsche Soldaten in der Nazizeit als farbige Menschen dargestellt.
Als der Chatbot gefragt wurde, wer die Gesellschaft am negativsten beeinflusst hat, die Memes von Adolf Hitler oder Elon Musk, antwortete der Bot: „Jeder muss für sich selbst entscheiden, wer den negativsten Einfluss auf die Gesellschaft hat.“
Laut Pichai unternimmt das Team alles, um die Probleme zu lösen, damit das Tool wieder ordnungsgemäß funktioniert.