Google-Chef Sundar Pichai hat den Mitarbeitern ein scharf formuliertes Memo zur jüngsten Kontroverse um die Bilderzeugung seines KI-Chatbots Gemini geschickt. In einem internen Memo an die Mitarbeiter, das zuerst in Semafor erschien, bezeichnete Pichai die Reaktionen der Gemini in Bezug auf die Rasse als inakzeptabel und versprach, strukturelle Änderungen vorzunehmen, um das Problem zu beheben.
Google hat letzte Woche sein Bilderstellungstool Gemini eingestellt, nachdem es peinliche und anstößige Ergebnisse lieferte und in einigen Fällen die Darstellung weißer Menschen ablehnte. In den Suchergebnissen wurden sogar die Rassen der Mitbegründer von Google ungenau dargestellt. Nach der Kontroverse entschuldigte sich Google öffentlich dafür, „das Ziel verfehlt zu haben“ und sagte, dass man daran arbeite, die Bilderzeugung in den kommenden Wochen wieder zu ermöglichen. Das Unternehmen räumte ein, dass es die Diversität in einigen Fällen „überkompensiert“ habe. Pichais Memo an die Mitarbeiter ist das erste Mal, dass sich der Google-CEO zu diesem Thema äußert.
Hier ist der Brief des Google-CEO Sundar Pichai, wie er auf Semafor erschien:
Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (ehemals Bard) beheben. Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und voreingenommen gezeigt haben – um es klarzustellen: Das ist völlig inakzeptabel und wir haben uns geirrt.
Unsere Teams haben rund um die Uhr daran gearbeitet, diese Probleme anzugehen. Wir sehen bereits eine erhebliche Verbesserung bei einer Vielzahl von Eingabeaufforderungen. Keine KI ist perfekt, insbesondere in diesem aufstrebenden Entwicklungsstadium der Branche, aber wir wissen, dass die Messlatte für uns hoch liegt und wir werden daran festhalten, egal wie lange es dauert. Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Umfang beheben.
Unsere Mission, die Informationen der Welt zu organisieren und sie allgemein zugänglich und nutzbar zu machen, ist unantastbar. Wir sind stets bestrebt, den Benutzern in unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu bieten. Deshalb vertrauen ihnen die Menschen. Dies muss unser Ansatz für alle unsere Produkte sein, einschließlich unserer neuen KI-Produkte.
Wir werden eine Reihe klarer Maßnahmen vorantreiben, darunter strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, solide Evaluierungen und Red-Teaming sowie technische Empfehlungen. Wir prüfen das alles und werden die notwendigen Änderungen vornehmen.
Auch wenn wir daraus lernen, was hier schief gelaufen ist, sollten wir auch auf den Produkt- und technischen Ankündigungen aufbauen, die wir in den letzten Wochen im Bereich KI gemacht haben. Dazu gehören einige grundlegende Fortschritte bei unseren zugrunde liegenden Modellen, z. B. unser Durchbruch bei 1 Million Long-Context-Fenstern und unsere offenen Modelle, die beide gut angenommen wurden.
Wir wissen, was es braucht, um großartige Produkte zu entwickeln, die von Milliarden Menschen und Unternehmen genutzt und geliebt werden, und mit unserer Infrastruktur und Forschungskompetenz verfügen wir über ein unglaubliches Sprungbrett für die KI-Welle. Konzentrieren wir uns auf das Wichtigste: die Entwicklung hilfreicher Produkte, die das Vertrauen unserer Benutzer verdienen.
Google hat letzte Woche sein Bilderstellungstool Gemini eingestellt, nachdem es peinliche und anstößige Ergebnisse lieferte und in einigen Fällen die Darstellung weißer Menschen ablehnte. In den Suchergebnissen wurden sogar die Rassen der Mitbegründer von Google ungenau dargestellt. Nach der Kontroverse entschuldigte sich Google öffentlich dafür, „das Ziel verfehlt zu haben“ und sagte, dass man daran arbeite, die Bilderzeugung in den kommenden Wochen wieder zu ermöglichen. Das Unternehmen räumte ein, dass es die Diversität in einigen Fällen „überkompensiert“ habe. Pichais Memo an die Mitarbeiter ist das erste Mal, dass sich der Google-CEO zu diesem Thema äußert.
Hier ist der Brief des Google-CEO Sundar Pichai, wie er auf Semafor erschien:
Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (ehemals Bard) beheben. Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und voreingenommen gezeigt haben – um es klarzustellen: Das ist völlig inakzeptabel und wir haben uns geirrt.
Unsere Teams haben rund um die Uhr daran gearbeitet, diese Probleme anzugehen. Wir sehen bereits eine erhebliche Verbesserung bei einer Vielzahl von Eingabeaufforderungen. Keine KI ist perfekt, insbesondere in diesem aufstrebenden Entwicklungsstadium der Branche, aber wir wissen, dass die Messlatte für uns hoch liegt und wir werden daran festhalten, egal wie lange es dauert. Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Umfang beheben.
Unsere Mission, die Informationen der Welt zu organisieren und sie allgemein zugänglich und nutzbar zu machen, ist unantastbar. Wir sind stets bestrebt, den Benutzern in unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu bieten. Deshalb vertrauen ihnen die Menschen. Dies muss unser Ansatz für alle unsere Produkte sein, einschließlich unserer neuen KI-Produkte.
Wir werden eine Reihe klarer Maßnahmen vorantreiben, darunter strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, solide Evaluierungen und Red-Teaming sowie technische Empfehlungen. Wir prüfen das alles und werden die notwendigen Änderungen vornehmen.
Auch wenn wir daraus lernen, was hier schief gelaufen ist, sollten wir auch auf den Produkt- und technischen Ankündigungen aufbauen, die wir in den letzten Wochen im Bereich KI gemacht haben. Dazu gehören einige grundlegende Fortschritte bei unseren zugrunde liegenden Modellen, z. B. unser Durchbruch bei 1 Million Long-Context-Fenstern und unsere offenen Modelle, die beide gut angenommen wurden.
Wir wissen, was es braucht, um großartige Produkte zu entwickeln, die von Milliarden Menschen und Unternehmen genutzt und geliebt werden, und mit unserer Infrastruktur und Forschungskompetenz verfügen wir über ein unglaubliches Sprungbrett für die KI-Welle. Konzentrieren wir uns auf das Wichtigste: die Entwicklung hilfreicher Produkte, die das Vertrauen unserer Benutzer verdienen.