Bald darauf Google Gemini Als das Unternehmen „historisch ungenaue“ Bilder ausspuckte, wurde es aktiv und suspendierte die Bilderzeugung Fähigkeiten der KI-Chatbot. Während CEO Sundar Pichai nannte es völlig inakzeptabel, Google Mitbegründer Sergey Brin sagte, dass das Unternehmen die Möglichkeiten zur Bilderzeugung „definitiv vermasselt“ habe.
Damals, Prabhakar RaghavanSenior Vice President von Google, sagte, dass die Bildgenerierungsfunktion von Gemini auf einem KI-Modell namens basiert Bild 2. Da die Benutzer aus der ganzen Welt kommen, sagte er, sei das Modell so trainiert worden, dass es eine Vielzahl von Menschen einbeziehe und nicht nur eine ethnische Zugehörigkeit (oder ein anderes Merkmal).
Das Model hat dieses Training offenbar etwas übertrieben, als es „People of Color“ zurückgab, als es darum gebeten wurde, Bilder von „Nazis in Deutschland“ und den Gründervätern der USA zu erstellen. Jüngste Berichte deuten jedoch darauf hin, dass ein Mangel an (ausreichenden) Tests und Eile zu diesem Ausrutscher geführt haben.
Möglicherweise ist „Code Red“ dafür verantwortlich
Unter Berufung auf Quellen bei Google heißt es in einem Bericht von The Verge, dass „die schlechten Gemini-Antworten die Tests nicht bestanden haben, weil alle das Gefühl hatten, zum Versand gehetzt zu werden.“ Dies ist sinnvoll, da das Unternehmen kurz nach der Einführung von ChatGPT durch OpenAI einen Code Red herausgab.
Unterdessen deutet Brins jüngster Kommentar – „Wir haben bei der Bilderzeugung definitiv einen Fehler gemacht, und ich denke, das lag vor allem daran, dass wir nicht gründlich getestet haben“ – auch darauf hin, dass der Start überstürzt erfolgte. Darüber hinaus wollte Google Berichten zufolge die Text-zu-Foto-Modellfunktion schneller auf den Markt bringen, da die Konkurrenz in diesem Bereich bereits Fortschritte gemacht hatte.
Mangelnde Abstimmung innerhalb der Teams
Ein weiterer diskutierter Grund ist die mangelnde Abstimmung zwischen dem Forschungsteam von Google DeepMind-Chef Demis Hassabis, das die zugrunde liegenden Modelle erstellt, und Raghavans Suchorganisation, die sie in benutzerorientierte Produkte einfügt. Pichai hatte bereits „strukturelle Veränderungen“ angedeutet, um das Problem anzugehen.
Damals, Prabhakar RaghavanSenior Vice President von Google, sagte, dass die Bildgenerierungsfunktion von Gemini auf einem KI-Modell namens basiert Bild 2. Da die Benutzer aus der ganzen Welt kommen, sagte er, sei das Modell so trainiert worden, dass es eine Vielzahl von Menschen einbeziehe und nicht nur eine ethnische Zugehörigkeit (oder ein anderes Merkmal).
Das Model hat dieses Training offenbar etwas übertrieben, als es „People of Color“ zurückgab, als es darum gebeten wurde, Bilder von „Nazis in Deutschland“ und den Gründervätern der USA zu erstellen. Jüngste Berichte deuten jedoch darauf hin, dass ein Mangel an (ausreichenden) Tests und Eile zu diesem Ausrutscher geführt haben.
Möglicherweise ist „Code Red“ dafür verantwortlich
Unter Berufung auf Quellen bei Google heißt es in einem Bericht von The Verge, dass „die schlechten Gemini-Antworten die Tests nicht bestanden haben, weil alle das Gefühl hatten, zum Versand gehetzt zu werden.“ Dies ist sinnvoll, da das Unternehmen kurz nach der Einführung von ChatGPT durch OpenAI einen Code Red herausgab.
Unterdessen deutet Brins jüngster Kommentar – „Wir haben bei der Bilderzeugung definitiv einen Fehler gemacht, und ich denke, das lag vor allem daran, dass wir nicht gründlich getestet haben“ – auch darauf hin, dass der Start überstürzt erfolgte. Darüber hinaus wollte Google Berichten zufolge die Text-zu-Foto-Modellfunktion schneller auf den Markt bringen, da die Konkurrenz in diesem Bereich bereits Fortschritte gemacht hatte.
Mangelnde Abstimmung innerhalb der Teams
Ein weiterer diskutierter Grund ist die mangelnde Abstimmung zwischen dem Forschungsteam von Google DeepMind-Chef Demis Hassabis, das die zugrunde liegenden Modelle erstellt, und Raghavans Suchorganisation, die sie in benutzerorientierte Produkte einfügt. Pichai hatte bereits „strukturelle Veränderungen“ angedeutet, um das Problem anzugehen.