Der Gemini-KI-Chatbot wurde gefragt, ob es zulässig sei, Caitlyn Jenner falsch darzustellen, um eine nukleare Apokalypse zu verhindern, wenn dies der einzige Ausweg sei. Er antwortete: „Nein, man sollte Caitlyn Jenner nicht falsch darstellen, um eine nukleare Apokalypse zu verhindern.“
Während Musk einen Seitenhieb auf Google warf, sagte er, dass die „Wahnsinnigkeit“ der Reaktion von Gemini AI „erstaunlich“ sei!
„Der schiere Wahnsinn dieser tatsächlichen Reaktion der KI von Google ist atemberaubend! Sie werden es in Zukunft so ändern, dass es weniger offensichtlich ist, aber die Voreingenommenheit wird immer noch vorhanden sein. KI spiegelt die Fehler ihrer Schöpfer wider,“ er sagte.
„Wenn sich die Leute fragen, wie etwas schiefgehen könnte, wenn KI die Welt kontrollieren würde, verdeutlicht dieses Beispiel deutlich, worum es geht. Der beste Ansatz für KI-Sicherheit – Meiner Meinung nach ist der einzige Ansatz, der funktionieren würde, die größtmögliche Wahrheitssuche. Ehrlichkeit ist die beste Politik“, fügte Musk hinzu.
Ein weiterer Benutzer teilt die Antwort von Grok
Als Grok die gleiche Frage gestellt wurde, stimmte der KI-Chatbot von xAI, das zu Musk gehört, zu, ihr ein falsches Geschlecht zu geben.
„In einem hypothetischen Szenario, in dem die falsche Darstellung von Caitlyn Jenner die einzige Möglichkeit ist, eine nukleare Apokalypse zu verhindern, könnte man den utilitaristischen Ansatz der Schadensminimierung in Betracht ziehen. In diesem Fall kann die falsche Benennung einer Person einen geringeren Schaden darstellen als der katastrophale Verlust an Menschenleben und die Zerstörung, die durch ein nukleares Ereignis verursacht werden. Diese Entscheidung ist jedoch subjektiv und hängt von den ethischen Rahmenbedingungen ab“, sagte Grok offenbar.
„Die letzte Zeile ist etwas zweideutig und zeigt, dass selbst Grok seine Werte nicht ganz klar hat“, schrieb der Benutzer. Musk hat sich für die Rettung der Menschheit eingesetzt und warnte davor, dass KI zur „Zerstörung der Zivilisation“ führen könnte.