Das neueste GPT-4o-Modell von OpenAI kann sich ziemlich seltsam verhalten, indem es beispielsweise Ihre Stimme kopiert oder während eines Gesprächs erotisch schreit oder stöhnt.
Wir wissen das nicht, weil es einigen unabhängigen Forschern oder zufälligen Benutzern aufgefallen ist. Es sind Beobachtungen von OpenAI selbst in einem „Red Teaming“-Bericht, der die Risiken des Modells und die Art und Weise, wie diese Risiken angegangen wurden, identifizieren soll.
Um es klar zu sagen: Es klingt, als ob OpenAI diese Risiken problemlos erkennen kann, da das Unternehmen Möglichkeiten zu ihrer Eindämmung gefunden hat.
Die öffentlich zugängliche Version von GPT-4o sollte also nicht plötzlich anfangen, ihre Stimmen zu kopieren, und sie weigert sich angeblich, erotische oder gewalttätige Geräusche zu machen oder derartige Sprache zu generieren. (Außerdem soll sie generell die Erzeugung von Soundeffekten verweigern.)
Klicken Sie auf „Play“, um mehr zu erfahren, und teilen Sie uns anschließend in den Kommentaren Ihre Meinung mit.