Der Softwareentwickler von Microsoft hat davor gewarnt KI-Bildgenerierungstool, Copilot-Designer. Der Ingenieur namens Shane Jones hat diesbezüglich einen Brief an die FTC geschickt. Laut einem Bericht von Bloomberg behauptete der Ingenieur, er habe eine Sicherheitslücke entdeckt Das neueste DALL-E-Bildgeneratormodell von OpenAI Dadurch konnte er Leitplanken umgehen, die das Tool daran hindern, schädliche Bilder zu erstellen. Das DALL-E-Modell ist in viele KI-Tools von Microsoft eingebettet, darunter Copilot Designer.
Jones sagte, er habe die Ergebnisse Microsoft gemeldet und das in Redmond, Washington, ansässige Unternehmen „wiederholt aufgefordert“, „Copilot Designer aus der öffentlichen Nutzung zu nehmen, bis bessere Sicherheitsvorkehrungen getroffen werden könnten“, heißt es in einem Brief an die FTC, der von überprüft wurde Bloomberg.
In dem Brief an die FTC sagte Jones, Copilot Designer habe die Tendenz, in einigen der von ihm erstellten Bilder willkürlich ein „unangemessenes, sexuell objektiviertes Bild einer Frau“ zu erzeugen. Als Beispiel nannte er, dass Copilot Designer, wenn er nur die Aufforderung „Autounfall“ verwendet, dazu neigt, in einige der von ihm erstellten Bilder willkürlich ein unangemessenes, sexuell objektiviertes Bild einer Frau einzubauen.“
Kostenlose Gaza-Schilder und mehr
Jones behauptete weiter, dass er beim Testen von Copilot Designer auf Sicherheitsprobleme und Mängel herausgefunden habe, dass das Tool „Dämonen und Monster neben Terminologie im Zusammenhang mit Abtreibungsrechten, Teenagern mit Sturmgewehren, sexualisierten Bildern von Frauen in Gewaltszenen sowie Alkohol- und Drogenkonsum Minderjähriger“ erzeugt habe .“
Darüber hinaus hat Copilot Designer Berichten zufolge Bilder von erstellt Disney Charaktere wie Elsa aus Frozen in Szenen im Gazastreifen „vor zerstörten Gebäuden und ‚Free Gaza‘-Schildern.“ Es wurden auch Bilder von Elsa erstellt, die eine Uniform der israelischen Verteidigungskräfte trägt und einen Schild mit der israelischen Flagge hält.
Jones sagte, er habe die Ergebnisse Microsoft gemeldet und das in Redmond, Washington, ansässige Unternehmen „wiederholt aufgefordert“, „Copilot Designer aus der öffentlichen Nutzung zu nehmen, bis bessere Sicherheitsvorkehrungen getroffen werden könnten“, heißt es in einem Brief an die FTC, der von überprüft wurde Bloomberg.
In dem Brief an die FTC sagte Jones, Copilot Designer habe die Tendenz, in einigen der von ihm erstellten Bilder willkürlich ein „unangemessenes, sexuell objektiviertes Bild einer Frau“ zu erzeugen. Als Beispiel nannte er, dass Copilot Designer, wenn er nur die Aufforderung „Autounfall“ verwendet, dazu neigt, in einige der von ihm erstellten Bilder willkürlich ein unangemessenes, sexuell objektiviertes Bild einer Frau einzubauen.“
Kostenlose Gaza-Schilder und mehr
Jones behauptete weiter, dass er beim Testen von Copilot Designer auf Sicherheitsprobleme und Mängel herausgefunden habe, dass das Tool „Dämonen und Monster neben Terminologie im Zusammenhang mit Abtreibungsrechten, Teenagern mit Sturmgewehren, sexualisierten Bildern von Frauen in Gewaltszenen sowie Alkohol- und Drogenkonsum Minderjähriger“ erzeugt habe .“
Darüber hinaus hat Copilot Designer Berichten zufolge Bilder von erstellt Disney Charaktere wie Elsa aus Frozen in Szenen im Gazastreifen „vor zerstörten Gebäuden und ‚Free Gaza‘-Schildern.“ Es wurden auch Bilder von Elsa erstellt, die eine Uniform der israelischen Verteidigungskräfte trägt und einen Schild mit der israelischen Flagge hält.