Das Social-Media-Unternehmen Snap sagte Am Dienstag gab das Unternehmen bekannt, dass es plant, auf seiner Plattform Wasserzeichen zu KI-generierten Bildern hinzuzufügen.
Die Plattform fügt ein Logo eines kleinen Geistes mit einem Glitzersymbol hinzu, um ein KI-generiertes Bild zu kennzeichnen. Das Unternehmen sagte, das Wasserzeichen würde erscheinen, wenn das Bild exportiert oder auf der Kamerarolle gespeichert wird.
Snap plant, mit seinen Tools ein Ghost-Logo mit Glitzer auf KI-generierten Bildern anzuzeigen. Bildnachweis: Schnapp
Auf seiner Support-Seite erklärte das Unternehmen, dass das Entfernen von Snap’s Ghost mit funkelndem Wasserzeichen gegen seine Bedingungen verstoße. Es ist unklar, wie Snap die Entfernung des Wasserzeichens erkennen will. Wir haben das Unternehmen um weitere Einzelheiten gebeten und werden die Geschichte aktualisieren, sobald wir etwas hören.
Andere Technologiegiganten wie Microsoft, Meta und Google haben ebenfalls Schritte unternommen, um mit KI-gestützten Tools erstellte Bilder zu kennzeichnen oder zu identifizieren.
Derzeit ermöglicht Snap Benutzern das Erstellen oder Bearbeiten von KI-generierten Bildern mit Snap AI für zahlende Benutzer und einer Selfie-fokussierten Funktion namens Dreams.
In seinem Blogeintrag Das Unternehmen skizzierte seine Sicherheits- und Transparenzpraktiken rund um KI und erklärte, dass es Gen-KI-gestützte Funktionen wie Objektive mit visuellen Markierungen wie einem funkelnden Logo zeigt.
Snap listet Indikatoren für Funktionen auf, die durch generative KI unterstützt werden. Bildnachweis: Schnapp
Das Unternehmen fügte außerdem Kontextkarten mit KI-generierten Bildern von Tools wie Dream Selfies hinzu, um den Benutzer besser zu informieren.
Im Februar ging Snap eine Partnerschaft mit ein HackerOne seine KI-Bilderzeugungstools durch die Anpassung eines Bug-Bounty-Programms zu belasten. Das Unternehmen sagte, es habe außerdem einen Überprüfungsprozess eingeführt, um problematische Probleme bei der Entwicklung von KI-gesteuerten Objektiven zu beseitigen.
„Wir möchten, dass Snapchatter aus allen Gesellschaftsschichten den gleichen Zugang und die gleichen Erwartungen haben, wenn sie alle Funktionen unserer App nutzen, insbesondere unsere KI-gestützten Erlebnisse. Vor diesem Hintergrund führen wir zusätzliche Tests durch, um potenziell verzerrte KI-Ergebnisse zu minimieren“, sagte das Unternehmen in seinem Blog.
Snapchat geriet kurz nach der Einführung des Chatbots „My AI“ im letzten Jahr ins Wanken. A Washington Post Bericht stellte fest, dass der Bot unangemessene Antworten an Benutzer zurücksendete. Später führte das Unternehmen im Familienzentrum Kontrollen für Eltern und Erziehungsberechtigte ein, um die Interaktionen ihrer Teenager mit KI zu überwachen und einzuschränken.