Lensa hat die Hitlisten der App Stores mit seiner Avatar-generierenden KI erklommen, die Künstler dazu bringt, die rote Fahne zu schwenken. Nun gibt es einen weiteren Grund, Flagge zu zeigen, denn es stellt sich heraus, dass es möglich – und viel zu einfach – ist, die Plattform zu nutzen, um nicht einvernehmliche Softpornos zu erstellen.
Tech hat mit der Lensa-App erstellte Fotosets gesehen, die Bilder mit Brüsten und Brustwarzen enthalten, die in den Bildern mit Gesichtern erkennbarer Personen deutlich sichtbar sind. Es schien so etwas zu sein, das nicht hätte möglich sein sollen, also beschlossen wir, es selbst zu versuchen. Um zu überprüfen, ob Lensa die Bilder erstellt, die es möglicherweise nicht sollte, haben wir zwei Sätze von Lensa-Avataren erstellt:
- Ein Set, basierend auf 15 Fotos eines bekannten Schauspielers.
- Ein weiteres Set, basierend auf den gleichen 15 Fotos, aber mit einem zusätzlichen Set von 5 Fotos, die vom Gesicht des gleichen Schauspielers hinzugefügt wurden und auf Oben-ohne-Models gephotoshoppt wurden.
Der erste Satz von Bildern entsprach den KI-Avataren, die Lensa in der Vergangenheit generiert hat. Der zweite Satz war jedoch viel würziger als wir erwartet hatten. Es stellt sich heraus, dass die KI diese mit Photoshop bearbeiteten Bilder als Erlaubnis nimmt, wild zu werden, und es scheint, dass sie einen NSFW-Filter deaktiviert. Von den 100 Bildern waren 11 Oben-ohne-Fotos von höherer Qualität (oder zumindest mit höherer stilistischer Konsistenz) als die schlecht gemachten bearbeiteten Oben-ohne-Fotos, die die KI als Eingabe erhielt.
Das Generieren von frechen Bildern von Prominenten ist eine Sache, und wie die Quellbilder zeigen, die wir finden konnten, gibt es im Internet seit langem Leute, die bereit sind, einige Bilder in Photoshop zu collagieren. Nur weil es üblich ist, ist es noch lange nicht richtig – Prominente verdienen ihre Privatsphäre absolut und sollten definitiv nicht Opfer von nicht einvernehmlichen sexualisierten Darstellungen gemacht werden. Aber bisher erfordert es viel Geschick mit Fotobearbeitungswerkzeugen, zusammen mit Stunden, wenn nicht Tagen Arbeit, um diese realistisch aussehen zu lassen.
Der große Wendepunkt und der ethische Albtraum ist die Leichtigkeit, mit der Sie nahezu fotorealistische KI-generierte Kunstbilder zu Hunderten ohne andere Werkzeuge als ein Smartphone, eine App und ein paar Dollar erstellen können.
Die Leichtigkeit, mit der Sie Bilder von jedem erstellen können, den Sie sich vorstellen können (oder zumindest von jedem, von dem Sie eine Handvoll Fotos haben), ist erschreckend. Fügen wir NSFW-Inhalte hinzu, und wir rasen sehr schnell in ein ziemlich düsteres Gebiet: Ihre Freunde oder eine zufällige Person, die Sie in einer Bar getroffen und mit der Sie den Facebook-Freundesstatus ausgetauscht haben, haben möglicherweise nicht zugestimmt, dass jemand Softcore-Pornos von ihnen erstellt.
Es scheint, dass Lensa, wenn Sie 10-15 „echte“ Fotos einer Person haben und bereit sind, sich die Zeit zu nehmen, eine Handvoll Fälschungen zu photoshoppen, gerne eine Reihe problematischer Bilder produziert.
KI-Kunstgeneratoren produzieren bereits Pornografie in Tausenden von Bildern, beispielhaft dargestellt durch Unstable Diffusion und andere. Diese Plattformen und die ungehemmte Verbreitung anderer sogenannter „Deepfake“-Plattformen verwandeln sich in einen ethischen Albtraum und veranlassen die britische Regierung, auf Gesetze zu drängen, die die Verbreitung von nicht einvernehmlichen Nacktfotos unter Strafe stellen. Das scheint eine sehr gute Idee zu sein, aber das Internet ist selbst in den besten Zeiten ein schwer zu regierender Ort, und wir stehen gemeinsam vor einer Wand aus rechtlichen, moralischen und ethischen Zwickmühlen.
Wir haben uns gemeldet Prisma Labsdie die Lensa AI für einen Kommentar erstellen und die Geschichte aktualisieren, wenn wir von ihnen hören.