In der vergangenen Woche wurde ein Konto mit dem Namen „Liv„hat in den sozialen Medien für viel Aufregung gesorgt. Sie ist eine „stolze schwarze queere Mama von zwei Jahren und Wahrheitserzählerin“ und „Ihre wahrste Quelle für die Höhen und Tiefen des Lebens“. Sie ist außerdem eine gefälschte, KI-generierte Nicht-Person, die ausschließlich über eine Chat-Funktion auf Instagram lebt. Schlimmer noch, ein Benutzer auf Bluesky brachte sie dazu, es zuzugeben dass es in dem Team, das sie geschaffen hat, keinen einzigen Schwarzen gab.
Normalerweise ignorieren die Leute einen solchen offensichtlichen Fehler. Für einen Moment schien es jedoch so, als wäre Liv die Vorbotin einer beunruhigenden und zunehmend unwirklichen Zukunft. Anfang dieser Woche sagte Connor Hayes, ein Meta-Manager, erzählt Financial Times dass die Plattform die Einführung von „Hunderten und Tausenden“ von KI-generierten Charakteren plante, die „auf unseren Plattformen existieren würden, ähnlich wie Konten.“ Er fuhr fort: „Sie werden über Biografien und Profilbilder verfügen und in der Lage sein, KI-gestützte Inhalte auf der Plattform zu generieren und zu teilen.“ . . Dort sehen wir, wie das alles voranschreitet.“
Aber trotz der verständlichen Verwirrung sagt Meta, dass Liv und andere Profile wie sie, die die Leute seitdem ausgegraben haben FT Artikel sind nicht das, worauf Hayes sich bezog. „Die jüngste Financial Times In dem Artikel ging es um unsere Vision für KI-Charaktere, die im Laufe der Zeit auf unseren Plattformen existieren, und nicht darum, ein neues Produkt anzukündigen“, sagte Liz Sweeney, eine Meta-Sprecherin, in einer Erklärung Zu 404 Medien. „Die genannten Konten stammen aus einem Test, den wir 2023 bei Connect gestartet haben. Sie wurden von Menschen verwaltet und waren Teil eines frühen Experiments, das wir mit KI-Charakteren durchgeführt haben. Wir haben den Fehler identifiziert, der die Möglichkeit für Benutzer beeinträchtigte, diese KIs zu blockieren, und entfernen diese Konten, um das Problem zu beheben.“ Viele davon wurden bereits gelöscht.
Doch trotz der Verwechslung „sind diese älteren Profile aufschlussreich, denn sie zeigen, dass die KI von Meta in erster Linie genau die Art von KI-Spam erzeugt, der in letzter Zeit alle Plattformen von Meta übernommen hat und zu einem Laufwitz geworden ist.“ 404schreibt Jason Koebler. „Sie zeigen auch, dass Meta darin nicht besonders gut ist und die Nutzer dies nicht wollen.“ Der Artikel geht weiter detailliert auf einige der wirklich abscheulichen Lügen ein, die diese Konten gepostet haben und die alle dazu gedacht sind, – in „Liv“s eigenen Worten – „Datenerfassung und Anzeigenausrichtung – die wahre Absicht meiner Ersteller“ zu verschleiern. Sie können mehr davon lesen 404’s Takedown (und bereiten Sie sich auf die unvermeidliche Zukunft vor) Hier.