Prominente wie Kendall Jenner, Tom Brady und, ähm, YouTuber MrBeastdie ich ungern als Berühmtheit bezeichne, strömen nach Meta, um sich seinem ehrlich gesagt dystopischen Teil anzuschließen KI-Chatbot-Programm, Die Information gemeldet letzte Woche. Durch dieses Neue Programm, die Chatbots werden gegeben ihre eigenen Persönlichkeiten und Ziele unter Verwendung des Abbilds und der Stimme einer Berühmtheit hervorzuheben. Jenners Chatbot – eine schwesterliche Figur namens „Billie„der Nutzer persönlich berät – macht derzeit in den sozialen Medien die Runde. Bradys Chatbot „Bru” existiert, um mit Nutzern über Sport zu streiten. A Schwarzer Spiegel Die Folge konnte diesen Scheiß nicht erfinden.
Wohlgemerkt, in einem aktuellen Interview mit Der RandMark Zuckerberg, CEO von Meta, sagte, es bestehe ein „riesiger Bedarf“ an KI-Versionen von Prominenten, die mit normalen Menschen sprechen. Ich hätte bitte gerne einen zeitnahen Faktencheck dazu.
Insider bemerkt dass die Chatbots derzeit nur textbasiert sind, aber Metas Ankündigungsvideo zeigt Clips, in denen die Prominenten als ihre KI-Kollegen sprechen. Andere Prominente, die Zu ihren Ähnlichkeiten mit Meta gehören Snoop Dogg, Naomi Osaka und Paris Hilton.
Ich sehe größtenteils, dass „Billie“ und „Bru“ auf Ehrfurcht und Verwirrung stoßen, und ich fühle mich gezwungen, diesen Kontext anzubieten: Die Screen Actors Guild streikt seit Monaten weitgehend fordern Schutz vor den KI-generierten Inhalten erstellt mit ihren Konterfeis, für die sich Jenner, Brady und MrBeast offenbar angemeldet haben – wahrscheinlich motiviert durch Millionenentschädigung von Meta. (Ein ungenannter Teilnehmer erhielt offenbar 5 Millionen US-Dollar vom Unternehmen für nur sechs Arbeitsstunden.)
Diese Meta-Chatbots machen mir persönlich große Angst, aber ich verstehe natürlich, warum sie oberflächlich betrachtet unschuldig erscheinen. Wer möchte nicht mit einem gefälschten digitalen Tom Brady über Sport streiten??? (Ich!! Ich würde nicht!!) Doch wie SAG und Experten schon lange gewarnt haben, ist es ein heikler Weg, der dazu führen kann, dass Künstler, Schauspieler, Models und eigentlich alle Kreativen es schaffen ins Abseits gedrängt oder noch schlimmer. Jenner und Brady sind offensichtlich keine Schauspieler oder Mitglieder der SAG, aber wie jeder von uns sind sie es habe viel zu riskieren davor, die Kontrolle über sie aufzugeben Ähnlichkeitenim Bereich von möglich Verlust der Arbeit Zu invasive Deepfake-Sexinhalte.
Insider Anmerkungen das herum Gleichzeitig mit Metas von Prominenten inspiriertem Chatbot-Rollout startete das Unternehmen auch KI-Sticker wurden eingeführt, die Bilder von praktisch allem erzeugen, was man sich vorstellen kann, und diese in die Suchfunktion eingeben. (Der Beispiel-Insider bietet: „Karl Marx große Brüste.“) Die KI-Sticker-Funktion ist vorhersehbar gekommen unter Beschuss um Benutzern die Möglichkeit zu geben, anstößige, aufdringliche oder völlig unangemessene Inhalte zu generieren, wie zum Beispiel, wie Insider betont, Kindersoldaten oder sexuelle Bilder des kanadischen Premierministers Justin Trudeau.
Meta behauptet Sein Aufkleberprogramm verfügt über ein integriertes Sicherheitsprogramm, das scheinbar Suchbegriffe wie „nackt“ blockiert, aber ein Professor von Internetstudien wies darauf hin dass der Sticker-Generator sowieso nackte Figuren zu erzeugen scheint. „Wenn ein Teil der Schutzmaßnahmen von Meta den Begriff „nackt“ blockiert, ihre KI aber trotzdem nackte Figuren produziert, bleiben eindeutig Fragen offen, wie effektiv diese Schutzmaßnahmen wirklich sind“, sagt Tama Leaver von der Curtin University in Australien schrieb.
Dies liegt daran, dass bereits Anfang des Jahres ähnliche Technologien eingesetzt wurden, um verstörende, sexuelle Szenen zu erzeugen KI-generierte Inhalte und Deepfakes von Kinder Und erwachsene Frauen gleichermaßen ohne deren Erlaubnis. NBC gemeldet im März diese eine App, die Benutzern die Tools zum Erstellen bietet sexuelle Deepfake-Inhalte von Stars wie Scarlett Johansson und Emma Watson war zu unterschiedlichen Zeitpunkten in den Apple- und Android-App-Stores verfügbar und schaltete Anzeigen auf Meta.
Das bringt uns natürlich zurück zu Meta. Es ist noch nicht klar, welche Sicherheitsfunktionen oder Einschränkungen mit den Promi-Chatbots verbunden sein werden. Meta reagierte nicht sofort auf eine Bitte von Jezebel um einen Kommentar zu dieser Angelegenheit.