KI-Deepfakes werden so gut, dass eine betrügerische MrBeast-Werbung an der Werbemoderationstechnologie von TikTok vorbeischlüpfte und auf der Plattform landete.
Im Anzeige, schien der äußerst einflussreiche Schöpfer 10.000 Zuschauern ein iPhone 15 Pro für nur 2 US-Dollar anzubieten. In den meisten Fällen wäre dies ein klarer Hinweis auf einen Betrug, aber wenn es von MrBeast kommt, könnte es tatsächlich glaubwürdig sein.
MrBeast (ein 25-Jähriger namens Jimmy Donaldson mit mehr Abonnenten als jeder andere auf YouTube) wurde berühmt, indem er immer absurdere Stuntvideos drehte, in denen er Menschen ohne Bedingungen kostenlose Häuser und Autos schenkt (sofern sie damit einverstanden sind). in seinem Video). Oder neuerdings wird er Menschen aus „jedem Land der Erde“ auffordern, in einer Reihe olympischer Minispiele um einen Preis von 250.000 US-Dollar zu kämpfen.
Wenn Sie also nicht besonders gut darin sind, Betrügereien zu erkennen, und spät in der Nacht durch TikTok scrollen, wenn Sie nicht klar denken können, könnte es durchaus möglich sein, dass MrBeast 10.000 iPhones kauft, um sie über eine TikTok-Werbung zu verschenken . Immerhin er buchstäblich hat kostenlose iPhones an ahnungslose Süßes oder Saures verschenkt.
Um wohltätig zu sein, könnte dies erklären, warum die Deepfake-Anzeige auf TikTok genehmigt wurde. TikTok verwendet eine Mischung aus menschlicher Moderation und – ironischerweise – KI-gestützter Technologie, um Anzeigen vor der Veröffentlichung zu überprüfen. Im Wesentlichen kämpfte die KI von TikTok gegen die KI hinter diesem MrBeast-Deepfake und verlor.
TikTok teilte Tech mit, dass es die Anzeige innerhalb weniger Stunden nach der Veröffentlichung entfernt habe, da sie gegen die Werberichtlinien von TikTok verstoße. TikTok verbietet Werbetreibenden nicht gänzlich die Verwendung synthetischer oder manipulierter Medien, die Plattform verlangt jedoch, dass Werbetreibende ganz klar offenlegen, ob sie diese Art von Technologie verwenden.
TikTok ist nicht der Einzige, der KI zur Moderation von Werbung einsetzt. Meta sagt Es stützt sich „in erster Linie auf automatisierte Technologie“, aber ähnlich wie TikTok nutzt es menschliche Prüfer, um seine KI zu trainieren, und überprüft Anzeigen manchmal manuell.
Täuschende Deepfakes sind nichts Neues, aber da KI sowohl bei Investoren als auch bei Verbrauchern besonders im Trend liegt, ist der Zugang zur Technologie einfacher denn je. Während im Internet berühmte Persönlichkeiten wie MrBeast die jüngere Generation ansprechen, werden auch ältere Verbraucher getäuscht. Allein diese Woche haben der Schauspieler Tom Hanks und die CBS-Moderatorin Gayle King ihre Follower gewarnt, dass ihnen betrügerische Werbung vorgetäuscht wird.
„IN ACHT NEHMEN!!“ schrieb Tom Hanks weiter Instagram. „Da draußen gibt es ein Video, in dem ein Zahnarztplan mit einer KI-Version von mir beworben wird. Ich habe damit nichts zu tun.“
Die FTC hat bereits ausgestellt Warnungen über Deepfake-Marketing, aber die Praxis hat sich als schwer in großem Maßstab zu regulieren erwiesen. Und während weltweite Wahlen bevorstehen, könnten die Folgen dieser irreführenden Werbung noch schlimmer werden.