Die Kombination aus bezahlten blauen Schecks und generativer KI überrascht buchstäblich niemanden und macht es allzu einfach, Fehlinformationen zu verbreiten. Am Montagmorgen kursierte im Internet ein scheinbar von der KI erzeugtes Bild einer Explosion im Pentagon, obwohl das Ereignis gar nicht stattgefunden hatte.
Innerhalb von etwa einer halben Stunde erschien das Bild auf einem verifizierten Twitter-Konto namens „Bloomberg Feed“, das leicht mit einem echten, mit Bloomberg verbundenen Konto verwechselt werden konnte, zumal es ein blaues Häkchen hatte. Dieses Konto wurde inzwischen gesperrt. Der russische staatlich kontrollierte Nachrichtensender RT Das Bild wurde auch geteilt, wie aus Screenshots hervorgeht, die Benutzer aufgenommen haben, bevor der Tweet gelöscht wurde. Mehrere Twitter-Konten mit Hunderttausenden Followern DeItaone, OSINTdefender Und Walkarte habe es geteilt. Sogar ein Indischer Fernsehsender berichtete über die gefälschte Pentagon-Explosion. Es ist nicht sofort klar, woher dieses gefälschte Bild und diese gefälschte Nachricht stammen.
Dies ist bei weitem nicht das erste Mal, dass ein gefälschtes Bild erfolgreich das Internet täuscht, aber die Einsätze sind höher, wenn es sich bei dem gefälschten Ereignis um eine Explosion in einem US-Regierungsgebäude handelt und nicht darum, dass der Papst einen Balenciaga-Mantel trägt. Einige haben berichtet, dass das gefälschte Bild mit einer 25-Basispunkte-Bewegung des S&P 500 in Verbindung gebracht werden könnte, aber der Rückgang hielt nicht lange an und es gibt keine Möglichkeit zu beweisen, dass er ausschließlich auf diesen Schwindel zurückzuführen war. Der Vorfall wirft die Frage auf, wie generative KI in Zukunft genutzt werden könnte, um den Aktienmarkt zu manipulieren – schließlich hat Reddit es getan.
Fehlinformationen sind ein so altes Thema wie das Internet, aber das gleichzeitige Wachstum der generativen KI und die Änderung des Verifizierungssystems von Twitter bieten einen besonders fruchtbaren Boden. Der Plan des Twitter-Eigentümers Elon Musk, bestehenden blauen Schecks ihren Status zu entziehen und jeden für das Symbol bezahlen zu lassen, war von Anfang an ein Durcheinander. Selbst wenn wir wissen, dass blaue Schecks keine Legitimität mehr anzeigen, ist es schwierig, eine visuelle Gewohnheit zu brechen, die Sie seit fast fünfzehn Jahren pflegen: Wenn Sie einen Account namens „Bloomberg Feed“ sehen, auf dem ein blauer Scheck über einen Angriff auf das Pentagon gepostet wird , neigen Sie wahrscheinlich dazu, zu glauben, dass es real ist. Da es immer schwieriger wird, gefälschte Bilder zu erkennen, werden wir auch in Zukunft nur noch solche Falschmeldungen sehen.