In diesem Monat stellte Chatgpt einen neuen Bildgenerator als Teil seines 4O -Modells vor, das bei der Generierung von Text in Inside -Bildern viel besser ist.
Die Leute nutzen es bereits, um gefälschte Restaurantbelege zu generieren, und fügen möglicherweise ein weiteres Tool zum optimalen Toolkit von AI DeepFakes hinzu, das von Betrügern verwendet wird.
Produktes Social -Media -Poster und VC Deedy Das Gepostet auf x Ein Foto einer gefälschten Quittung für ein (echtes) San Francisco Steakhouse, das er sagt, wurde mit 4O erstellt.
Andere konnten ähnliche Ergebnisse replizieren, einschließlich Einer mit Essen oder Getränken, damit es noch authentischer aussieht:
Das wirklich aussehendste Beispiel, das Tech gefunden hat, stammte tatsächlich aus Frankreich, wo ein LinkedIn-Benutzer gepostet Eine gekräuselte Ai-generierte Quittung für eine lokale Restaurantkette:
Tech hat 4O getestet und konnte auch eine gefälschte Quittung für einen Applebee in San Francisco generieren:
Aber unser Versuch hatte ein paar tote Werbegeschenke, dass es gefälscht wurde. Zum einen verwendet die Gesamtsumme ein Komma anstelle einer Periode. Zum anderen addiert sich die Mathematik nicht. LLMs haben immer noch Schwierigkeiten, grundlegende Mathematik zu machen, daher ist dies nicht besonders überraschend.
Für einen Betrüger wäre es jedoch nicht schwierig, einige der Zahlen entweder mit der Fotobearbeitungssoftware oder möglicherweise genaueren Aufforderungen schnell zu beheben.
Es ist klar, dass es wirklich einfach ist, gefälschte Quittungen zu generieren, bietet große Chancen für Betrug. Es wäre nicht schwer vorstellbar, dass diese Art von Technologie von schlechten Schauspielern verwendet wird, um für völlig gefälschte Ausgaben „erstattet“ zu werden.
Der OpenAI -Sprecher Taya Christianson sagte gegenüber Tech, dass alle ihre Bilder Metadaten enthalten, die darauf hinweisen, dass sie von ChatGPT gemacht wurden. Christialson fügte hinzu, dass OpenAI „Maßnahmen ergriffen“, wenn Benutzer gegen die Nutzungsrichtlinien verstoßen und dass es sich um „immer lernt“ aus der realen Verwendung und dem Feedback „immer“.
Tech fragte dann, warum Chatgpt es den Leuten ermöglicht, gefälschte Quittungen überhaupt zu generieren und ob dies im Einklang mit OpenAIs steht Verwendungsrichtlinien (die Betrug verbieten.)
Christianson antwortete, dass OpenAI „Ziel ist es, den Nutzern so viel kreative Freiheit wie möglich zu geben“ und dass gefälschte KI-Quittungen in nicht-aussagenden Situationen verwendet werden könnten, wie „Menschen über finanzielle Kompetenz unterrichten“ sowie in der Erstellung origineller Kunst- und Produktanzeigen.