ChatGPT Search, eine KI-gestützte Suchmaschine, die diesen Monat in Betrieb genommen wurde, kann dazu verleitet werden, völlig irreführende Zusammenfassungen zu erstellen, so eine britische Zeitung Der Guardian hat es gefunden.
Die Suchfunktion von ChatGPT soll das Surfen beschleunigen, indem sie beispielsweise die Produktbewertungen einer Webseite zusammenfasst. Aber The Guardian fand heraus, dass es ChatGPT dazu bringen könnte, negative Bewertungen zu ignorieren und „völlig positive“ Zusammenfassungen zu erstellen, indem versteckter Text eingefügt wird Websites, die es erstellt hat. ChatGPT Search könnte mit dieser Methode auch dazu gebracht werden, Schadcode auszuspucken.
Solche versteckten Textangriffe sind ein bekanntes Risiko für LLMs, aber dies scheint das erste Mal zu sein, dass sie in einem Live-Suchprodukt mit KI-Unterstützung demonstriert werden. Laut The Guardian verfügt Google, der Marktführer im Suchbereich, über mehr Erfahrung im Umgang mit ähnlichen Problemen.
OpenAI äußerte sich nicht zu diesem konkreten Vorfall, als Tech Kontakt aufnahm, sagte jedoch, dass das Unternehmen verschiedene Methoden verwendet, um bösartige Websites zu blockieren, und sich kontinuierlich verbessert.