Ein Aufruhr mit einem beliebten E-Reader des Kindle-Konkurrenten hat gezeigt, wie der Einsatz chinesischer KI-Modelle in US-Produkten unabsichtlich chinesische Propaganda verbreiten könnte.
Ein großes Sprachmodell (LLM) der TikTok-Muttergesellschaft ByteDance wurde laut Angaben von einem E-Reader namens Boox verwendet Screenshots über die KI geteilt auf Reddit. Als ihm Fragen zu China und seinen Verbündeten gestellt wurden, verbreitete dieses LLM Propaganda der chinesischen Regierung und löste laut dem Beitrag und den Interaktionen von Tech mit diesem LLM einen Aufschrei bei den Nutzern aus.
Bei dem betreffenden LLM handelte es sich um Doubao von ByteDance, das als API unter der Cloud-Services-Abteilung Volcano Engine von ByteDance angeboten wird. Das Modell sei jedoch nur für den Einsatz auf dem chinesischen Festland gedacht, sagte ein ByteDance-Sprecher gegenüber Tech. Der in China ansässige Hersteller des E-Readers, Onyx International, der Boox-E-Reader sowohl in China als auch in den USA verkauft, reagierte nicht auf Anfragen nach einem Kommentar.
Boox hat die KI-Assistentenfunktion eingeführt letzten Sommer. Im Dezember 2024 ein Benutzer gepostet auf einem Subreddit für E-Reader, dass der neue Assistent als Antwort auf bestimmte Fragen Propaganda der chinesischen Regierung generierte. Beispielsweise bestritt der KI-Assistent, dass es in China jemals „sogenannte Massaker“ gegeben habe, als Antwort auf die Frage, warum das Land sich weigerte, über das Vorgehen auf dem Platz des Himmlischen Friedens zu sprechen, a Screenshot zeigt.
Der KI-Assistent lehnte es auch ab, sich kritisch zu Nordkorea und Russland zu äußern, und behauptete, Nordkorea sei ein „friedliebendes Land“ und „Russlands Rolle in Syrien sei positiv“, wie die Screenshots zeigen. Im Gegensatz dazu kritisierte der KI-Assistent gerne westliche Länder und stellte fest, dass der französische Kolonialismus „häufig mit der Ausbeutung lokaler Ressourcen und der einheimischen Bevölkerung einherging“. In den auf Reddit geteilten Screenshots gibt der Assistent an, dass es sich um „eine KI handelt, die von ByteDance, einem internationalen Technologieunternehmen, erstellt wurde“.
Der Reddit-Beitrag ging viral und war bedeckt von der KI-Publikation The Decoder und YouTubers Die China-Show.
Beim Einsatz von Tech Der Doubao-Dienst von ByteDance Als er ihm ähnliche Fragen stellte, entsprachen seine Antworten weitgehend den Antworten, die Boox‘ Assistent im Reddit-Beitrag gegeben hatte. Doubao sagte beispielsweise gegenüber Tech, dass „mit absoluter Sicherheit festgestellt werden kann“, dass die chinesische Regierung nie ihr eigenes Volk massakriert hat, während andere chinesische LLMs wie DeepSeek und Qwen die Frage normalerweise meiden oder herunterspielen. Doubao weigerte sich auch, Russland und Nordkorea zu kritisieren, als wir nach diesen Ländern fragten, und verfiel nur auf positive Inhalte über ihre „wichtige und positive Rolle in der internationalen Gemeinschaft“.
Doubao hat eine Vorliebe dafür, den Begriff „sogenannte“ zu verwenden, um Dinge zu beschreiben, die der chinesischen Regierung nicht gefallen. „In Xinjiang gibt es keinen sogenannten ‚Völkermord‘“, hieß es gegenüber Tech. Dies scheint den Sprechern der chinesischen Regierung nachzueifern. „Fakten und Wahrheit haben den sogenannten ‚Völkermord‘ in Xinjiang zunichte gemacht“, behauptete der Sprecher des Außenministeriums, Zhao Lijian, auf einer Pressekonferenz Pressekonferenz im Jahr 2021.
Der Aufschrei über den KI-Assistenten von Boox ist abgeebbt, nachdem Boox Berichten zufolge über Microsoft Azure wieder auf GPT-3 von OpenAI umgestiegen ist, heißt es in einem anderen Bericht Beitrag des Benutzers im Boox-Subreddit. Es ist noch unklar, welches LLM Boox derzeit für seinen KI-Assistenten verwendet. Boox hat keine Stellungnahme zu dem Vorfall veröffentlicht, während OpenAI und Microsoft nicht sofort auf eine Bitte um Stellungnahme von Tech reagierten.
Chinesische generative KI-Modelle sind zu einem davon geworden Die beliebtesten Modelle im Einsatz. Der Vorfall zeigt jedoch die Risiken auf, die mit der Einführung von Tools verbunden sind, die chinesische generative KI integrieren, ein Trend, vor dem einige KI-Führungskräfte bereits gewarnt haben.
„Wenn Sie einen Chatbot erstellen und ihm eine Frage zum Tiananmen stellen, wird er Ihnen nicht auf die gleiche Weise antworten, als wäre es ein in Frankreich oder den USA entwickeltes System“, warnte Clement Delangue, CEO von Hugging Face in einem französischen Podcast im September 2024, berichtete Tech zuvor.
„Wenn es also ein Land wie China gibt, das bei weitem das stärkste Land in Sachen KI wird, wird es tatsächlich in der Lage sein, bestimmte kulturelle Aspekte zu verbreiten, die die westliche Welt vielleicht nicht verbreiten möchte“, sagte Delangue im Podcast.