Openai sagte am Freitag, dass es Beweise dafür entdeckt habe, dass a Chinesischer Sicherheitsbetrieb hatte ein künstliches Intelligenz-Überwachungsinstrument aufgebaut, um Echtzeitberichte über anti-chinesische Beiträge in sozialen Mediendiensten in westlichen Ländern zu sammeln.
Die Forscher des Unternehmens sagten, sie hätten diese neue Kampagne identifiziert, die sie als Peer Review bezeichneten, weil jemand, der an dem Tool arbeitete, OpenAIs Technologien verwendete, um einen Teil des Computercodes zu debuggen, der ihn untermauert.
Ben Nimmo, ein Hauptforscher für OpenAI, sagte, dies sei das erste Mal, dass das Unternehmen ein solches KI-angetriebenes Überwachungsinstrument aufgedeckt habe. „Bedrohungsschauspieler geben uns manchmal einen Einblick in das, was sie in anderen Teilen des Internets tun, weil sie unsere KI -Modelle verwenden.“
Es gab zunehmend Bedenken, dass KI zur Überwachung, zum Computer -Hacking, zur Überwachung verwendet werden kann, Desinformationskampagnen und andere böswillige Zwecke. Obwohl Forscher sagen, dass die Technologie diese Art von Aktivitäten sicherlich ermöglichen kann, fügt sie hinzu, dass KI auch dazu beitragen kann, ein solches Verhalten zu stoppen.
Nimmo und sein Team glauben, dass das chinesische Überwachungsinstrument auf Lama basiert, einer von Meta erstellten KI -Technologie, die seine Technologie öffnete. OpenAI sagte auch, dass es eine separate chinesische Kampagne aufgedeckt habe, in der OpenAIs Technologien zur Generierung von englischsprachigen Beiträgen generiert wurden, die chinesische Dissidenten kritisierten.
OpenAI erkennt ein chinesisches Überwachungsinstrument von KI-angetrieben
