Dario Amodei von Anthropic ist besorgt über den Konkurrenten Deepseek, die chinesische KI -Firma, die mit seinem R1 -Modell das Silicon Valley im Sturm eroberte. Und seine Bedenken könnten schwerwiegender sein als die typischen, die über Deepseek aufgeworfen wurden, die Benutzerdaten nach China zurücksenden.
In ein Interview In Jordan Schneiders Chinatalk -Podcast sagte Amodei, Deepseek habe seltene Informationen über Biowaffen in einem von Anthropic durchgeführten Sicherheitstest generiert.
Deepseeks Leistung war „das schlechteste von im Grunde genommen jedes Modell, das wir jemals getestet hatten“, behauptete Amodei. „Es hatte absolut keine Blöcke gegen die Erzeugung dieser Informationen.“
Amodei erklärte, dass dies Teil von Evaluations -Anthropic -Läufen für verschiedene KI -Modelle war, um ihre potenziellen nationalen Sicherheitsrisiken zu bewerten. Sein Team prüft, ob Modelle bioweapons Informationen generieren können, die bei Google oder Lehrbüchern nicht einfach zu finden sind. Anthropisch positioniert sich als KI -Fundamentsmodellanbieter Das nimmt die Sicherheit ernst.
Amodei sagte, er glaube nicht, dass Deepseeks Modelle heute „buchstäblich gefährlich“ sind, um seltene und gefährliche Informationen zu liefern, aber dass sie in naher Zukunft sein könnten. Obwohl er Deepseeks Team als „talentierte Ingenieure“ lobte, riet er dem Unternehmen, „diese KI -Sicherheitsüberlegungen ernst zu nehmen“.
Amodei hat auch starke Exportkontrollen für Chips nach China unterstützt, wobei sie die Bedenken anführten, dass sie Chinas Militär einen Vorteil geben könnten.
Amodei hat im Chinatalk -Interview, das das Deepseek -Modell anthropisch getestet hat, nicht klargestellt, noch gab er weitere technische Details zu diesen Tests. Anthropic antwortete nicht sofort auf eine Anfrage nach einem Kommentar von Tech. Deepseek auch nicht.
Deepseeks Aufstieg hat auch Bedenken hinsichtlich seiner Sicherheit an anderer Stelle ausgelöst. Zum Beispiel Cisco -Sicherheitsforscher sagte letzte Woche Dass Deepseek R1 in seinen Sicherheitstests keine schädlichen Aufforderungen blockierte und eine 100% ige Erfolgsquote von Jailbreak erreichte.
Cisco erwähnte Bioweapons nicht, sagte aber, es könne Deepseek dazu bringen, schädliche Informationen über Cyberkriminalität und andere illegale Aktivitäten zu generieren. Es ist jedoch erwähnenswert, dass Metas Lama-3,1-405B und OpenAs GPT-4O auch eine hohe Ausfallraten von 96% bzw. 86% hatten.
Es bleibt abzuwarten, ob Sicherheitsbedenken in Deepseeks rasante Einführung ernsthafte Bedenken machen werden. Unternehmen mögen AWS Und Microsoft hat öffentlich angepriesen, R1 in ihre Cloud -Plattformen zu integrieren – ironischerweise, da Amazon der größte Investor von Anthropic ist.
Andererseits gibt es eine wachsende Liste von Ländern, Unternehmen und insbesondere von Regierungsorganisationen wie der US -Marine und dem Pentagon, die Deepseek begonnen haben.
Die Zeit wird zeigen, ob sich diese Bemühungen anfangen oder ob Deepseeks globaler Anstieg fortgesetzt wird. In jedem Fall betrachtet Amodei Deepseek als einen neuen Konkurrenten, der auf dem Niveau der Top -KI -Unternehmen der USA liegt.
„Die neue Tatsache hier ist, dass es einen neuen Konkurrenten gibt“, sagte er auf Chinatalk. „In den großen Unternehmen, die KI – anthropisch, Openai, Google, vielleicht Meta und Xai – trainieren können, wird Deepseek möglicherweise zu dieser Kategorie hinzugefügt.“