Anthropic指控深度求索等中国公司不当获取其数据

美国AI初创企业Anthropic指控深度求索、月之暗面和稀宇科技利用虚假账号与Claude对话，以训练自己的聊天机器人。该公司称此类行为构成国家安全风险。

旧金山人工智能初创企业Anthropic指控三家中国公司通过不当手段大量抓取其人工智能技术数据，以加速自研系统开发。

Anthropic周一在一篇博客文章中表示，中国三家知名初创企业深度求索、月之暗面和稀宇科技利用约2.4万个虚假账号，与Anthropic的Claude聊天机器人产生了超过1600万次对话，这些数据可用于训练三家公司自己的聊天机器人。

利用一个人工智能系统的数据训练另一个系统的过程被称为知识蒸馏，在人工智能领域较为常见。但Anthropic的服务条款禁止任何人以秘密方式抓取数据用于蒸馏，同时不允许其技术在中国境内使用。

Anthropic的主要竞争对手OpenAI也指控中国公司从其聊天机器人ChatGPT中大量提取数据用于类似目的。

在上周致美国国会众议院中国问题特设委员会的一份备忘录中，OpenAI称，深度求索等中国初创企业正采用新型的“混淆式”蒸馏手段，“持续搭便车”使用OpenAI及其他美国公司开发的技术。

与OpenAI一样，Anthropic称此类行为构成国家安全风险，并表示这可能让中国得以开发用于制造生物武器或大规模监控工具的人工智能技术。Anthropic已为其技术设置安全防护机制，防止被用于此类用途，但这些防护措施在蒸馏过程中可能被剥离。

Anthropic呼吁政府官员及其他人工智能企业共同阻止中国公司对美国模型进行蒸馏。

“此类行动正变得愈发激烈且手段更趋复杂，”Anthropic在文章中表示，“可供采取行动的时间窗口正迅速缩小，且威胁已超出单一企业或地区范围。应对这一问题，需要行业参与者、政策制定者及全球人工智能界迅速采取协同行动。”

深度求索、月之暗面、稀宇科技三家公司暂未回应置评请求。

此文发布之际，Anthropic正与美国国防部就五角大楼对其技术的使用陷入争执。五角大楼已批准将Anthropic的技术用于涉密任务，但因该初创公司不希望其技术被应用于自主武器或国内监控领域，五角大楼威胁要终止双方的合作关系。

去年，深度求索推出了性能与全球市场同类产品相当的人工智能技术，令硅谷科技企业震惊，并引发美国金融市场剧烈震荡。