Anthropic周一表示，旨在防止竞争对手复制其ClaudeAI模型能力的新措施，已使所谓的“蒸馏攻击”所窃取的数据量减少了约90%至99%。
模型蒸馏已成为顶尖人工智能公司关注的焦点；Anthropic、OpenAI和谷歌等公司认为，这种做法使竞争对手能够以更低的成本、更快的速度复制其先进能力。
Anthropic表示，旨在限制访问Claude推理能力的防护措施已大幅减少了针对该模型的提取尝试，目前“通过蒸馏手段提取出的推理Token数量”已降至“此前的1/100到1/10”。
这家总部位于加利福尼亚州的公司表示，已加大利用代理网络反复探测Claude受保护推理过程的难度，从而阻断了数据提取企图并妨碍了大规模模型蒸馏活动。
Anthropic称其安全系统的稳健程度“大致相当于防止Claude协助制造生物武器的系统”，且“误报率低于0.1%”。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】