近日，全球最大的AI开源社区HuggingFace披露，其检测并遏制了一起生产基础设施AI入侵事件，而他们则利用AI的取证分析进行了防御。而最后成功帮助其完成防御的，不是商业API背后的美国前沿模型，而是中国开源GLM5.2模型。
事件过后，该公司公开建议防御人员“在攻击发生前，拥有一个经过审查且随时可用的、能在你自有基础设施上运行的模型），既避免被护栏锁住，也防止攻击者数据和凭证离开你的环境”。
HuggingFace“被黑”，纯AI智能体自主攻击
在7月16日一份细节简略的事件报告中，HuggingFace表示，其生产基础设施在7月13日当周遭到一个“自主”AI智能体系统的入侵。未知攻击者“滥用了HuggingFace数据集处理管道中的两条代码执行路径：远程代码数据集加载器和数据集配置中的模板注入，在处理工作节点（即计算实例）上运行代码”。
然后，他们“在周末期间提升至节点级访问权限，收割了云和集群凭证，并在一个周末内横向移动至多个内部集群。该公司称，攻击者使用了“大量短暂存在的沙盒，并将‘自迁移’命令与控制（C2）置于公共服务上”。
未经授权的访问影响了少量内部数据集和服务凭证，但HuggingFace未发现公共模型、数据集、Spaces或其软件供应链遭到篡改的证据，其供应链（容器镜像和已发布包）也“经核实是干净的”。
HuggingFace告知客户：“我们建议轮换任何访问token，并查看您账户上的近期活动。”该公司表示，“仍在完成对合作伙伴或客户数据是否受到影响的评估”，如果发现证据，将直接联系受影响的客户。
此次行动的独特之处在于自主性和规模，首先入侵从头到尾由一个自主AI智能体系统驱动，其在大量短命沙盒中执行了数千个独立操作，使用自迁移命令与控制基础设施，这些基础设施搭载于公共服务上，而HuggingFace也在很大程度上利用自己的AI进行了检测和剖析。
该公司在报告中称，发起攻击的自主智能体框架似乎是基于某个智能体安全研究工具包构建，所使用的LLM尚不清楚，这与业界长期预测的“智能体攻击者”场景相符。
同时，此事件也折射出更广泛的行业趋势：自主攻击性AI工具已从理论走向实践，它降低了开展大规模、耐心、多阶段攻击活动的成本，并且运行速度堪比机器。
近期，安全公司Sysdig披露了其称为“JADEPUFFER”的案例，被描述为首次完全自主的AI驱动勒索软件行动，其中AI智能体独立入侵了暴露于互联网的服务器、横向移动、加密文件，并发出勒索要求，全程无人工指令输入。
据悉，英国国家网络安全中心已启动“CyberShield”计划，在全国范围内部署AI驱动的防御作为回应。
美国商业前沿模型“罢工”，GLM-5.2上阵响应
“当我们开始日志分析时，我们首先使用了商业API背后的前沿模型。但没有成功：分析需要提交大量真实的攻击命令、利用载荷和C2工件，而这些请求被提供商的安全护栏阻止了。”HuggingFace在报告中强调。
据了解，HuggingFace自身的异常检测管道利用基于大语言模型的安全遥测分类，通过关联日常噪音中原本会被忽略的信号，首先标记了此次入侵。为了从超过17000条记录的攻击者行动中重建完整攻击时间线，HuggingFace在整个日志上运行了大语言模型驱动的分析智能体，将通常需要数天的工作压缩至数小时。
调查的一个关键发现是：商业前沿模型API拒绝处理取证分析，因为其安全护栏无法区分提交真实利用载荷和C2工件的事件响应人员与真正的攻击者。HuggingFace表示，随后他们“改为在自有基础设施上运行GLM5.2这一开放权重模型进行取证分析”。HuggingFace补充道：“这还有第二个好处：没有攻击者数据，也没有其中引用的任何凭证离开我们的环境……”
目前，HuggingFace未说明其首次尝试用于事件响应的是哪些商业前沿模型，也未明确攻击者使用了哪个模型。
但这一经历让HuggingFace意识到一个值得提前规划的漏洞：“我们不知道攻击者的智能体使用了哪个模型，是越狱的托管模型还是不受限制的开放权重模型；无论哪种情况，攻击者都不受任何使用政策的约束，而我们自己的取证工作却被我们最初尝试的托管模型的安全防护措施所阻挡。”
他们在报告最后表示，“对防御者而言，实际的教训是：在事件发生前，拥有一个经过审查且随时可用的、能运行在自有基础设施上的模型，既避免被护栏锁住，也防止攻击者数据和凭证离开你的环境。这并非反对托管模型上的安全措施，我们也会将这一反馈分享给相关提供商。”
值得一提的是，HuggingFace在今年6月就官宣表示，自掏腰包为智谱AI开源的这一旗舰模型GLM-5.2提供长达6小时的全球免费算力支持。
白宫AI顾问急眼：“我们要没竞争力了”
“没有理由在美国模型上限制那些中国模型毫无问题就能处理的任务，我们这样做只会让自己失去竞争力。”7月19日，白宫人工智能与加密货币特别顾问DavidSacks发帖抨击了美国AI模型上的网络安全限制。
此前，也有个人开发者公开声称，KimiK3修复了15个安全漏洞，而OpenAI的Codex和Anthropic的ClaudeFable5都因为网络安全防护措施而拒绝处理这些漏洞。他表示，“这对OpenAI和Anthropic来说最终会是灾难性的。”Sacks转发了这位开发者的帖子，并提及了HuggingFace刚发生的这次事件。
有网友就此评价道，“现在，只使用美国大模型的用户更容易受到攻击，因为他们无法修复自己的安全问题。”
据了解，Anthropic已明确将渗透测试、漏洞赏金、漏洞利用开发、权限提升和高价值漏洞发现归类为高风险双重用途活动。Fable5旨在阻止这些请求，直到Anthropic有更可靠的方式来限制只有经过批准的研究人员才能访问。并且，Anthropic已承认其中的代价。当它在7月1日重新部署Fable5时，Anthropic表示其更新的分类器将在正常的编码和调试过程中产生更多误报，被标记的Fable请求可以根据产品和配置路由到能力较弱的Opus4.8模型。
OpenAI也在Codex、ChatGPT及其API中对网络安全请求应用额外的自动检查。OpenAI建议，那些请求被阻止的防御者缩小范围、强调修复措施，并省略对防御结果非必要的漏洞利用细节。OpenAI还单独提供CodexSecurity，用于代码库扫描、沙箱中的漏洞利用验证和补丁生成。
“当美国大模型拒绝归类为高风险的任务时，开发者可以转向中国开放模型。”这个来自HuggingFace此次攻击事件的教训和信号，引起了信息安全从业者和科技投资者的关注。有网友对此愤愤表示，“这是一种本末倒置的‘网络安全’：攻击者可以使用不受限制的模型，而防御者（本来就反应迟缓）却被阻止分析攻击本身。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】