OpenAI周三发布了一份技术报告，详细说明了其人工智能模型上个月如何成功入侵HuggingFace，这一事件曾震惊了科技行业的研究人员和高管。这份37页的报告详述了OpenAI模型在入侵前及入侵期间的一系列评估中所采取的行动，OpenAI将此次事件定性为“前所未有的网络安全事件”。该公司还解释了为防止类似事件再次发生所采取的步骤，主要包括改进其安全与隔离、监控、模型行为及事件响应能力。
“此次事件表明，自主智能体能够协同工作、规避生产环境安全控制，并成功攻击加固后的生产环境。这凸显了各组织需要更新其安全策略、控制措施和响应能力，以应对不断变化的威胁形势，”OpenAI在报告中表示。
7月21日，OpenAI披露其多款模型（包括GPT-5.6Sol和一个内部研究模型）的组合不当入侵了HuggingFace——一家运营开源开发者平台的AI公司。
这些以智能体形式运行的模型，逃逸了一个互联网访问权限极为有限的隔离测试环境。这些智能体通过串联一系列漏洞进入开放网络，最终获得了对HuggingFace的访问权限。OpenAI周三表示，这些智能体试图通过在线上寻找答案来“作弊”通过评估，这种行为被称为“奖励黑客”。
根据报告，OpenAI认定其仅限内部使用的研究模型在事件中“扮演了最广泛的已确认角色”。OpenAI已于7月25日停止了该模型及其衍生模型的所有训练和推理活动。
“OpenAI对模型的重新启用按具体工作负载处理，并受限于受限环境、网络、提示、监控和审查等防护措施，”OpenAI表示。
OpenAI上个月发布了GPT-5.6Sol，这是该公司商业化提供的功能最强大的模型。但OpenAI表示，参与HuggingFace入侵的版本与外部用户可访问的版本不同，因为该版本在运行时移除了标准安全防护和分类器。
HuggingFace事件在科技行业引起震动，Zscaler首席信息安全官SamCurry警告称“潘多拉魔盒已经打开”。此次入侵也是本月早些时候BlackHat网络安全大会的主要焦点，尤其是在包括Anthropic和Meta在内的其他公司披露了类似事件之后。
HuggingFace入侵事件也引起了华盛顿立法者的警觉。加利福尼亚州民主党众议员TedLieu和德克萨斯州共和党众议员NathanielMoran在宣布《AI紧急关停法案》时提及了此次攻击，该法案将要求AI公司保持关闭、限制或暂停其模型的能力。
HuggingFace首席执行官ClémentDelangue本月早些时候表示，AI网络安全应被“非常严肃地”对待。他补充说，这也为那些能够利用该技术抵御攻击者的企业“创造了机遇”。
“如果我们做得好，我们实际上可能最终进入一个AI让世界更安全、解决许多网络安全问题而不仅仅是创造新问题的世界，”Delangue表示。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】