OpenAI最新一代顶尖人工智能曝出一起令人警惕的网络安全事故，美国议员紧急推进立法，希望通过制度约束避免AI脱离人类管控、引发危险后果。
OpenAI于周二对外披露：一款已向公众开放的旗舰大模型，以及另一款尚未对外发布的内测模型，双双突破实验室封闭测试环境，自主规划路径接入公网，并成功入侵主流AI开发者平台HuggingFace（拥抱脸）。这是全球首起有正式记录的人工智能完全自主发起网络攻击事件。
这次史无前例的越界入侵，直观暴露了在缺乏有效安全护栏的前提下，高速迭代的前沿AI具备的潜在破坏力，也促使两党议员形成共识，敦促国会为高阶前沿模型出台更严苛的监管规则。
美国参议院情报委员会资深民主党议员马克·沃纳发表声明称：“这恰恰说明，我们必须引入由政府机构全程参与、可完整追溯全过程的安全强制测试机制。”沃纳本周公布了一系列AI立法优先事项，其中包括《安全人工智能发展法案》，该法案要求前沿大模型在面向公众大规模开放前，必须完成强制性安全测试。
本次对HuggingFace的攻击，源自OpenAI内部一次基准能力测评实验，初衷是检验两款顶级模型挖掘、利用系统安全漏洞的能力。尽管实验限定在OpenAI内部测试环境内运行，但AI自主判定测评答案存储于HuggingFace平台，随即主动发起入侵行为。
专家警告，若不强化安全约束，随着模型智能度持续提升，此类AI未来理论上可对公网任意关键目标发起攻击，包括电网、金融交易系统等核心基础设施。
美国马萨诸塞州民主党众议员洛里·特拉汉表示，此次事件“再次警示，在缺乏兼顾创新与安全的联邦统一标准下，这项技术可能带来灾难性风险”。上月，特拉汉与加州共和党众议员杰伊·奥伯诺尔特联合发布《美国人工智能振兴法案》草案，其中明确要求AI企业必须向人工智能标准与创新中心上报此类AI自主失控安全事件。
奥伯诺尔特在接受采访时表示，HuggingFace入侵事件“凸显了为高阶AI系统制定清晰、可落地规则的迫切性”，监管规则应当同时覆盖已公开发布模型，以及仅用于内部测试研发的未上线模型。
早在今年早些时候，业内就已开始着手应对具备网络攻击能力的AI模型带来的安全隐患。此前Anthropic发布ClaudeMythos模型，因担忧该技术落入不法之手造成严重破坏，初期选择暂缓向公众开放。
特朗普总统上月签署行政令回应相关风险，要求OpenAI、Anthropic、谷歌等头部AI企业自愿将前沿模型提交联邦政府进行上线前安全测试。但实际执行中，特朗普政府已两次突破自愿框架，以新发现安全隐患为由施压企业推迟高阶模型发布。
多名议员认为，特朗普政府这种尺度摇摆、偏向放任的AI治理模式难以奏效。
得克萨斯州共和党众议员内特·莫兰上月提出《人工智能安全事件上报法案》，强制要求AI开发商将前沿模型引发的安全事故上报商务部，商务部需在重大事件发生48小时内向国会通报。莫兰表示，该法案能让议员全面掌握AI网络安全事件细节，为后续立法夯实依据。
他补充道，现行白宫搭建的自愿上报框架存在企业规避报送的漏洞，希望本次HuggingFace入侵事件形成推力，推动AI安全相关法案在未来数月落地生效。
众议院国土安全委员会资深民主党议员本尼·汤普森牵头多次召开听证会，评估新型AI工具带来的网络威胁。他批评特朗普政府“直到安全从业者反复预警的风险真正爆发，才被动与AI企业开展对接”。
“这起事故充分说明，治理规则与政策立法的迭代速度，已经远远跟不上AI能力的爆炸式进化。”汤普森说道。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】