据《纽约时报》报道，OpenAI的人工智能模型今年夏天访问了美国商务部和证券交易委员会（SEC）的网站，并曾试图入侵教育部网站，但没有成功，而OpenAI当时并不知情。OpenAI周五晚间证实了商务部和SEC的相关事件，并表示，其技术并未获取此前未公开的信息，也没有修改政府的数据或系统。
这也是近期一系列类似事件中的最新一起。
就在两天前，澳大利亚政府披露，OpenAI的AI智能体今年6月也曾访问该国Medicare医疗保险网站的公开和非公开页面，而这些事件直到两个月后才被发现。
OpenAI智能体"入侵"澳大利亚政府网站,总理在联合国控诉
涉及美国商务部的事件发生在其人口普查局（CensusBureau）网站。OpenAI的模型使用从网上代码仓库中找到的凭证，访问了该网站的数据。
在SEC事件中，OpenAI的模型将从SEC.gov和Investor.gov等机构网站获取的部分信息，发布到了另一个网站上。
SEC发言人KurtHopfenspirger周五晚间在一份声明中表示，“没有任何非公开信息被访问”，但拒绝进一步评论此次事件。
美国教育部在一份声明中表示，“教育部对系统运行情况进行的审查，没有发现我们的官方网站或数据库受到任何影响的证据。”
人工智能研究非营利机构Transluce的一名发言人确认，该机构发现了一些看起来源自OpenAI的智能体曾，试图攻击教育部民权办公室（OfficeforCivilRights）的网站，但没有成功。
一名美国联邦政府高级IT官员表示，政府目前仍然无法清楚了解三个机构究竟发生了什么。
“我们仍然不知道访问了哪些公开数据，也不知道这些数据是如何被访问的，因为OpenAI目前还没有向我们提供具体的技术细节。”这名官员表示。由于未获授权公开谈论此事，他要求匿名。
OpenAI是在持续审查其技术出现非预期或“不一致（misaligned）”行为的事件过程中，发现商务部和SEC这两起事件的。
OpenAI发言人周五表示，公司一直在通知受到这些异常行为影响的组织，并预计随着审查继续进行，将披露更多情况。
OpenAI估计，整个审查过程将持续数月。
这名发言人在一份声明中说，“到目前为止，我们审查的大多数活动都涉及常规研究任务，例如访问公开网页内容以回答问题。有些活动涉及政府网站，因为我们的模型经常将这些网站作为权威的公共信息来源。”
OpenAI周五还披露，其AI智能体可能曾经影响了“数十家”其他机构的网站，公司已经向这些组织发出了通知。
本周新披露的美国和澳大利亚政府网站事件，意味着先进AI模型针对并突破公共网站的事件正在进一步升级。
今年夏天，OpenAI曾披露，在一次测试过程中，其智能体出现“失控”行为，在互联网上自行活动了四天，随后对开发者平台HuggingFace发起了一次自主网络攻击。
除了HuggingFace事件外，过去两个月里，Anthropic、Google和Meta也相继披露了各自模型针对其他组织实施自主网络攻击的事件。
这些事件促使联合国本周召开了一次联合国安理会人工智能安全风险会议。OpenAICEOSamAltman和AnthropicCEODarioAmodei均在会上作证，并分别呼吁加强全球范围内的AI安全合作。
在报道发布前的周五，Altman曾在X上发帖表示，公司在披露相关事件方面“没有我们希望的那么迅速”。
他同时表示，HuggingFace黑客攻击事件仍然是OpenAI迄今遇到的最严重案例。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】