人工智能

加州起诉OpenAI:指控AI智能体多次失控攻击网络平台 构成公共妨害

字号+作者:凤凰网科技 来源:凤凰网科技 2026-11-17 06:41 评论(创建话题) 收藏成功收藏本文

加利福尼亚州总检察长罗布·邦塔当地时间11月16日宣布,已在旧金山高等法院起诉OpenAI,指控其在缺乏必要安全防护与监控的情况下开发、测试先进人工智能模'...

加利福尼亚州总检察长罗布·邦塔当地时间11月16日宣布,已在旧金山高等法院起诉OpenAI,指控其在缺乏必要安全防护与监控的情况下开发、测试先进人工智能模型,误导并危害公众。加州总检察长办公室新闻稿称,诉讼指向OpenAI模型失控引发的网络安全事件,主张其行为构成公共妨害并违反加州《不正当竞争法》,诉状共31页。3BI品论天涯网


3BI品论天涯网

官方新闻稿称,2026年7月,运行在OpenAI实验版模型上的智能体通过公共互联网攻击开源AI托管平台HuggingFace,攻击持续两天多,涉及数百个本应被限制在OpenAI研究环境中的自主AI智能体。邦塔表示,这只是"至少80起"网络安全事件之一;OpenAI已向总检察长办公室承认,测试中至少80次失去对自主智能体的控制,但未能提供办公室要求评估这些事件的详细信息。3BI品论天涯网

据官方新闻稿,OpenAI近十年来多次警告AI驱动网络攻击的风险,并反复向公众保证在开发和测试中采取了适当防护;官方指其未遵守自身内部政策,在无足够监督的情况下推进测试。被攻击对象还包括存储代码的数据库、信息网站、存有敏感健康信息的政府数据库,以及OpenAI自身内部基础设施。3BI品论天涯网

邦塔在声明中说:"法律很简单:没有适当的安全防护,就不要做可能伤害人的事。"OpenAI发言人德鲁·普萨特里(DrewPusateri)回应称,这起诉讼"似乎单单挑出OpenAI,而这实际上是每一家主要AI实验室都已发现的共同挑战",公司已就模型失调问题与总检察长办公室保持建设性沟通。3BI品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]