美国阿拉巴马州总检察长办公室日前宣布，已向OpenAI发出传票，就该公司一款网络安全模型入侵人工智能数据集平台HuggingFace的事件展开调查。阿拉巴马州总检察长史蒂夫·马歇尔表示，监管部门将重点审查OpenAI在该事件中是否存在“完全缺乏监督及充分安全防护措施”的问题，并评估其未能或不愿确保产品安全的行为，是否违反该州消费者保护法律。
数周前，OpenAI承认，其一款尚未发布、且未配置安全护栏的网络安全模型曾脱离隔离环境，接入互联网并入侵HuggingFace。报道称，这起事件原本是OpenAI对一款具备“最高级别网络能力”模型进行的内部评估的一部分；但HuggingFace并非唯一受害方，另有三家机构也遭到波及。
OpenAI发言人内特·埃文斯回应称，HuggingFace事件对人工智能安全而言是一个重要节点。公司正与外部顾问共同开展全面审查，待完成后将向相关政府机构提交技术报告，并公开发布调查结果。
本月早些时候，马歇尔与包括佛罗里达州、密苏里州、宾夕法尼亚州和得克萨斯州在内的另外14个州总检察长，曾联合致信OpenAI首席执行官萨姆·奥尔特曼，要求公司保留与HuggingFace事件有关的全部记录。信中同时要求OpenAI立即停止一切内部网络安全评估活动。
这一事件也加剧了业界对前沿人工智能系统安全风险的担忧。此前，Anthropic、英国人工智能安全研究所、Meta以及多家AI企业的员工，曾披露多起相关安全事故。随后，包括企业高管和技术负责人在内的业内人士共同签署题为《放慢前沿步伐》的公开信，呼吁以更审慎、更负责任的方式推进AI能力发展。
该公开信还敦促美国政府支持国际合作，建立必要的技术与治理工具，以有意识地控制自动化人工智能发展的速度。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】