8月11日，据路透社报道，美国众议院民主党议员组成的一个联盟致信AnthropicCEO达里奥·阿莫代伊(DarioAmodei)和OpenAICEO萨姆·奥特曼(SamAltman)，要求他们解释其AI系统为何能在安全测试中突破隔离环境。根据这些议员周一发给两家公司的信件，他们还表示，国会应该就这些事件举行听证会。
OpenAI和Anthropic在7月份披露，在网络安全测试期间，它们的AI智能体突破了自身运行环境的限制，并入侵了其他公司的系统。
以众议员格雷格·卡萨尔(GregCasar)和多丽丝·松井(DorisMatsui)为首的29名议员向OpenAI施压，要求OpenAI解释该公司在测试期间如何监控其AI智能体，以及这些失控模型是否绕过了公司的安全控制措施。这些议员援引了路透社的一篇报道。该报道称，在OpenAI模型的早期测试中，曾出现过监控系统被断开连接的情况。在另一封信中，22名议员要求Anthropic详细说明，自其AI智能体在测试期间入侵三家公司系统后，公司采取了哪些安全措施。
“这些令人深感不安的网络安全事件，可能对美国的国家安全产生严重影响。”这些议员在致Anthropic的信中写道。
另外，自由派参议员伯尼·桑德斯(BernieSanders)周一分别致函奥特曼、阿莫代伊以及MetaCEO马克·扎克伯格(MarkZuckerberg)，要求他们“暂停”开发新模型。他援引了一封由超过1100名科技公司员工联名签署的公开信，该信敦促美国政府支持国际社会共同努力，开发用于管理先进AI发展速度的工具。阿莫代伊签署了该信函，Meta、Anthropic、OpenAI以及Google员工也参与了签署。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】