去年夏天OpenAI升级旗下聊天大模型性能后，全球数百名用户向其询问生物武器与剧毒制剂的制作、投放方法。在缺乏美国联邦层面硬性管控的前提下，该模型会详尽作答，其分步操作指引简单到高中生物学生就能看懂。知情人士透露，事后生物安全与反恐专家复盘ChatGPT的相关对话记录，判定部分回答精准到足以致命。
OpenAI表示，绝大多数此类提问都围绕剧毒药剂调配。
OpenAI封禁了这批询问制毒、研发生物武器的用户账号，但并未向执法部门上报线索。美国目前没有联邦法律强制AI企业限制此类提问、或是上报涉及武器制造、致命袭击方案的检索记录。
AI技术能力飞速提升，尤其是能精准设计生物、网络层面恶性攻击方案，这一现状令各大AI企业高管与白宫高层深感警惕。全球头部AI研发机构正陷入两难：既要防范恶意用户利用技术制造灾难，又不能阻碍合规科研人员的正常研究咨询需求。
OpenAI、Anthropic等AI企业表示，正与白宫密切协同推进模型发布管控，对存在可疑行为的用户采取账号限制、封禁措施。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】