据彭博社报道，OpenAI正在考虑放缓尖端AI的开发速度，该公司CEO萨姆·奥特曼(SamAltman)希望其他AI公司也能采取同样的做法。据多名知情人士透露，奥特曼本周在一次全体员工会议上告诉员工，OpenAI可能会放慢AI开发节奏，或许会与其他几家AI实验室协同行动，但也有一些公司可能不会同意这么做。
近几周，头部AI公司的员工纷纷公开表达对先进AI系统风险上升的担忧，加剧了这些公司内部的焦虑。今年早些时候，OpenAI及其竞争对手Anthropic都已秘密提交上市文件。
OpenAI首席科学家雅库布·帕乔基(JakubPachocki)最近发表文章，警告AI带来的危险，认为AI公司应该“在必要时协调行动，放缓未来的开发进程”。帕乔基还表示，他希望“在共同的安全标准建立之前，自愿放缓开发能够成为行业惯例”。
OpenAI已表示，出于安全方面的担忧，公司近期已经放缓了部分模型的开发，并暂停了特定内部AI训练。奥特曼曾在7月表示，他已与白宫官员讨论了放缓AI开发的“必要性”问题。
周二，AnthropicAI研究员雅各布·考克森(JacobCoxon)辞职，并指控他的两家前雇主Anthropic和OpenAI在竞相迈向超级智能AI的过程中“拿我们的生命赌博”。考克森在社交媒体帖子中表示，开发AI的人相信它可能“在这个十年结束前杀死我们所有人”。这些言论迅速传播，获得超过1.5亿次浏览，并引起知名议员和公众人物的关注。
截至发稿，OpenAI不予置评。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】