据《商业内幕》报道，AnthropicCEO达里奥·阿莫代伊(DarioAmodei)因频繁警告其自家AI产品可能带来的风险而广为人知，但是这也让他的公司付出了代价。阿莫代伊在本月发表的一篇文章中提醒称，AI的力量“已变得不容置疑”。他举例称，Anthropic的最新模型Mythos对网络安全、金融行业、关键基础设施以及国家安全构成了“非常真实的风险”。
随后，他呼吁美国政府采取更强有力的干预措施来应对这些风险。然而在上周五，他的警告似乎起了反作用：美国政府突然对Anthropic的最新模型实施出口管制。
Anthropic表示，该公司已经切断了对其Mythos5和Fable5的访问权限，因为特朗普政府下令其阻止外国用户访问这些模型。五角大楼首席信息官在X平台上发帖表示支持这一举措，并写道：“有些事情就是比收入周期、炒作以及IPO前估值更重要。”
这一突发进展让整个科技行业陷入一片慌乱。AI研究者、以怀疑论著称的加里·马库斯(GaryMarcus)称，特朗普政府的这一举动“严重反应过度，而且会适得其反”。
但是，“AI教父”杨立昆(YannLeCunn)则将责任归咎于阿莫代伊。“阿莫代伊一直对Mythos/Fable模型(以及整个AI领域)散播荒谬的危言耸听，如今终于得到了回报，”杨立昆表示，“种瓜得瓜，种豆得豆。”
长期警告AI风险
长期以来，阿莫代伊一直试图将自己塑造成AI行业中那个“清醒理智的成年人”。他曾是OpenAI不可或缺的研究人员，后来因担心OpenAICEO萨姆·奥特曼(SamAltman)优先考虑产品发布速度而非确保其安全性，便离开该公司并创立了Anthropic。
此后，他接连发表了一系列声明，称他自己以及OpenAI、Google、Meta、亚马逊等公司正在开发并向公众发布的东西，可能会从根本上改变人类所熟悉的生活方式。这种影响既可能是积极的，也可能是负面的。
阿莫代伊曾警告称，AI可能会淘汰一半的初级白领岗位，并导致失业率飙升至自新冠疫情以来从未见过的水平，甚至可能重现2008年全球金融危机(大衰退)时期的失业冲击。
尽管随着Anthropic筹备上市，阿莫代伊近几周在AI对就业影响的问题上有所缓和，但他和Anthropic在其他安全风险的警告方面依然毫不保留。
“Mythos级别模型带来的网络安全风险，不会是我们必须面对的最后一种风险，”他在6月发表的文章中称，“我认为，生物安全风险可能很快就会接踵而至，而更严重的AI自主性风险也不会相隔太远。”
他还表示，立法者目前对AI的担忧和认知水平，已经跟不上AI技术迅猛发展的步伐。
本月早些时候，Anthropic在一篇论文中呼吁暂停前沿AI模型的开发，并警告称最新模型正越来越接近实现自我改进，而这“可能会增加人类失去对AI系统控制的风险”。
“我们相信，如果世界能够选择放缓或暂时暂停前沿AI的开发，以便让社会结构和对齐研究能够跟上技术的进步，那将是一件好事。”Anthropic称。
颇具讽刺意味的是，这个“暂停键”最终在上周五真的被按下了，只不过对象成了Anthropic自己。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】