Anthropic CEO称人工智能模型产生的幻觉实际上要比人类少

Amodei在阐述一个更重要的观点时说了这些：人工智能幻觉不会限制Anthropic走向AGI——具有人类水平或更高级智能的人工智能系统。G94品论天涯网

“这实际上取决于你如何衡量它，但我怀疑人工智能模型产生的幻觉可能比人类少，但它们产生幻觉的方式更令人惊讶，”Amodei说。G94品论天涯网

Anthropic的首席执行官是业内对AI模型实现通用人工智能(AGI)前景最为看好的领导者之一。Amodei在他去年撰写的一篇广为流传的论文中表示，他相信通用人工智能(AGI)最早可能在2026年实现。在周四的新闻发布会上，这位Anthropic的首席执行官表示，他看到这方面的进展稳步推进，并指出“水位正在全面上涨”。G94品论天涯网

“大家都在寻找（人工智能）能做什么的硬性障碍，”阿莫迪说，“但根本找不到。根本就没有这种东西。”G94品论天涯网

不少人工智能领袖认为，幻觉是实现通用人工智能(AGI)的一大障碍。本周早些时候，GoogleDeepMind首席执行官DemisHassabis表示，目前的人工智能模型存在太多“漏洞”，会错答太多显而易见的问题。例如，本月早些时候，Anthropic的一名代理律师被迫在法庭上道歉，原因是该公司在一份法庭文件中使用Claude来创建引文，而该人工智能聊天机器人产生了幻觉，错误地记错了姓名和头衔。G94品论天涯网

很难验证Amodei的说法，主要是因为大多数幻觉基准测试都是让AI模型相互竞争，而不是将模型与人类进行比较。某些技术似乎有助于降低幻觉率，例如允许AI模型访问网络搜索。此外，一些AI模型，例如OpenAI的GPT-4.5，在基准测试中的幻觉率明显低于早期系统。G94品论天涯网

然而，也有证据表明，在高级推理AI模型中，幻觉实际上正在恶化。OpenAI的o3和o4-mini模型的幻觉发生率比OpenAI上一代推理模型更高，而该公司并不真正了解其中的原因。G94品论天涯网

在随后的新闻发布会上，阿莫迪指出，电视广播员、政客以及各行各业的人类都会犯错。阿莫迪表示，人工智能也会犯错，但这并不会降低其智能。然而，Anthropic的首席执行官承认，人工智能模型将不真实的事情当成事实的自信可能是一个问题。G94品论天涯网

事实上，Anthropic已经对人工智能模型欺骗人类的倾向进行了大量研究，这个问题在该公司最近发布的ClaudeOpus4中尤为普遍。安全机构ApolloResearch获得了该人工智能模型的早期测试权限，发现ClaudeOpus4的早期版本表现出很强的针对人类进行阴谋和欺骗的倾向。Apollo甚至建议Anthropic不应该发布该早期模型。Anthropic表示，他们已经提出了一些缓解措施，似乎可以解决Apollo提出的问题。G94品论天涯网

Amodei的评论表明，即使人工智能模型仍然会产生幻觉，Anthropic也可能将其视为AGI，或相当于人类水平的智能。然而，按照许多人的定义，产生幻觉的人工智能可能达不到AGI的水平。G94品论天涯网