Anthropic公司周二宣布，即将推出一款基于浏览器的人工智能代理的研究预览版，该代理由其ClaudeAI模型驱动。这款名为ClaudeforChrome的代理正在向AnthropicMax套餐的1000名用户推出，该套餐每月费用在100至200美元之间。该公司还为其他感兴趣的用户开放了候补名单。
通过向Chrome添加扩展程序，部分用户现在可以在Sidecar窗口中与Claude聊天，该窗口会保留其浏览器中所有事件的上下文。用户还可以授权Claude代理在其浏览器中执行操作并代表他们完成某些任务。
浏览器正迅速成为人工智能实验室的下一个战场，它们的目标是利用浏览器集成，在人工智能系统和用户之间提供更无缝的连接。
在周二的博客文章中，Anthropic警告称，拥有浏览器访问权限的人工智能代理的兴起带来了新的安全风险。上周，Brave的安全团队表示，发现Comet的浏览器代理可能容易受到间接提示注入攻击，即网站上的隐藏代码可能会诱骗代理在处理页面时执行恶意指令。
Anthropic表示，希望利用此次研究预览来发现并解决新的安全风险；然而，该公司已经推出了几种针对即时注入攻击的防御措施。该公司表示，其干预措施将即时注入攻击的成功率从23.6%降低到了11.2%。
例如，Anthropic表示，用户可以在应用设置中限制Claude的浏览器代理访问某些网站，并且该公司已默认阻止Claude访问提供金融服务、成人内容和盗版内容的网站。该公司还表示，Claude的浏览器代理在“采取发布、购买或共享个人数据等高风险行动”之前会征求用户许可。
这并不是Anthropic首次涉足控制电脑屏幕的AI模型。早在2024年10月，该公司就推出了一款可以控制电脑的AI代理——然而，当时的测试表明，该模型速度相当慢，而且不可靠。
自那时以来，代理型人工智能模型的能力已显著提升。现代浏览器人工智能代理（例如Comet和ChatGPTAgent ）在为用户分担简单任务方面相当可靠。然而，许多此类代理系统在处理更复杂的问题时仍然举步维艰。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】