Anthropic 正式官宣 Claude For Chrome!

也就是说,未来你可以在浏览器的扩展程序中使用 Claude 的 AI Agent 工具,并借助它管理日历、填写表单、起草电子邮件回复等等。例如:
在对话框输入需求,Claude 会自动打开相关网站(如 Zillow),并根据需求配置筛选条件。

Claude 能够读取文档内容,并进行资料整理汇总,提炼要点,生成结构化摘要。

有了 Claude,或许未来可以告别外卖选择困难症。
如果你打开了 DoorDash(美国外卖平台),并对话 Claude,他就会帮你搜索合适的外卖产品并加入你的购物车。

除此之外,Claude 还可以在多个场景下使用。这无不显示,Claude 浏览器扩展的目标是成为生活中的“超级助理”。
不过最近 AI 浏览器赛道很是火热,除了 Dia、 Fellou、 Comet 等 AI 浏览器,微软 Edge 浏览器也推出 “Copilot 模式”,让浏览器更加智能化。如果像 Claude 的这类大模型通过插件能够在原有浏览器上实现 AI 功能,我们是否还需要使用 AI 浏览器?
已经有网友在 Claude 这条公告下方艾特了 Comet 的开发团队 Perplexity。

大家真的都很爱看热闹🐶

不过 Claude 的浏览器插件同样还存在一些需要解决的问题,特别是安全问题。
在公告中,Claude 明确指出这种 Agent 级别的自动化能力,“prompt injection”是目前最大的问题。
“prompt injection”即恶意行为者隐藏指令来诱骗 Claude 采取有害行为。

这些攻击可能导致人工智能删除文件、窃取数据或进行金融交易。
目前 Claude 已经使用了几种防御措施,包括:
1)权限
用户始终拥有对 Claude for Chrome 可以访问和执行的作的控制,并可以随时在“设置”中授予或撤销 Claude 对特定网站的访问权限。Claude 在采取发布、购买或共享个人数据等高风险作之前也会再次询问用户,需要用户确认才会执行操作。
2)系统提示优化
Claude 改进了系统指令,指导 Claude 如何处理敏感数据,加强敏感操作的判断能力。
3)禁止访问
Claude 直接被禁止访问高风险类别的网站,例如金融服务、成人内容和盗版内容。官方同时也开始构建和测试高级分类器,以检测可疑的指令模式和异常的数据访问请求,即使它们出现在看似合法的上下文中。
这次 Claude 招募用户测试,也正是为了解决这一问题。
评论区也已经有人晒出了邀请邮件:

感兴趣的同学也可以从官网申请加入候补名单,感受一下Claude 的浏览器插件。
https://claude.ai/chrome
本文编辑:玉露