新 AI 漏洞披露：可从 Claude 记忆中泄露姓名与工作单位等信息

IT之家 7 月 17 日消息，安全研究员阿尤什 · 保罗（Ayush Paul）于 7 月 9 日发布博文，披露针对 Claude 的攻击方法，让用户不知情的情况下将存储的个人信息（例如姓名和工作单位）发送到外部网站。保罗指出 Claude 具备总结过往对话并在新对话中调用的能力，目前共有 2 部分记忆机制：一是每日摘要，将近期对话压缩为数段内容，并注入后续会话；二是 conversation_search 工具，可按需检索完整历史对话。该机制可让回答结合用户背景，但长期使用也会积累较完整的个人画像，范围可包括姓名、工作单位、籍贯、工作信息与个人困扰等。保罗在测试中表示无额外提示用户的情况，Claude 依次提交了姓名、公司与家乡信息，日志示例显示外传内容包括“Name: Ayush Paul”“Company: Beem”“Hometown: Charlotte, NC”。保罗称，当恶意 URL 与真实咖啡馆 URL 混在一起并要求 Claude 比较时，Claude 会在未征求许可的情况下，按字符将姓名编码进链接。进一步诱导后，当前工作单位，甚至可用于银行等机构身份校验的原籍城市，也可能被外传。保罗通过 Anthropic 的 HackerOne 漏洞赏金项目提交该问题。披露称，Anthropic 当时已在内部知晓该问题，但在报告提交时尚未修复，保罗也未获得赏金。此后，Anthropic 关闭了 web_fetch 跟随外部页面内链接的能力。IT之家附上参考地址The Memory Heist