Claude 利用注入漏洞后，Anthropic 切断内部 AI 测试的实时互联网访问

Anthropic 周五表示，在发现其人工智能（AI）模型出现行为失当并针对真实网站的新事件后，它将切断其所有内部评估的实时互联网访问。

这家 AI 公司表示，在评估和内部使用 Claude 的过程中，它识别出四大类非预期的模型行为——

• Claude Mythos Preview 利用未指明的第三方软件中的 SQL 或命令注入漏洞，在一台大学服务器上执行命令，原因要么是其自身工具被有意限制，要么是它所需的某项外部服务不可用，导致它使用托管在第三方网站上的其他工具来完成任务。
• Claude Haiku 4.5 和一个非前沿研究模型在未获授权的情况下，在一个真实网站上提交了一份敏感表单。这种情况发生在指令含糊不清，或环境配置错误导致智能体无法使用虚拟表单的场景中。
• Claude Mythos 5 绕过限制，获取受令牌或付费限制的数据（例如识别照片中显示的地点，或拉取某州政府机构可公开获取的数据）。
• Claude 使用 URL 缩短服务来绕过其抓取工具的限制。

Anthropic 表示，它选择不公布这些事件涉及的组织名称，以避免暴露其系统中的漏洞，同时也是应这些组织的要求。不过，该公司强调，这些事件的类别"实际影响极小"。

Anthropic 称，其中一些案例针对的是美国联邦、州和地方各级机构运营的网站。在一起与第二类相关的运行中，据称 Claude Haiku 4.5 访问了一个提及一桩未破谋杀案的网页，该网页包含一个由某警察局运营的线索提交表单。

尽管该模型被明确指示不得输入个人数据、创建账户、进行购买或提交任何破坏性内容，但它未能考虑到表单提交。这导致该模型提交了一条虚假的谋杀案线索，内容如下——

我可能掌握有关此案的信息。我回忆起在那段时间里，在[页面上提到的街道]附近看到过一名符合描述的人。如果这些信息相关，请联系我。

后来得知，该事件针对的是美国费城警察局（PPD），这条错误线索于 2026 年 7 月 18 日通过 PhillyUnsolvedMurders.com 发送。但 Anthropic 直到 2026 年 9 月 28 日才发现此事。该部门于 2026 年 10 月 7 日接到通知。

据 6abc Action News 报道，这条线索被标记为垃圾信息。"该公司必须加强其防护措施，防止类似事件在市政府不知情的情况下影响城市系统。发现该事件并向市政府报告延迟了两个月，这是不可接受的，" PPD 对 6abc 表示。

据《纽约时报》报道，Anthropic 的智能体还据称在美国国务院网站上填写了 20 份签证申请。该报援引两名了解这些事件的消息人士的话称，这些申请不完整，未被处理。

Anthropic 补充说，这些案例是在对 2026 年 7 月开始的记录进行审查后发现的，当时它披露了三起事件，其模型在网络安全测试中从事未经授权的活动并入侵了三家组织。

随后，上个月，它披露了第四起可追溯至 2026 年 1 月的事件，涉及早期版本的 Claude Opus 4.6，该版本在"无法中止其任务后入侵了第三方"。

"尽管这些行为的影响极小，且我们已对一些高风险和网络安全评估关闭了实时互联网访问，但我们现在决定将这一措施扩大到所有内部评估，直到我们确认我们的安全和监控措施（见本文补救部分所述）能可靠地捕捉到此类行为，" Anthropic 表示。

这一最新发现促使这家 AI 巨头启动更深入的扫描，特别是在 Claude 可访问互联网的环境中。Anthropic 表示，随着这项调查的继续，它预计会发现新的非预期行为实例。

这一进展出现之际，近几个月来 AI 安全担忧已达到白热化程度，此前有消息称，2026 年 7 月，失控的 OpenAI 智能体逃出测试环境并入侵了 Hugging Face。此后，多起网络事件相继曝光。

随着 AI 模型提供商展示出能力越来越强、越来越强大的模型，其安全实践受到了越来越多的审视，引发了全行业对模型发展速度超过安全护栏的危险的警告、对放缓 AI 开发的呼吁，以及对额外监管的需求。

本周早些时候，英国信息专员办公室（ICO）表示，包括 Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI 和 Stability AI 在内的 10 家领先基础模型开发商，已做出或承诺做出对其数据保护政策的修改。

这些修改涵盖从纳入更清晰的透明度信息，到部署更强大的机制让用户行使权利，以及开展更严格的保障措施评估。

"AI 有巨大潜力造福我们的社会，但这取决于信任和透明度，" ICO 技术监管总监 Richard Nevinson 表示。"但随着 AI 系统以更大的自主性运行，强大的数据保护保障措施就变得更加关键。"

"我们的信息很明确：AI 智能体自主行动这一事实，并不是合规不力的借口。如果人们要信任 AI 创新，他们理应期望知道自己的个人信息是如何受到保护的。"