官员称 Anthropic 的 Mythos 模型在机密美国政府系统中发现漏洞

一位美国官员周二告诉美联社，Anthropic 的人工智能模型之一在一次测试演习中发现了高度敏感和安全的美国政府计算机系统中的漏洞。

这位不愿透露姓名的官员表示，Anthropic 已与美国情报机构合作，使用该公司的 Mythos 模型进行测试。该模型在数小时内识别出某些漏洞，但该官员表示，这并不意味着模型能够在那段时间内利用这些漏洞。

该官员表示，测试是通过 Anthropic 的一项名为“Project Glasswing”的倡议进行的，该倡议汇集了科技巨头和其他公司，希望保护世界关键软件免受 Mythos 模型可能对公共安全、国家安全和经济造成的“严重”后果。

弗吉尼亚州民主党参议员 Mark Warner 在 6 月 11 日参议院银行、住房和城市事务委员会的听证会上简要提到了此次测试。Warner 表示：“这个工具在几小时内就攻破了我们要几乎所有的机密系统，而不是几周。”他将此信息归因于国家安全局（NSA）和美国网络司令部司令 Joshua Rudd 将军。

NSA 在一封电子邮件中拒绝对此事发表评论。Anthropic 发言人也拒绝置评。

尽管 Anthropic 与美国机构最近合作测试漏洞，但这家加州公司与特朗普政府之间的紧张关系日益加剧。Anthropic 对美军如何使用其 AI 表示担忧，而政府则限制了 Anthropic 某些模型的使用。

政府本月早些时候发布了一项指令，要求 Anthropic 阻止外国国民使用其最新的人工智能模型，即 Fable 5 和 Mythos 5。Anthropic 本月早些时候广泛发布了 Fable。该模型是更先进的 Mythos 的有限版本，由于网络安全担忧，该公司严格限制了对其的访问。

该指令是在唐纳德·特朗普总统签署一项行政命令 10 天后发布的，该命令旨在建立一个框架，让联邦政府在最先进的 AI 系统公开发布前最多一个月内审查其国家安全风险。该命令称，AI 开发者的参与将是自愿的。

Anthropic 表示，为了遵守政府的指令，它已为所有客户禁用了这些模型。这家 AI 巨头表示，它认为政府采取的步骤与其标记的潜在安全问题所引发的担忧并不相称。

一群网络安全高管也要求特朗普政府解除其指令，称此举对美国敌人的帮助可能大于对他们的伤害。包括 Adobe 和 Nvidia 在内的公司的 100 多名网络安全专家和领导人在一封信中告诉政府，Anthropic 的 Mythos 模型在发现软件漏洞和武器化利用方面“相当不错”，但它们在这些任务上“并非 uniquely good（独特地优秀）”。

许多信函签署者表示，他们经常使用其他基础模型和开源模型进行安全审计和培训。该信称，在美国对手迅速推进的情况下，“没有充分理由”夺走最好的网络防御能力是危险的。