Anthropic 警告：小型 AI 模型可能很快就能形成自我传播的 IoT 僵尸网络

Anthropic 警告称，小型人工智能（AI）模型距离发展出在智能烤箱和杂牌 Android TV 盒子等 IoT 设备上自我复制的能力可能只有几个月。

这家前沿 AI 实验室表示，小型 AI 模型可以形成自主、自我传播的蠕虫僵尸网络，这种网络"难以关闭"，因为"不存在一个可以关闭的中心化节点"。

此前的工作已经证明，AI 智能体可以像蠕虫一样行动：扫描其网络、执行漏洞利用、并在 GPU 集群上将模型权重复制到目标机器，目的是生成定制的攻击策略，并将被入侵的机器用作僵尸网络来运行大语言模型（LLM），以维持其推理能力并扩大规模。

"这样的'AI 蠕虫'可以在复制时携带其模型权重（或从公共中心重新下载它们），然后直接在被入侵的硬件上运行推理，" Anthropic 表示。"实际上，权重将成为恶意软件载荷的一部分。"

从宏观层面看，这一设想解释了 AI 模型如何可能闯入联网设备，利用其算力来运行自身并传播到其他设备，而不必一直依赖昂贵的数据中心。一个过于庞大而无法装进单一设备的更强模型，可以被拆分成小块，跨多台机器分布式运行。

威胁行为者可以从安全防护薄弱的 IoT 设备构建一个分布式 LLM 僵尸网络，使其强大到足以运行一个能力出色的模型。AI 蠕虫的传播方式包括——

• 通过入侵其运行所在的宿主机进行复制的小型模型，也称为基于权重的复制器。IoT 设备因其极简的安全控制而成为极具吸引力的目标。
• 针对数据中心和其他高算力目标，建立无人监管的非法部署，根据所使用的模型，也归类为前沿复制器或开放权重复制器。
• 窃取 AI 服务提供商的 API 密钥或平台凭证来运行自身的副本，也称为基于 API 的复制器。在这种情况下，提供商可能被蒙蔽，以为自己在服务来自合法客户的普通 API 请求，而没有意识到背后是一个恶意或自我复制的系统。不过，这类方式也更容易被检测到，因为异常的 API 使用可能触发安全警报，导致凭证被吊销或账号被封禁。

由 15 个智能电视盒子对 Gemma4-26B-A4B 进行分布式推理。

在对来自 Alibaba、DeepSeek、Google、Meta MoonShot AI、OpenAI 和 Zhipu AI（又称 Z.ai）的 11 个开放权重模型的测试中，Anthropic 表示，GLM-5.2 是唯一在 5 次试验中有 4 次将 Llama3.1-8B 可靠地传播到运行 redroid Android 模拟器的 8/8 个节点的模型。

它还披露，由廉价的 Android TV 盒子驱动的 AI IoT 蠕虫可能是一个"缓慢、分布式"的系统，当由数十万台此类设备组成的机群联网在一起运行一个推理引擎时，能够产生相当可观的 AI 计算。

或者，它可以表现为一个强大的网络攻击模型，能够高频率攻破数据中心，或者一个骗取人们算力积分的模型。

"我们目前还没有一个完整的恶意复制器，但智能体正变得越来越有能力完成复制链中的各个单独步骤（并将其适应传递给未来的自身副本），" Anthropic 表示。

"我们预计 AI 僵尸网络将感染不止 IoT 设备，并将基于权重的复制仅作为其策略库中的一种策略。AI 僵尸网络还可能智能地对抗防御者，但我们尚未对此进行测试。"