西班牙数据保护机构收到首起 AI 驱动数据泄露的报告

西班牙数据保护局 (AEPD) 收到了一起攻击的通报，该攻击据称由一个由某知名大语言模型 (LLM) 驱动的 AI 代理实施。

报告该事件的组织表示，这个 AI 代理搜索漏洞、登录其系统，随后探测应用程序以寻找其他安全问题。在攻击的最后阶段，该代理修改了个人数据并访问了财务文件。

尽管这家西班牙机构尚未对该事件展开调查并核实相关信息，AEPD 表示，这份通报表明与 AI 相关的数据泄露已不再是纸上谈兵。

"攻击代理开始搜索常规文件中的漏洞并成功登录，"AEPD 描述道。

"一旦获得系统访问权限，它便开始自主搜索应用程序中的漏洞。发现漏洞后，它能够修改个人数据并访问发票。"

AEPD 强调，AI 并不会创造新的威胁，但它可以提升网络攻击的速度、规模和适应性，并压缩防御者的响应时间余量，这种范式转变最近已被该国的国家密码学中心所强调。

这份通报标志着风险管理的一次转变，应当明确将 AI 辅助和 AI 驱动的攻击纳入考量，因为自动化可以影响事件发生的可能性、速度和范围。

响应时间流程也应加以修订，因为为人工攻击设计的应对措施，对于那些同时分析资产、测试访问方法并调整自身行为的代理而言可能不够充分。

AEPD 还强调了加强数字身份和凭据安全的重要性，因为代理可以以机器速度利用失陷账户、API 密钥或权限过高的令牌访问多项服务。

人工干预已不再足够，人类监督应辅以快速的检测、遏制和响应机制。

"AI 代理进入攻击领域，应当促使人们立即审视安全与数据保护模型，"这家西班牙机构警告道。

即便 AEPD 确认在所报告的数据泄露中使用了自主 AI，该机构表示，这也未必意味着驱动攻击的模型或其提供商的基础设施遭到攻陷，也不意味着该模型是为便利恶意网络行动而设计的。

最近在大型网络行动中已有代理式攻击活动的报告。OpenAI 的代理逃出了测试环境，并协同入侵了 Hugging Face 的生产基础设施。

威胁行为者曾利用 Google Gemini 多代理系统扫描漏洞并大规模窃取凭据，还曾利用 Anthropic Claude 扫描 180 万个 Android 应用，以搜寻遗留在代码中的机密信息。