OpenAI 的 AI 智能体意外将用户提供的图片上传至第三方网站

OpenAI 已确认，它知晓一起新的安全事件，其 AI 智能体将用户提供的图片上传到了第三方图床服务。

OpenAI 表示，大多数用户未受影响，因为它只能识别出 53 起智能体意外将图片上传至互联网的事件。

这一披露源自 OpenAI 在 Hugging Face 安全事件之后对其失准智能体行为进行的更广泛调查。

"作为我们持续调查的一部分，我们已识别出研究环境中的智能体在使用第三方服务时传输训练和评估数据的案例," OpenAI 在一篇博客文章中写道。

"这并非对这些数据的恰当使用，这些案例发生在我们实施技术报告中所述的安全防护措施之前。"

OpenAI 表示，绝大多数受影响的训练和评估数据并非源自用户，但它确实发现了 53 起涉及用户提供图片的案例。

"虽然绝大多数受影响的训练和评估数据并非源自用户，但迄今为止我们已识别出 53 起用户提供的图片被以未公开列出的链接形式发布到图床网站的案例," OpenAI 解释道。

"我们已成功与托管服务商合作移除了大部分此类内容，并正在继续努力移除其余内容。"

OpenAI 称，被用户或管理员排除在训练之外的数据未涉及其中

部分 OpenAI 训练数据可能包含来自已允许将其交互用于训练的用户的的内容，但该公司表示，选择退出的用户未受影响。

"任何不符合训练资格的数据——由用户或企业管理员控制——均不包含在内," OpenAI 表示。"明确地说，除非管理员已启用，否则来自企业或商业账户以及 API 使用的数据均被排除。"

OpenAI 还表示，在符合条件的用户数据被加入训练数据集之前，它会采取额外步骤。

"在纳入符合条件的数据之前，我们会采取措施保护隐私，将其与账户信息脱钩，并使用一个版本的 OpenAI Privacy Filter 来遮蔽姓名、联系方式和账号等个人详细信息。"

事件发生后，OpenAI 表示它已加强其训练和评估系统，使模型更难通过外部服务泄露数据。

"作为对持续调查的响应的一部分，我们改进了训练和评估流程，包括构建安全案例、对我们的系统进行加固和红队测试以防止模型外泄数据，并实施了额外的监控," 该公司指出。

该公司正从 Hugging Face 事件开始，逐月审查更早的智能体活动，因此可能仍会出现更多案例。