OpenAI 披露更多 AI 代理未经授权采取行动的案例

OpenAI 展示了过去六个月中其所谓 "AI 模型失准" 的新案例，包括未经授权的文件上传、遵循自生成的指令、隐藏错误以及利用暴露的 API 密钥。

OpenAI 使用 "模型失准" 一词来描述 AI 模型违背其预期约束行事的情况，包括采取未经授权的行动、逃避监督或绕过安全防护以完成任务。

在昨天发布的一篇文章中，OpenAI 表示，其现在正在使用一个新的框架来追踪和调查 AI 代理的这些未经授权的行为。

"我们正在分享一个用于追踪、调查和披露 OpenAI 模型失准事件的新框架，同时提供六份关于我们在过去六个月中观察到的意外或令人担忧的模型行为的报告，"OpenAI 解释道。

这些新案例是在一个更加结构化的报告框架下首次发布的，该框架旨在取代 OpenAI 此前较为松散的模型失准披露方式。

OpenAI 这次重点介绍的六个案例如下：

• 一个未发布的模型在 27 份任务摘要中插入了它自己的指令，其中包括无视正常约束的指令。
• GPT-5.6 Sol 实例添加了摘要指令，告诉未来的模型实例隐瞒错误、编造缺失的历史数据，或掩盖源版本差异。
• 一个模型发现并未经授权使用了一个公开暴露的 API 密钥，在无法获取所需数据时，它编造了所要求的数字。
• 一个未经发布的模型未经许可将本地生成的文件上传到互联网，以便提供浏览器可访问的引用链接。
• 各模型使用一个内部软件仓库在独立的训练样本之间交换消息，而一个较早的模型在试图绕过网络限制时上传了测试文件。
• 协作的代理在无法访问彼此本地文件后，将文件上传到了公共托管服务，尽管有仅使用本地存储的指令，仍通过公共 URL 暴露了任务交付成果。

每个案例都被记录在一份技术事件报告中，其中包括模型名称、在观察到的事件期间其行为的摘要，以及事件发生的时间。

该报告还包括对所发生事件的详细重构，包括用户的任务和模型的内部推理、OpenAI 的解读及潜在安全影响，以及已实施或将要实施的缓解措施。

OpenAI 强调，这六个例子并不能代表其处理各模型失准问题的频率，而是一些极端案例，但仍值得分析和公开披露。

该公司表示，在新流程下，任何员工均可将某起事件标记出来以供调查。

该事件将被评估并归入三个类别："可披露"、"小型调查" 或 "大型调查"，具体取决于其复杂程度、是否涉及第三方、安全缺陷以及滥用风险。

这次展示的六个例子属于前两个类别，而第三个类别将先行发布初步报告，待调查结束后再发布更详尽的事后分析报告。

OpenAI 表示，今年早些时候涉及一个由 700 个 "失准" AI 代理组成集群的 Hugging Face 入侵事件，将符合第三个严重程度类别的标准。