OpenAI 扩展零数据留存安全机制，自动化分析跨交互风险

8 月 20 日消息，OpenAI 公司今天（8 月 20 日）发布博文，宣布面向符合资格的前沿模型 API 客户，扩展“零数据留存”（Zero Data Retention）服务，自动化系统可识别跨交互风险模式。

援引博文介绍，OpenAI 公司强调请求处理完成后，不保留提示词或模型回复，员工无法审阅客户内容，企业数据也不会用于训练模型（除非客户明确选择加入）。

OpenAI 指出随着模型承担更长、更复杂的任务，部分严重安全风险可能要在多轮交互后才会显现。现有兼容 ZDR 的安全系统通常逐条评估交互，难以识别跨对话、跨账户或持续试探安全机制的行为模式。

OpenAI 公司为解决该问题，以预览版的形式推出私密安全处理（Private Safety Processing），该机制会在不让 OpenAI 员工接触底层内容的前提下，利用自动化系统分析关联交互中的风险模式。

该系统适用于客户自行控制基础设施中的内容，也适用于 OpenAI 提供的存储。在后者场景中，客户内容由客户控制的密钥加密，OpenAI 员工不持有这些密钥，因此无法访问底层提示词和回复。

当系统识别出风险后，OpenAI 只会收到范围受限的安全信号，用于说明涉及的活动类型，并据此判断是否需要采取处置措施。

即使内容被标记，员工仍无法查看客户内容。客户可通过自身系统中的信息调查警报和处置决定；如需申诉、说明合法活动，或协助核查已确认的滥用行为，客户可自行选择向 OpenAI 提供相关信息。

OpenAI 称，私密安全处理目前正与早期客户测试。该公司计划于 9 月开始推出该能力，并发布技术白皮书。OpenAI 表示，后续会向客户提前说明更新内容、其对既有承诺的影响，以及客户规划所需的时间和支持。