外部评估发现 OpenAI 内部 AI 监控系统存在漏洞

评估怎么做的

两家机构各派一名研究员，在 OpenAI 监督下实地进入其内部基础设施，审查内部程式码、文件并与技术人员交流；全程使用 OpenAI 发放、不得带离现场的设备。这是业界首次让外部评估者如此深入公司内部系统的试点。

还发现了什么

评估者还找到一种可能让 Codex 智能体绕过安全限制、以用户完整权限行动的方法。评估者强调，结论是历史性的——只反映截至 7 月 21 日的系统状态，而非当前生产环境。

OpenAI 的回应

OpenAI 表示，影响生产防护体系的漏洞已全部打上补丁；但 METR 与 Redwood 表示尚未核实修复情况。完整 61 页报告只交给 OpenAI，公开的仅为摘要，且 OpenAI 有权涂改敏感内容，评估者也无法独立披露被涂改之处。

背景

AI 实验室、专家与川普政府都把「外部独立评估」视为在不拖慢发展的前提下推进 AI 安全的途径；但 AI 公司也担心，深入内部的评估人员可能把专有资讯带给竞争对手。