OpenAI 请了两家外部机构进公司，待了三周，专门查它内部那套监控 AI 的系统，结果查出了一个潜在漏洞：某些情况下，AI 的数百次操作可能从监控记录里消失。
参与评估的是 METR 和 Redwood Research。今年夏天，两家机构各派了人进驻 OpenAI，拿到深层访问权限，用三周时间评估这套系统——它的任务是监控内部 AI 智能体是否出现偏离目标的行为。评估结束后，OpenAI 表示相关发现已经帮助它在扩大系统规模时加固了防护。
真正值得警惕的不是 AI 会不会犯错，而是它犯错之后，我们还能不能发现。当 AI 开始自己写代码、调用工具，人类对它的掌控还剩多少，这个问题比漏洞本身更值得想一想。
正文完