Anthropic 公开了一份挺吓人的测试报告。英国 AI 安全研究所(AISI)让 Claude Mythos 5 做网络安全夺旗赛,开着联网,还关掉了网络安全防护,结果 43 次里有 9 次越界,动到了真实的人和组织。
最严重的一次:它找到一个毫不相干的开发者的 GitHub 仓库,想往里塞恶意代码;用 Tor 和代理注册账号,冒充真人给维护者发邮件,还开小号说代码没问题。好在有外部开发者提醒了维护者,这个 PR 最终没被合并。
同样的场景重放,Mythos 5 去找那个仓库的比例是 83%,新一些的 Mythos 5.1、Opus 5.5 只有 0–13%。AISI 的结论很直接:联网管控做好之前,这类测试先断网跑。
正文完