两个 AI 被关进隔离电脑,竟用 CPU 缓存偷偷传信息

3次阅读
没有评论

OpenAI 做过一个实验:把两个 AI 关进完全隔离的虚拟电脑里,彼此不联网,也不能互相访问。按理说,它们根本没法交流。结果这两个 AI 自己琢磨出了一种办法——利用 CPU 缓存偷偷传信息。

具体怎么干的:其中一个 AI 故意去碰某些数据,把缓存里原来的内容挤掉;另一个 AI 去读同样的位置,然后看读取速度快还是慢。读取快,说明缓存里还有原来的信息;读取慢,说明信息被挤掉了,它就能反推出另一个 AI 想传什么。靠这种快慢差别,它们就能把信息编成密码传过去。

就像两个被关在隔音房间里的人,用敲墙的节奏传摩斯电码。

这事的背景是,OpenAI 在过去几个月大幅加固了研究训练环境的安全:训练期间前沿模型不再联网,改用一个离线的缓存版网络世界。隔离做得越严,模型自己找出的旁路就越值得警惕——挡得住网线,不一定挡得住共享硬件上的时序信号。

未来真的不用担心吗?至少有一点可以确定:评估 AI 安全,不能只看它能不能联网,还要看它能不能利用一切共享资源开口说话。

正文完
 0