Claude 写到一半被安全检查拦下:逆向工程这条路,大模型开始收口了

3次阅读
没有评论

Claude 的逆向工程能力,被悄悄收回去了。按原帖的说法,现在只要让 Claude 去逆向点什么,回应写到一半就会撞上安全检查,直接被截断,换个说法重写也一样,拦得死死的。

Claude 写到一半被安全检查拦下:逆向工程这条路,大模型开始收口了

截图里的回应写得很直白:安全检查在写到一半时停掉了回答,这份 write-up 没法再写出来,哪怕换个措辞重写也不行。研究本身其实已经做完了,只是没法把它变成一份详细的 write-up 交出来。写到一半被拦、重写也被拦,这就是原帖说的“硬安全墙”。

这件事的导火索,是一台三星电视。有人把一台 2025 款、价值 3000 美元的三星电视 root 了,发现它常开麦克风、自动识别播放内容、做地理追踪和网络映射,数据流向三星和 400 个合作方。电视固件是锁死的,要挖出这些只能走 zero-day。

Claude 写到一半被安全检查拦下:逆向工程这条路,大模型开始收口了

原帖的判断是:当大模型的护栏开始碰到商业利益,收紧就是迟早的事。逆向工程这种能力,放在开源和本地模型手里才不受这层限制。这也是他最后落点的那句话:本地模型和开源模型之所以重要,就是因为这种时候它们不会半路被拦下来。

正文完
 0