X 帖子近期动态

一项越狱研究的讽刺遭遇:agent 拒绝读它的开源代码

中文账号转述一篇安全论文《Internal Safety Collapse in Frontier LLM》:作者声称攻击方法在约 100 个前沿模型和 coding agent 上有效,开源了代码,却发现一些 coding agent 因安全策略拒绝阅读代码,甚至拦截论文。

MaxForAI@MaxForAI原帖
01

为什么值得留

了解安全研究与 agent 安全策略之间的冲突,对做安全评估的读者有用。

02

可以从这里开始

找论文原文,看其负责任披露与评估设置,不要复现攻击。

03

阅读时留意

转述,论文结论是作者自述;有效范围和复现性未验证;我们不转述任何攻击细节。

OnBalls 导读整理于 2026.10.22。只读存档的帖文全文及可见引用;未打开链接内容,帖中数字和说法未独立核实。

同一方向,继续读

这个方向的精选