一项越狱研究的讽刺遭遇:agent 拒绝读它的开源代码
中文账号转述一篇安全论文《Internal Safety Collapse in Frontier LLM》:作者声称攻击方法在约 100 个前沿模型和 coding agent 上有效,开源了代码,却发现一些 coding agent 因安全策略拒绝阅读代码,甚至拦截论文。
MaxForAI@MaxForAI原帖
为什么值得留
了解安全研究与 agent 安全策略之间的冲突,对做安全评估的读者有用。
可以从这里开始
找论文原文,看其负责任披露与评估设置,不要复现攻击。
阅读时留意
转述,论文结论是作者自述;有效范围和复现性未验证;我们不转述任何攻击细节。
OnBalls 导读整理于 2026.10.22。只读存档的帖文全文及可见引用;未打开链接内容,帖中数字和说法未独立核实。