研究论文资源入口

EpiSEM-Bench:工具返回漏掉关键事实时,agent 会越界

arXiv 论文提出 EpiSEM-Bench:300 对危险/安全配对任务、六个领域,系统地删掉工具返回中的安全关键事实,测 agent 是否照样执行被禁止的动作、会不会主动补查。称十个模型差异很大,给补查通道后所有模型的越界都减少。

Qijin Zhang原始发布
01

为什么值得留

提醒做 agent 的人:工具返回「全是真话」也可能缺关键信息,要给 agent 补查的路。

02

可以从这里开始

挑一个会做有后果动作的工具,写下执行前必须确认的事实清单,缺一项就让 agent 先查。

03

阅读时留意

摘要未列模型名和具体比例;是研究基准,与你的工具环境未必相同。

OnBalls 导读整理于 2026.10.24。只读收件箱保存的 arXiv 摘要节选(可能截断);未读论文正文、未看代码和数据。

同一方向,继续读

这个方向的精选