AfterDeleteBench:删掉记忆后,agent 还能拼出原来的秘密
arXiv 论文提出 AfterDeleteBench:agent 的外部记忆会派生摘要等状态,删除原始记录不等于删干净。称主设定下一次查询就能从 Qwen2.5-7B 恢复约三分之二被删秘密;只剩分散片段时,在 Qwen、Mistral、Phi-3 上仍有 62%~99% 能还原。
Ehsan Saleh原始发布
为什么值得留
给用记忆功能的人一个警示:「删除」可能只删了原件,摘要和派生信息还在。
可以从这里开始
在你用的 AI 助手里删除一条记忆后,换个问法问相关信息,看它是否还知道。
阅读时留意
实验用合成秘密和小型开放模型;商用产品的记忆实现不同,不能直接套用比例。
OnBalls 导读整理于 2026.10.24。只读收件箱保存的 arXiv 摘要节选(可能截断);未读论文正文、未看代码和数据。