agent 给工具传错用户 ID:别让模型填敏感参数
Stack Overflow 一个提问:自建 agent 调 send_email 这类工具时,模型偶尔把对话里看到的别人的 ID 当参数传入;提问者问是否应把敏感标识符改由服务端从会话中解析,而不让模型提供。
stackoverflow.com原始发布
为什么值得留
一个常见设计坑:身份类参数应由代码注入,模型只填内容类参数。
可以从这里开始
检查你的工具定义:凡是用户 ID、账号、租户 ID,改为从会话上下文注入,从参数表里删掉。
阅读时留意
这是提问,节选没有回答;我们给的做法是通用工程经验,不是该帖结论。
OnBalls 导读整理于 2026.10.24。只读收件箱保存的提问正文;未看回答。