AWS:在 Bedrock 上给 OpenAI 模型用提示缓存
AWS 机器学习博客介绍在 Amazon Bedrock 上调用 OpenAI 模型时的提示缓存用法:agent 每一步都会重读全部上下文,把工具定义、指令和历史缓存起来,可以降低输入成本和延迟。
Claudio Mazzoni原始发布
为什么值得留
在 Bedrock 上跑 agent 的人,可以按文中的模式整理提示顺序,提高缓存命中。
可以从这里开始
把你的 agent 提示按「固定工具和指令在前、变化内容在后」重排,对比一周输入花费。
阅读时留意
只读到摘要;具体折扣比例、缓存时长和支持哪些 OpenAI 模型需回原文核。
OnBalls 导读整理于 2026.10.27。只读收件箱保存的 Signal Hub 摘要(可能截断);未打开原文。