官方资料方法阅读

AWS:在 Bedrock 上给 OpenAI 模型用提示缓存

AWS 机器学习博客介绍在 Amazon Bedrock 上调用 OpenAI 模型时的提示缓存用法:agent 每一步都会重读全部上下文,把工具定义、指令和历史缓存起来,可以降低输入成本和延迟。

Claudio Mazzoni原始发布
01

为什么值得留

在 Bedrock 上跑 agent 的人,可以按文中的模式整理提示顺序,提高缓存命中。

02

可以从这里开始

把你的 agent 提示按「固定工具和指令在前、变化内容在后」重排,对比一周输入花费。

03

阅读时留意

只读到摘要;具体折扣比例、缓存时长和支持哪些 OpenAI 模型需回原文核。

OnBalls 导读整理于 2026.10.27。只读收件箱保存的 Signal Hub 摘要(可能截断);未打开原文。

同一方向,继续读

这个方向的精选