语音 agent 降延迟:按句子边生成边合成
AWS 机器学习博客介绍:语音 agent 常等完整回复再合成语音,用户会明显感到延迟;文中把 agent 生成的每一句话立刻送给 SageMaker 上的 Kokoro-82M 合成,再用 SSE 或二进制通道把音频推回浏览器。
Joseph Cottingham原始发布
为什么值得留
做语音助手的人可以照这个思路改造:不换模型,只改切分和传输,就能缩短首次出声时间。
可以从这里开始
在你的语音流程里加一层按句号切分,测一下首个音频片段出来的时间。
阅读时留意
节选只有摘要,没有给出延迟数字;示例绑定 SageMaker 和 Kokoro-82M,换别的 TTS 需要自己验证按句切分的效果。
OnBalls 导读整理于 2026.10.23。只读收件箱保存的博客摘要;未打开正文和代码。