文章指出，常见的30秒缓存保活轮询成本过高，最优间隔约为4分钟。作者对Anthropic、OpenAI、Gemini和DeepSeek进行了实测，提出了一个清晰的规则：仅当代理暂停时间介于提供商的缓存过期点和盈亏平衡点之间时，保活才有意义。
背景
提供商提示词缓存是LLM API中广泛采用的降本技术，但Agent工作流中请求间的长时间暂停常导致缓存失效。缓存保活（定期ping刷新TTL）是已知对策，但最优间隔此前多基于经验而非实测。
- 来源
- Lobsters
- 发布时间
- 2026年8月6日 02:52
- 评分
- 7.0 / 10