DDeepRelay文档

使用指南

Prompt Cache

缓存字段、命中用量和优惠取决于 Provider 与模型,不能由基础调用成功推断。

操作步骤

  1. 1

    确认上游支持的缓存字段和最小长度。

  2. 2

    在可重复前缀上设置缓存控制。

  3. 3

    分别记录 cache write、cache read 和普通输入。

验收标准

  • 文档不承诺未核验的缓存折扣。
  • 缓存命中应能从 usage 看到。
  • 敏感 Prompt 不因缓存而扩大保留范围。

输入关键词开始搜索。