Skip to content

Caching

Commander implements a multi-level caching layer to reduce LLM calls, improve response times, and prevent redundant computation. Each cache is per-tenant isolated. An exact-match cache keyed by SHA-256 hash of (tenantId + tool + args):

本文说明 Caching 在 Commander 中的职责、使用方式与相关模块。命令与代码路径与产品保持一致。

bash
Tool Call

  ├─ SingleFlightRequestCache  ── Deduplicates concurrent identical requests
   (First request executes, subsequent wait for result)

  ├─ ToolResultCache           ── SHA-256 exact-match cache
   (Deterministic tools: read file, search code, etc.)

要点

  • 与英文源文档语义对齐;API 与 CLI 以 monorepo 为准
  • 需要可运行示例时,优先使用 快速开始 中的 cliEntry.ts 路径
  • 指标口径:25 提供商 · 5 拓扑 · 18 工具 · 6700+ 测试

相关

MIT 许可 — 为多代理编排而生。