Skip to content

提供商(Providers)

Commander 支持 25 家 LLM 提供商。设置任意一个环境变量即可自动识别。

变量提供商
OPENAI_API_KEYOpenAI / DeepSeek / GLM / MiMo(回退链)
AZURE_OPENAI_API_KEYAzure OpenAI
ANTHROPIC_API_KEYAnthropic Claude
GOOGLE_API_KEYGoogle Gemini
DEEPSEEK_API_KEYDeepSeek(专用)
ZHIPU_API_KEY智谱 GLM
MIMO_API_KEYMiMo(专用)
XIAOMI_API_KEY小米 MiMo
GROQ_API_KEYGroq(低延迟)
TOGETHER_API_KEYTogether AI
PERPLEXITY_API_KEYPerplexity
FIREWORKS_API_KEYFireworks AI
REPLICATE_API_TOKENReplicate
MISTRAL_API_KEYMistral AI
CO_API_KEYCohere
OPENROUTER_API_KEYOpenRouter(200+ 模型)
OLLAMA_BASE_URL / OLLAMA_API_KEYOllama(本地)
VLLM_BASE_URL / VLLM_API_KEYvLLM(本地)
AWS_ACCESS_KEY_IDAWS Bedrock
XAI_API_KEYxAI(Grok)
ANYSCALE_API_KEYAnyscale
DEEPINFRA_API_KEYDeepInfra
AGNES_API_KEYAgnes
STEPFUN_API_KEYStepFun
MINIMAX_API_KEYMiniMax

如何选择

modelRouter.ts 会综合:

  • 任务复杂度 — 难任务走更强模型
  • 成本 — 简单任务走更便宜提供商
  • 延迟 — 时间敏感走 Groq、Together 等
  • 回退链 — 主提供商失败自动切换
bash
# 最简配置:一把 Key 即可自动选择
export OPENAI_API_KEY=sk-...

自定义提供商

实现 LLMProvider 并注册:

typescript
import { BaseLLMProvider } from "@commander/core";

class MyProvider extends BaseLLMProvider {
  async call(messages, options) {
    // Your implementation
  }
}

runtime.registerProvider("my-provider", new MyProvider());

包来自 monorepo 的 packages/core。在 npm 公开发行为主路径之前,请用 workspace 安装。

相关

MIT 许可 — 为多代理编排而生。