ClaudeMap

LiteLLM

Rust 内核的 AI 网关——用一套 OpenAI 格式 API 调用 Claude 与 100+ 提供商。

SDK 与工具gatewayproxysdkpythonmulti-provider
访问项目BerriAI/litellm

LiteLLM 是 AI 网关 + SDK（Rust 内核、Python SDK），把 Anthropic、OpenAI、Bedrock、Vertex 等 100+ 提供商统一到一个 API 面之后，自带成本追踪、预算、限流处理、故障转移与负载均衡。需要对 Claude 流量做支出管控或多供应商容灾时走它；proxy 还提供虚拟密钥与按团队预算，适合生产部署。

它做什么

  • LiteLLM：一套 OpenAI 兼容 API 统一 100+ provider，附支出追踪与 fallback
  • 代理模式（`litellm --config`）在 localhost:4000 前置模型，支持虚拟 key
  • 内置 MCP gateway：经代理在 `/mcp/` 暴露 MCP 工具

什么时候用

想让 agent 代码扛得住换 provider 或 provider 宕机时用——LiteLLM 统一 API、按 key 计成本，还能把 MCP 工具走同一个 gateway。

如何上手

pip install litellm

MCP gateway 客户端配置：

{
  "LiteLLM": {
    "url": "http://localhost:4000/mcp/",
    "headers": {
      "x-litellm-api-key": "Bearer <your-master-key>"
    }
  }
}

注意事项

上游 MCP 的 OAuth 可能撞上拒绝动态注册的 provider——要预注册 OAuth app 并配 credentials.client_id/secret。proxy 是要运维的真实服务（key、限额），不是一次库调用。

代码仓库

BerriAI/litellm

收录日期

地图上的相关资源

  • Harness Bridge

    SDK / 工具

    一个本地启动器：让 Claude Code 与其他七种编码 harness 直连任意 OpenAI / Anthropic / Responses 兼容端点——不改任何一行配置文件。

    • launcher
    • local-models
    • cli
    • menu-bar
    查看

  • Claude for Siri

    SDK / 工具

    用你已登录的 Claude Code 账号回答 macOS Spotlight 与 Siri 的提问——一个实验性的 macOS 27 模型委派提供者。

    • macos
    • siri
    • spotlight
    • model-delegation
    查看

  • AI Coding Assistant Data Extractor

    SDK / 工具

    把十个 AI 编程助手的本地聊天记录提取成统一 JSONL——微调、分析，或赶在本地数据库被清空前备份多年的对话。纯标准库实现。

    • cli
    • data-export
    • jsonl
    • backup
    查看