LiteLLM 的替代:一个二进制,没有 Python 依赖树
LiteLLM 是个成熟、功能齐全的网关。它支持 140 多家供应商,有企业级安全功能,社区也大。你要是需要这些,就接着用。
那你为什么打开一个“替代”页面?把人带到这儿的问题,通常不是“还有没有别的网关”。它更具体:我能不能不先搭一个 Python 服务、一个 Postgres、一个 Redis,就跑起来一个;我能不能放心地把它装到下一台机器上,还这么简单。
YoloRouter 就是这样的网关。它是一个静态的 Go 二进制。没有 pip install,没有可传递依赖树,没有 Docker Compose 文件。下面把两者放在一起老实对比:差在哪、LiteLLM 在哪还更强、什么时候换过来才真的划算。
对比
| YoloRouter | LiteLLM | |
|---|---|---|
| 运行时 | 一个静态 Go 二进制,零运行时依赖 | Python 进程,带一棵可传递依赖树 |
| 安装 | 一条命令(见下文) | Docker / Helm / Terraform,或 pip install |
| 数据库 | SQLite 默认内嵌;Postgres 可选 | Postgres 和 Redis |
| 管理控制台 | 通过 go:embed 内嵌进二进制(Vue,发布时构建) |
内嵌 |
| 入站协议 | 四个一等公民编解码器:OpenAI Chat、OpenAI Responses、Anthropic Messages、Gemini | 以 OpenAI 兼容为主路 |
| 成本优化 | 识别并压缩工具输出:go test、git diff、grep、构建日志 |
提示压缩、语义缓存、最低价路由 |
| 故障转移和密钥轮转 | 有。401/429 轮转密钥,5xx 和超时切换候选,都在首字节流出之前 | 有 |
| 内嵌前端 | 有。管理 UI 编译进二进制,Node 只是构建期依赖 | 有 |
上表每一行都能查。YoloRouter 的结论能对到源码,LiteLLM 的能对到它的文档。
LiteLLM 还占优的地方
这一段不是走过场。YoloRouter 不是 LiteLLM 的超集,硬说成是,浪费的是你的时间。
- 供应商广度。 LiteLLM 通过路由层支持 140 多家供应商、1800 多个模型。YoloRouter 原生说四种协议,能触达任何一个说其中一种的供应商,但手写的供应商适配器数量比不过 LiteLLM。
- 企业安全。 SSO、RBAC、SCIM、PII 脱敏、气隙部署,LiteLLM 都有,YoloRouter 暂时没有。
- 语义缓存。 LiteLLM 接了语义缓存后端。YoloRouter 降本靠的是工具输出压缩,不是响应缓存。
- 社区规模。 LiteLLM 先发了好几年,贡献者多,大规模实战也跑过了。
你需要其中任何一项,留在 LiteLLM。
什么时候该换
满足下面任一条,可以考虑 YoloRouter:
- 你想要能拿到的最小供应链面。一个没有可传递 Python 依赖的静态二进制,更容易审计、更容易锁版本。
- 你不想维护 Python 部署。没有 virtualenv 漂移,没有
requirements.txt冲突,没有主机间的运行时版本错位。 - 你在跑 Claude Code、Codex 这类编程 Agent。YoloRouter 的工具输出压缩就是为这个场景做的,它认得出
go test、git diff、grep的输出,把撑高 token 账单的样板折掉。 - 你需要四大线缆协议原生互通。让一个 Claude Code 客户端走 GPT 后端,或让一个 OpenAI SDK 走 Gemini 模型,不用外挂翻译。YoloRouter 在这四个之间解码再编码。
一条命令装好
Linux 或 macOS:
curl -fsSL https://get.yolorouter.com/install.sh | bash
Windows(PowerShell 5.1 及以上):
irm https://get.yolorouter.com/install.ps1 | iex
Windows 安装器注册的是一个叫 Yolorouter 的计划任务,不是 Windows 服务。用管理员 PowerShell 跑是系统级安装(开机自启,以 SYSTEM 运行);用普通 PowerShell 跑是用户级安装(登录时启动,以当前账户运行)。
每个平台上的安装器都会自动探测架构、下载并做 sha256 校验、注册后台服务(Linux 用 systemd,macOS 用 launchd,Windows 用计划任务)。控制台在 http://localhost:8080 起来。
完整安装指南见安装文档。