OmniRoute

• 1. 概要 （共 283 字）

  OmniRoute 是一个开源免费的 AI 网关（AI Gateway），把 Claude Code、Codex、Cursor、Cline、Copilot 等二十多种编程工具，统一接到一个 OpenAI 兼容的本地端点上，再由它把请求智能路由到 200 多家 AI 供应商。它主打两件事：一是用「订阅额度耗尽就自动切到下一个模型」的自动回退组合（Combo），让编码过程几乎不中断；二是用自研的 RTK + Caveman 堆叠压缩，把 token 消耗压低 15% 到 95%。项目由 diegosouzapw 主导，采用 MIT 协议，目前 GitHub 上已有约 6,400 颗星、1,100 余次 fork，迭代非常活跃。

• 2. 产品背景 （共 520 字）

  OmniRoute 的作者是在 GitHub 上以 diegosouzapw 活动的开发者 Diego Rodrigues de Sa e Souza，仓库位于 github.com/diegosouzapw/OmniRoute，官网为 omniroute.online。从项目致谢与架构说明看，它最早是 9router 的一个分支（fork），同时把 Go 语言项目 CLIProxyAPI 用 TypeScript 重写了一遍，并借鉴了 LiteLLM 公开的定价数据集来做成本追踪。也就是说，它站在几个开源网关项目的肩膀上，但做成了全 TypeScript、多模态、带桌面端和 PWA 的完整产品。   技术栈上，OmniRoute 用 TypeScript / JavaScript（Node.js）编写，前端仪表盘基于 Next.js 与 React，桌面端用 Electron 封装，后端服务路由用 Hono，本地数据用 better-sqlite3 存储。部署形态覆盖 Docker、Podman、Termux，以及纯 Web 和 PWA，本地通过 npm install -g omniroute 即可安装。最近几个版本的提交非常密集，几乎每天都有修复与特性合并，版本号已推进到 v3.8.x 系列，说明团队投入很高、节奏很快。

• 3. 产品功能与使用体验 （共 671 字）

  OmniRoute 的核心是一个本地端点：http://localhost:20128/v1（API）和 http://localhost:20128（仪表盘）。用户只要把编码工具的 Base URL 指到这里、API Key 从仪表盘复制、模型填 auto，就能让 Claude Code、Codex、Cursor、Copilot、Continue、OpenCode、Kilo Code 等二十多款工具共用一套配置。它会在背后把 OpenAI、Anthropic、Responses、ChatCompletions 等不同协议互相翻译，所以一个端点能通吃 Claude、GPT、Gemini 等多种模型。   真正让它站稳的是路由层。它提供 17 到 18 种路由策略（priority、weighted、cost-optimized、round-robin、least-used、fusion 等），并有一套 Auto-Combo 引擎：当某个订阅额度用完、某个供应商挂掉、或成本突然飙升时，请求会静默滑到组合里的下一个模型，整个过程零停机。此外还有 Quota-Share（把一个订阅拆给团队共用）、多账户轮询、MCP 服务器（内置 90 多个工具）、A2A 代理协议、混合向量与关键词记忆，以及可选的 MITM/TPROXY 解密来抓那些不读代理环境变量的 CLI 流量。   压缩是另一个招牌。RTK + Caveman 是一套可插拔的异步压缩流水线，配合 LLMLingua-2、Ultra、委托式 Anthropic 上下文编辑等引擎，宣称能省下 15% 到 95% 的 token。对长上下文编码场景，这部分节省是实打实的。

• 4. 定价与商业模式 （共 445 字）

  OmniRoute 本身是开源免费的，MIT 协议，作者明确说 OmniRoute never charges you。它的价值不在于向用户收费，而在于聚合各家的免费额度。README 里给出一组数字：稳定状态下每月约 16 亿免费 token，加上注册赠送额度后首月最高可达约 21 亿。免费层里有 11 家「永久免费」供应商，例如 Kiro（每月 50 credits 的 Claude Sonnet 4.5）、Qoder（无限免费）、Pollinations（无需密钥）、Cerebras（每天 100 万 token）等。把这些免费供应商拼成一个 combo，就成了作者口中的 $0 Free Stack——每月成本为零，但编码几乎不会因限流而停。   OmniRoute 的变现路径更像社区驱动的开源项目：靠口碑和 star 增长，靠贡献者 PR 迭代；官网 omniroute.online 提供云端端点 cloud.omniroute.online/v1 作为可选便利，但请求路径默认 100% 跑在用户自己的硬件上。对注重数据主权的人来说，这一点很有吸引力。

• 5. 用户评价 （共 317 字）

  从 GitHub 讨论与社区镜像仓库的反馈看，用户最买账的是「永不中断编码」的体验：把多个订阅、API Key、免费层叠在一起，额度耗尽时自动切换，确实解决了「正写到一半被限流踢掉」的痛点。压缩带来的 token 节省也被反复提及，对长期跑 Claude Code 的用户来说，相当于变相省下每月几十美元的 API 费。   负面反馈主要集中在项目变化太快带来的认知负担：路由策略、压缩引擎、组合语法几乎每周都在加，新手要完全吃透需要时间；部分高级功能（如 MITM 解密、TLS 指纹伪装）配置门槛不低，文档虽多但分散在 docs/ 各个子目录。另外，免费供应商本身的质量和稳定性参差不齐，把关键工作流完全押在免费层上，偶尔会遇到响应慢或偶发失败，需要靠自动回退兜底。

• 6. 行业评价 （共 360 字）

  在开源 AI 网关这个小赛道里，OmniRoute 经常被拿来和 LiteLLM、OpenRouter、Portkey 对比。它的差异化很明确：供应商目录最全（README 称 250 家、90 多家带免费层，而同类路由器通常只有 20 到 100 家）、免费供应商最多、路由策略最丰富、压缩能力独一份。awesome-repositories 等聚合站把它归类为「统一 LLM API 网关」，强调它用标准化 API 屏蔽了各家协议差异，并用熔断（circuit breaker）隔离供应商故障。   不过它也常被指出是「站在巨人肩膀」的项目：根子是 9router 的分支、CLIProxyAPI 的重写，成本数据又借力 LiteLLM 的公开定价。这种「集大成」路线在开源圈很常见，优势是迭代飞快、功能堆得满，风险是工程复杂度高、维护面很广，对单个核心维护者的依赖较强。

• 7. 争议与风险 （共 223 字）

  第一是供应链与维护风险。项目重度依赖一长串免费第三方供应商，而这些供应商随时可能调整额度、限流甚至关停，OmniRoute 的 $0 体验因此并不完全由自己掌控。第二是安全边界。虽然它宣称 API Key 与 OAuth 用 AES-256-GCM 加密存储、默认零遥测、本地优先，但 MITM/TPROXY 解密、TLS 指纹伪装这类能力本身是双刃剑，用错了可能踩到合规或平台条款的红线。第三是项目节奏过快，版本和参数频繁变动，旧教程容易失效，对追求稳定的团队不算友好。

• 8. 适用人群与使用建议 （共 271 字）

  OmniRoute 最适合两类人：一是重度使用 Claude Code / Cursor 等编码助手、又不想每个月为多家 API 付几十美元的个人开发者；二是想用一套端点统一管理多个模型、并需要自动故障转移和成本遥测的小团队。它把「免费层拼装成生产级可用」这件事做得相当彻底。   不太适合的是：对稳定性有强 SLA 要求的企业生产环境；以及希望开箱即用、不愿折腾路由策略和压缩配置的用户——这类人用 OpenRouter 之类托管网关可能更省心。替代方案上，追求简单可上 OpenRouter，追求企业级可观测与治理可看 Portkey，追求轻量自托管则可看 LiteLLM。

• 9. 总结 （共 110 字）

  OmniRoute 是目前开源 AI 网关里把「供应商覆盖 + 免费额度聚合 + 自动回退 + token 压缩」这四件事做得最满的一个，对个人编码玩家几乎是零成本的「不断电」方案；代价是工程复杂度高、迭代飞快，需要你愿意花点时间把它吃透。

暂无深度报告

• 

  KaylaWatson

  —

  迭代太快了，跟不动。

---

• 

  Charles_Ramirez_88

  —

  免费的，真香。

---

• 

  C_hristina258

  —

  用了两周，API 账单直接归零。我把 Kiro、Qoder、Pollinations 几个免费的拼成一个 combo，日常写代码改 bug 完全够用，不用绑卡不用信用卡。

---

• 

  GregorySullivanQ845

  —

  yyds，白嫖快乐。

---

• 

  Larry_Miller

  —

  回不去了，本地网关真香。

---

• 

  WolfWallet570

  —

  刚装上，把 Cursor 和 Claude Code 都指到 localhost:20128，确实一个端点全搞定，配置省心多了。

---

• 

  Larry_Long0070

  —

  踩了个坑分享下：第一次进 Dashboard 看到两百多个供应商直接选择困难。后来照攻略先连 Kiro、Qoder、Pollinations、Cloudflare AI 四个免费的，跑顺了再慢慢加。别贪多，先用起来最重要。

---

• 

  David_Roberts_2023

  —

  Node 版本坑到了，低于 18 一堆报错，先 node -v 看一眼再装。

---

• 

  戴素磊

  —

  请求路径 100% 跑自己硬件，不想被云厂商卡脖子的可以上。

---

• 

  biglion331

  —

  auto 模式偶尔翻车，选到慢供应商等得怀疑人生，写代码还是用 auto/coding 稳。

---

• 

  Debra229

  —

  中文用户记得关 RTK 压缩，不然中文容易出问题。

---

• 

  greenelephant794

  —

  Quota-Share 不错，把一个订阅拆给团队共用，小团队省钱神器。

---

• 

  Edwar_d502

  —

  说说真实体验：压缩确实猛，工具密集的会话实测能省八九成 token。但免费供应商质量参差，偶尔响应慢，靠自动回退兜底还能接受。新手别一上来全连，先连四五个免费的跑顺了再加。

---

• 

  汪瑶

  —

  fusion 策略扇出到一组模型再综合，挺有意思的玩法。

---

• 

  Nicholas731

  —

  和 LiteLLM、OpenRouter 对比过，OmniRoute 的免费供应商最多、路由策略最丰富，压缩也是独一份。但要生产环境 SLA 我还是选 LiteLLM，它还不够稳。

---

• 

  DataHubble461

  —

  MCP 服务器内置九十多个工具、还支持 A2A 代理协议，这点比很多网关强。虽然 MCP/A2A 还在完善，但方向是对的，期待后续稳定。

---

• 

  烟雨279

  —

  作为重度 Claude Code 用户，每月订阅费是真省下来了。之前 Codex、Cursor、Claude Code 各买各的，一个月小两百刀，现在全走一个网关，免费层拼一拼基本零成本。代价是要花时间吃透路由策略和压缩配置，文档散在各个 docs 子目录，新人有点懵。

---

• 

  blackmeercat141

  —

  免费额度加一起每月大概 16 亿 token，个人开发者根本用不完。我拼了 Kiro（Sonnet 4.5）+ Qoder（无限）+ Pollinations（免 key），写脚本改 bug 绰绰有余。唯一不爽的是项目节奏太快，旧教程容易失效。

---

• 

  LauraHicks_99

  —

  MIT 开源、本地优先、密钥 AES-256 加密，这点很加分。数据不经过第三方，注重隐私的可以放心自部署。

---

• 

  jc7acf60

  —

  从单模型切到多模型是趋势，网关层价值只会越来越大。OmniRoute 把脏活揽自己身上，应用只要懂 OpenAI 格式就行。15K 星说明刚需和社区认可都在。我的建议：个人开发者无脑装，企业上生产再等等，等它把稳定性和文档补齐。反正免费，先 star 不亏。

---

• 

  GregoryGutierrez_2022

  —

  评测里给它打 3.7，稳定性只有 3 分，内存泄漏和配置热重载问题还在。建议先用 Docker 跑测试，别直接上生产，免费供应商随时可能挂，一定配好 fallback。

---

• 

  CarolynWilliams_2020

  —

  分享个实用 combo：第一层放订阅（Claude Code Pro 的 Opus），额度打满；第二层放 Codex Pro 当兜底；第三层挂 GLM 这种便宜的；最后接 Kiro、Qoder 这种免费的无限层。四层 fallback 下来，写了半个月没再见过 rate limit 报错，体验确实丝滑。

暂无评论