Cursor、Claude Code、自写脚本,现在都能把 Base URL 指到「一个 OpenAI 兼容入口」。入口长得一样,账单和故障却不是一回事。OmniRoute 让你在自己的机器上聚合你已经注册的供应商密钥,再用 auto 或 combo 决定下一条请求走谁。OpenRouter 给你一把托管密钥,请求经过他们的基础设施,再落到他们签约的供应商。2026 年 10 月仍有人把这两件事写成「谁家模型多」,然后用免费截图决定生产路径。目录长度回答不了三个验收问题:密钥在谁手里,提示词落在哪,免费次数用完之后谁来接。
这篇文章给要接编程 Agent、内部工具或原型的人。数字以公开文档为准,核对日期是 2026-10-28:OmniRoute 的免费档说明与 Auto-Combo 维基,以及 OpenRouter 的定价页和 FAQ。供应商限额会改,写进采购单之前再打开官方页看一眼。
为什么「一个 API」解决不了模型路由
旧办法是每个工具各配一把 Key:编辑器走 OpenAI,脚本走 Gemini,晚上的批处理再换一家便宜的。Key 散在笔记本、CI 密钥和同事的 shell 配置里。某家 429 了,你要改的是每一处客户端,不是一处策略。
新办法是中间加一层。客户端只认识一个 Base URL 和一把网关密钥。真正的供应商密钥、重试、额度用尽后的下一家,都留在这一层。冲突不在模型谁更聪明,而在这一层由谁运营。自托管意味着你拥有进程、日志和回退顺序,也意味着机器关机时整层一起消失。托管意味着你不用看进程,也意味着提示词和用量元数据会经过对方的网络,免费档能打开的开关更少。
所以 OmniRoute vs OpenRouter 不是 Claude 和 GPT 的再战。两边都可以把请求送到多家模型。分水岭是:你要自己拿着上游合同做路由,还是把路由和计费交给一家托管商。
四层:AI Gateway、模型路由、API 聚合、免费额度
把四个词叠在同一句宣传里,选型一定会错。它们回答的是不同的问题。
AI Gateway
网关是门口:鉴权、统一的聊天补全格式、日志、超时。OmniRoute 默认把 OpenAI 兼容入口放在你本机的 http://localhost:20128/v1。OpenRouter 的门口在他们的主机上,客户端改的是他们的 Base URL 和他们发的密钥。门口相同,门后面的机器不是你的。
模型路由
路由决定这一次请求交给哪个账号、哪个模型,失败后试谁。OmniRoute 仪表盘上常见的账号级策略包括 Fill First、Round Robin、P2C、Random、Least Used、Cost Optimized。Combo 和 auto 前缀还能用 priority、weighted、least-used、cost-optimized、lkgp(沿用上次成功的供应商)、context-optimized。零配置时可以直接写 auto、auto/coding、auto/fast、auto/cheap、auto/offline。OpenRouter 的自动路由、首选供应商、预算和提示缓存写在付费档里;定价页的 Free 列这些开关是 No。
API 聚合
聚合是「一个客户端协议,后面多家供应商」。OmniRoute 聚合的是你配置的连接。官方免费档指南写得很直:它不发放宣传里的汇总 Token 预算;该注册的仍要你自己注册;全新安装可以没有任何可用的免密钥目标。OpenRouter 聚合的是他们上架的模型,Standard 档公开写的是 500+ 模型、80+ 供应商。你不跟每一家签 Key,除非你改走 BYOK。
免费额度
免费是两本账。软件免费不等于推理免费。OmniRoute 是 MIT 许可,网关进程不按 token 向你收费,你付的是机器和上游。OpenRouter 免费档是账号级:25+ 免费模型、4 家免费供应商、每天 50 次请求,有活动日志,没有自动路由。FAQ 写明,购买至少 10 credits 之后,免费模型的上限变成每天 1000 次。他们也提供 openrouter/free,用来在免费模型里自动挑一个。这和 OmniRoute 的 auto/cheap 不是同一个开关:前者是托管免费池,后者是你自己接上的连接。
核心对比:同一张表看入口、执行、上下文
模型名单不是分水岭,谁持有密钥、谁承担故障、免费额度记在谁的账上才是分水岭。下表的「执行能力」指请求怎么被转送和回退,不是指网关会不会改你的仓库。
| 工具 | 入口 | 执行能力 | 上下文 | 适合人群 |
|---|---|---|---|---|
| OmniRoute | 你自己的进程。本地默认 localhost:20128/v1,也可以放到常开的远程机器上 |
按你配置的连接做回退。可用 Fill First、轮询、P2C、最低成本,或 auto/coding、auto/cheap |
供应商密钥、路由状态和日志在你的机器上。提示词默认不经过一家托管网关 | 愿意运营一台网关、希望把多家自己的免费档或自有 Key 叠在一个入口后面的人 |
| OpenRouter | 托管 Base URL,一把他们签发的密钥。Free 到 Enterprise 都走同一类入口 | 付费档才有自动路由和首选供应商。免费档没有自动路由,限额是每天 50 次,买满 10 credits 后免费模型到每天 1000 次 | 请求和用量元数据经过 OpenRouter。Standard 有提示缓存和预算;Business 才有欧盟/美国区内路由 | 不想管进程、接受约 5.5% 平台费(充值)和供应商牌价透传、需要一个共享密钥的团队 |
OpenRouter Standard 的平台费是 5.5%,Business 是 8%。BYOK 在牌价推理每月 25,000 美元以内不收平台费,超出后 5%。这些是通道费,不是模型 token 的折扣。OmniRoute 没有对应的平台费,但机器、备份、证书和你花在回退策略上的时间都要算进去。机器规格怎么估,见 OmniRoute 云端部署成本。免费档为什么不能当成个人无限额度,见 额度、模型与限制。
场景怎么选:免费额度先问记在谁的账上
如果你是个人原型,就选 OmniRoute,并至少接上三家你自己注册过的上游,再用 auto/cheap 或 auto/offline。官方建议的组合是一家免费、一家低延迟、一家质量更高的付费或试用账号。只装软件、不接连接,第一次聊天可以失败,这是文档里的预期,不是安装坏了。
如果你是想给同事一个链接就试模型,就选 OpenRouter 免费档,并接受每天 50 次、没有自动路由、没有预算开关。这个档适合冒烟,不适合夜间批处理。需要自动挑模型和预算时,再上 Standard,或在额度内用 BYOK。
如果你的请求会碰到客户数据,就不要把结论停在免费档。OpenRouter 免费档没有数据策略路由,区内路由在 Business。OmniRoute 把数据留在你的主机上,但主机在哪个司法区、磁盘谁能登录、日志保留几天,变成你的问题。两种路径都要先写数据落点,再写模型名。
| 工具 | 入口 | 执行能力 | 上下文 | 适合人群 |
|---|---|---|---|---|
| 个人晚间原型 | 自托管 OmniRoute | 额度用尽就换下一家你接上的免费档 | 日志在你的磁盘 | 能接受自己看进程的人 |
| 同事共享试一把 | OpenRouter Free | 每天 50 次,无自动路由 | 用量在对方活动页 | 还没决定供应商的小组 |
| 对客户的产品流量 | OpenRouter Standard / BYOK,或 OmniRoute 后面只接付费 Key | 要有回退、预算和人工值班 | 按合同写明区域和保留 | 不能把 429 当成功能的团队 |
| 编程 Agent 整夜跑 | 网关放在不休眠的机器,客户端只认一个 Base URL | 具名模型做主路径,auto 或付费自动路由只做回退 |
仓库和密钥不跟网关日志混在笔记本上 | 已经有远程 Mac 或 CI 节点的人 |
推荐组合
组合一,个人低成本:OmniRoute + 三家你实名注册的上游 + 模型名 auto/cheap。笔记本合盖之前,把进程挪到一台常开的 Mac,Base URL 改成那台机器的地址,而不是继续用 localhost。编程任务改 auto/coding,不要指望便宜路由同时是质量路由。
组合二,团队要一个密钥:OpenRouter Standard,客户端统一他们的 Base URL。免费档只留给新同学的冒烟账号。生产 Key 打开预算。需要密钥留在自己供应商账上时,用 BYOK,并记住每月 25,000 美元牌价以内才免平台费。
组合三,Agent 要改仓库:网关只解决模型入口。执行环境用单独的 macOS 节点跑 OpenClaw 这类远程自动化,避免 Agent 和网关抢同一台交互式电脑的睡眠与端口。模型路由和 CI 节点是两层,不要合成一个「AI 服务器」采购项。
常见误区
- 把仪表盘上的供应商总数当成你的额度。 OmniRoute 项目自己的对比表会列出很大的供应商数字,那是他们的目录声明。官方免费档指南同时写明:汇总预算不会发给你,没接上的连接不会回答。
- 以为 OpenRouter 免费档等于自动选最便宜的模型。 定价页 Free 列的自动路由是 No。
openrouter/free只在免费模型之间挑,而且仍受每天 50 次(或购入 10 credits 后的 1000 次)约束。 - 用一个
auto打全部生产流量。 自动路由适合回退和探索。要对客户稳定的合同路径应钉住模型 ID,再把自动策略放在失败之后。 - 把网关放在会睡眠的笔记本上,再抱怨 Agent 半夜掉线。 入口进程和执行机器都要有人值守或有自动拉起。合盖即停。
- 忽略平台费和透传价不是一回事。 OpenRouter 把供应商牌价透传,另外对充值收平台费。自托管省下的是这笔费用,换来的是你自己的值班。
落地步骤:七步验收再决定
- 写下一句话:上游密钥归谁,提示词落在哪台机器或哪家区域。写不出就先别选产品。
- 只留一个客户端。Cursor、脚本或 Claude Code 里删掉第二把 Base URL,避免两层路由叠在一起。
- OmniRoute 接至少三家你真的拥有的账号,而不是只看目录页。OpenRouter 先确认账号停在 Free 还是已经有 credits。
- 同一条短提示词打两次:一次具名模型,一次
auto/cheap或openrouter/free。记下模型 ID、状态码和延迟。 - 故意用尽或停用第一家,确认下一家接上,而不是客户端直接报未知模型。
- 连续记七天:请求数、429、谁能导出日志、免费次数是否在周末被批处理打光。
- 只有第 6 步的峰值可接受,才把路径写成团队默认,并把进程放到不休眠的机器上。
# OmniRoute:你的机器 base_url = http://<你的主机>:20128/v1 model = auto/cheap # OpenRouter:托管入口,免费冒烟用 openrouter/free model = openrouter/free
FAQ
OmniRoute 和 OpenRouter 是同一类产品吗?
客户端协议很像,采购对象不同。一个是你运行的 MIT 网关,一个是托管市场。把它们放进同一张「模型数量」表,会漏掉运营和数据落点。
免费额度记在谁的账上?
OmniRoute 记在你连接的每一家上游。OpenRouter 免费档记在你的 OpenRouter 账号:每天 50 次,购买至少 10 credits 后免费模型每天 1000 次。两边都不是无限额度。
可以两个一起用吗?
可以,但要有主路径。常见的分法是生产走 OpenRouter 付费档或你自己的付费 Key,OmniRoute 只服务内部实验。不要让两个自动路由互相回退,否则一次失败会变成两倍的未知模型。
编程 Agent 只换 Base URL 就够了吗?
不够。网关不替你保存仓库,也不替你保持机器清醒。需要真机执行时,把任务放到远程 Mac,而不是放到会合盖的开发本。
总结
如果你要的是零网关订阅、并且愿意自己看进程和上游条款,就选 OmniRoute,把免费额度理解成「你接上的那些账号」,而不是目录总和。如果你要的是一把密钥、托管可用性和可预期的平台费,就选 OpenRouter,并记住免费档没有自动路由。生产路径钉住模型 ID,自动策略只做回退。入口进程放到不会睡眠的机器上,再谈 Agent 能不能跑一整夜。
网关和执行环境要分开买。看 Mac mini 价格 时,把常开的网关和编译节点算成两台或同一台的两个职责,不要用模型订阅代替机器。开通前可以先看 帮助中心 里的远程桌面和 SSH 说明,再决定 Mac mini 租用 是否只用来跑这一个网关进程。
把网关放在一台不休眠的远程 Mac 上
本地 OmniRoute 会跟着笔记本一起睡。常开的 Mac 可以只负责这个 OpenAI 兼容入口,仓库和签名任务再分开。
先对一下区域和价格,再决定要不要把 Base URL 指过去。 查看可租节点