OmniRoute:用一个端点统一路由多家大模型供应商
一分钟看懂
OmniRoute 是一个自托管 AI 网关,把不同模型供应商和协议汇集为兼容 OpenAI 的单一接口。它面向编码助手与应用,根据模型可用性、配额和路由规则选择后端,并在失败时切换备用模型。
你可以用它做什么
- 用统一 Base URL 为 Codex、Claude Code、Cursor 等工具接入多个模型来源。
- 在不同账户、供应商和模型之间按配额自动路由或回退。
- 查看模型、端点、免费额度和路由状态的本地仪表盘。
- 配置组合策略、请求压缩、MCP/A2A 集成和远程访问。
- 通过 npm、Docker、桌面端、PWA 或 Termux 运行网关。
主要能力
项目提供 OpenAI 兼容 API、供应商连接、模型目录、配额感知路由、熔断与重试、令牌压缩和多工具配置指南。默认本地仪表盘位于 20128 端口,应用可通过 /v1 接口访问已连接模型。
适合哪些人
它适合同时使用多家模型、需要统一端点和故障回退的开发者或团队。只使用单一稳定供应商、且不希望维护额外本地服务的用户,可能不需要这一层网关。
怎么开始使用
需要 Node.js 22.22.2 或更新版本。执行 npm install -g omniroute 后运行 omniroute,在本地仪表盘连接供应商,再把编码工具的 Base URL 指向 http://localhost:20128/v1,并使用仪表盘生成的端点密钥验证模型列表。
使用前需要知道
所谓免费额度来自各供应商政策,可能随地区、账号资格和条款变化,不能视为长期保证。网关会接触模型凭据和请求内容,应限制监听地址、保护端点密钥并审查远程模式配置。自动回退可能改变模型能力、成本和数据处理方,生产环境应明确路由边界。项目采用 MIT 许可证。