uumi
文本模型网关:服务模型对接客户,同时作为平台的文本上游
uumi 是基于 new-api 的文本模型网关,代码仓库为 gateways/oceanway-text-gateway。
两个角色
- 服务模型对接客户。 这些客户的业务和 OceanWay 类似,把 OceanWay 当作模型上游,在 uumi 上有大量分组和倍率,同一模型在不同渠道分组下价格差异很大。他们留在 uumi,不迁入平台。
- 平台的文本上游。 平台在 uumi 上持有服务账号,开发者和产品的文本请求经平台转给 uumi。
维护原则
- 不改代码。 不为 OceanWay 平台在 uumi 上增加接口或修改响应。
- 照常跟随上游。 uumi 继续合并 new-api 的更新,和平台是两份独立的代码。
- 平台故障不影响 uumi。 平台的定制和故障不波及 uumi 上的企业客户。
平台如何对接
- 平台在 uumi 上开服务账号,按产品线分别发 Key(例如 API 一个、Studio 一个),这样在 uumi 上能区分流量来源。
- 平台按客户请求的协议(OpenAI、Claude、Gemini)把请求转给 uumi 对应的渠道,格式转换由 uumi 负责。
- 平台从 uumi 的响应中读取实际用量,按客户价格独立结算。uumi 侧的 quota 和倍率是网关侧账目,不作为客户售价。
- 测试环境使用独立的 uumi 服务 Key。
统计口径
uumi 只看得到平台的服务 Key,看不到平台背后的终端用户。所以:
- 在 uumi 上:按服务 Key 区分产品线的流量和成本。
- 在平台上:按终端用户、按产品统计用量和收入。
部署
仓库中的 DEPLOYMENT_TARGET.md 记录了部署目标(服务器 pic-vps,部署目录 /opt/new-api/oceanway)。运维细节见运维。