模型中转
各类模型的供应链路、计费、任务恢复与待验证范围
平台对外提供模型 API,自己不直连任何模型供应商:文本请求转给 uumi,视频请求转给媒体网关。
能力覆盖与开放条件
| 能力 | 产品需求 | 供应链路 | 状态 |
|---|---|---|---|
| 文本 | 开发者 API、Agent、剧本与拍摄清单 | 平台 → uumi → 供应商 | 已确定,协议及计费待验证 |
| 视频 | Studio、Drama、Commerce | 平台 → 媒体网关 → 供应商 | 已确定,任务与计费待验证 |
| 图片生成、图片编辑 | Studio、Drama 资产、Commerce 商品图 | 建议平台 → uumi → 供应商 | 供应入口待确认;需核对 uumi 实际支持的模型、格式与同步/异步行为 |
| 音频生成、转写等 | Studio 音频、配音;具体首期范围待定 | 建议平台 → uumi → 供应商 | 供应入口与开放能力待确认 |
图片、音频采用 uumi 是接入建议,不改变已确认的文本和视频边界,也不声称已接通。若 uumi 不支持所需能力,应记录缺口再决定供给接入方式;产品不能自行绕过平台直连供应商,媒体网关也不因此自动扩展到图片或音频。
第 1 阶段审计图片、音频协议与计量字段;至少选产品需要的一条图片链路做本地夹具验证。真实供应支持在产品上线前验收,未验证组合不上架。文本 API 首发不要求同时开放所有多媒体能力,但必须保留统一身份、钱包和来源记录的接入路径。
文本
| 项目 | 做法 |
|---|---|
| 对外协议 | OpenAI Chat Completions 与 Responses、Anthropic Messages、Gemini 原生格式 |
| 上游 | uumi。平台在 uumi 上持有服务账号,按协议配置对应的渠道 |
| 格式转换 | 由 uumi 负责。平台按客户请求的协议原样转发,不做供应商之间的格式转换 |
| 用量 | 平台从 uumi 的响应(含流式响应)中读取实际用量,按客户价格结算 |
| 重试 | 供应侧的重试由 uumi 负责。平台对已发出的付费请求不盲目重发 |
统计口径。 uumi 只能看到平台的服务 Key,看不到终端用户。为了在 uumi 上区分来源,给不同产品线分别发 uumi Key,例如 API 一个、Studio 一个。终端用户级别的统计在平台上做。
需要实测的点。 统一 OpenAI 格式下,Claude、Gemini 模型的缓存命中和推理 token 是否完整返回;这决定这些计费维度能否精确计价。在第 1 阶段验证。
视频
| 项目 | 做法 |
|---|---|
| 上游 | 媒体网关,不经过 uumi |
| 对接方式 | 媒体网关提供 OpenAI / ModelArk 格式的视频接口;平台用 new-api 的视频任务中转把它配成一个渠道 |
| 计费 | 提交时预扣,任务成功后按实际规格(秒数、分辨率等)结算,失败退回 |
| 需要实测的点 | 任务提交、轮询、失败退款、按秒或按次计价能否跑通,在第 1 阶段验证 |
持久任务与恢复职责
- 平台持有客户任务、用户与产品归属、账务操作和客户结果访问授权;产品持有创作任务、业务输入快照和候选选择;媒体网关持有供应任务、Attempt 与 Provider 任务。三者是不同对象,通过持久关联查询,不能各自重复创建上游任务。
- 平台保存
operation_id → 客户任务 → 网关任务的映射;产品保存自己的任务到平台操作及任务的映射。网关负责继续查询 Provider,平台查询网关,产品查询平台。产品 Worker 不直接查询 Provider。 - 创建请求在发出前登记业务身份与请求指纹。响应丢失时按原幂等身份查询;精确重放创建请求的前提是上游保证原键返回原任务。没有该保证时进入核对,不重新付费创建。
- 供应侧换渠道只能由供应网关根据明确的失败和重试策略执行;平台和产品不再叠加创建重试。任务等待超时、页面关闭或 Worker 租约到期不等于供应失败。
- 平台只依据确认的结果及实际计量结算。取消是否成功、是否产生供应成本和客户退款分别处理;供应退款不自动决定客户售价或退款金额。
- 网关已成功但产品保存媒体失败时,只重试获取和保存原结果,不重做生成。账务结算与产品文件持久化分别记录状态,消费记录不得因保存失败丢失。
异步图片或音频若获准开放,沿用同样的任务约束;同步能力按一次操作记录实际用量。结果存储与授权见共用任务与媒体,计费异常见钱包与计费。
模型目录
平台上的模型列表就是对客户销售的目录,和 uumi、媒体网关上的供应配置分开维护:
- 平台决定卖哪些模型、叫什么名字、什么价格。
- uumi、媒体网关决定这些模型实际由哪个供应商、哪个渠道提供。
- 供应侧调价不会自动改变客户价格。
错误处理
- 上游返回错误时,释放预扣的积分,把错误按原协议返回给调用方。
- 结果未知(如超时、断流)时,不当作“未执行”,也不重发;记录下来进入核对。
- 缺少用量字段时,不按零计费,也不伪造用量;具体策略在第 1 阶段验证后确定。