文档

模型中转

各类模型的供应链路、计费、任务恢复与待验证范围

平台对外提供模型 API,自己不直连任何模型供应商:文本请求转给 uumi,视频请求转给媒体网关。

能力覆盖与开放条件

能力产品需求供应链路状态
文本开发者 API、Agent、剧本与拍摄清单平台 → uumi → 供应商已确定,协议及计费待验证
视频Studio、Drama、Commerce平台 → 媒体网关 → 供应商已确定,任务与计费待验证
图片生成、图片编辑Studio、Drama 资产、Commerce 商品图建议平台 → uumi → 供应商供应入口待确认;需核对 uumi 实际支持的模型、格式与同步/异步行为
音频生成、转写等Studio 音频、配音;具体首期范围待定建议平台 → uumi → 供应商供应入口与开放能力待确认

图片、音频采用 uumi 是接入建议,不改变已确认的文本和视频边界,也不声称已接通。若 uumi 不支持所需能力,应记录缺口再决定供给接入方式;产品不能自行绕过平台直连供应商,媒体网关也不因此自动扩展到图片或音频。

第 1 阶段审计图片、音频协议与计量字段;至少选产品需要的一条图片链路做本地夹具验证。真实供应支持在产品上线前验收,未验证组合不上架。文本 API 首发不要求同时开放所有多媒体能力,但必须保留统一身份、钱包和来源记录的接入路径。

文本

项目做法
对外协议OpenAI Chat Completions 与 Responses、Anthropic Messages、Gemini 原生格式
上游uumi。平台在 uumi 上持有服务账号,按协议配置对应的渠道
格式转换由 uumi 负责。平台按客户请求的协议原样转发,不做供应商之间的格式转换
用量平台从 uumi 的响应(含流式响应)中读取实际用量,按客户价格结算
重试供应侧的重试由 uumi 负责。平台对已发出的付费请求不盲目重发

统计口径。 uumi 只能看到平台的服务 Key,看不到终端用户。为了在 uumi 上区分来源,给不同产品线分别发 uumi Key,例如 API 一个、Studio 一个。终端用户级别的统计在平台上做。

需要实测的点。 统一 OpenAI 格式下,Claude、Gemini 模型的缓存命中和推理 token 是否完整返回;这决定这些计费维度能否精确计价。在第 1 阶段验证。

视频

项目做法
上游媒体网关,不经过 uumi
对接方式媒体网关提供 OpenAI / ModelArk 格式的视频接口;平台用 new-api 的视频任务中转把它配成一个渠道
计费提交时预扣,任务成功后按实际规格(秒数、分辨率等)结算,失败退回
需要实测的点任务提交、轮询、失败退款、按秒或按次计价能否跑通,在第 1 阶段验证

持久任务与恢复职责

  • 平台持有客户任务、用户与产品归属、账务操作和客户结果访问授权;产品持有创作任务、业务输入快照和候选选择;媒体网关持有供应任务、Attempt 与 Provider 任务。三者是不同对象,通过持久关联查询,不能各自重复创建上游任务。
  • 平台保存 operation_id → 客户任务 → 网关任务 的映射;产品保存自己的任务到平台操作及任务的映射。网关负责继续查询 Provider,平台查询网关,产品查询平台。产品 Worker 不直接查询 Provider。
  • 创建请求在发出前登记业务身份与请求指纹。响应丢失时按原幂等身份查询;精确重放创建请求的前提是上游保证原键返回原任务。没有该保证时进入核对,不重新付费创建。
  • 供应侧换渠道只能由供应网关根据明确的失败和重试策略执行;平台和产品不再叠加创建重试。任务等待超时、页面关闭或 Worker 租约到期不等于供应失败。
  • 平台只依据确认的结果及实际计量结算。取消是否成功、是否产生供应成本和客户退款分别处理;供应退款不自动决定客户售价或退款金额。
  • 网关已成功但产品保存媒体失败时,只重试获取和保存原结果,不重做生成。账务结算与产品文件持久化分别记录状态,消费记录不得因保存失败丢失。

异步图片或音频若获准开放,沿用同样的任务约束;同步能力按一次操作记录实际用量。结果存储与授权见共用任务与媒体,计费异常见钱包与计费。

模型目录

平台上的模型列表就是对客户销售的目录,和 uumi、媒体网关上的供应配置分开维护:

  • 平台决定卖哪些模型、叫什么名字、什么价格。
  • uumi、媒体网关决定这些模型实际由哪个供应商、哪个渠道提供。
  • 供应侧调价不会自动改变客户价格。

错误处理

  • 上游返回错误时,释放预扣的积分,把错误按原协议返回给调用方。
  • 结果未知(如超时、断流)时,不当作“未执行”,也不重发;记录下来进入核对。
  • 缺少用量字段时,不按零计费,也不伪造用量;具体策略在第 1 阶段验证后确定。

On this page