文档

NEXT-11 持续流式连接容量验证

独立发生器、分级观察、实际连接采样和逐档账务门禁

归档内容,只读,不代表现行方案。现行文档见文档总览。

本页保留首轮暂停扩量的记录。后续Core探针隔离对照已完成两轮128路、300秒与逐笔账务限定验收;历史失败不被覆盖,2000并发仍未验证。

在TLS/PG双实例部署验收通过后,继续对用户选定的 oceanway 服务器做分级容量验证。当前采用本机独立 Go 负载发生器,经 SSH 隧道连接远端隔离 TLS 入口;Core / Edge 使用上一批固定 Linux 制品,保持原有现网业务。

负载与门槛

  • 模型只用合成 text-fixture,不调用 uumi 或供应商,无付费调用。
  • 单条 SSE 保持120秒,首尾少量文本、每2秒注释心跳,最后返回完整终止、usage 和 DONE;这是低带宽连接与账务测试,不代表大量模型 token 持续输出吞吐。
  • 流式选择配置90%,普通请求实际数量逐档报告;流持续时间远长于普通请求,配置比例与活跃连接比例不同。
  • 顺序为8路冒烟,再到64、128、256、512、1000、1500、2000。普通正式档观察300秒,目标档1800秒,随后自然排空。持续时间不包含初始调度爬坡与结束排空。
  • 每秒区分已发起HTTP请求、收到成功响应头后正在读body的真实连接,以及其中的SSE。记录实际min/P50/peak与采样覆盖,不能把协程数或配置值当作已建立连接数。
  • 任意HTTP、协议、完整性或计量错误停止新增请求;本档排空并保留证据,禁止跳过失败档继续扩量。

决定是否进入下一档的技术门禁为:错误为0、完成观察时间、每秒样本覆盖至少95%、最大采样间隔不超过3秒、至少90%的稳态样本中真实活跃流达到配置并发的90%、观察到普通请求、逐笔账务通过。这是测试门禁,不能改写成业务SLA或“全时精确维持2000条流”。

数据与资源核对

每档通过客户端预期账户→网关request ID→Core operation建立一一关系;响应body摘要和字节必须一致。Core API核对固定示例10/5 microcredits、余额、零预占、完整分页账本的金额/唯一性,以及两Edge全部用量归档。所有领域事实由Core产生,Infrastructure不写业务数据库。

oceanway保留现有Web、Worker、数据库和80/443。测试双Core/双Edge、代理、合成网关置于独立6CPU/6GiB的临时单元;专用PG与Redis分别限制2CPU/1GiB。每5秒记录自有进程CPU/RSS/FD、主机可用内存、测试库连接数、锁等待和未提交空闲事务。内存余量低于6GiB、测试PG超过50连接或子进程退出会停止准入并排空。

当前结果

2026-09-21 已完成首轮观察,扩量在128路停止,整个 NEXT-11 仍在进行,尚未证明支持2000并发。

档位/运行已完成观察结果
8路冒烟8次成功,峰值8条SSE逐笔账务、零预占、归档通过;不作为正式持续容量档
64路 / run1300秒稳态,212次成功(192流式、20普通);流式P50/峰值64,97.7%样本达到目标90%负载与累计220次账务全部通过
128路 / run1203次成功、4次503未完成观察,停止扩量;本档未完成财务审计
128路 / run3复现191次成功、14次503再次失败;审计前SSH文件传输失败,本档没有完整财务验收
128路 / run4候选爬坡期间86次发起、53次成功、33次503;真实SSE峰值53,未进入稳态容量失败;53次执行精确账务通过,33次准入前拒绝无额外扣款,两个账户预占为0

128路的拒绝发生在第一批120秒长连接结束、后续请求进入时。run3的250毫秒采样确认一台Edge短暂报告 core_billing_not_ready;相邻PG快照出现21连接、20活跃、19锁等待,其中18个账户锁等待和1个目录锁等待。证据支持继续排查Core就绪检查与业务连接池争用,但不能据此证明唯一根因。

Core窄范围优化已经完成源码与负例验证:将重复的迁移/表检查合并为两次查询,模型仍逐项检查;单模型就绪探针SQL从27次降至3次,不缓存成功状态,不放宽1秒超时,不改钱包事务与锁。SQLite与真实PostgreSQL的缺表、缺版本、错误校验和、schema等负例、全仓race/vet/build及独立审查通过。

但仅替换Core二进制的run4仍出现 core_billing_not_ready,16个采样点覆盖约4秒,相邻PG最高21连接、21活跃、19锁等待。因此不能将批量查询优化记为容量修复;64路通过仅适用于run1旧制品,不能直接继承给新候选。run4分别核对27次×10及26次×5 microcredits,扣款270/130、无残留预占、账本/响应/归档一致,审计进程退出0。

首轮结论:暂停扩量,转入Core探针与业务池争用诊断。 本页所列旧制品128路失败,不能继续加档。后续每Core最多1连接的可选专用探针池与同参数完整账务验收见独立执行记录;它不增加热账户串行账务吞吐,所有写入与行锁保持原业务路径。账户事务排队另行设计,256至2000仍未验收。

run2因监测工具的psql连续采样启动错误退出,已经修复,不计为应用容量结果。四次环境均已确认清理,现有业务容器启动时间未改变,无付费调用。固定制品、配置、每档事件/采样/审计以及清理报告位于 coordination/next11-stream-capacity/;候选Core及下一项设计位于 coordination/next11-readiness-candidate/。

结果适用范围

本轮是两个合成账户的Chat协议、低带宽持续SSE。SSH隧道及本机发生器也可能成为瓶颈,应结合生成器采样和服务器资源判断。四协议持续流、高带宽真实token输出、客户级全局配额、多客户分散与热钱包、历史查询竞争、故障恢复/慢读/滚动退出、供应限额及生产商业迁移仍需分别验收。

On this page