流式断连原始错误，一般指 SSE、HTTP chunk、WebSocket 大模型流式输出还没收到结束标识，TCP 长连接提前中断时底层返回的原始传输异常日志，典型报错 stream disconnected before completion，配套子错误如 error decoding response body、connection reset by peer、broken pipe、incomplete chunked read；它本身不是业务报错，只是传输层原始证据，代表流还没传输完成，链路就关闭了，客户端收到的数据流不完整。很多客户端会捕获并保留这串原始错误，用于区分瞬态网络抖动、网关掐断、服务端过载、客户端主动取消等场景，而不是直接给用户展示。这类错误高发于推理耗时较长、TTFT 慢、单次输出 token 量大的对话场景，网关、反向代理、防火墙的超时限制是最高发诱因，其次是网络切换、代理分流、服务端排队过载。
一、常见原始错误对照表
| 原始报错片段 | 含义 | 典型根因 |
|---|---|---|
| stream disconnected before completion: error decoding response body | 流提前断开，响应体解码失败 | chunk 包被截断、网络抖动、代理掐断长连接 |
| connection reset by peer | 对端重置 TCP | 服务端 / 网关主动踢连接、防火墙策略 |
| broken pipe | 管道破裂 | 连接已经关闭，服务端还在往流写数据 |
| incomplete chunked read | 分块读取不完整 | Nginx / 网关超时截断 chunk 流 |
| timed out / timeout | 流式超时 | 推理太久，代理、浏览器、客户端超时触发 |
二、流式断连原始错误常见诱因清单
- 代理、Nginx、CDN、防火墙超时配置太短：SSE 属于长连接，长时间无数据包推送就被网关切断。
- 网络层波动：Wi‑Fi / 移动网络切换、丢包、运营商链路抖动。
- 服务端侧压力：推理排队、算力资源耗尽、进程重启，主动关闭连接。
- 客户端侧行为：页面刷新、标签页休眠、APP 后台挂起、用户中途关闭对话。
- 协议与分帧问题：字节流分包边界切在 UTF‑8 多字节中间，导致 JSON 解析失败，上层判定流异常。
- 配额、鉴权、限流：服务端拦截后直接关闭流，只返回传输层断连，不返回明确业务错误码。
三、流式断连原始错误排查步骤
- 复制流式断连原始错误日志，区分是 transport 传输错误、解析错误还是服务端 5xx 错误。
- 先复现测试：换网络（关闭代理 / VPN）、换客户端、简化 prompt，判断是本地链路问题还是后端服务问题。
- 检查反向代理超时：增大 Nginx proxy_read_timeout，开启 SSE 保活心跳（定时发送注释行 : \n\n）。
- 增加客户端侧退避重试逻辑：只在还没有输出任何 token 的场景自动重试；已经吐出内容时不重试，避免重复内容。
- 日志埋点：记录断连时刻、已输出 token 数量、耗时、代理信息，区分瞬态抖动和稳定故障。
- 兜底 UI：捕获原始错误，翻译为友好提示，同时留存原始错误字段给后端排查，不要直接展示原始英文报错给普通用户。
【相关 FAQ】
问题 1：流式断连原始错误 stream disconnected before completion，是大模型本身报错吗？
回答 1：不是，流式断连原始错误 stream disconnected before completion 属于传输层报错，代表流式响应还没结束连接就断了，模型推理不一定失败，只是数据没法完整传到客户端。
问题 2：看到流式断连原始错误，每次都需要重试吗？
回答 2：不能盲目重试，流式断连原始错误需要判断：还没有输出任何 token 可以短重试；已经吐出内容再重试，容易造成重复内容、重复计费。
问题 3：怎么减少 SSE 流式断连原始错误的发生？
回答 3：减少流式断连原始错误，核心是给长连接加 SSE 心跳包、调大代理超时，同时优化 prompt 降低超长推理耗时，排查代理、防火墙是否主动切断空闲长连接。
【参考资料】
[2026-11-09]（流式断连原始错误）阿里云开发者社区
[2026-10-17] 流式调用中途断连别直接报错 CSDN
[2026-07-06] SSE 长连接 Nginx 超时与心跳方案 SegmentFault
[2026-09-10] OpenAI Codex stream disconnected before completion issue
【免责声明】
本内容为流式传输异常日志的技术解读，不同网关、客户端框架、大模型服务商返回的原始错误文案、错误码存在差异；网络、防火墙、服务端限流场景复杂，原始错误仅作为排查线索，不能单独定位根因，需要配合抓包、服务端日志联合定位。