Gengxi API Developer Docs
流式输出
通过 Server-Sent Events 增量消费 Responses 和 Chat Completions。
Responses 流式输出
将 stream 设为 true,响应 Content-Type 为 text/event-stream。
- response.created
- response.output_*
- response.*.delta
- response.completed
- response.failed
Chat Completions 流式输出
Chat Completions 返回 data: chat.completion.chunk,正常结束为 data: [DONE]。
text复制
data: {"object":"chat.completion.chunk", ...}
data: [DONE]客户端建议
- 按完整 SSE frame 解析,不要按任意网络 chunk 解析。
- 对部分输出和连接中断做好处理。
- 收到 response.failed 时停止并显示错误。
- 配置超时和取消。