Gengxi API Developer Docs

流式输出

通过 Server-Sent Events 增量消费 Responses 和 Chat Completions。

Responses 流式输出

将 stream 设为 true,响应 Content-Type 为 text/event-stream。

  • response.created
  • response.output_*
  • response.*.delta
  • response.completed
  • response.failed

Chat Completions 流式输出

Chat Completions 返回 data: chat.completion.chunk,正常结束为 data: [DONE]。

text复制
data: {"object":"chat.completion.chunk", ...}

data: [DONE]

客户端建议

  • 按完整 SSE frame 解析,不要按任意网络 chunk 解析。
  • 对部分输出和连接中断做好处理。
  • 收到 response.failed 时停止并显示错误。
  • 配置超时和取消。