스트리밍

프로토콜별 SSE 시작/완료, 중간 오류, 중단, 재시도, 사용량·비용 위치. [DONE]은 Chat Completions에만 있습니다.

네 텍스트 프로토콜을 [DONE] 하나로 뭉개지 마세요. 비용 헤더도 스트림에서는 프로토콜마다 다릅니다.

Chat Completions#

SSE. 마지막 이벤트에 cost가 있고 [DONE]으로 끝납니다. 비스트림은 X-Cost-* 헤더도 있습니다. 스트림에서는 종료 전까지 비용 헤더가 미확정입니다. [DONE]

Anthropic 이벤트입니다. [DONE]이 없고, 스트림에서 X-Cost-*를 생략합니다.

response.completed 등 OpenAI Responses 이벤트입니다. [DONE] 없음. 스트림 비용 헤더 생략. response.completed

alt=sse 청크입니다. [DONE] 없음. 스트림 비용 헤더 생략. alt=sse

첫 토큰 전에만 프로바이더 폴백이 있습니다. 미디어 서버는 자동 재시도하지 않습니다. 429/502 retryable은 에러 코드와 재시도·폴백을 보세요. 오케스트레이터 parallel은 stream=true → 400. errors · retries

연결을 끊으면 받은 토큰까지만 정산됩니다. 중간 업스트림 오류는 SSE error 이벤트로 올 수 있습니다.