채팅 응답 스트리밍

설정 stream: true 응답을 점진적으로 받으세요. HTTP 연결을 유지하고 완전한 SSE 이벤트를 구문 분석하며 각 콘텐츠 델타를 한 번 추가하세요.

curl --no-buffer --fail-with-body https://api.shareai.now/api/v1/chat/completions \
  -H "Authorization: Bearer $SHAREAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data '{"model":"MODEL_IDENTIFIER","messages":[{"role":"user","content":"Explain server-sent events briefly."}],"stream":true}'

이벤트 경계를 읽으세요.#

SSE는 빈 줄로 이벤트를 구분합니다. 네트워크 청크는 JSON 값을 분할하거나 여러 이벤트를 포함할 수 있으므로 각 네트워크 읽기를 완전한 JSON 응답으로 구문 분석하지 마세요. UTF-8을 점진적으로 디코딩하고 이벤트가 완료될 때까지 불완전한 데이터를 유지하세요.

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"Hello"},"finish_reason":null}]}

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

콘텐츠를 한 번 렌더링하세요.#

추가 choices[0].delta.content 존재하는 경우. 공백과 반복된 단어를 유지하세요. 역할만 있거나 최종 청크는 콘텐츠가 없을 수 있습니다. [DONE] 스트림 종료자로 처리하세요.

스트림 오류를 처리하세요.#

SSE 파서에 들어가기 전에 HTTP 상태를 확인하세요. 스트리밍이 시작된 후 event: error 이벤트와 예기치 않은 연결 끊김을 처리하세요. 중단된 답변을 불완전한 것으로 표시하고 사용자가 명시적으로 다시 시도하도록 하세요. 부분 출력에 독립적으로 생성된 두 번째 답변을 추가하지 마세요.

애플리케이션에서 취소하세요.#

사용자가 생성 중지를 요청할 때 HTTP 클라이언트의 취소 메커니즘을 사용하세요. 취소, 네트워크 오류 및 완료된 답변을 별도의 UI 상태로 유지하세요. 클라이언트 연결을 닫는다고 이미 처리된 사용량이 되돌려진다고 약속하지 마세요.