스트리밍 응답 받기

스트리밍을 사용하면 AI의 응답이 완성될 때까지 기다리지 않고, 생성되는 즉시 글자 단위로 받아볼 수 있습니다. 채팅 서비스처럼 타이핑 효과를 구현하거나 긴 응답을 빠르게 표시하고 싶을 때 사용하세요.

---

스트리밍 응답 받기

요청에 stream=True (Python) 또는 stream: true (Node.js / JSON)를 추가하면 됩니다.

Python

stream = client.chat.completions.create(
    model="openai/gpt-5.2",
    messages=[{"role": "user", "content": "RunYour AI를 소개해줘."}],
    stream=True   # ← 스트리밍 활성화
)

for chunk in stream:
    token = chunk.choices[0].delta.content
    if token is not None:
        print(token, end="", flush=True)  # 글자가 생성될 때마다 출력

JavaScript

cURL

응답은 텍스트가 생성되는 순서대로 delta.content 조각(청크)으로 전달됩니다.

---

스트리밍 응답 구조 이해하기

스트리밍 응답은 Server-Sent Events(SSE) 형식으로 전송됩니다. 각 줄은 아래와 같은 형태의 JSON 청크입니다.

data: {"id":"chatcmpl-123","object":"chat.completion.chunk","model":"openai/gpt-5.2","choices":[{"delta":{"content":"안녕"},"finish_reason":null}]}

data: {"id":"chatcmpl-123","object":"chat.completion.chunk","model":"openai/gpt-5.2","choices":[{"delta":{"content":"하세요!"},"finish_reason":null}]}

data: {"id":"chatcmpl-123","object":"chat.completion.chunk","model":"openai/gpt-5.2","choices":[{"delta":{},"finish_reason":"stop"}]}

data: [DONE]

• 각 청크의 choices[0].delta.content에 글자 조각이 담겨 있습니다.

• finish_reason이 "stop"으로 바뀌면 응답이 완료된 것입니다.

• 마지막에 data: [DONE] 신호가 전송되면 스트림이 종료됩니다.

---

Responses API에서 스트리밍 받기

/v1/responses 엔드포인트도 스트리밍을 지원합니다. 단, OpenAI 모델(openai/...)에서만 사용 가능합니다.

Python

stream = client.responses.create(
    model="openai/gpt-5",
    input="1부터 3까지 짧게 세어줘.",
    stream=True,
)

for event in stream:
    print(event.type, event)  # OpenAI Responses 스트림 이벤트

JavaScript

Responses API 스트리밍은 openai/... 모델에서만 지원됩니다. Claude, Gemini, DeepSeek 등 다른 모델의 스트리밍은 위의 Chat Completions(/v1/chat/completions) 방식을 사용하세요.

---

스트리밍 사용 시 유의사항

• 스트림 연결을 클라이언트에서 중단하더라도 이미 생성된 토큰에 대해서는 비용이 청구됩니다.

• 스트리밍 응답은 완성 여부와 무관하게 생성된 토큰 수만큼 크레딧이 차감됩니다.

• 처음에는 비스트리밍(stream: false)으로 연동을 안정화한 뒤, 이후 스트리밍으로 전환하는 것을 권장합니다.