# 스트리밍 응답 받기

스트리밍을 사용하면 AI의 응답이 완성될 때까지 기다리지 않고, 생성되는 즉시 글자 단위로 받아볼 수 있습니다. 채팅 서비스처럼 타이핑 효과를 구현하거나 긴 응답을 빠르게 표시하고 싶을 때 사용하세요.

***

### 스트리밍 응답 받기

요청에 `stream=True` (Python) 또는 `stream: true` (Node.js / JSON)를 추가하면 됩니다.

{% tabs %}
{% tab title="Python" %}

```python
stream = client.chat.completions.create(
    model="openai/gpt-5.2",
    messages=[{"role": "user", "content": "RunYour AI를 소개해줘."}],
    stream=True   # ← 스트리밍 활성화
)

for chunk in stream:
    token = chunk.choices[0].delta.content
    if token is not None:
        print(token, end="", flush=True)  # 글자가 생성될 때마다 출력
```

{% endtab %}

{% tab title="JavaScript" %}

```javascript
const stream = await client.chat.completions.create({
  model: "openai/gpt-5.2",
  messages: [{ role: "user", content: "RunYour AI를 소개해줘." }],
  stream: true,   // ← 스트리밍 활성화
});

for await (const chunk of stream) {
  const token = chunk.choices?.[0]?.delta?.content;
  if (token) process.stdout.write(token);  // 글자가 생성될 때마다 출력
}
```

{% endtab %}

{% tab title="cURL" %}

```bash
curl https://api.runyour.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer runyour-v1-YOUR_API_KEY" \
  -d '{
    "model": "openai/gpt-5.2",
    "messages": [{ "role": "user", "content": "RunYour AI를 소개해줘." }],
    "stream": true
  }'
```

{% endtab %}
{% endtabs %}

응답은 텍스트가 생성되는 순서대로 `delta.content` 조각(청크)으로 전달됩니다.

***

### 스트리밍 응답 구조 이해하기

스트리밍 응답은 **Server-Sent Events(SSE)** 형식으로 전송됩니다. 각 줄은 아래와 같은 형태의 JSON 청크입니다.

```
data: {"id":"chatcmpl-123","object":"chat.completion.chunk","model":"openai/gpt-5.2","choices":[{"delta":{"content":"안녕"},"finish_reason":null}]}

data: {"id":"chatcmpl-123","object":"chat.completion.chunk","model":"openai/gpt-5.2","choices":[{"delta":{"content":"하세요!"},"finish_reason":null}]}

data: {"id":"chatcmpl-123","object":"chat.completion.chunk","model":"openai/gpt-5.2","choices":[{"delta":{},"finish_reason":"stop"}]}

data: [DONE]
```

* 각 청크의 `choices[0].delta.content`에 글자 조각이 담겨 있습니다.
* `finish_reason`이 `"stop"`으로 바뀌면 응답이 완료된 것입니다.
* 마지막에 `data: [DONE]` 신호가 전송되면 스트림이 종료됩니다.

***

### Responses API에서 스트리밍 받기

`/v1/responses` 엔드포인트도 스트리밍을 지원합니다. 단, **OpenAI 모델(`openai/...`)에서만** 사용 가능합니다.

{% tabs %}
{% tab title="Python" %}

```python
stream = client.responses.create(
    model="openai/gpt-5",
    input="1부터 3까지 짧게 세어줘.",
    stream=True,
)

for event in stream:
    print(event.type, event)  # OpenAI Responses 스트림 이벤트
```

{% endtab %}

{% tab title="JavaScript" %}

```javascript
const stream = await client.responses.create({
  model: "openai/gpt-5",
  input: "1부터 3까지 짧게 세어줘.",
  stream: true,
});

for await (const event of stream) {
  console.log(event.type, event);  // OpenAI Responses 스트림 이벤트
}
```

{% endtab %}
{% endtabs %}

{% hint style="warning" %}
Responses API 스트리밍은 `openai/...` 모델에서만 지원됩니다. Claude, Gemini, DeepSeek 등 다른 모델의 스트리밍은 위의 Chat Completions(`/v1/chat/completions`) 방식을 사용하세요.
{% endhint %}

***

### 스트리밍 사용 시 유의사항

* 스트림 연결을 클라이언트에서 중단하더라도 이미 생성된 토큰에 대해서는 비용이 청구됩니다.
* 스트리밍 응답은 완성 여부와 무관하게 생성된 토큰 수만큼 크레딧이 차감됩니다.
* 처음에는 비스트리밍(`stream: false`)으로 연동을 안정화한 뒤, 이후 스트리밍으로 전환하는 것을 권장합니다.


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://runyourai.gitbook.io/userguide/api/guide/stream.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.