---
title: "LLM yanıtını SSE ile akışla alma: kullanım, yeniden deneme"
description: "BroadNet Inference'ta akış (streaming) nasıl çalışır: Server-Sent Events, [DONE] işareti, son parçadaki token kullanımı ve akış erken biterse ne yapılmalı."
url: https://broadrouter.com/tr/guides/streaming-chat-completions/
lang: tr
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/guides/streaming-chat-completions/) (güncelleme: 2026-11-15).

# Chat completions akışı ve kopan bağlantıları ele alma

Güncellendi 2026-11-15

/v1/chat/completions isteğinde stream değerini true yapın ve birebir data: \[DONE\] işaretine kadar Server-Sent Events okuyun. Token sayılarını son parçada almak için stream\_options içinde include\_usage ekleyin. Bağlantı \[DONE\] gelmeden kapanırsa yanıtı eksik kabul edin ve X-Request-ID değerini kaydedin.

Akış (streaming), bir ajanın veya sohbet arayüzünün yanıtı üretildiği anda göstermesini sağlar. BroadNet Inference standart chat completions akış yapısını kullanır; bu yüzden ayrıştırmayı [OpenAI Python SDK](https://broadrouter.com/tr/guides/openai-python-sdk/) ve [OpenAI Node SDK](https://broadrouter.com/tr/guides/openai-node-sdk/) sizin yerinize yapar.

## curl ile

```bash
curl -N -D stream-headers.txt https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'
```

`-N` curl’ün arabelleğe almasını kapatır, `-D` ise `X-Request-ID` dahil başlıkları kaydeder.

## Akış neye benzer?

Yanıt bir [Server-Sent Events](https://broadrouter.com/tr/glossary/sse/) akışıdır. WHATWG HTML standardına göre her olay, bir veya daha fazla `data:` satırı ve ardından gelen boş bir satırdan oluşur; iki nokta üst üste ile başlayan satır ise yok sayabileceğiniz bir yorumdur. Her `data:` satırı bir JSON parçası taşır ve metin `choices[0].delta.content` alanında gelir.

## Kurallar

1.  Birebir `data: [DONE]` satırına kadar olayları okuyun, ardından okuyucuyu kapatın.
2.  `stream_options: {"include_usage": true}` ile `[DONE]` satırından hemen önce fazladan bir parça gelir. Bu parça isteğin tamamı için `usage` bilgisini ve boş bir `choices` listesini taşır; bu yüzden indekslemeden önce `choices` alanını kontrol edin.
3.  Model raporladığında bu kullanım bilgisi `completion_tokens_details.reasoning_tokens` (DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B önce akıl yürütür) ve `prompt_tokens_details.cached_tokens` alanlarını içerir. Önbellekli token’lar daha düşük önbellekli girdi fiyatıyla faturalandırılır.

## Python SDK ile

Koddaki son satırda `usage` değerinin `None` kalması, akışın kullanım parçasından önce bittiği anlamına gelir.

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

stream = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Count from one to three."}],
    stream=True,
    stream_options={"include_usage": True},
)
usage = None
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        usage = chunk.usage
print()
print(usage)  # None means the stream ended before the usage chunk
```

SDK sizin için `[DONE]` satırına kadar okur. Aynı döngünün JavaScript hâli [OpenAI Node SDK rehberinde](https://broadrouter.com/tr/guides/openai-node-sdk/).

## Akış erken biterse

Bağlantı `[DONE]` gelmeden kapanırsa yanıt eksiktir. BroadNet’in önerisi:

-   `X-Request-ID` değerini kaydedin;
-   uygulamanızın güvenle **yeni** bir istek yapıp yapamayacağına karar verin. Yeniden deneme yeni bir çıkarımdır ve kullandıkça öde modelinde yeniden faturalandırılır.

[Sınırsız plandaki](https://broadrouter.com/tr/guides/unlimited-llm-api-sessions/) ajanlar için yeniden denemeler ek ücrete yol açmaz, ancak çalıştıkları süre boyunca oturumu meşgul eder.

BroadNet’in belgeleri, üretimde akışa güvenmeden önce her model için sürüm doğrulamasının hâlâ gerekli olduğunu söyler; bu yüzden akışı, ürününüzde kullanacağınız model üzerinde test edin.

## Sorun giderme

-   **Her şey en sonda yazdırılıyor.** curl için `-N` gerekir. Kendi proxy’nizin arkasındaysanız `text/event-stream` için yanıt arabelleğini kapatın.
-   **Son parçada `IndexError` veya `undefined`.** Kullanım parçasındaki `choices` listesi boştur. `[0]` okumadan önce `chunk.choices` alanını kontrol edin.
-   **Hiç kullanım bilgisi yok.** `stream_options` göndermediniz ya da akış son parçadan önce koptu.
-   **Akış az metinle ve `finish_reason` `length` ile duruyor.** Bir akıl yürütme modeli `max_tokens` bütçesini akıl yürütmeye harcadı. Bkz. [akıl yürütme modelleri neden boş yanıt döndürür](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/).
-   **Paralel akışlarda 429.** Açık her akış, işlemdeki bir istek sayılır; kullandıkça öde anahtarı 4 isteğe izin verir. Bkz. [BroadNet hata kodları ve yeniden denemeler](https://broadrouter.com/tr/guides/errors-and-retries/).

## Bu rehberdeki terimler

[Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/)

Akış (streaming), bir dil modeli yanıtını sonda tek parça halinde değil, hâlâ üretilirken küçük parçalar halinde döndürme yöntemidir. OpenAI uyumlu API'ler, istekte stream değeri true olduğunda server-sent events (SSE) üzerinden akış yapar.

[Kullandıkça öde (pay-as-you-go)](https://broadrouter.com/tr/glossary/pay-as-you-go/)

Kullandıkça öde, abonelik veya asgari taahhüt olmadan yalnızca kullandığınız kadar ödediğiniz, token, istek veya ses dakikası gibi birimler üzerinden ölçülen bir fiyatlandırma modelidir. LLM API'lerinin çoğu bu şekilde, ön ödemeli bir bakiyeden veya dönemsel faturayla ücretlendirir.

[Eşzamanlılık (concurrency)](https://broadrouter.com/tr/glossary/concurrency/)

Eşzamanlılık (concurrency), bir istemcinin aynı anda işlemde olan istek sayısıdır. LLM API'leri bunu genellikle dakikadaki istek sayısından ayrı olarak anahtar veya plan başına sınırlar, çünkü açık her istek yanıtı bitene kadar GPU kapasitesi tutar.

[Server-sent events (SSE, sunucu gönderimli olaylar)](https://broadrouter.com/tr/glossary/sse/)

Server-sent events (SSE), bir sunucunun text/event-stream içerik türüne sahip, uzun süre açık kalan tek bir HTTP yanıtı üzerinden istemciye metin olayları akışı göndermesini sağlayan bir web standardıdır. Her olay, data: gibi bir veya daha fazla alan satırından oluşur ve boş bir satırla biter.

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Chat Completions API](https://broadrouter.com/tr/glossary/chat-completions-api/)

Chat Completions API, OpenAI'nin bir model adı ile rollerle etiketlenmiş mesaj listesini alıp modelin sonraki mesajını döndüren HTTP uç noktasıdır: POST /v1/chat/completions. İstek ve yanıt yapısı, OpenAI uyumlu sağlayıcıların ve SDK'ların yeniden kullandığı ortak format hâline geldi.

[Önbellekli girdi token'ları (cached input tokens)](https://broadrouter.com/tr/glossary/cached-input-tokens/)

Önbellekli girdi token'ları, bir LLM sağlayıcısının kısa süre önce işlediği ve yeniden hesaplamak yerine önbellekten kullanabildiği istem token'larıdır; genellikle sistem istemi veya belge gibi tekrarlanan bir önektir. Sağlayıcılar bunları yeni girdi token'larından daha düşük ücretle faturalandırır.

## Sık sorulan sorular

### Chat completions akışında token kullanımını nasıl alırım?

stream\_options içinde include\_usage değerini true olarak gönderin. data: \[DONE\] satırından hemen önce, usage alanı dolu ve choices dizisi boş olan fazladan bir parça gelir. Akış bundan önce koparsa bu parça hiç gelmez.

### curl neden akışla gelen yanıtın tamamını tek seferde yazdırıyor?

curl çıktısını varsayılan olarak arabelleğe alır. Her Server-Sent Event geldiği anda yazdırılsın diye -N (arabelleksiz) bayrağını ekleyin.

### Yeniden denenen bir akış iki kez faturalandırılır mı?

Kullandıkça öde modelinde evet. Yeniden deneme yeni bir çıkarım isteğidir. Sınırsız DeepSeek V4.1 Flash planında token sayacı yoktur, ancak yeniden deneme çalıştığı süre boyunca oturumu meşgul eder.

### Akış normal bir istekten daha mı pahalı?

Hayır. Akış, yanıtın nasıl teslim edildiğini değiştirir, nasıl faturalandırıldığını değil. Kullandıkça öde modelinde akışsız bir istekle aynı token başına girdi ve çıktı fiyatlarını ödersiniz.

## İlgili rehberler

-   [OpenAI Python SDK'yı BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/openai-python-sdk/)
-   [BroadNet Inference hata kodları ve ne zaman yeniden denenmeli](https://broadrouter.com/tr/guides/errors-and-retries/)
-   [Akıl yürüten model neden boş yanıt döndürür?](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-guides-streaming-chat-completions&utm_content=page-cta) ·

**Kaynaklar**

-   [BroadNet Inference API referansı, akış (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-guides-streaming-chat-completions&utm_content=sources#requests)
-   [WHATWG HTML Standardı, server-sent events (2026-11-14 tarihinde kontrol edildi)](https://html.spec.whatwg.org/multipage/server-sent-events.html)
-   [OpenAI Python SDK, stream\_options include\_usage docstring (2026-11-14 tarihinde kontrol edildi)](https://github.com/openai/openai-python/blob/main/src/openai/types/chat/chat_completion_stream_options_param.py)
