---
title: "SSE ile LLM streaming: chunk, delta, usage ve iptal | BroadRouter"
description: "Chat completion akışı nasıl iletilir, yanıt delta'lardan nasıl kurulur, usage son parçadan nasıl okunur ve Python, Node, curl'de akış nasıl temizce iptal edilir?"
url: https://broadrouter.com/tr/blog/llm-streaming-sse-explained/
lang: tr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/blog/llm-streaming-sse-explained/) (güncelleme: 2026-11-16).

# LLM akışı (streaming): SSE parçaları, delta, usage ve iptal

BroadNet Inference ekibi · 4 dk okuma · Yayımlandı 2026-11-14 · Güncellendi 2026-11-16

Bir LLM API'si chat completion'ı Server-Sent Events olarak akıtır: her data satırı, choices\[0\].delta alanı metnin sonraki parçasını taşıyan bir JSON parçası içerir. Delta'ları birleştirin, data: \[DONE\] gelince durun ve token sayılarını boş choices listeli son bir parçada almak için stream\_options include\_usage ayarlayın. İptal etmek için bağlantıyı kapatın.

## Öne çıkanlar

-   Akış sıradan bir HTTP yanıtıdır: `Content-Type: text/event-stream`, her parça için bir `data:` satırı, olaylar arasında boş bir satır ve sonda `data: [DONE]`.
-   Her parça tam mesajı değil, bir `delta` taşır. Yanıtı yeniden kurmak için `delta.content` dizelerini birleştirin.
-   Akışlarda usage varsayılan olarak kapalıdır. `stream_options: {"include_usage": true}`, usage bilgisini ve boş bir `choices` dizisini taşıyan son bir parça ekler.
-   Her `choices[0]` erişimini korumaya alın: usage parçasında choices yoktur ve varmış gibi davranan bir ayrıştırıcı çöker.
-   HTTP bağlantısını kapatarak iptal edin. `[DONE]` gelmeden biten bir akış tamamlanmış değil, eksik bir yanıttır.

**Bu sayfada**

1.  Bir SSE akışı kablo üzerinde nasıl görünür?
2.  Bir parçada neler var?
3.  Bir akıştan token kullanımı nasıl alınır?
4.  Python: akış, usage toplama, iptal
5.  Node: AbortController ile akış
6.  curl: ham olayları görün
7.  Bir akış nasıl iptal edilir ve maliyeti ne olur?
8.  Kontrol etmeniz gereken beş akış hatası
9.  BroadNet Inference’ın yeri

[Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/) olmadan bir chat completion, yanıtın tamamı hazır olana kadar hiçbir şey döndürmez. saniyede yaklaşık 100 token hızında 600 token’lık bir yanıt, birkaç saniyelik bir sessizlik demektir. Akışla ise ilk kelimeler model onları yazar yazmaz görünür. Bu yazı kablo üzerinde gerçekte neyin taşındığını, nasıl ayrıştırılacağını, bir akıştan [token](https://broadrouter.com/tr/glossary/token/) kullanımının nasıl alınacağını ve bir akışın nasıl temiz şekilde durdurulacağını ele alıyor. BroadNet’e özgü kuralların kısa hali için [akış referans rehberine](https://broadrouter.com/tr/guides/streaming-chat-completions/) bakın.

## Bir SSE akışı kablo üzerinde nasıl görünür?

Server-Sent Events, `Content-Type: text/event-stream` başlıklı sıradan bir HTTP yanıtıdır. Sunucu bağlantıyı açık tutar ve olaylar yazar. Her olay bir veya daha fazla `data:` satırından ve ardından gelen boş bir satırdan oluşur. OpenAI uyumlu API’ler her olaya bir JSON parçası koyar ve akışı birebir `[DONE]` ile bitirir:

```text
data: {"id":"c1","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":""},"finish_reason":null}],"usage":null}

data: {"id":"c1","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"One, "},"finish_reason":null}],"usage":null}

data: {"id":"c1","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"two, three."},"finish_reason":"stop"}],"usage":null}

data: {"id":"c1","object":"chat.completion.chunk","choices":[],"usage":{"prompt_tokens":14,"completion_tokens":6,"total_tokens":20}}

data: [DONE]
```

Yukarıdaki yapı açıklama amaçlıdır ve kısaltılmıştır. Gerçek parçalar `model` ve `created` alanlarını da taşır; akıl yürüten modeller usage içinde akıl yürütme token’larını da raporlayabilir.

## Bir parçada neler var?

| Alan | Nerede | Anlamı |
| --- | --- | --- |
| `choices[0].delta.role` | İlk parça | Genellikle `assistant`. Bir kez gönderilir. |
| `choices[0].delta.content` | Çoğu parça | Metnin sonraki parçası. Boş olabilir. |
| `choices[0].delta.tool_calls` | Araç çağrıları | Fonksiyon adı ve JSON argümanlarının `index`’e göre birleştirilecek parçaları. |
| `choices[0].finish_reason` | Son içerik parçası | `stop`, `length` veya `tool_calls`. O zamana kadar `null`. |
| `usage` | İstenmişse son parça | Tüm isteğin toplamları. Diğer her yerde `null`. |

Temel fikir **anlık görüntü değil, delta**’dır. Her parça yalnızca yeni olanı taşır. Mesajı parçaları sırayla birleştirerek yeniden kurarsınız. [Araç çağrıları](https://broadrouter.com/tr/glossary/tool-calling/) da aynı şekilde akar: argümanlar, sonuncusu gelene kadar geçerli JSON olmayan dize parçaları halinde gelir; bu yüzden onları ancak `finish_reason` değeri `tool_calls` olduktan sonra ayrıştırın.

## Bir akıştan token kullanımı nasıl alınır?

Akışsız bir yanıt her zaman `usage` içerir. Akış ise siz istemedikçe içermez. `stream_options: {"include_usage": true}` ayarlayın; sunucu `[DONE]` öncesinde fazladan bir parça gönderir. Bu parça toplamları ve **boş bir `choices` dizisini** taşır. BroadNet Inference’ta model raporladığında usage, `prompt_tokens_details.cached_tokens` ve `completion_tokens_details.reasoning_tokens` alanlarını da içerebilir; [maliyet loglama](https://broadrouter.com/tr/blog/llm-api-usage-logging/) için ihtiyacınız olan da budur.

Yaygın hata: her parçada `chunk.choices[0]` okuyan kod, usage parçasında indeks hatası fırlatır. Önce `choices` alanını kontrol edin.

## Python: akış, usage toplama, iptal

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",  # DeepSeek V4.1 Flash, a reasoning model
    messages=[{"role": "user", "content": "Explain SSE in three sentences."}],
    stream=True,
    stream_options={"include_usage": True},
    max_tokens=2000,  # reasoning counts toward this limit
)

def user_pressed_stop():  # replace with your own condition
    return False

parts, usage, finish = [], None, None
try:
    for chunk in stream:
        if chunk.choices:
            choice = chunk.choices[0]
            if choice.delta.content:
                parts.append(choice.delta.content)
                print(choice.delta.content, end="", flush=True)
            if choice.finish_reason:
                finish = choice.finish_reason
        if chunk.usage:
            usage = chunk.usage
        if user_pressed_stop():  # your own condition
            break
finally:
    stream.close()  # closes the HTTP connection

text = "".join(parts)
```

Tek başına `break` okumayı durdurur, ama soket çöp toplayıcı onu temizleyene kadar açık kalır. Sunucunun bağlantı kopmasını görmesi için soketi açıkça kapatın.

## Node: AbortController ile akış

```javascript
import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
const controller = new AbortController();
setTimeout(() => controller.abort(), 30_000); // hard stop after 30 s

const stream = await client.chat.completions.create(
  {
    model: "broadnet/deepseek-v4.1-flash",
    messages: [{ role: "user", content: "Explain SSE in three sentences." }],
    stream: true,
    stream_options: { include_usage: true },
  },
  { signal: controller.signal },
);

let text = "";
for await (const chunk of stream) {
  const delta = chunk.choices[0]?.delta?.content;
  if (delta) text += delta;
  if (chunk.usage) console.log(chunk.usage);
}
```

[openai-node README](https://github.com/openai/openai-node) dosyası `signal` seçeneğini belgeliyor ve bu seçenek gövde hâlâ okunurken de çalışıyor. Bir web sunucusunda `controller.abort()` çağrısını istemci isteğinin `close` olayına bağlayın; böylece sayfadan ayrılan bir kullanıcı üretimi de durdurur. Daha fazla kurulum bilgisi [Node SDK rehberinde](https://broadrouter.com/tr/guides/openai-node-sdk/).

## curl: ham olayları görün

```bash
curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count to five."}]}'
```

`-N`, çıktı tamponlamayı kapatır; böylece olaylar geldikçe yazdırılır. İptal etmek için Ctrl+C’ye basın; bu, bağlantıyı kapatır. [API istek oluşturucu](https://broadrouter.com/tools/api-request-builder/) bu isteği, Python ve Node sürümleriyle birlikte, herhangi bir model ve temel URL (base URL) için üretir.

## Bir akış nasıl iptal edilir ve maliyeti ne olur?

SSE’de iptal, yalnızca bağlantıyı kapatmaktır. Bir “dur” mesajı yoktur. Sonrasında ne olacağı sunucuya bağlıdır: düzgün davranan bir sunucu kapanan soketi fark eder ve üretmeyi durdurur. O ana kadar üretilen token’lar gerçek bir işti. BroadNet’in API referansı iptal edilen akışların faturalandırılmasını belgelemiyor; bu yüzden [kullandıkça öde](https://broadrouter.com/tr/glossary/pay-as-you-go/) modelinde bağlantı kopana kadar üretilen token’ların faturalandırıldığını varsayarak plan yapın ve kullanım kayıtlarınızı kontrol edin. Sabit fiyatlı bir planda iptal edilen bir akış ek maliyet getirmez, ama oturumu ancak sunucu durduğunda serbest bırakır.

## Kontrol etmeniz gereken beş akış hatası

1.  **Tamponlayan proxy’ler.** Nginx ve bazı CDN’ler yanıtları tamponlar; bu yüzden istemci her şeyi bir kerede alır. Akış rotası için proxy tamponlamayı kapatın.
2.  **`[DONE]` kontrolü yapmamak.** Kopan bir bağlantı kısa bir yanıt gibi görünür. [Hatalar rehberinde](https://broadrouter.com/tr/guides/errors-and-retries/) anlatıldığı gibi, eksik bir `[DONE]`’u tamamlanmamış sayın ve `X-Request-ID` değerini kaydedin.
3.  **Akışın ortasında yeniden denemek.** SDK’lar gövde gelmeye başladıktan sonra yeniden denemez. Yeniden deneme yeni bir istektir ve kullandıkça öde modelinde yeni bir faturadır.
4.  **`finish_reason: length` değerini yok saymak.** [DeepSeek V4.1 Flash](https://broadrouter.com/tr/models/deepseek-v4.1-flash/) gibi akıl yürüten modellerde düşünme [max\_tokens](https://broadrouter.com/tr/glossary/max-tokens/)’tan düşülür; bu yüzden küçük bir sınır, akışı görünür bir metin gelmeden durdurabilir. [Akıl yürütme token’larının maliyeti](https://broadrouter.com/tr/blog/reasoning-tokens-cost/).
5.  **Satırları yanlış bölmek.** SSE’yi elle ayrıştırıyorsanız boş bir satır görene kadar baytları tamponlayın. Bir TCP okuması bir JSON parçasının ortasında bitebilir.

## BroadNet Inference’ın yeri

BroadNet Inference standart [OpenAI uyumlu](https://broadrouter.com/tr/glossary/openai-compatible-api/) akış yapısını kullanır; bu yüzden Python ve Node SDK’ları onu değiştirmeden ayrıştırır. Son parçadaki usage, model raporladığında önbellekli ve akıl yürütme token’larını içerir. Belgeleri, üretimde kullanmadan önce akışın yine de her model için doğrulanması gerektiğini söylüyor; bu yüzden yukarıdaki kodu yayına alacağınız modelin kendisiyle çalıştırın. Asıl önemsediğiniz ilk token’ın ne kadar hızlı geldiğiyse, sırada [TTFT ve işlem hacmi](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/) yazısı var. WebSocket üzerinden gerçek zamanlı sese ihtiyacınız varsa bu API bunun için tasarlanmadı; chat completions ve dosya transkripsiyonu sunuyor.

Bu konu için ücretsiz araçlar (İngilizce)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Ücretsiz araçlar (İngilizce)](https://broadrouter.com/tools/)

## Bu yazıdaki terimler

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/)

Akış (streaming), bir dil modeli yanıtını sonda tek parça halinde değil, hâlâ üretilirken küçük parçalar halinde döndürme yöntemidir. OpenAI uyumlu API'ler, istekte stream değeri true olduğunda server-sent events (SSE) üzerinden akış yapar.

[Kullandıkça öde (pay-as-you-go)](https://broadrouter.com/tr/glossary/pay-as-you-go/)

Kullandıkça öde, abonelik veya asgari taahhüt olmadan yalnızca kullandığınız kadar ödediğiniz, token, istek veya ses dakikası gibi birimler üzerinden ölçülen bir fiyatlandırma modelidir. LLM API'lerinin çoğu bu şekilde, ön ödemeli bir bakiyeden veya dönemsel faturayla ücretlendirir.

[Server-sent events (SSE, sunucu gönderimli olaylar)](https://broadrouter.com/tr/glossary/sse/)

Server-sent events (SSE), bir sunucunun text/event-stream içerik türüne sahip, uzun süre açık kalan tek bir HTTP yanıtı üzerinden istemciye metin olayları akışı göndermesini sağlayan bir web standardıdır. Her olay, data: gibi bir veya daha fazla alan satırından oluşur ve boş bir satırla biter.

[Akıl yürütme token'ları (reasoning tokens)](https://broadrouter.com/tr/glossary/reasoning-tokens/)

Akıl yürütme token'ları, bir akıl yürütme modelinin görünür yanıtını yazmadan önce problemi çözmek için ürettiği token'lardır. Genellikle çıktı token'ı olarak faturalandırılır, çıktı sınırına ve bağlam penceresine sayılır; API tarafından gizlenebilir veya özetlenebilir.

[Base URL (temel URL)](https://broadrouter.com/tr/glossary/base-url/)

Base URL (temel URL), https://api.example.com/v1 gibi, bir istemcinin /chat/completions gibi her uç nokta yolunun önüne eklediği sabit kök adrestir. OpenAI uyumlu SDK'larda base URL, API anahtarı ve model kimliğiyle birlikte değiştirildiğinde aynı kod farklı bir sağlayıcıya yönelir.

[Araç çağırma (tool calling)](https://broadrouter.com/tr/glossary/tool-calling/)

Araç çağırma (tool calling), fonksiyon çağırma (function calling) olarak da bilinir; modelin, geliştiricinin tanımladığı bir fonksiyonu çalıştırmak için JSON argümanlı yapılandırılmış bir istek döndürdüğü bir LLM API özelliğidir. Fonksiyonu uygulama çalıştırır ve sonucu geri gönderir; model hiçbir zaman kodu kendisi çalıştırmaz.

[Chat Completions API](https://broadrouter.com/tr/glossary/chat-completions-api/)

Chat Completions API, OpenAI'nin bir model adı ile rollerle etiketlenmiş mesaj listesini alıp modelin sonraki mesajını döndüren HTTP uç noktasıdır: POST /v1/chat/completions. İstek ve yanıt yapısı, OpenAI uyumlu sağlayıcıların ve SDK'ların yeniden kullandığı ortak format hâline geldi.

## Sık sorulan sorular

### LLM akışında SSE ile WebSocket arasındaki fark nedir?

SSE, normal bir HTTP yanıtı üzerinden sunucudan istemciye tek yönlüdür. Bir chat completion'ın ihtiyacı da yalnızca budur; bu yüzden OpenAI uyumlu API'ler SSE kullanır. WebSocket'ler çift yönlüdür ve protokol yükseltmesi gerektirir; chat completion için değil, gerçek zamanlı ses için kullanılır.

### Akış parçalarımda usage neden null?

Usage yalnızca istediğinizde gönderilir. include\_usage değeri true olan stream\_options ekleyin. Bu durumda son parça hariç her parçada usage null olur; son parça ise toplamları boş bir choices listesiyle taşır.

### Bir akışı iptal edersem ücret ödüyor muyum?

Sağlayıcılar farklıdır ve çoğu bunu belgelemez. Sunucu bağlantının kapandığını fark etmeden önce üretilen token'ların faturalandırıldığını varsayın. X-Request-ID değerini loglayın ve kullanım kayıtlarınızla karşılaştırın.

### Bir akışın normal şekilde bittiğini nasıl anlarım?

data: \[DONE\] aldınız ve son içerik parçasında stop gibi bir finish\_reason vardı. length değerindeki bir finish\_reason, yanıtı max\_tokens'ın kestiği anlamına gelir. \[DONE\] gelmemesi bağlantının koptuğu anlamına gelir.

### Akış modeli hızlandırır mı?

Hayır. Toplam üretim süresi aynıdır. Akış, kullanıcının ilk kelimeleri görene kadar geçen süreyi kısaltır; bir sohbet arayüzünü hızlı hissettiren de budur.

## Okumaya devam edin

-   [LLM gecikmesi: TTFT, saniye başına token ve uçtan uca süre](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/)
-   [LLM API kullanım günlüğü: kullanıcı ve özellik başına maliyet, PII yok](https://broadrouter.com/tr/blog/llm-api-usage-logging/)
-   [LLM API 429 hatası nasıl çözülür: geri çekilme, jitter, sınırlayıcılar](https://broadrouter.com/tr/blog/handle-llm-api-429-rate-limits/)
-   [BroadNet'in GPU donanımı ve sunum yaklaşımı, BroadNet'in anlatımıyla](https://broadrouter.com/tr/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API yanıtlarını önbelleğe alıp maliyeti düşürün: Python örneği](https://broadrouter.com/tr/blog/cache-llm-responses-cut-cost/)
-   [Rehber: Chat completions akışı ve kopan bağlantıları ele alma](https://broadrouter.com/tr/guides/streaming-chat-completions/)
-   [Rehber: OpenAI Python SDK'yı BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/openai-python-sdk/)
-   [Rehber: OpenAI Node.js SDK'yı BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/openai-node-sdk/)
-   [Rehber: BroadNet Inference hata kodları ve ne zaman yeniden denenmeli](https://broadrouter.com/tr/guides/errors-and-retries/)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-llm-streaming-sse-explained&utm_content=page-cta) ·

**Kaynaklar**

-   [BroadNet Inference API referansı, akış ve usage (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-llm-streaming-sse-explained&utm_content=sources#requests)
-   [MDN, Server-sent events kullanımı](https://developer.mozilla.org/en-US/docs/Web/API/Server-sent_events/Using_server-sent_events)
-   [OpenAI topluluk duyurusu, akışta kullanım istatistikleri (stream\_options)](https://community.openai.com/t/usage-stats-now-available-when-using-streaming-with-the-chat-completions-api-or-completions-api/738156)
-   [openai-python README, akış yanıtları ve yeniden denemeler (2026-11-14 tarihinde erişildi)](https://github.com/openai/openai-python)
-   [openai-node README, AbortSignal ile iptal (2026-11-14 tarihinde erişildi)](https://github.com/openai/openai-node)
