---
title: "Vercel AI SDK: createOpenAICompatible mit eigener Base URL"
description: "BroadNet Inference aus dem Vercel AI SDK aufrufen, mit createOpenAICompatible aus @ai-sdk/openai-compatible: generateText, streamText, Tools und Reasoning Effort."
url: https://broadrouter.com/de/guides/vercel-ai-sdk-openai-compatible/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (aktualisiert am 2026-11-16).

# Das Vercel AI SDK mit BroadNet Inference nutzen

Aktualisiert 2026-11-16

Installieren Sie ai und @ai-sdk/openai-compatible und rufen Sie createOpenAICompatible mit name broadnet, baseURL https://inference.broadnet.ai/v1 und Ihrem BroadNet-Schlüssel als apiKey auf. Übergeben Sie dem Provider eine BroadNet-Modell-ID wie broadnet/glm-5.3 und nutzen Sie generateText oder streamText wie gewohnt. Lassen Sie den Schlüssel auf dem Server und geben Sie Reasoning-Modellen ein großzügiges maxOutputTokens.

Das [AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) von Vercel ist ein TypeScript-Toolkit für LLM-Apps. Sein Paket `@ai-sdk/openai-compatible` erstellt einen Provider für jede API, die dem Chat-Completions-Format von OpenAI folgt. BroadNet Inference tut das, also ändern Sie nur Base URL, Schlüssel und Modell-IDs. Für den einfachen OpenAI-Client lesen Sie stattdessen [die Anleitung zum Node SDK](https://broadrouter.com/de/guides/openai-node-sdk/).

## Einrichtung

1.  **Pakete installieren.** Zum Zeitpunkt der Erstellung liefert npm `ai` 7.x und `@ai-sdk/openai-compatible` 3.x aus.
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **Provider erstellen.**
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
3.  **Text generieren.**
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **Streamen.** Ersetzen Sie `generateText` durch `streamText` und lesen Sie `textStream`. Die [Streaming-Anleitung](https://broadrouter.com/de/guides/streaming-chat-completions/) erklärt das zugrunde liegende Übertragungsformat.
    

Der übergebene `name` wird zum Schlüssel für Provider-Optionen und Provider-Metadaten; halten Sie ihn also kurz und stabil. `provider('id')` und `provider.chatModel('id')` erzeugen beide ein Chat-Modell; eine eigene Einrichtung pro Modell gibt es nicht. Lassen Sie den Schlüssel auf dem Server. Importieren Sie diese Datei nicht in Code, der im Browser läuft, sonst wird der Schlüssel an jeden Besucher ausgeliefert.

Die Provider-Dokumentation nennt Textgenerierung, Streaming, Tool Calling, Structured Outputs, Reasoning-Inhalte und Bild-Input als unterstützte Fähigkeiten, mit dem Hinweis, dass manche vom Anbieter abhängen. Bei BroadNet funktioniert Bild-Input mit DeepSeek V4.1 Flash, Qwen3.8 27B und Gemma 4 VL 26B. GLM 5.3 nimmt nur Text an.

## Optionen, die sich lohnen

-   **reasoningEffort.** Übergeben Sie die Option über `providerOptions`, mit dem Provider-Namen als Schlüssel. Laut AI-SDK-Dokumentation hängen die genauen Werte vom Anbieter ab; die BroadNet-Dokumentation zeigt `low`.

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** Das AI SDK sendet JSON-Schemas nur, wenn diese Option beim Provider auf `true` steht. BroadNet nennt strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B. Wenn Sie die Option einschalten, nutzen Sie diese Modelle für Schema-Output.
-   **maxRetries.** `generateText` versucht es standardmäßig zweimal erneut. Passen Sie den Wert an Ihr Rate Limit an.
-   **Reasoning-Output.** Das AI SDK liest Reasoning-Inhalte, wenn der Anbieter sie zurückgibt. Das Ergebnisfeld `reasoningText` auf oberster Ebene ist inzwischen zugunsten von `finalStep.reasoningText` als veraltet markiert. Bauen Sie keine Logik, die voraussetzt, dass Reasoning vorhanden ist.

## Welches Modell passt?

| Bedarf | Modell | Kontext |
| --- | --- | --- |
| Tool Calling, strukturierte Ausgabe | [`broadnet/glm-5.3`](https://broadrouter.com/de/models/glm-5.3/) | 1.048.576 |
| Bilder plus Tools, Arabisch | [`broadnet/qwen3.8-27b`](https://broadrouter.com/de/models/qwen3.8-27b/) | 262.144 |
| Langer Kontext, Flatrate-Plan | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/de/models/deepseek-v4.1-flash/) | 1.048.576 |
| Günstige Text- und Bildaufrufe | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/de/models/gemma-4-vl-26b/) | 32.768 |

Die Preise pro Token für jedes Modell stehen auf der [Preisseite](https://broadrouter.com/de/pricing/).

## Fehlerbehebung

-   **401.** `BROADNET_API_KEY` fehlt in der Laufzeitumgebung (prüfen Sie die Umgebungsvariablen bei Ihrem Hosting-Anbieter), ist falsch, abgelaufen, oder das Pay-as-you-go-Kontingent ist aufgebraucht.
-   **providerOptions werden ignoriert.** Der Schlüssel muss dem `name` des Providers in camelCase entsprechen. Bei `name: 'broadnet'` nutzen Sie `providerOptions.broadnet`.
-   **Modellfehler.** Die ID muss exakt der von BroadNet entsprechen, mit dem Präfix `broadnet/`. GLM 5.3, Qwen3.8 27B und DeepSeek V4.1 Flash brauchen eine Aufladung; das Startguthaben von $5 deckt Gemma 4 VL 26B und die beiden Transcribe-Modelle ab.
-   **Leerer Text, finishReason „length“.** Das Reasoning hat das Budget aufgebraucht. Erhöhen Sie `maxOutputTokens` oder senken Sie `reasoningEffort`. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **429 unter Last.** Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende. Serverless-Funktionen skalieren schnell hoch; begrenzen Sie die Parallelität also in Ihrer App. Siehe [Fehlercodes und Retries](https://broadrouter.com/de/guides/errors-and-retries/).
-   **Parallele Agenten mit einem Plan-Schlüssel.** Eine [Session eines unbegrenzten Plans](https://broadrouter.com/de/guides/unlimited-llm-api-sessions/) verarbeitet immer nur eine Anfrage. Wenn Sie `Promise.all` über mehrere Agenten laufen lassen, brauchen Sie eine Session pro Agent, sonst landen die Anfragen in der Warteschlange.

## Begriffe in dieser Anleitung

[Strukturierte Ausgabe (Structured Output)](https://broadrouter.com/de/glossary/structured-output/)

Strukturierte Ausgabe (Structured Output) ist eine Funktion von LLM-APIs, die die Antwort eines Modells auf ein vom Entwickler vorgegebenes Format beschränkt, meist ein JSON Schema, damit Code sie zuverlässig parsen kann. Sie ist strenger als der JSON-Modus, der gültiges JSON garantiert, aber keine bestimmte Struktur.

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Concurrency (Parallelität)](https://broadrouter.com/de/glossary/concurrency/)

Concurrency (Parallelität) ist die Zahl der Anfragen, die ein Client gleichzeitig offen hat. LLM-APIs begrenzen sie oft pro Schlüssel oder Plan, getrennt von den Anfragen pro Minute, weil jede offene Anfrage GPU-Kapazität belegt, bis ihre Antwort fertig ist.

[Pay-as-you-go](https://broadrouter.com/de/glossary/pay-as-you-go/)

Pay-as-you-go ist ein Preismodell, bei dem Sie nur für tatsächliche Nutzung zahlen, gemessen pro Einheit wie Tokens, Anfragen oder Audiominuten, ohne Abonnement oder Mindestabnahme. Die meisten LLM-APIs rechnen so ab, aus einem vorausbezahlten Guthaben oder per regelmäßiger Rechnung.

[Basis-URL (Base URL)](https://broadrouter.com/de/glossary/base-url/)

Eine Basis-URL ist die feste Stammadresse einer API, etwa https://api.example.com/v1, die ein Client vor jeden Endpoint-Pfad wie /chat/completions setzt. In OpenAI-kompatiblen SDKs lenkt eine geänderte Basis-URL, zusammen mit API-Schlüssel und Modell-ID, denselben Code zu einem anderen Anbieter.

[JSON Schema](https://broadrouter.com/de/glossary/json-schema/)

JSON Schema ist ein in JSON geschriebenes Vokabular, mit dem Sie die Struktur von JSON-Daten beschreiben und validieren: Typen, Pflichtfelder, erlaubte Werte und Verschachtelung. Die aktuelle Version ist 2020-12. LLM-APIs definieren damit Tool-Parameter und die genaue Struktur, der eine strukturierte Ausgabe folgen muss.

[LLM-Flatrate (Flat-rate LLM plan)](https://broadrouter.com/de/glossary/flat-rate-llm-plan/)

Eine LLM-Flatrate ist ein Plan, der für den Zugang zu einer Sprachmodell-API einen Festpreis pro Zeitraum, etwa pro Monat, berechnet statt pro Token. Solche Pläne begrenzen meist etwas anderes, etwa Parallelität, Geschwindigkeit, Modelle oder Nutzungsfenster. Die Limits zählen also so viel wie der Preis.

## Häufige Fragen

### Nehme ich @ai-sdk/openai oder @ai-sdk/openai-compatible?

Nutzen Sie @ai-sdk/openai-compatible für OpenAI-kompatible APIs von Drittanbietern. Es ruft den Chat-Completions-Endpoint auf, und genau den stellt BroadNet Inference bereit.

### Warum ist der generierte Text leer?

Reasoning zählt bei BroadNet zu max\_tokens. Ist maxOutputTokens klein, kann das Modell alles verbrauchen, bevor die Antwort beginnt. Erhöhen Sie den Wert oder setzen Sie reasoningEffort auf low.

### Wie bekomme ich beim Streaming die Token-Usage?

Setzen Sie includeUsage auf true, wenn Sie den Provider erstellen. Laut AI-SDK-Dokumentation fügt das den Streaming-Antworten Usage-Daten hinzu. Der Standardwert ist false.

### Brauche ich für jedes BroadNet-Modell eine eigene Einrichtung?

Nein. Ein Provider aus createOpenAICompatible deckt alle Modelle ab. Rufen Sie broadnet('model-id') oder broadnet.chatModel('model-id') mit einer beliebigen Chat-Modell-ID von BroadNet auf.

## Verwandte Anleitungen

-   [OpenAI Node.js SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-node-sdk/)
-   [Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/)
-   [Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference als eigenen Provider in opencode einrichten](https://broadrouter.com/de/guides/opencode-custom-provider/)
-   [Alle Tools, die mit BroadNet Inference funktionieren (auf Englisch)](https://broadrouter.com/integrations/): SDKs, Coding-Agenten, Chat-Oberflächen und Automatisierungstools, jeweils mit den genauen Einstellungen

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**Quellen**

-   [AI-SDK-Dokumentation, OpenAI-kompatible Provider (geprüft am 2026-11-14)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [AI-SDK-Dokumentation, Referenz zu generateText (geprüft am 2026-11-14)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, Paket @ai-sdk/openai-compatible (3.x, geprüft am 2026-11-14)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [API-Referenz von BroadNet Inference (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
