BroadRouter
Loslegen

Basis-URLs OpenAI-kompatibler APIs: 14 Anbieter geprüft

Vom Team von BroadNet Inference · 6 Min. Lesezeit · Veröffentlicht

Bei einer OpenAI-kompatiblen API behalten Sie das OpenAI-SDK und ändern zwei Dinge: base_url und den API-Schlüssel. Die Basis-URL unterscheidet sich je Anbieter, zum Beispiel https://api.groq.com/openai/v1 für Groq, https://openrouter.ai/api/v1 für OpenRouter und https://inference.broadnet.ai/v1 für BroadNet Inference. Pfade, Modell-IDs und unterstützte Parameter weichen trotzdem ab, testen Sie also eine Anfrage, bevor Sie wechseln.

Eine OpenAI-kompatible API akzeptiert dieselbe Anfrageform wie die API von OpenAI. Die offiziellen OpenAI-SDKs funktionieren also, sobald Sie base_url und den API-Schlüssel ändern. Schwierig ist nur, dass jeder Anbieter seinen Endpoint an einer leicht anderen Stelle hat. Die Tabelle unten listet 14 Anbieter, jeweils am 15. November 2026 aus der Dokumentation des Anbieters selbst gelesen.

Wie lautet die Basis-URL der einzelnen OpenAI-kompatiblen Anbieter?

Anbieter Basis-URL Was die Doku zur OpenAI-Kompatibilität listet Eigenheiten laut Doku
OpenAI https://api.openai.com/v1 Alles; sie ist die Referenz Standard des SDK, wenn nichts gesetzt ist
Anthropic https://api.anthropic.com/v1/ Chat Completions „Primarily intended to test and compare model capabilities“ (Übersetzung: „vor allem zum Testen und Vergleichen von Modellfähigkeiten gedacht“); strict wird ignoriert; Audio- und Datei-Inputs liefern 400
Google Gemini https://generativelanguage.googleapis.com/v1beta/openai/ Chat Completions, Embeddings, Bildgenerierung, Modelle, Batch Unterstützung der OpenAI-Bibliothek „still in beta“ (Übersetzung: „noch in der Beta“); keine Responses API aufgeführt
DeepSeek https://api.deepseek.com Chat Completions Kein Versionspfad; eigene URL im Anthropic-Format unter /anthropic
Groq https://api.groq.com/openai/v1 Chat Completions, Responses API; Hinweise zur Audio-Transkription logprobs, logit_bias, top_logprobs, messages[].name liefern 400; n muss 1 sein; keine Transkripte als srt oder vtt
Together AI https://api.together.ai/v1 Chat, Completions, Bilder, Sprachausgabe, Transkriptionen, Modelle, Responses Inferenz nur in den USA unter https://us-api.together.ai/v1; Embeddings nur auf dedizierten Endpoints
Fireworks AI https://api.fireworks.ai/inference/v1 Chat Completions Modell-IDs wie accounts/fireworks/models/…; senkt max_tokens passend zum Kontext, statt einen Fehler zu liefern, sofern nicht anders eingestellt
DeepInfra https://api.deepinfra.com/v1/openai Chat Completions; Responses-Clients nutzen dieselbe Basis Embeddings, Bilder und Sprachausgabe auf einer separaten Seite dokumentiert
Mistral AI https://api.mistral.ai/v1 POST /v1/chat/completions Die API-Referenz bezeichnet sich nicht als OpenAI-kompatibel; testen Sie, bevor Sie sich darauf verlassen
OpenRouter https://openrouter.ai/api/v1 Chat Completions Optionale Header HTTP-Referer und X-OpenRouter-Title für die eigenen Rankings
xAI https://api.x.ai/v1 Responses API Der Leitfaden sagt „The Responses API is the preferred way of interacting with our models“ (Übersetzung: „Die Responses API ist der bevorzugte Weg, mit unseren Modellen zu interagieren“)
Z.ai (GLM) https://api.z.ai/api/paas/v4/ Chat Completions Pfad v4, nicht v1
Alibaba Model Studio https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapur) Chat Completions Workspace-ID im Hostnamen; ein Schlüssel funktioniert nur in der Region, in der er erstellt wurde, sonst 401
BroadNet Inference https://inference.broadnet.ai/v1 Chat Completions, Audio-Transkriptionen Modell-IDs beginnen mit broadnet/; siehe unten

Alibaba listet außerdem einen Endpoint in den USA (Virginia) auf us-east-1. Die Zeile für Peking auf derselben Seite zeigt den Host in Singapur, während anderer Text auf der Seite cn-beijing nennt; bestätigen Sie einen Endpoint in China daher in der Konsole. Die Tabelle ist eine Momentaufnahme. Endpoints ändern sich: Die Doku von Anthropic und die von Google wurden beide auf neue Adressen umgeleitet, während wir sie geprüft haben.

Preise dieser Anbieter finden Sie auf den Seiten LLM-API-Preise nach Anbieter.

Wie setzen Sie die Basis-URL im Code?

In Python übergeben Sie base_url an den Client:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)

In Node heißt die Option baseURL:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

Oder Sie setzen sie einmal für jedes Tool, das die offiziellen SDKs nutzt. Im Quellcode des Node SDK ist baseURL standardmäßig process.env['OPENAI_BASE_URL'], sonst https://api.openai.com/v1; das Python-README dokumentiert dieselbe Variable:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"

Vollständige Anleitungen: OpenAI Python SDK, OpenAI Node SDK. Was eine Basis-URL ist und warum Tools danach fragen, erklärt das Glossar.

Wie testen Sie eine neue Basis-URL mit curl?

Senden Sie eine winzige Anfrage, bevor Sie Anwendungscode ändern:

curl https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'

Tauschen Sie Basis-URL, Schlüssel und Modell gegen die des Anbieters aus, den Sie testen. Ein 200 mit einem choices-Array bedeutet, dass Pfad, Schlüssel und Modell-ID stimmen. Ein 404 heißt meist, dass der Pfad falsch ist; ein 401, dass Schlüssel oder Region falsch sind; ein 400 nennt oft den Parameter, den der Anbieter ablehnt. Der curl-Schnellstart hat weitere Beispiele, und der API-Request-Builder schreibt die Versionen für curl, Python und Node für Sie.

Welche Fehler passieren beim Ändern von base_url häufig?

  • Den vollständigen Endpoint einfügen. Das SDK hängt /chat/completions an. Eine Basis-URL, die schon darauf endet, ergibt /chat/completions/chat/completions und einen 404.
  • /v1 aus Gewohnheit ergänzen oder weglassen. Die dokumentierte Basis von DeepSeek hat kein /v1, die von Z.ai endet auf /v4/ und die von Gemini auf /v1beta/openai/. Kopieren Sie den exakten String des Anbieters.
  • OpenAI-Modellnamen beibehalten. Namen wie gpt-… scheitern anderswo. Jeder Anbieter hat sein eigenes Format: deepseek-ai/DeepSeek-V4-Flash-0731 bei DeepInfra, accounts/fireworks/models/… bei Fireworks, broadnet/deepseek-v4.1-flash bei BroadNet.
  • Parameter senden, die der Anbieter ablehnt oder ignoriert. Groq liefert 400 für logprobs; die Schicht von Anthropic ignoriert seed, logit_bias und reasoning_effort stillschweigend. Ein stillschweigend ignorierter Parameter ist schlimmer als ein Fehler, weil Sie nichts davon erfahren.
  • Dieselben Antwortfelder voraussetzen. Die Schicht von Anthropic liefert ein leeres prompt_tokens_details, die Angabe gecachter Tokens fehlt also. Fireworks liefert die Usage beim Streaming im letzten Chunk, was die Typen des SDK womöglich nicht deklarieren.
  • Voraussetzen, dass jeder Endpoint existiert. „OpenAI-kompatibel“ heißt meist Chat Completions. Embeddings, Audio, Bildgenerierung und die Responses API sind eigene Fragen, wie die Tabelle zeigt.
  • Regionen vermischen. Schlüssel von Alibaba sind an eine Region gebunden, und Together bietet einen separaten Host nur für die USA. Ein gültiger Schlüssel auf dem falschen Host scheitert trotzdem.

Die vollständige Liste für vor dem Wechsel steht in der Checkliste für die Migration zu einer OpenAI-kompatiblen API.

Welche Endpoints unterstützt BroadNet Inference?

Die API-Referenz von BroadNet dokumentiert zwei Modell-Endpoints auf https://inference.broadnet.ai/v1, dazu GET /v1/models für Katalog-Metadaten:

Endpoint Modelle
POST /v1/chat/completions DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B
POST /v1/audio/transcriptions BroadNet Transcribe Arabic, BroadNet Transcribe (14 Sprachen)

Was das in der Praxis bedeutet:

  • Keine Embeddings, keine Bildgenerierung und keine Responses API sind dokumentiert. Ein Tool, das eines davon braucht, benötigt dafür einen zweiten Anbieter.
  • Tool Calling und strukturierte Ausgabe sind für GLM 5.3 und Qwen3.8 27B dokumentiert.
  • Bilder werden als data:-URLs in image_url-Inhaltsteilen übergeben, bei DeepSeek V4.1 Flash, Qwen3.8 27B und Gemma 4 VL 26B.
  • Reasoning-Modelle (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) rechnen das Reasoning auf max_tokens an. Lassen Sie 1.000 Tokens oder mehr Spielraum oder setzen Sie reasoning_effort auf low, wie die Doku empfiehlt; siehe warum Reasoning-Modelle leere Antworten liefern.
  • Eine Modellliste kam zurück, als wir am 15. November 2026 GET /v1/models aufgerufen haben. Sie steht aber nicht in der Liste der dokumentierten Endpoints, bauen Sie also nicht darauf.
  • Die Limits für Pay-as-you-go-Schlüssel liegen bei 30 Anfragen pro Minute und 4 gleichzeitig laufenden Anfragen.

Preise pro 1 Mio. Tokens: DeepSeek V4.1 Flash $0.175 Input und $0.52 Output, Gemma 4 VL 26B $0.10 und $0.22. DeepSeek V4.1 Flash gibt es außerdem als Flatrate-Plan für $60 pro Monat und Session, eine Anfrage gleichzeitig.

Sollten Sie mehrere Anbieter über eine Basis-URL leiten?

Ruft Ihre App mehrere dieser Anbieter auf, gibt ein Proxy wie LiteLLM Ihrem Code eine einzige Basis-URL und ordnet die Modellnamen dem jeweiligen Upstream zu. Die Zuordnung legen Sie fest; nichts wechselt den Anbieter für Sie, solange Sie nicht selbst Fallbacks konfigurieren. Failover für LLM-APIs zeigt, wie das im Client oder in LiteLLM geht. Der Leitfaden zum LiteLLM-Proxy zeigt einen Eintrag für BroadNet. Hintergrund zum Begriff finden Sie unter OpenAI-kompatible API.

Wo BroadNet Inference hineinpasst

BroadNet passt gut, wenn Ihr Code schon Chat Completions spricht und Sie offene Modelle, Speech-to-Text für Arabisch und weitere Sprachen oder eine DeepSeek-Session zum Festpreis über einen Schlüssel möchten. Es passt nicht, wenn Sie Embeddings, die Responses API oder Bildgenerierung vom selben Anbieter brauchen; Together AI und Gemini dokumentieren mehr von der OpenAI-Schnittstelle. Gleichen Sie unsere Tabelle vor dem Release mit der Doku jedes Anbieters ab, denn diese URLs und Endpoint-Listen ändern sich.

Häufige Fragen

Wie lautet die Basis-URL der OpenAI API?

https://api.openai.com/v1. Das offizielle Node SDK nutzt sie, wenn Sie weder baseURL noch die Umgebungsvariable OPENAI_BASE_URL setzen.

Muss base_url auf /v1 oder auf /chat/completions enden?

Lassen Sie sie dort enden, wo die Doku des Anbieters sie enden lässt, meist bei /v1. Das SDK hängt /chat/completions selbst an; eine Basis-URL, die schon auf /chat/completions endet, führt zu einem 404.

Kann ich die Basis-URL über eine Umgebungsvariable setzen?

Ja. Beide offiziellen OpenAI-SDKs lesen OPENAI_BASE_URL, und viele darauf aufbauende Tools ebenfalls. Setzen Sie dazu OPENAI_API_KEY und prüfen Sie die Doku jedes Tools, denn manche verwenden eigene Variablennamen.

Ist die Claude API OpenAI-kompatibel?

Teilweise. Anthropic bietet https://api.anthropic.com/v1/ für das OpenAI SDK an, sagt aber, dass die Schicht vor allem zum Testen und Vergleichen von Modellen gedacht ist und nicht als langfristiger Weg für die Produktion. Sie ignoriert strict bei Tools und lehnt Audio- und Datei-Inputs ab.

Welche Endpoints unterstützt BroadNet Inference?

Die Doku listet POST /v1/chat/completions und POST /v1/audio/transcriptions. Embeddings, Bildgenerierung und die Responses API sind nicht aufgeführt.

Warum funktioniert meine Anfrage bei OpenAI, aber nicht bei einem anderen Anbieter?

Meist liegt es an einer Modell-ID im falschen Format oder an einem Parameter, den der Anbieter ablehnt. Groq zum Beispiel gibt 400 für logprobs, logit_bias, top_logprobs und messages[].name zurück. Entfernen Sie optionale Parameter und versuchen Sie es erneut mit der exakten Modell-ID des Anbieters.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen