BroadRouter
Loslegen

Live, auf Anfrage, Forschung: einen Modellkatalog richtig lesen

Vom Team von BroadNet Inference · 7 Min. Lesezeit · Veröffentlicht · Aktualisiert

Ein aufrufbares Modell hat eine exakte API-ID, einen veröffentlichten Preis und den Status live auf der Preisliste oder im Preis-Feed des Anbieters. Modelle auf Anfrage brauchen eine Anfrage und meist eine private Modell-ID. Forschungseinträge dokumentieren, was der Anbieter getestet hat, und sind nicht aufrufbar. Lesen Sie Feed und API-Referenz und bestätigen Sie mit einer Anfrage.

Anbieterkataloge mischen auf einer Seite drei Arten von Einträgen: Modelle, die Sie jetzt aufrufen können, Modelle, die Sie anfragen können, und Modelle, die der Anbieter nur getestet hat. In einer Tabelle sehen sie gleich aus. Wenn Sie Code dagegen schreiben, sind sie grundverschieden. Dieser Beitrag zeigt, wie Sie sie unterscheiden, am Beispiel des Katalogs von BroadNet. BroadRouter ist die eigene Website von BroadNet; wir haben daher jede hier zitierte BroadNet-Seite am 15. November 2026 geprüft und zitieren sie dort, wo es darauf ankommt, statt zu paraphrasieren.

Welche drei Arten von Katalogeinträgen gibt es?

Status Bedeutung Was Sie brauchen Wie Sie es aufrufen
Live Auf der öffentlichen Preisliste mit veröffentlichtem Preis Ein Konto und einen berechtigten Schlüssel Die öffentliche Modell-ID unter der öffentlichen Basis-URL
Auf Anfrage Der Anbieter kann es bereitstellen, aber nicht per Self-Service Eine Anfrage und eine Vereinbarung Meist eine private Modell-ID oder ein eigener Endpunkt
Forschung Getestet, gebenchmarkt, quantisiert oder ausgeschlossen Nichts; es ist nicht zu kaufen Gar nicht

Die Falle ist die dritte Zeile. Ein Anbieter, der seine Forschung ehrlich veröffentlicht, listet weit mehr Modelle, als er verkauft. Das ist eine nützliche Information darüber, wie er Modelle auswählt. Eine Aussage über Verfügbarkeit ist es nicht.

Wie zeigt der Katalog von BroadNet das?

Der Modellkatalog von BroadNet enthält alle drei auf einer Seite, in dieser Reihenfolge:

  1. “Live on the Inference API” (Übersetzung: live in der Inference API). Im Kasten steht: “These models are on the rate card today.” (Übersetzung: Diese Modelle stehen heute auf der Preisliste.)
  2. “Available on request” (Übersetzung: auf Anfrage verfügbar). Drei Einträge: ein Fine-Tune von Cohere Transcribe Arabic durch BroadNet, Qwen3-VL 30B-A3B Instruct und Qwen3-VL 8B Instruct. Auf ihren Modellseiten steht “private id issued per customer” (Übersetzung: private ID pro Kunde vergeben).
  3. “The catalogue” (Übersetzung: der Katalog). Jedes Modell, das BroadNet nach eigenen Angaben im Labor betrieben hat (rund 270, Stand September 2026), markiert als PROD (hat Live-Traffic getragen), SERVED, BENCH, QUANT, FT oder RULED OUT. Gruppiert ist es nach Sprachmodellen, Speech-to-Text, Text-to-Speech, OCR, Embeddings, Bild- und Videogenerierung und mehr.
  4. “Remote and API models benchmarked” (Übersetzung: gebenchmarkte Remote- und API-Modelle). In den Worten von BroadNet: “About 90 models we never ran on our hardware but pushed through our safety, routing and Arabic harnesses.” (Übersetzung: Rund 90 Modelle, die wir nie auf unserer Hardware betrieben, aber durch unsere Sicherheits-, Routing- und Arabisch-Testumgebungen geschickt haben.) Genannt werden Modelle von Anthropic, OpenAI, Google, Meta und anderen.

Nur die erste Gruppe ist mit einem Self-Service-Schlüssel aufrufbar. Die dritte und vierte Gruppe enthalten Text-to-Speech-, Bildgenerierungs- und Embedding-Modelle, von denen die öffentliche API von BroadNet keines anbietet. Dass FLUX oder ein Claude-Modell in der Tabelle steht, sagt Ihnen, dass BroadNet es gemessen hat, nicht dass Sie ihm eine Anfrage schicken können. Die Gründe, die BroadNet für die abgelehnten Modelle nennt, fasst Von BroadNet ausgeschlossene Modelle zusammen, die Hardware-Seite GPU-Hardware und Serving von BroadNet.

Welche Quelle ist die Preisliste?

Die maschinenlesbare. BroadNet veröffentlicht pricing.json, die die API-Referenz als “the same file our pricing and plans pages are built from” (Übersetzung: dieselbe Datei, aus der unsere Preis- und Planseiten erzeugt werden) beschreibt. Für jedes Modell enthält sie:

  • id: den exakten String, der als model zu senden ist;
  • status: live oder on_request;
  • paid_only: true, wenn das Modell erst nach einer qualifizierenden Aufladung freigeschaltet wird;
  • Preise, context_length, modalities für Chat-Modelle und languages für Transkription.

Am 15. November 2026 listete der Feed sechs Live-Modelle: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, Gemma 4 VL 26B, BroadNet Transcribe Arabic und BroadNet Transcribe. Die Modelltabelle der API-Referenz listete dieselben sechs IDs.

Der Kasten “Live on the Inference API” auf der Katalogseite zeigte am selben Tag vier davon: GLM 5.3 und Qwen3.8 27B fehlten, und das war auch bei unserer erneuten Prüfung am 16. November 2026 noch so. (Qwen3.8 27B tauchte weiter unten in der Labortabelle als SERVED auf.) Wir wissen nicht, welche Seite hinterherhinkt, und konnten es nicht mit einer bezahlten Anfrage bestätigen. Das ist auf den Websites aller Anbieter normal, und genau deshalb sollten Sie für das, was Sie senden, Feed und API-Referenz lesen und dann testen.

Kann man GET /v1/models trauen?

Prüfen Sie, was es beim jeweiligen Anbieter bedeutet. Das OpenAI Python SDK dokumentiert models.list() mit “the currently available models” (Übersetzung: die aktuell verfügbaren Modelle), und viele Tools rufen es auf, um eine Modellauswahl zu befüllen. Andere OpenAI-kompatible APIs implementieren es anders.

Die API-Referenz von BroadNet sagt: “Use the model IDs in this reference for direct API requests. GET /v1/models supplies public catalogue metadata for external monitors.” (Übersetzung: Verwenden Sie für direkte API-Anfragen die Modell-IDs aus dieser Referenz. GET /v1/models liefert öffentliche Katalog-Metadaten für externe Monitore.) Als wir den Endpunkt am 15. November 2026 ohne Schlüssel aufriefen, lieferte er nur broadnet/cohere-transcribe-arabic und broadnet/cohere-transcribe, jeweils mit Feldern wie input_modalities, capacity und einem auf false gesetzten is_ready-Flag. Keines der vier Live-Chat-Modelle war aufgeführt. Ein Tool, das seine Modellliste nur aus /v1/models aufbaut, würde für BroadNet also keine Chat-Modelle zeigen; tragen Sie die Modell-ID von Hand ein, wie es der Beitrag zu OpenAI-kompatiblen Basis-URLs für andere Clients beschreibt.

Wie prüft man den Status im Code?

Dieses Skript liest den öffentlichen Feed von BroadNet und /v1/models, beides ohne Schlüssel, und gibt für jedes Modell Status und Zugang aus. Es lässt sich gefahrlos in CI ausführen, um zu bemerken, wenn ein Modell hinzukommt, auf „auf Anfrage“ wechselt oder eingestellt wird.

import json, urllib.request

FEED = "https://inference.broadnet.ai/pricing.json"
MODELS = "https://inference.broadnet.ai/v1/models"

def get(url):
    req = urllib.request.Request(url, headers={"User-Agent": "catalogue-check/1.0"})
    with urllib.request.urlopen(req, timeout=30) as r:
        return json.load(r)

feed = get(FEED)
assert feed["schema_version"] == 1, "unknown feed schema: re-read the docs before trusting it"
print(f"prices updated {feed['updated']}")
for m in feed["models"]:
    status = m.get("status", "live")                       # docs: live or on_request
    access = "top-up required" if m.get("paid_only") else "open from sign-up"
    inputs = ", ".join(m.get("modalities", [])) or f"audio, {m.get('language_count', len(m.get('languages', [])))} language(s)"
    print(f"{status:10} {m['id']:36} {m['kind']:5} {inputs:22} {access}")

listed = {m["id"] for m in get(MODELS)["data"]}
callable_ = {m["id"] for m in feed["models"] if m.get("status", "live") == "live"}
print("live in the feed but not in /v1/models:", sorted(callable_ - listed))
print("in /v1/models but not live in the feed:", sorted(listed - callable_))

Live am 15. November 2026 ausgeführt, gab es Folgendes aus:

prices updated 2026-11-14
live       broadnet/deepseek-v4.1-flash         chat  text, image            top-up required
live       broadnet/glm-5.3                     chat  text                   top-up required
live       broadnet/qwen3.8-27b                 chat  text, image            top-up required
live       broadnet/gemma-4-26b-a4b             chat  text, image            open from sign-up
live       broadnet/cohere-transcribe-arabic    stt   audio, 1 language(s)   open from sign-up
live       broadnet/cohere-transcribe           stt   audio, 14 language(s)  open from sign-up
live in the feed but not in /v1/models: ['broadnet/deepseek-v4.1-flash', 'broadnet/gemma-4-26b-a4b', 'broadnet/glm-5.3', 'broadnet/qwen3.8-27b']
in /v1/models but not live in the feed: []

“Open from sign-up” (Übersetzung: ab Registrierung offen) ist die Bezeichnung unseres Skripts für eine Zeile ohne paid_only, kein Feld im Feed; bei BroadNet heißt das, dass das Startguthaben von $5 das Modell abdeckt. Die Prüfung von schema_version folgt der Doku, laut der sich die Version nur ändert, wenn ein bestehendes Feld seine Bedeutung ändert, und neue Felder jederzeit hinzukommen können.

Die letzte Prüfung ist eine Anfrage. Ein Aufruf nach dem cURL-Schnellstart mit der Modell-ID und einem kurzen Prompt liefert 200, wenn das Modell für Ihren Schlüssel live ist, und andernfalls einen Fehler mit maschinenlesbarem Code.

Wie sieht „auf Anfrage“ in der Praxis aus?

Die Seiten der Modelle auf Anfrage bei BroadNet zeigen, was sich ändert. Die Seite zu Qwen3-VL 30B-A3B etwa hat statt eines Preises einen Button “Ask for access” (Übersetzung: Zugang anfragen), führt die Modell-ID als “private id issued per customer” (Übersetzung: private ID pro Kunde vergeben) und nennt 16K Tokens Kontext. Der Fine-Tune von Cohere Transcribe Arabic durch BroadNet funktioniert genauso. Die API-Referenz von BroadNet erklärt den Mechanismus: Private Endpunkte, die arabischen Fine-Tunes und andere Modelle auf Anfrage “are reached with a private ID issued with the endpoint.” (Übersetzung: werden über eine private ID erreicht, die mit dem Endpunkt ausgegeben wird.)

Drei Folgen für Ihren Code und Ihre Planung:

  • Keine öffentliche ID zum Fest-Einprogrammieren. Sie können die Anfrage erst schreiben, wenn der Anbieter die ID ausgibt; halten Sie die Modell-ID also in der Konfiguration, nicht im Code.
  • Andere Limits. Ein Deployment auf Anfrage kann ein anderes Kontextfenster, ein anderes Rate Limit und eine andere Region haben als alles auf der öffentlichen Preisliste. Lassen Sie sich diese schriftlich geben.
  • Andere Bedingungen. Laut den Nutzungsbedingungen von BroadNet gelten für private Endpunkte und reservierte Kapazität eine separate schriftliche Vereinbarung. Preise, Verfügbarkeit und Verarbeitungsort ergeben sich aus dieser Vereinbarung, nicht aus den öffentlichen Seiten.

Eine Prüfung in fünf Schritten, bevor Sie auf ein Modell setzen

Führen Sie sie für jedes Modell durch, von dem Sie abhängen wollen, bei jedem Anbieter:

  1. Finden Sie es auf der Preisliste oder im Feed, nicht nur in einem Blogbeitrag, auf einer Modellseite oder in einer Benchmark-Tabelle.
  2. Kopieren Sie die exakte ID aus der API-Referenz. Namen driften: Versionssuffixe, Varianten wie „Flash“ und „Pro“ und Anbieterpräfixe wie broadnet/ zählen alle.
  3. Prüfen Sie den Zugang. Deckt Ihr Schlüssel oder Plan das Modell ab? Bei BroadNet brauchen paid_only-Modelle eine Aufladung, und die DeepSeek-Session-Pläne decken nur DeepSeek V4.1 Flash ab.
  4. Prüfen Sie die benötigte Fähigkeit für genau dieses Modell, etwa Bilder, Tools oder strukturierte Ausgabe, in der Doku. Eine Fähigkeit eines Modells sagt nichts über das nächste.
  5. Senden Sie eine Anfrage mit einem realistischen Prompt und bewahren Sie die Request-ID der Antwort auf. Wiederholen Sie das in CI, wenn das Modell kritisch ist.

Was sollten Sie nie aus einem Katalog ableiten?

  • Dass ein gebenchmarktes Modell zu kaufen ist. Eine Zeile in einer Forschungstabelle ist eine Messung.
  • Dass „auf Anfrage“ bald heißt. Es heißt ein Gespräch. BroadNet behandelt Modelle auf Anfrage, private Endpunkte und regionale Verarbeitung als Anfragen über die Kontaktseite; siehe einen privaten Endpunkt planen.
  • Dass eine Fähigkeit für jedes Modell gilt. Laut Doku von BroadNet wird Vision “offered only where the model row explicitly says images or vision” (Übersetzung: nur angeboten, wo die Modellzeile ausdrücklich Bilder oder Vision nennt), und Tool-Calling ist nur für GLM 5.3 und Qwen3.8 27B dokumentiert. Text, Sprache oder Vision ordnet Aufgaben den Modellen zu, die den jeweiligen Input annehmen.
  • Dass die heutige Liste dauerhaft ist. Die Nutzungsbedingungen von BroadNet (§7.4) besagen, dass BroadNet ein Modell oder eine Funktion ändern, aussetzen oder einstellen kann und, wo möglich, auf der Katalogseite mit angemessener Frist darauf hinweist. Self-Service hat keine Verfügbarkeitszusage; Service-Levels gibt es nur in einer separaten schriftlichen Vereinbarung.
  • Dass ein Modellname überall dasselbe Modell bedeutet. Die Remote-Liste von BroadNet enthält „GLM 5.3 Flash“, und das ist nicht das broadnet/glm-5.3 auf der Preisliste. Kopieren Sie immer die exakte ID.

Dieselben Prüfungen gelten bei jedem Anbieter. Unsere Checkliste zur Anbieterwahl enthält die übrigen Fragen.

Wo BroadNet Inference ins Bild passt

Die Live-Modelle und Preise von BroadNet Inference stehen auf unseren Seiten Modelle und Preise, erzeugt aus derselben pricing.json. Modelle, die BroadNet auf Anfrage anbietet, sind separat unter auf Anfrage aufgeführt. Der Forschungskatalog auf broadnet.ai lohnt die Lektüre, um zu verstehen, wie BroadNet Modelle auswählt, und wegen der veröffentlichten Gründe für manche Ablehnungen; behandeln Sie aber jede Zeile darin als Beleg, nicht als Angebot.

Häufige Fragen

Woran erkenne ich, ob ich ein Modell über eine API aufrufen kann?

Es braucht eine exakte API-ID, einen veröffentlichten Preis und den Status live auf der Preisliste oder im maschinenlesbaren Preis-Feed des Anbieters, und Ihr Schlüssel muss dafür freigeschaltet sein. Senden Sie dann eine kleine Anfrage. Eine 200-Antwort mit dieser Modell-ID ist der Beweis.

Was bedeutet „auf Anfrage verfügbar“?

Der Anbieter kann das Modell für Sie bereitstellen, aber nicht über einen Self-Service-Schlüssel. Sie stellen eine Anfrage, vereinbaren Bedingungen und erhalten meist eine private Modell-ID oder einen eigenen Endpunkt. Bei BroadNet werden Modelle auf Anfrage über eine private ID erreicht, die mit dem Endpunkt ausgegeben wird.

Warum kann ich ein Modell aus einer Forschungs- oder Benchmark-Tabelle nicht aufrufen?

Weil die Tabelle dokumentiert, was der Anbieter getestet hat, nicht was er verkauft. Der Katalog von BroadNet listet gebenchmarkte Text-to-Speech-, Bildgenerierungs- und Embedding-Modelle sowie rund 90 Remote-Modelle, die laut BroadNet nie auf eigener Hardware liefen. Keines davon hat eine öffentliche API-ID oder einen Preis.

Listet GET /v1/models jedes Modell, das ich nutzen kann?

Nicht immer. In der OpenAI API listet es die aktuell verfügbaren Modelle, andere Anbieter implementieren es aber anders. Am 15. November 2026 lieferte der Endpunkt von BroadNet nur die beiden Transkriptionsmodelle, und laut Doku liefert er Katalog-Metadaten für Monitore; nutzen Sie die IDs aus der API-Referenz.

Welche BroadNet-Modelle brauchen eine Aufladung?

In der pricing.json vom 15. November 2026 hatten DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B paid_only gesetzt, sie werden also nach einer qualifizierenden Aufladung freigeschaltet. Gemma 4 VL 26B und beide Transkriptionsmodelle waren ab der Registrierung mit dem Startguthaben nutzbar.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen