BroadRouter
Loslegen

Langflow mit BroadNet Inference verbinden

Aktualisiert

Fügen Sie in Langflow die Komponente OpenAI aus dem OpenAI-Bundle hinzu. Tippen Sie unter Model Name eine BroadNet-ID wie broadnet/glm-5.3 ein, fügen Sie Ihren BroadNet-Schlüssel ein und setzen Sie in den erweiterten Einstellungen OpenAI API Base auf https://inference.broadnet.ai/v1. Nutzen Sie nicht den Model Provider OpenAI Compatible: Er liest Modelle aus /v1/models, und BroadNet listet dort nur die Transkriptionsmodelle.

Langflow ist ein quelloffener visueller Builder für Agenten und RAG-Flows. Seine Komponente OpenAI hat ein Feld OpenAI API Base, mit dem man laut Komponente selbst „use other APIs“ (Übersetzung: andere APIs nutzen) kann. BroadNet Inference stellt unter https://inference.broadnet.ai/v1 Chat Completions bereit, also funktioniert diese Komponente mit einer eingetippten BroadNet-Modell-ID. BroadRouter ist die Website von BroadNet selbst; die Anleitung folgt der Langflow-Dokumentation 1.13.x und dem Quellcode der Komponente in v1.13.2.

Einrichtung

  1. Komponente hinzufügen. Öffnen Sie in einem Flow das Komponenten-Panel und fügen Sie OpenAI aus dem OpenAI-Bundle hinzu. Langflow 1.13.2 installiert dieses Bundle mit dem Hauptpaket.

  2. Model Name. Klicken Sie in das Feld und tippen Sie broadnet/glm-5.3 ein. Es nimmt eigene Werte an, Sie sind also nicht auf die OpenAI-Modelle der Liste beschränkt.

  3. OpenAI API Key. Fügen Sie Ihren BroadNet-Schlüssel ein oder wählen Sie eine globale Variable, die ihn enthält.

  4. Erweiterte Einstellungen. Öffnen Sie die Controls der Komponente und setzen Sie:

    Feld Wert
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. Ausführen. Verbinden Sie Chat Input und Chat Output, öffnen Sie den Playground und senden Sie eine Nachricht. Kommt eine Antwort, stimmen die Einstellungen.

Zwei Langflow-Prüfungen, die BroadNet blockieren können

In Langflow 1.13 ist der SSRF-Schutz standardmäßig aktiv. Zwei Regeln sind relevant:

  • Schlüssel aus der Serverumgebung. Stammt der API-Schlüssel aus der Umgebung des Servers (etwa eine globale Variable, die aus einer Umgebungsvariable geladen wird), sendet Langflow ihn nicht an einen anderen als den Standard-Endpoint, solange der Host nicht auf der Allowlist steht. Der Betreiber setzt:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    Ein direkt in die Komponente eingetippter Schlüssel ist davon nicht betroffen.

  • Private Adressen. Loopback- und private IPs sind gesperrt, sofern sie nicht in LANGFLOW_SSRF_ALLOWED_HOSTS stehen. BroadNet ist ein öffentlicher HTTPS-Host; das spielt also nur eine Rolle, wenn Sie über einen lokalen Proxy gehen.

Warum nicht der Provider OpenAI Compatible?

Langflow 1.13 hat unter Settings → Model Providers auch einen Model Provider OpenAI Compatible. Laut Dokumentation prüft er die Verbindung über die Route /v1/models des Endpoints und bietet die gefundenen Modelle an. Bei unserer Prüfung am 16. November 2026 listete BroadNets /v1/models nur broadnet/cohere-transcribe-arabic und broadnet/cohere-transcribe, daher lassen sich die Chat-Modelle dort nicht auswählen. Der eingetippte Modellname der OpenAI-Komponente umgeht das.

Welches Modell passt?

Flow Modell
Agent-Komponente mit Tools broadnet/glm-5.3
Flows mit Bildern oder arabischem Text, mit Tools broadnet/qwen3.8-27b
Flows mit langen Dokumenten, Plan mit Pauschalpreis broadnet/deepseek-v4.1-flash
Langflow mit dem Startguthaben ausprobieren broadnet/gemma-4-26b-a4b (Kontext von 32.768 Token)

Die BroadNet-Dokumentation nennt Tools und strukturierte Ausgabe nur für GLM 5.3 und Qwen3.8 27B. Der JSON Mode der Komponente sendet response_format: {"type": "json_object"}; nutzen Sie ihn mit diesen beiden Modellen. Preise aller Modelle.

So haben wir das getestet

Die Langflow-Oberfläche haben wir nicht betrieben. Am 15. November 2026 haben wir lfx 1.13.2 und das Bundle lfx-openai installiert, dessen OpenAI-Komponentendatei dem Quellcode von v1.13.2 entspricht, und die Komponente in Python gegen einen lokalen Mock-Server gebaut, der das Chat-Completions-Format von BroadNet spricht. Mit eingetipptem Schlüssel und für den lokalen Mock gesetztem LANGFLOW_SSRF_ALLOWED_HOSTS ging die Anfrage an /v1/chat/completions, mit unveränderter Modell-ID broadnet/glm-5.3, einem Bearer-Schlüssel, temperature: 0.1 und einem seed. Der Wert von Max Tokens wurde als max_completion_tokens gesendet; die API-Referenz von BroadNet beschreibt max_tokens. Ein aus der Serverumgebung übernommener Schlüssel wurde abgelehnt, bis wir zusätzlich LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS gesetzt hatten. Wir hatten keinen BroadNet-Schlüssel und haben daher keine echte Modellausgabe getestet.

Fehlerbehebung

  • „Refusing to send a server-provisioned API credential“. Tragen Sie inference.broadnet.ai in LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS ein oder tippen Sie den Schlüssel in die Komponente ein.
  • 401. Der Schlüssel ist falsch, abgelaufen oder sein Kontingent aufgebraucht.
  • 404. OpenAI API Base muss auf /v1 enden, und Model Name muss exakt der BroadNet-ID entsprechen. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt nur broadnet/gemma-4-26b-a4b und die zwei Transcribe-Modelle ab.
  • Leere Antworten. Bei DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B zählt das Reasoning zum Ausgabelimit. Erhöhen Sie Max Tokens. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende. Siehe Fehlercodes und Retries.

Häufige Fragen

Warum zeigt der Provider OpenAI Compatible weder GLM 5.3 noch Qwen an?

Laut Langflow-Dokumentation ermittelt dieser Provider die Modelle über die Route /v1/models des Endpoints. Bei unserer Prüfung am 16. November 2026 listete BroadNets /v1/models nur die zwei Transkriptionsmodelle, daher tauchen die Chat-Modelle nie auf. Nutzen Sie stattdessen die OpenAI-Komponente mit eingetipptem Modellnamen.

Kann ich in der OpenAI-Komponente ein Modell eintippen, das nicht in der Liste steht?

Ja. Model Name ist eine Combobox, und laut den Input-Definitionen von Langflow heißt das, dass eigene Werte erlaubt sind. Tippen Sie die vollständige BroadNet-ID ein, etwa broadnet/glm-5.3.

Warum weigert sich Langflow, meinen Schlüssel an BroadNet zu senden?

Langflow 1.13 sendet einen API-Schlüssel aus der Serverumgebung nur dann an einen eigenen Endpoint, wenn der Betreiber den Host freigibt. Setzen Sie LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai oder fügen Sie den Schlüssel direkt in die Komponente ein.

Nutzt die OpenAI-Komponente von Langflow die Responses API?

Nein. Sie baut LangChains ChatOpenAI, das für normale Anfragen Chat Completions aufruft. In unserem Test ging der Aufruf an /v1/chat/completions.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen