Jedes Team, das auf LLMs aufbaut, trifft diese Entscheidung, oft ohne es zu merken: geschlossene Modelle, die Sie nur über die API eines Herstellers erreichen, oder Open-Weight-Modelle, deren Gewichte jeder herunterladen und betreiben kann. Die Wahl wirkt sich auf Ihre Rechnung aus, auf Ihren Datenpfad, auf die Stabilität Ihres Produkts und darauf, wie schwer ein Wechsel fällt.
Was bedeutet Open-Weight eigentlich?
Ein Open-Weight-Modell veröffentlicht seine trainierten Parameter. Sie oder jeder Anbieter können es betreiben. Das ist enger gefasst als Open Source: Trainingsdaten und die vollständige Trainings-Pipeline werden meist nicht veröffentlicht.
Die Lizenzen unterscheiden sich. Manche sind freizügig: OpenAIs Whisper etwa veröffentlicht Code und Gewichte unter der MIT-Lizenz. Andere beschränken die kommerzielle Nutzung, die Nutzerzahl oder Einsatzbereiche. Lesen Sie die Lizenz jedes Modells, bevor Sie darauf aufbauen.
Die Gewichte eines geschlossenen Modells bleiben beim Hersteller. Sie mieten den Zugang über seine API oder über Clouds, die der Hersteller lizenziert hat.
Open-Weight- und geschlossene Modelle im Vergleich
| Faktor | Open-Weight | Geschlossen |
|---|---|---|
| Spitzenqualität | Liegt Monate hinter der Spitze | Führt meist bei den schwersten Aufgaben |
| Preis pro Token | Oft niedriger; Hosts konkurrieren mit demselben Modell | Von einem Hersteller festgelegt |
| Wo es läuft | Eigene Server, gemietete GPU oder beliebiger Host | API des Herstellers oder lizenzierte Clouds |
| Datenschutzoptionen | Selbst hosten oder einen Host mit Zero Data Retention wählen | Bedingungen und Tarife des Herstellers |
| Versionsstabilität | Exakte Gewichte so lange festhalten, wie Sie wollen | Der Hersteller kündigt Versionen nach eigenem Zeitplan ab |
| Anpassung | Selbst feintunen oder quantisieren | Nur, was der Hersteller anbietet |
| Lock-in | Gering: mehrere Hosts betreiben dieselben Gewichte | Hoch: ein Hersteller pro Modell |
| Betrieb | Bei Ihnen, wenn Sie selbst hosten | Beim Hersteller |
Wie groß ist der Qualitätsabstand?
Kleiner als früher, aber vorhanden. Der AI Index 2025 von Stanford berichtete, dass der Vorsprung des besten geschlossenen Modells vor dem besten Open-Weight-Modell im Chatbot-Arena-Leaderboard von 8,04 % Anfang Januar 2024 auf 1,70 % bis Februar 2025 schrumpfte. Epoch AI schätzte am 29. Mai 2026, „the most capable open-weight models have lagged frontier closed models by an average of four months“ (Übersetzung: „die leistungsfähigsten Open-Weight-Modelle lagen im Schnitt vier Monate hinter den geschlossenen Spitzenmodellen“), gemessen auf seinem Epoch Capabilities Index.
In der Praxis:
- Klassifikation, Extraktion, Zusammenfassungen, Übersetzung, Routine-Chat: Open-Weight-Modelle sind meist gut genug und günstiger.
- Coding-Agenten und lange Dokumente: Es gibt starke Open-Weight-Optionen; testen Sie mit Ihren Repos. Siehe das beste offene Modell für Coding-Agenten.
- Das schwerste Reasoning und die neuesten Fähigkeiten: Geschlossene Modelle sind oft zuerst da.
Leaderboards sind Durchschnitte. Ihre 50 echten Testfälle sind der Benchmark, der zählt.
Welche drei Wege gibt es, ein Open-Weight-Modell zu betreiben?
| Option | Am besten, wenn | Achten Sie auf |
|---|---|---|
| Selbst hosten auf eigenen GPUs | Daten dürfen Ihr Netzwerk nicht verlassen; GPUs bleiben ausgelastet | Hardware, Treiber, Skalierung, Sicherheit, Upgrades |
| Dedizierte GPU mieten | Gleichmäßige Last, eigene Gewichte | Sie zahlen auch für Leerlaufstunden |
| Gehostete Open-Weight-API | Schwankender oder wachsender Traffic; schneller Start | Sie vertrauen der Datenspeicherung und Verfügbarkeit des Hosts |
Selbst hosten wirkt pro Token kostenlos, aber eine GPU kostet gleich viel, ob sie eine Anfrage pro Stunde bedient oder tausend. Es rechnet sich bei hoher, gleichmäßiger Auslastung. Darunter ist eine API mit Abrechnung pro Token oder ein Flatrate-Plan meist günstiger.
Was kostet ein Open-Weight-Modell pro Monat?
Preise pro Token für gehostete Open-Weight-Modelle lassen sich leicht berechnen. Für 100 Millionen Input- und 10 Millionen Output-Tokens im Monat mit DeepSeek V4.1 Flash über BroadNet:
100 x $0.175 + 10 x $0.52 pro Monat, vor jedem Cache-Rabatt.
Rechnen Sie dasselbe mit den veröffentlichten Preisen pro Million Ihres geschlossenen Anbieters und Ihren echten Token-Zahlen, oder beginnen Sie mit unserem Kostenvergleich der APIs von Open-Weight- und geschlossenen Modellen, der einen Workload auf GPT, Claude, Gemini, Grok und fünf offenen Modellen durchrechnet. Gecachter Input verändert das Ergebnis stark: Gecachte Tokens kosten bei diesem Modell $0.0055 pro Million. Der LLM-API-Kostenrechner erledigt das für jedes BroadNet-Modell, und die Tabelle der LLM-API-Preise zeigt, was andere Hosts für dieselben offenen Gewichte verlangen.
Warum ist Lock-in wichtiger, als es scheint?
Erhöht ein geschlossener Hersteller die Preise, ändert die Datenbedingungen oder kündigt das Modell ab, auf das Ihre Prompts abgestimmt sind, bleibt Ihnen nur, es hinzunehmen oder umzuschreiben. Mit einem Open-Weight-Modell können Sie dieselben Gewichte zu einem anderen Host oder ins eigene Haus verlegen und dasselbe Verhalten behalten.
Damit diese Option real bleibt:
- Rufen Sie Modelle über ein OpenAI-kompatibles SDK auf, mit Basis-URL und Modell-ID in der Konfiguration.
- Pflegen Sie ein Regressions-Testset und lassen Sie es bei jedem Anbieterwechsel laufen.
- Schalten Sie optional einen Router wie LiteLLM davor, sodass ein Wechsel eine Konfigurationsänderung ist.
Wie kombinieren Unternehmen offene und geschlossene Modelle?
Die meisten Unternehmen landen bei beiden:
- Leiten Sie volumenstarke, klar umrissene Aufgaben (Extraktion, Triage, Zusammenfassungen, Routineschritte von Agenten) an ein Open-Weight-Modell.
- Leiten Sie seltene, schwere Aufgaben an ein geschlossenes Spitzenmodell.
- Testen Sie jedes Quartal neu. Angesichts des Abstands, den Epoch misst, wandern Aufgaben mit der Zeit von der zweiten Liste auf die erste.
Wo BroadNet Inference ins Bild passt
BroadNet Inference ist eine gehostete Open-Weight-API: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B und der BroadNet-Build von Googles Gemma 4, dazu zwei Speech-to-Text-Modelle, alle über einen OpenAI-kompatiblen Endpoint. Laut seiner Datenschutzerklärung speichert es keine Prompts oder Ausgaben und nutzt Inferenzdaten nicht zum Trainieren, Fine-Tuning oder Evaluieren von Modellen. DeepSeek V4.1 Flash gibt es außerdem in Flatrate-Plänen von $1 pro Stunde bis $60 im Monat pro Session.
Geschlossene Modelle betreibt es nicht. Braucht eine Aufgabe GPT, Claude oder Gemini, nutzen Sie für diesen Weg die jeweiligen Hersteller und lassen den Rest auf offenen Gewichten. Um BroadNet mit anderen Anbietern abzuwägen, nutzen Sie die Checkliste mit 20 Punkten zur Anbieterwahl.
