Ogni team che costruisce su LLM fa questa scelta, spesso senza accorgersene: modelli chiusi raggiungibili solo tramite l’API di un fornitore, oppure modelli open-weight i cui pesi chiunque può scaricare ed eseguire. La scelta incide sulla bolletta, sul percorso dei dati, sulla stabilità del prodotto e su quanto è difficile andarsene.
Che cosa significa davvero open-weight?
Un modello open-weight pubblica i suoi parametri addestrati. Tu, o qualsiasi provider, potete eseguirlo. È un concetto più ristretto di open source: i dati di addestramento e l’intera pipeline di addestramento di solito non vengono rilasciati.
Le licenze variano. Alcune sono permissive: Whisper di OpenAI, per esempio, rilascia codice e pesi con licenza MIT. Altre limitano l’uso commerciale, il numero di utenti o gli ambiti d’uso. Leggi la licenza di ogni modello prima di costruirci sopra.
I pesi di un modello chiuso restano al fornitore. Ne noleggi l’accesso tramite la sua API, o tramite cloud a cui il fornitore ha concesso la licenza.
Modelli open-weight e chiusi a confronto
| Fattore | Open-weight | Chiusi |
|---|---|---|
| Qualità di punta | Indietro di qualche mese rispetto alla frontiera | Di solito in testa sui compiti più difficili |
| Prezzo per token | Spesso più basso; gli host competono sullo stesso modello | Lo fissa un solo fornitore |
| Dove gira | Sui tuoi server, su una GPU noleggiata o presso qualsiasi host | L’API del fornitore o cloud con licenza |
| Opzioni di privacy | Self-hosting, oppure un host con zero data retention | Le condizioni e i livelli del fornitore |
| Stabilità della versione | Blocchi i pesi esatti per tutto il tempo che vuoi | Il fornitore ritira le versioni secondo i suoi tempi |
| Personalizzazione | Fine-tuning o quantizzazione in autonomia | Solo ciò che offre il fornitore |
| Lock-in | Basso: diversi host servono gli stessi pesi | Alto: un fornitore per modello |
| Operatività | A carico tuo se fai self-hosting | A carico del fornitore |
Quanto è grande il divario di qualità?
Più piccolo di un tempo, ma reale. L’AI Index 2025 di Stanford ha riportato che il vantaggio del miglior modello chiuso sul miglior modello open-weight nella classifica Chatbot Arena è sceso dall’8,04% di inizio gennaio 2024 all’1,70% di febbraio 2025. Epoch AI ha stimato il 29 maggio 2026 che “the most capable open-weight models have lagged frontier closed models by an average of four months” (traduzione: «i modelli open-weight più capaci sono rimasti indietro rispetto ai modelli chiusi di frontiera in media di quattro mesi»), misurando sul suo Epoch Capabilities Index.
In pratica:
- Classificazione, estrazione, riassunti, traduzione, chat di routine: i modelli open-weight di solito bastano, e costano meno.
- Coding agent e documenti lunghi: esistono valide opzioni open-weight; provale sui tuoi repository. Vedi il miglior modello aperto per i coding agent.
- Il ragionamento più difficile e le capacità più nuove: spesso i modelli chiusi ci arrivano prima.
Le classifiche sono medie. Il benchmark che conta sono i tuoi 50 casi di test reali.
Quali sono i tre modi per usare un modello open-weight?
| Opzione | Ideale quando | Attenzione a |
|---|---|---|
| Self-hosting sulle tue GPU | I dati non devono lasciare la tua rete; le GPU restano occupate | Hardware, driver, scalabilità, sicurezza, aggiornamenti |
| Noleggio di una GPU dedicata | Carico costante, pesi personalizzati | Paghi anche le ore di inattività |
| API open-weight ospitata | Traffico a picchi o in crescita; avvio rapido | Ti fidi della conservazione dei dati e dell’uptime dell’host |
Il self-hosting sembra gratuito per token, ma una GPU costa uguale che serva una richiesta all’ora o mille. Conviene con un utilizzo alto e costante. Sotto quella soglia, un’API a token o un piano a tariffa fissa di solito costa meno.
Quanto costa al mese un modello open-weight?
I prezzi per token dei modelli open-weight ospitati sono facili da calcolare. Per 100 milioni di token di input e 10 milioni di output al mese su DeepSeek V4.1 Flash tramite BroadNet:
100 x $0.175 + 10 x $0.52 al mese, prima di eventuali sconti per la cache.
Rifai lo stesso calcolo con i prezzi per milione pubblicati dal tuo fornitore chiuso e i tuoi conteggi reali di token, oppure parti dal nostro confronto dei costi API tra modelli open-weight e chiusi, che calcola il prezzo di un carico di lavoro su GPT, Claude, Gemini, Grok e cinque modelli aperti. L’input in cache cambia molto il risultato: su questo modello i token in cache costano $0.0055 per milione. Il calcolatore dei costi delle API LLM fa questo calcolo per ogni modello BroadNet, e la tabella dei prezzi delle API LLM elenca quanto fanno pagare altri host per gli stessi pesi aperti.
Perché il lock-in conta più di quanto sembri?
Quando un fornitore chiuso alza i prezzi, cambia le condizioni sui dati o ritira il modello su cui sono tarati i tuoi prompt, puoi solo accettare o riscrivere. Con un modello open-weight puoi spostare gli stessi pesi su un altro host, o in casa, e mantenere lo stesso comportamento.
Per mantenere concreta questa possibilità:
- Chiama i modelli tramite un SDK compatibile con OpenAI, con base URL e ID del modello nella configurazione.
- Tieni un test set di regressione ed eseguilo a ogni cambio di provider.
- Se vuoi, metti davanti un router come LiteLLM, così cambiare diventa una modifica di configurazione.
Come combinano le aziende modelli aperti e chiusi?
La maggior parte delle aziende finisce per usarli entrambi:
- Instrada i compiti ad alto volume e ben definiti (estrazione, smistamento, riassunti, passaggi di routine degli agenti) verso un modello open-weight.
- Instrada i compiti rari e difficili verso un modello chiuso di frontiera.
- Ripeti i test ogni trimestre. Visto il divario misurato da Epoch, con il tempo i compiti passano dalla seconda lista alla prima.
Dove si colloca BroadNet Inference
BroadNet Inference è un’API open-weight ospitata: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B e la build di BroadNet di Gemma 4 di Google, più due modelli speech-to-text, tutti tramite un endpoint compatibile con OpenAI. La sua informativa sulla privacy dice che non conserva prompt né output e non usa i dati di inferenza per addestrare, fare fine-tuning o valutare modelli. DeepSeek V4.1 Flash è disponibile anche con piani a tariffa fissa, da $1 all’ora a $60 al mese per sessione.
Non serve modelli chiusi. Se un compito richiede GPT, Claude o Gemini, usa quei fornitori per quel percorso e tieni il resto sui pesi aperti. Per confrontare BroadNet con altri provider, usa la checklist dei provider in 20 punti.
