Per scegliere un provider di API LLM, dai a ogni candidato un punteggio su sei aree: il costo mensile del tuo carico reale, i limiti di rate e di concorrenza, la compatibilità con OpenAI, le condizioni su conservazione dei dati e addestramento, i modelli che ti servono, supporto e affidabilità. Poi testa i primi due con una settimana di traffico reale. Qui sotto: 20 domande, una griglia di punteggio e il piano di test.
Una volta scelto, la checklist di migrazione copre il passaggio vero e proprio, e come valutare un LLM prima di cambiare approfondisce i test di qualità.
Quanto costerà davvero? (domande da 1 a 4)
- Quanto costa al mese il mio carico reale? Calcola separatamente input, input in cache e output; il calcolatore gratuito dei costi delle API LLM lo fa modello per modello. Gli agenti reinviano lo stesso contesto, quindi spesso l’input in cache pesa più di tutto. La nostra guida ai prezzi spiega ogni voce.
- I token di ragionamento si pagano come output? I modelli di ragionamento possono spendere più token a pensare che a rispondere.
- C’è un’opzione a tariffa flat? Per gli agenti sempre attivi, un piano flat può battere la fatturazione per token. Vedi i conti del punto di pareggio.
- I prezzi sono leggibili dalle macchine e datati? Un file JSON dei prezzi ti permette di seguire le variazioni e costruire avvisi di costo.
Il nostro dataset aperto su livelli gratuiti e rate limit delle API LLM confronta cosa pubblicano 14 provider su accesso gratuito, rate limit iniziali, carta richiesta e addestramento sui dati del livello gratuito, con fonte e data per ogni valore.
Quali limiti incontrerai per primi? (domande da 5 a 7)
- Quali sono i limiti di richieste al minuto e di concorrenza? La concorrenza (richieste in corso) è ciò che blocca agenti in parallelo e job batch. Vedi rate limit e concorrenza, e dimensiona il tuo traffico rispetto a un limite con il calcolatore dei rate limit.
- C’è un tetto di token, una finestra mobile o una quota settimanale? I piani «illimitati» spesso ne hanno uno. Leggi cosa significa davvero illimitato.
- Qual è la finestra di contesto, e viene tagliata? Controlla il massimo reale per richiesta, e se il provider accorcia in silenzio i prompt lunghi.
Quanto è compatibile con il tuo codice? (domande da 8 a 10)
- È compatibile con OpenAI, e fino a che punto? Cambiare la base URL dovrebbe bastare. Poi testa streaming con usage, tool call, output strutturato e codici di errore. La checklist di migrazione elenca cosa si rompe.
- Funziona con i miei strumenti? SDK, framework per agenti, assistenti negli IDE. Controlla le guide di integrazione del provider.
- Gli ID dei modelli sono stabili? Vuoi ID con versione e un preavviso prima che un modello venga ritirato.
Cosa succede ai tuoi dati? (domande da 11 a 13)
- Prompt e output vengono conservati, e per quanto? Molti provider tengono i contenuti delle API fino a 30 giorni per impostazione predefinita. Confronta le formulazioni ufficiali in conservazione dei dati nelle API LLM a confronto.
- I miei dati vengono usati per l’addestramento? Verifica l’impostazione predefinita per il tuo livello, per iscritto.
- Posso firmare un DPA, vedere i sub-responsabili e limitare le chiavi? Usa la checklist GDPR se tratti dati personali di cittadini UE, e chiedi le allow-list di IP.
Ha i modelli che ti servono? (domande da 14 a 16)
- Il provider ha le dimensioni di modello e le capacità che mi servono? Visione, tool calling, ragionamento, contesto lungo, voce.
- Come va ogni modello sui miei task? Prepara da 30 a 50 casi di test reali e dai un punteggio. I benchmark sono un primo filtro; dove confrontare gli LLM elenca le classifiche e cosa misura ciascuna. La guida alla valutazione mostra come costruire il set ed evitare i bias del giudice.
- Open-weight o chiuso? I modelli open-weight possono essere serviti da più provider, il che riduce il lock-in. Vedi modelli open-weight o chiusi.
Resterà in piedi, e chi risponde? (domande da 17 a 20)
- C’è una pagina di stato con lo storico degli incidenti?
- C’è uno SLA scritto per la produzione?
- Chi gestisce le GPU? Hardware proprio, un cloud o capacità rivenduta da un’altra API. Ognuna aggiunge un soggetto nel percorso dei dati e dell’affidabilità.
- Come raggiungo una persona? Tempi di risposta, canali e se il supporto può vedere il contenuto delle tue richieste.
Come si confrontano i provider con un punteggio?
Dai a ogni domanda 0 (no o non noto), 1 (in parte) o 2 (sì, per iscritto). Pesa i gruppi in base al tuo caso d’uso:
| Gruppo | Domande | Peso per un agente | Peso per un’app in un settore regolamentato |
|---|---|---|---|
| Prezzi | da 1 a 4 | Alto | Medio |
| Limiti | da 5 a 7 | Alto | Medio |
| Compatibilità | da 8 a 10 | Medio | Medio |
| Privacy | da 11 a 13 | Medio | Alto |
| Modelli | da 14 a 16 | Alto | Alto |
| Supporto e affidabilità | da 17 a 20 | Medio | Alto |
Un «non noto» vale 0 per un motivo: se un provider non sa rispondere, non puoi farci affidamento.
Come testare un provider in una settimana?
- Scegli i primi due provider dalla griglia di punteggio.
- Instrada una quota di traffico reale verso ciascuno con lo stesso SDK OpenAI, con ID dei modelli e base URL in configurazione.
- Registra per ogni richiesta: modello, token del prompt, token in cache, token di completamento, latenza, codice di stato. Non registrare mai i contenuti.
- Provoca il tuo picco: lancia il job batch o gli agenti in parallelo e tieni d’occhio i 429. La guida a errori e retry mostra il back-off corretto.
- Moltiplica i token della settimana per circa 4,3 e calcola il costo mensile per ogni provider.
- Dai un punteggio agli output sul tuo set di test.
Come risponde BroadNet Inference alla checklist
| # | BroadNet Inference |
|---|---|
| 1, 4 | Prezzi per token pubblicati in pricing.json, sincronizzati 2026-11-14 |
| 3 | Piani flat per DeepSeek V4.1 Flash: $60 al mese, $15 a settimana o $1 all’ora per sessione |
| 5 | Pagamento a consumo: 30 richieste al minuto, 4 in corso; le sessioni dei piani eseguono una richiesta alla volta |
| 6 | Piani: nessun contatore di token, nessuna finestra mobile, nessun tetto settimanale |
| 7 | Fino a 1.048.576 token su DeepSeek V4.1 Flash e GLM 5.3; la pagina dei piani dice che il contesto non viene mai tagliato |
| 8 | Compatibile con OpenAI su https://inference.broadnet.ai/v1 |
| 11, 12 | Nessun prompt né output conservato; non usati per addestrare, fare fine-tuning o valutare modelli |
| 13 | Allow-list di IP fino a 32 voci; elenco dei sub-responsabili su richiesta; chiedi un DPA |
| 14 | Quattro modelli chat più due modelli di speech-to-text |
| 19 | L’informativa sulla privacy di BroadNet dice che i suoi modelli e i modelli open-weight ospitati girano su hardware negli Stati Uniti di proprietà di BroadNet o in leasing, con capacità di partner come riserva; i modelli serviti da partner, come DeepSeek V4.1 Flash, girano presso partner di inferenza statunitensi con condizioni ZDR |
Cosa non abbiamo trovato nella documentazione o nelle pagine dei piani di BroadNet (verificate il 14 novembre 2026): uno SLA, una pagina di stato o una policy di dismissione dei modelli. Chiedili se per te contano, e tieni un secondo provider per i percorsi critici. Il catalogo è anche più piccolo di quello di un aggregatore: se ti servono modelli GPT, Claude o Gemini, BroadNet non è il provider per quel traffico. Il credito iniziale di $5 basta per il passo 3 del piano di test con un carico leggero, ma, tra i modelli chat che copre, solo su Gemma 4 VL 26B (copre anche i due modelli Transcribe); gli altri modelli chat richiedono una ricarica.

