«Quale modello usiamo?» è la seconda domanda. La prima è «che cosa entra e che cosa deve uscire?». La foto di una fattura, un vocale di un cliente e una domanda scritta vanno ciascuno a un tipo diverso di endpoint, e ogni endpoint ha i suoi modelli, i suoi limiti e i suoi modi di sbagliare. Scegli prima il compito e l’elenco dei modelli si riduce a due o tre.
Questa guida collega i compiti più comuni ai tipi di input, e poi a ciò che BroadNet Inference documenta per ciascuno. BroadRouter è il sito di BroadNet; i dati sui modelli qui sotto vengono dal feed dei prezzi e dal riferimento API di BroadNet, consultati il 15 novembre 2026.
Di quale tipo di input ha bisogno il tuo compito?
| Il tuo compito | Input | Output | Endpoint | Modelli BroadNet |
|---|---|---|---|---|
| Rispondere, riassumere, classificare o tradurre testo | Testo | Testo | Chat completions | Uno qualsiasi dei quattro modelli di chat |
| Chiamare le tue funzioni o i tuoi tool | Testo | Tool call | Chat completions | GLM 5.3, Qwen3.8 27B (documentati) |
| Leggere una foto, una scansione, uno screenshot o un modulo | Immagine + testo | Testo o JSON | Chat completions con un’immagine | DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B |
| Trasformare una registrazione o un vocale in testo | File audio | Testo | Trascrizioni audio | Transcribe Arabic, Transcribe (14 lingue) |
| Riassumere una chiamata o rispondere a un vocale | File audio | Testo | Trascrizione, poi chat | Uno per tipo |
| Leggere ad alta voce una risposta | Testo | Audio | Sintesi vocale (text-to-speech) | Non offerto |
| Sostenere una conversazione vocale dal vivo | Stream audio | Audio | Voce in tempo reale | Non offerto |
| Creare un’immagine | Testo | Immagine | Generazione di immagini | Non offerto |
| Ricerca semantica nei documenti | Testo | Vettori | Embedding | Non offerto |
In questa tabella «vision» significa comprensione delle immagini: il modello legge un’immagine che gli invii. Non significa generare immagini. La voce di glossario vision language model spiega la differenza.
Che differenza c’è tra chat e trascrizione?
Sono endpoint diversi, con formati di richiesta, unità di fatturazione e modelli diversi.
Chat (POST /v1/chat/completions) riceve una lista di messaggi in JSON e restituisce testo. Si paga per token, input e output separati, e ogni modello ha una finestra di contesto che contiene insieme prompt e risposta. Su BroadNet tre dei quattro modelli di chat ragionano prima di rispondere, e quel ragionamento conta per max_tokens, quindi lascia margine (token di ragionamento e risposte vuote).
Trascrizione (POST /v1/audio/transcriptions) riceve un file audio come upload multipart e restituisce la trascrizione. Si paga per minuto di audio. La documentazione di BroadNet indica WAV o MP3 fino a 26.214.400 byte per file, e dice di inviare sempre language, perché altrimenti l’arabo può tornare traslitterato in caratteri latini.
| Modello | Lingue | Prezzo |
|---|---|---|
| BroadNet Transcribe Arabic | Arabo: del Golfo, egiziano, levantino, maghrebino e standard moderno, secondo BroadNet | $0.0042 al minuto (circa $0.25 all’ora) |
| BroadNet Transcribe | 14, tra cui inglese, spagnolo, francese, mandarino e arabo | $0.002 al minuto (circa $0.12 all’ora) |
Su BroadNet un modello di chat non accetta audio, e un modello di trascrizione non risponde alle domande. Un assistente vocale che risponde in testo sono due chiamate: trascrizione, poi chat. Verbali di riunione in arabo dalle registrazioni costruisce proprio questa catena.
Quali modelli accettano immagini?
Quelli la cui voce nel feed riporta image in modalities. Al 15 novembre 2026:
| Modello | Input | Contesto | Input / output per 1M di token | Accesso |
|---|---|---|---|---|
| DeepSeek V4.1 Flash | Testo, immagine | 1.048.576 | $0.175 / $0.52 | Ricarica necessaria |
| Qwen3.8 27B | Testo, immagine | 262.144 | $0.175 / $2.17 | Ricarica necessaria |
| Gemma 4 VL 26B | Testo, immagine | 32.768 | $0.10 / $0.22 | Credito iniziale di $5 |
| GLM 5.3 | Solo testo | 1.048.576 | $0.78 / $3.46 | Ricarica necessaria |
Invia l’immagine come URL data: dentro il contenuto del messaggio, con un MIME type corretto. La documentazione di BroadNet dice che la vision è offerta “only where the model row explicitly says images or vision” (traduzione: «solo dove la riga del modello indica esplicitamente immagini o vision»). La documentazione non elenca i formati di immagine accettati, quindi prova ogni formato che intendi accettare. Con una chiave a consumo un’immagine si paga come token di input, e un’immagine più grande ne usa di più; ridimensionala prima di inviarla e fai una stima con il calcolatore di token per immagini. L’estrazione dai documenti da capo a fondo è in estrarre dati dai documenti con un LLM vision.
Come si instrada ogni input nel codice?
Questa funzione sceglie l’endpoint dal tipo di file, controlla i limiti documentati prima dell’invio e legge l’elenco dei modelli con supporto alle immagini dal feed in tempo reale invece di scriverlo nel codice. Usa l’SDK Python di OpenAI, che funziona con BroadNet cambiando il base URL (guida alla configurazione).
import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI
client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"} # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400 # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"} # your allow-list; test each one
def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
kind = mimetypes.guess_type(path)[0] if path else None
if kind is None: # text only
r = client.chat.completions.create(model=chat_model, max_tokens=1500,
messages=[{"role": "user", "content": task}])
return r.choices[0].message.content
if kind in AUDIO_TYPES or kind.startswith("audio/"):
if kind not in AUDIO_TYPES:
raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
if Path(path).stat().st_size > AUDIO_MAX:
raise ValueError("over 26,214,400 bytes: split the audio before sending")
with open(path, "rb") as f: # step 1: speech to text
text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
if kind in IMAGE_TYPES:
if chat_model not in VISION:
raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
data = base64.b64encode(Path(path).read_bytes()).decode()
r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
"content": [{"type": "text", "text": task},
{"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
return r.choices[0].message.content
raise ValueError(f"unsupported input type {kind}")
L’abbiamo provata con BROADNET_BASE_URL puntato a un server mock locale (nessuna chiamata all’API reale) e con il feed dei prezzi reale. Testo, un file WAV, un file WAV con un compito successivo e un PNG hanno raggiunto ciascuno l’endpoint mock giusto. Il PNG inviato con chat_model="broadnet/glm-5.3" è stato rifiutato prima di qualsiasi richiesta, con l’elenco dei tre ID con supporto alle immagini presi dal feed. Un file .ogg è stato rifiutato con il comando ffmpeg per convertirlo; trascrivere i vocali di WhatsApp spiega quel passaggio. Le registrazioni oltre il limite di dimensione vanno divise; lo splitter audio genera i comandi ffmpeg.
E se il documento è già testo?
Allora non inviarne una foto. Un PDF esportato da un gestionale contabile o da un programma di videoscrittura di solito ha uno strato di testo; estrailo con una libreria PDF e invia il testo a un modello di chat. Con una chiave a consumo costa meno di un’immagine, evita errori di lettura e funziona anche su GLM 5.3. Tieni la vision per scansioni, foto da telefono, scrittura a mano, timbri e screenshot, dove non c’è uno strato di testo da estrarre.
Una regola utile in una pipeline di documenti: prova prima l’estrazione del testo, controlla che abbia restituito testo vero (non pagine vuote o caratteri illeggibili) e ripiega sull’immagine solo quando non è così. Per i PDF in arabo, leggi un campione del testo estratto prima di fidarti: a seconda di come è stato prodotto il PDF, l’estrazione può restituire le lettere arabe nell’ordine sbagliato o in forme di presentazione non legate. OCR dell’arabo con un LLM vision copre i casi in cui l’immagine è la fonte migliore.
Come si confrontano i costi?
Ogni tipo di input si paga nella sua unità, quindi confronta per compito, non per richiesta:
- Il testo si paga per token di input e di output. L’arabo spesso richiede più token dell’inglese per lo stesso contenuto; il contatore di token per l’arabo lo misura.
- Le immagini con il pagamento a consumo sono token di input al prezzo di input del modello, quindi una foto grande può costare più di una pagina di testo. Con un piano a sessione DeepSeek, le immagini rientrano nel prezzo fisso.
- L’audio si paga per minuto di audio, qualunque cosa venga detta. Su BroadNet, 10.000 vocali in arabo da 30 secondi ciascuno costano circa $21.00 con il modello arabo. Il calcolatore dei costi dello speech-to-text gestisce altri volumi.
Una catena somma le sue parti: un vocale a cui risponde un modello di chat costa i minuti di trascrizione più i token di chat della trascrizione e della risposta. Il calcolatore dei costi delle API LLM gestisce la parte chat.
Che cosa non è offerto, e che cosa fare invece?
Il riferimento API di BroadNet documenta due endpoint di inferenza: chat completions e trascrizioni audio. Quindi non ci sono:
- Sintesi vocale. Nessun
/v1/audio/speech. Se il tuo prodotto deve rispondere a voce, abbina trascrizione e chat di BroadNet a un servizio TTS separato. - Voce dal vivo. La trascrizione riceve un file caricato, non uno stream audio dal vivo. Per un agente telefonico che deve rispondere durante la chiamata, ti serve uno stack vocale in tempo reale altrove. Registrare l’audio del browser per la trascrizione mostra l’alternativa basata su file.
- Generazione di immagini. Qui la vision legge le immagini; non le crea.
- Embedding. Nessun
/v1/embeddings. Per il retrieval ti serve un modello di embedding di un altro provider o in self-hosting; il calcolatore dei costi degli embedding confronta i prezzi.
Il catalogo di ricerca di BroadNet elenca effettivamente modelli di sintesi vocale, di generazione di immagini e di embedding, contrassegnati come testati nel suo laboratorio. Questo registra ciò che BroadNet ha provato, non ciò che la sua API vende; leggere un catalogo di modelli spiega la differenza.
Perché serve un set di valutazione separato per ogni input?
Perché ogni tipo di input sbaglia in modo diverso, e una media su tutti nasconde gli errori.
- Testo: valuta su messaggi reali degli utenti, con controlli nel codice dove possibile. Il metodo è in valutare un LLM prima di cambiarlo.
- Immagini: usa foto reali di qualità reale: scatti da telefono inclinati, scontrini sbiaditi, timbri sopra il testo. Valuta ogni campo separatamente. Un PDF pulito renderizzato ottiene punteggi molto più alti delle foto che ti manderanno gli utenti.
- Parlato: misura il word error rate sulle tue registrazioni, diviso per dialetto, speaker e qualità della linea, e controlla a parte le parole che contano (nomi, numeri, importi). Vedi il WER dell’ASR arabo spiegato.
- Catene: quando il parlato alimenta un modello di chat, valuta entrambi i passaggi e il risultato finale. Un numero capito male diventa una risposta sbagliata data con sicurezza, e solo un test end-to-end mostra quanto spesso succede.
Tieni i set separati, versionali e riesegui quello pertinente ogni volta che cambi un modello o un prompt.
Dove si colloca BroadNet Inference
BroadNet Inference copre le prime cinque righe della tabella dei compiti con una sola chiave e un solo base URL: chat testuale, tool calling su GLM 5.3 e Qwen3.8 27B, comprensione delle immagini su tre modelli e trascrizione in arabo o multilingue. Gemma 4 VL 26B ed entrambi i modelli di trascrizione funzionano con il credito iniziale di $5; DeepSeek, GLM e Qwen richiedono una ricarica. Il contenuto dell’inferenza non viene conservato; i metadati necessari di account, fatturazione e sicurezza vengono conservati come descritto nell’informativa sulla privacy di BroadNet. Per parlare, generare immagini, la voce dal vivo o gli embedding, usa un altro servizio. I prezzi di tutto quanto sopra sono nella pagina dei prezzi.
