BroadRouter
Inizia

Testo, voce o vision? Parti dal compito

A cura del team di BroadNet Inference · 7 min di lettura · Pubblicato

Parti da input e output. Testo in entrata e testo in uscita è chat. Una foto o una scansione in entrata e testo in uscita è chat con un’immagine, su un modello che accetta immagini. Parlato registrato in entrata e testo in uscita è trascrizione; dal parlato a una risposta è trascrizione e poi chat. BroadNet non offre sintesi vocale, generazione di immagini né embedding.

«Quale modello usiamo?» è la seconda domanda. La prima è «che cosa entra e che cosa deve uscire?». La foto di una fattura, un vocale di un cliente e una domanda scritta vanno ciascuno a un tipo diverso di endpoint, e ogni endpoint ha i suoi modelli, i suoi limiti e i suoi modi di sbagliare. Scegli prima il compito e l’elenco dei modelli si riduce a due o tre.

Questa guida collega i compiti più comuni ai tipi di input, e poi a ciò che BroadNet Inference documenta per ciascuno. BroadRouter è il sito di BroadNet; i dati sui modelli qui sotto vengono dal feed dei prezzi e dal riferimento API di BroadNet, consultati il 15 novembre 2026.

Di quale tipo di input ha bisogno il tuo compito?

Il tuo compito Input Output Endpoint Modelli BroadNet
Rispondere, riassumere, classificare o tradurre testo Testo Testo Chat completions Uno qualsiasi dei quattro modelli di chat
Chiamare le tue funzioni o i tuoi tool Testo Tool call Chat completions GLM 5.3, Qwen3.8 27B (documentati)
Leggere una foto, una scansione, uno screenshot o un modulo Immagine + testo Testo o JSON Chat completions con un’immagine DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B
Trasformare una registrazione o un vocale in testo File audio Testo Trascrizioni audio Transcribe Arabic, Transcribe (14 lingue)
Riassumere una chiamata o rispondere a un vocale File audio Testo Trascrizione, poi chat Uno per tipo
Leggere ad alta voce una risposta Testo Audio Sintesi vocale (text-to-speech) Non offerto
Sostenere una conversazione vocale dal vivo Stream audio Audio Voce in tempo reale Non offerto
Creare un’immagine Testo Immagine Generazione di immagini Non offerto
Ricerca semantica nei documenti Testo Vettori Embedding Non offerto

In questa tabella «vision» significa comprensione delle immagini: il modello legge un’immagine che gli invii. Non significa generare immagini. La voce di glossario vision language model spiega la differenza.

Che differenza c’è tra chat e trascrizione?

Sono endpoint diversi, con formati di richiesta, unità di fatturazione e modelli diversi.

Chat (POST /v1/chat/completions) riceve una lista di messaggi in JSON e restituisce testo. Si paga per token, input e output separati, e ogni modello ha una finestra di contesto che contiene insieme prompt e risposta. Su BroadNet tre dei quattro modelli di chat ragionano prima di rispondere, e quel ragionamento conta per max_tokens, quindi lascia margine (token di ragionamento e risposte vuote).

Trascrizione (POST /v1/audio/transcriptions) riceve un file audio come upload multipart e restituisce la trascrizione. Si paga per minuto di audio. La documentazione di BroadNet indica WAV o MP3 fino a 26.214.400 byte per file, e dice di inviare sempre language, perché altrimenti l’arabo può tornare traslitterato in caratteri latini.

Modello Lingue Prezzo
BroadNet Transcribe Arabic Arabo: del Golfo, egiziano, levantino, maghrebino e standard moderno, secondo BroadNet $0.0042 al minuto (circa $0.25 all’ora)
BroadNet Transcribe 14, tra cui inglese, spagnolo, francese, mandarino e arabo $0.002 al minuto (circa $0.12 all’ora)

Su BroadNet un modello di chat non accetta audio, e un modello di trascrizione non risponde alle domande. Un assistente vocale che risponde in testo sono due chiamate: trascrizione, poi chat. Verbali di riunione in arabo dalle registrazioni costruisce proprio questa catena.

Quali modelli accettano immagini?

Quelli la cui voce nel feed riporta image in modalities. Al 15 novembre 2026:

Modello Input Contesto Input / output per 1M di token Accesso
DeepSeek V4.1 Flash Testo, immagine 1.048.576 $0.175 / $0.52 Ricarica necessaria
Qwen3.8 27B Testo, immagine 262.144 $0.175 / $2.17 Ricarica necessaria
Gemma 4 VL 26B Testo, immagine 32.768 $0.10 / $0.22 Credito iniziale di $5
GLM 5.3 Solo testo 1.048.576 $0.78 / $3.46 Ricarica necessaria

Invia l’immagine come URL data: dentro il contenuto del messaggio, con un MIME type corretto. La documentazione di BroadNet dice che la vision è offerta “only where the model row explicitly says images or vision” (traduzione: «solo dove la riga del modello indica esplicitamente immagini o vision»). La documentazione non elenca i formati di immagine accettati, quindi prova ogni formato che intendi accettare. Con una chiave a consumo un’immagine si paga come token di input, e un’immagine più grande ne usa di più; ridimensionala prima di inviarla e fai una stima con il calcolatore di token per immagini. L’estrazione dai documenti da capo a fondo è in estrarre dati dai documenti con un LLM vision.

Come si instrada ogni input nel codice?

Questa funzione sceglie l’endpoint dal tipo di file, controlla i limiti documentati prima dell’invio e legge l’elenco dei modelli con supporto alle immagini dal feed in tempo reale invece di scriverlo nel codice. Usa l’SDK Python di OpenAI, che funziona con BroadNet cambiando il base URL (guida alla configurazione).

import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI

client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
                api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"}       # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400                                         # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"}        # your allow-list; test each one

def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
        stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
    kind = mimetypes.guess_type(path)[0] if path else None
    if kind is None:                                           # text only
        r = client.chat.completions.create(model=chat_model, max_tokens=1500,
                                           messages=[{"role": "user", "content": task}])
        return r.choices[0].message.content
    if kind in AUDIO_TYPES or kind.startswith("audio/"):
        if kind not in AUDIO_TYPES:
            raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
        if Path(path).stat().st_size > AUDIO_MAX:
            raise ValueError("over 26,214,400 bytes: split the audio before sending")
        with open(path, "rb") as f:                            # step 1: speech to text
            text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
        return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
    if kind in IMAGE_TYPES:
        if chat_model not in VISION:
            raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
        data = base64.b64encode(Path(path).read_bytes()).decode()
        r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
            "content": [{"type": "text", "text": task},
                        {"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
        return r.choices[0].message.content
    raise ValueError(f"unsupported input type {kind}")

L’abbiamo provata con BROADNET_BASE_URL puntato a un server mock locale (nessuna chiamata all’API reale) e con il feed dei prezzi reale. Testo, un file WAV, un file WAV con un compito successivo e un PNG hanno raggiunto ciascuno l’endpoint mock giusto. Il PNG inviato con chat_model="broadnet/glm-5.3" è stato rifiutato prima di qualsiasi richiesta, con l’elenco dei tre ID con supporto alle immagini presi dal feed. Un file .ogg è stato rifiutato con il comando ffmpeg per convertirlo; trascrivere i vocali di WhatsApp spiega quel passaggio. Le registrazioni oltre il limite di dimensione vanno divise; lo splitter audio genera i comandi ffmpeg.

E se il documento è già testo?

Allora non inviarne una foto. Un PDF esportato da un gestionale contabile o da un programma di videoscrittura di solito ha uno strato di testo; estrailo con una libreria PDF e invia il testo a un modello di chat. Con una chiave a consumo costa meno di un’immagine, evita errori di lettura e funziona anche su GLM 5.3. Tieni la vision per scansioni, foto da telefono, scrittura a mano, timbri e screenshot, dove non c’è uno strato di testo da estrarre.

Una regola utile in una pipeline di documenti: prova prima l’estrazione del testo, controlla che abbia restituito testo vero (non pagine vuote o caratteri illeggibili) e ripiega sull’immagine solo quando non è così. Per i PDF in arabo, leggi un campione del testo estratto prima di fidarti: a seconda di come è stato prodotto il PDF, l’estrazione può restituire le lettere arabe nell’ordine sbagliato o in forme di presentazione non legate. OCR dell’arabo con un LLM vision copre i casi in cui l’immagine è la fonte migliore.

Come si confrontano i costi?

Ogni tipo di input si paga nella sua unità, quindi confronta per compito, non per richiesta:

  • Il testo si paga per token di input e di output. L’arabo spesso richiede più token dell’inglese per lo stesso contenuto; il contatore di token per l’arabo lo misura.
  • Le immagini con il pagamento a consumo sono token di input al prezzo di input del modello, quindi una foto grande può costare più di una pagina di testo. Con un piano a sessione DeepSeek, le immagini rientrano nel prezzo fisso.
  • L’audio si paga per minuto di audio, qualunque cosa venga detta. Su BroadNet, 10.000 vocali in arabo da 30 secondi ciascuno costano circa $21.00 con il modello arabo. Il calcolatore dei costi dello speech-to-text gestisce altri volumi.

Una catena somma le sue parti: un vocale a cui risponde un modello di chat costa i minuti di trascrizione più i token di chat della trascrizione e della risposta. Il calcolatore dei costi delle API LLM gestisce la parte chat.

Che cosa non è offerto, e che cosa fare invece?

Il riferimento API di BroadNet documenta due endpoint di inferenza: chat completions e trascrizioni audio. Quindi non ci sono:

  • Sintesi vocale. Nessun /v1/audio/speech. Se il tuo prodotto deve rispondere a voce, abbina trascrizione e chat di BroadNet a un servizio TTS separato.
  • Voce dal vivo. La trascrizione riceve un file caricato, non uno stream audio dal vivo. Per un agente telefonico che deve rispondere durante la chiamata, ti serve uno stack vocale in tempo reale altrove. Registrare l’audio del browser per la trascrizione mostra l’alternativa basata su file.
  • Generazione di immagini. Qui la vision legge le immagini; non le crea.
  • Embedding. Nessun /v1/embeddings. Per il retrieval ti serve un modello di embedding di un altro provider o in self-hosting; il calcolatore dei costi degli embedding confronta i prezzi.

Il catalogo di ricerca di BroadNet elenca effettivamente modelli di sintesi vocale, di generazione di immagini e di embedding, contrassegnati come testati nel suo laboratorio. Questo registra ciò che BroadNet ha provato, non ciò che la sua API vende; leggere un catalogo di modelli spiega la differenza.

Perché serve un set di valutazione separato per ogni input?

Perché ogni tipo di input sbaglia in modo diverso, e una media su tutti nasconde gli errori.

  • Testo: valuta su messaggi reali degli utenti, con controlli nel codice dove possibile. Il metodo è in valutare un LLM prima di cambiarlo.
  • Immagini: usa foto reali di qualità reale: scatti da telefono inclinati, scontrini sbiaditi, timbri sopra il testo. Valuta ogni campo separatamente. Un PDF pulito renderizzato ottiene punteggi molto più alti delle foto che ti manderanno gli utenti.
  • Parlato: misura il word error rate sulle tue registrazioni, diviso per dialetto, speaker e qualità della linea, e controlla a parte le parole che contano (nomi, numeri, importi). Vedi il WER dell’ASR arabo spiegato.
  • Catene: quando il parlato alimenta un modello di chat, valuta entrambi i passaggi e il risultato finale. Un numero capito male diventa una risposta sbagliata data con sicurezza, e solo un test end-to-end mostra quanto spesso succede.

Tieni i set separati, versionali e riesegui quello pertinente ogni volta che cambi un modello o un prompt.

Dove si colloca BroadNet Inference

BroadNet Inference copre le prime cinque righe della tabella dei compiti con una sola chiave e un solo base URL: chat testuale, tool calling su GLM 5.3 e Qwen3.8 27B, comprensione delle immagini su tre modelli e trascrizione in arabo o multilingue. Gemma 4 VL 26B ed entrambi i modelli di trascrizione funzionano con il credito iniziale di $5; DeepSeek, GLM e Qwen richiedono una ricarica. Il contenuto dell’inferenza non viene conservato; i metadati necessari di account, fatturazione e sicurezza vengono conservati come descritto nell’informativa sulla privacy di BroadNet. Per parlare, generare immagini, la voce dal vivo o gli embedding, usa un altro servizio. I prezzi di tutto quanto sopra sono nella pagina dei prezzi.

Domande frequenti

Quale modello AI devo usare per le immagini?

Uno che accetti input di immagini sull’API che usi. Su BroadNet Inference sono DeepSeek V4.1 Flash, Qwen3.8 27B o Gemma 4 VL 26B, secondo il suo feed dei prezzi; GLM 5.3 accetta solo testo. Invia l’immagine come data URL nel messaggio di chat.

Un modello di chat può trascrivere l’audio?

Non su BroadNet Inference. L’audio va all’endpoint di trascrizione, /v1/audio/transcriptions, con un modello di trascrizione. Se poi ti serve un riassunto o una risposta, invia la trascrizione a un modello di chat come secondo passaggio.

BroadNet Inference offre sintesi vocale o generazione di immagini?

No. Il suo riferimento API documenta solo chat completions e trascrizione audio. Modelli di sintesi vocale e di generazione di immagini compaiono nel catalogo di ricerca di BroadNet come testati, il che non equivale a essere offerti.

Quali formati audio accetta BroadNet?

WAV (audio/wav) o MP3 (audio/mpeg), fino a 26.214.400 byte per file. Converti prima gli altri formati, come un vocale WhatsApp .ogg, con ffmpeg, e invia sempre il parametro language.

Come viene fatturata un’immagine?

Con una chiave a consumo, BroadNet fattura un’immagine come token di input al prezzo di input del modello, e un’immagine più grande usa più token. Con un piano a sessione DeepSeek, le immagini rientrano nel prezzo fisso.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity