BroadRouter
Mulai

Teks, suara, atau vision? Mulailah dari tugasnya

Oleh tim BroadNet Inference · 7 menit baca · Dipublikasikan

Mulailah dari input dan output Anda. Teks masuk, teks keluar adalah chat. Foto atau hasil scan masuk, teks keluar adalah chat dengan gambar, memakai model yang menerima gambar. Rekaman suara masuk, teks keluar adalah transkripsi; dari suara ke jawaban berarti transkripsi lalu chat. BroadNet tidak menawarkan text-to-speech, pembuatan gambar, atau embedding.

“Model mana yang sebaiknya kita pakai?” adalah pertanyaan kedua. Yang pertama adalah “apa yang masuk, dan apa yang harus keluar?” Foto faktur, voice note dari pelanggan, dan pertanyaan yang diketik masing-masing masuk ke jenis endpoint yang berbeda, dan setiap endpoint punya model, batasan, dan pola kegagalannya sendiri. Pilih tugasnya dulu, dan daftar modelnya menyusut menjadi dua atau tiga.

Panduan ini memetakan tugas-tugas umum ke jenis input, lalu ke apa yang didokumentasikan BroadNet Inference untuk masing-masing. BroadRouter adalah situs milik BroadNet sendiri; fakta model di bawah berasal dari feed harga dan referensi API BroadNet, dicek pada 15 November 2026.

Jenis input apa yang dibutuhkan tugas Anda?

Tugas Anda Input Output Endpoint Model BroadNet
Menjawab, meringkas, mengklasifikasi, atau menerjemahkan teks Teks Teks Chat completions Salah satu dari empat model chat
Memanggil function atau tool Anda sendiri Teks Tool call Chat completions GLM 5.3, Qwen3.8 27B (terdokumentasi)
Membaca foto, scan, screenshot, atau formulir Gambar + teks Teks atau JSON Chat completions dengan gambar DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B
Mengubah rekaman atau voice note menjadi teks File audio Teks Transkripsi audio Transcribe Arabic, Transcribe (14 bahasa)
Meringkas panggilan atau menjawab voice note File audio Teks Transkripsi, lalu chat Masing-masing satu
Membacakan jawaban dengan suara Teks Audio Text-to-speech Tidak ditawarkan
Melakukan percakapan suara live Stream audio Audio Suara realtime Tidak ditawarkan
Membuat gambar Teks Gambar Pembuatan gambar Tidak ditawarkan
Pencarian semantik di dokumen Teks Vektor Embedding Tidak ditawarkan

“Vision” di tabel ini berarti pemahaman gambar: model membaca gambar yang Anda kirim. Bukan berarti membuat gambar. Entri glosarium vision language model menjelaskan bedanya.

Apa beda chat dan transkripsi?

Keduanya adalah endpoint berbeda dengan bentuk permintaan, satuan tagihan, dan model yang berbeda.

Chat (POST /v1/chat/completions) menerima daftar pesan dalam JSON dan mengembalikan teks. Tagihannya per token, input dan output dihitung terpisah, dan setiap model punya context window yang menampung prompt dan jawaban sekaligus. Di BroadNet, tiga dari empat model chat melakukan penalaran sebelum menjawab, dan penalaran itu dihitung dalam max_tokens, jadi sisakan ruang (token penalaran dan jawaban kosong).

Transkripsi (POST /v1/audio/transcriptions) menerima file audio sebagai upload multipart dan mengembalikan transkripnya. Tagihannya per menit audio. Dokumentasi BroadNet menetapkan WAV atau MP3 hingga 26.214.400 byte per file, dan meminta agar language selalu dikirim, karena tanpa itu bahasa Arab bisa kembali dalam bentuk transliterasi huruf Latin.

Model Bahasa Harga
BroadNet Transcribe Arabic Bahasa Arab: Teluk, Mesir, Levant, Maghrib, dan Standar Modern, menurut BroadNet $0.0042 per menit (sekitar $0.25 per jam)
BroadNet Transcribe 14 bahasa, termasuk Inggris, Spanyol, Prancis, Mandarin, dan Arab $0.002 per menit (sekitar $0.12 per jam)

Di BroadNet, model chat tidak menerima audio, dan model transkripsi tidak menjawab pertanyaan. Asisten suara yang membalas dalam bentuk teks berarti dua panggilan: transkripsi, lalu chat. Notulen rapat bahasa Arab dari rekaman membangun persis rantai itu.

Model mana yang menerima gambar?

Model yang entri feed-nya mencantumkan image di modalities. Per 15 November 2026:

Model Input Context Input / output per 1 juta token Akses
DeepSeek V4.1 Flash Teks, gambar 1.048.576 $0.175 / $0.52 Perlu top up
Qwen3.8 27B Teks, gambar 262.144 $0.175 / $2.17 Perlu top up
Gemma 4 VL 26B Teks, gambar 32.768 $0.10 / $0.22 Kredit awal $5
GLM 5.3 Hanya teks 1.048.576 $0.78 / $3.46 Perlu top up

Kirim gambar sebagai URL data: di dalam konten pesan, dengan MIME type yang akurat. Dokumentasi BroadNet menyatakan vision ditawarkan “only where the model row explicitly says images or vision” (Terjemahan BroadRouter: hanya jika baris model secara eksplisit menyebut gambar atau vision). Dokumentasinya tidak mencantumkan format gambar yang diterima, jadi uji setiap format yang ingin Anda terima. Pada kunci bayar sesuai pemakaian, gambar ditagih sebagai token input, dan gambar yang lebih besar memakai lebih banyak; ubah ukurannya sebelum dikirim dan perkirakan dengan kalkulator token gambar. Ekstraksi dokumen dari awal sampai akhir ada di ekstraksi data dari dokumen dengan vision LLM.

Bagaimana merutekan setiap input di kode?

Fungsi ini memilih endpoint berdasarkan jenis file, mengecek batasan yang terdokumentasi sebelum mengirim, dan membaca daftar model yang mendukung gambar dari feed live alih-alih menuliskannya secara hard-code. Fungsi ini memakai OpenAI Python SDK, yang bisa dipakai dengan BroadNet setelah base URL diganti (panduan setup).

import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI

client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
                api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"}       # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400                                         # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"}        # your allow-list; test each one

def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
        stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
    kind = mimetypes.guess_type(path)[0] if path else None
    if kind is None:                                           # text only
        r = client.chat.completions.create(model=chat_model, max_tokens=1500,
                                           messages=[{"role": "user", "content": task}])
        return r.choices[0].message.content
    if kind in AUDIO_TYPES or kind.startswith("audio/"):
        if kind not in AUDIO_TYPES:
            raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
        if Path(path).stat().st_size > AUDIO_MAX:
            raise ValueError("over 26,214,400 bytes: split the audio before sending")
        with open(path, "rb") as f:                            # step 1: speech to text
            text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
        return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
    if kind in IMAGE_TYPES:
        if chat_model not in VISION:
            raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
        data = base64.b64encode(Path(path).read_bytes()).decode()
        r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
            "content": [{"type": "text", "text": task},
                        {"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
        return r.choices[0].message.content
    raise ValueError(f"unsupported input type {kind}")

Kami mengujinya dengan BROADNET_BASE_URL yang diarahkan ke mock server lokal (tanpa panggilan API live) dan feed harga live. Teks, file WAV, file WAV dengan tugas lanjutan, dan PNG masing-masing sampai ke endpoint mock yang benar. Mengirim PNG dengan chat_model="broadnet/glm-5.3" ditolak sebelum ada permintaan, dengan menampilkan tiga ID yang mendukung gambar dari feed. File .ogg ditolak beserta perintah ffmpeg untuk mengonversinya; transkripsi voice note WhatsApp membahas langkah itu. Rekaman yang melebihi batas ukuran perlu dipotong; audio splitter membuatkan perintah ffmpeg-nya.

Bagaimana jika dokumennya sudah berupa teks?

Maka jangan kirim gambarnya. PDF yang diekspor dari sistem akuntansi atau pengolah kata biasanya punya lapisan teks; ekstrak dengan library PDF dan kirim teksnya ke model chat. Cara ini lebih murah daripada gambar pada kunci bayar sesuai pemakaian, menghindari salah baca, dan juga berjalan di GLM 5.3. Simpan vision untuk hasil scan, foto ponsel, tulisan tangan, stempel, dan screenshot, yang tidak punya lapisan teks untuk diekstrak.

Aturan yang berguna di pipeline dokumen: coba ekstraksi teks dulu, cek apakah hasilnya teks sungguhan (bukan halaman kosong atau karakter rusak), dan baru beralih ke gambar jika tidak. Untuk PDF berbahasa Arab, baca sampel teks hasil ekstraksi sebelum memercayainya: tergantung cara PDF itu dibuat, ekstraksi bisa mengembalikan huruf Arab dalam urutan yang salah atau dalam presentation form yang tidak tersambung. OCR bahasa Arab dengan vision LLM membahas kasus ketika gambar adalah sumber yang lebih baik.

Bagaimana perbandingan biayanya?

Setiap jenis input ditagih dengan satuannya sendiri, jadi bandingkan per tugas, bukan per permintaan:

  • Teks ditagih per token input dan output. Bahasa Arab sering membutuhkan lebih banyak token daripada bahasa Inggris untuk konten yang sama; penghitung token bahasa Arab mengukurnya.
  • Gambar pada bayar sesuai pemakaian adalah token input dengan harga input model, jadi foto besar bisa lebih mahal daripada satu halaman teks. Pada paket sesi DeepSeek, gambar sudah termasuk dalam harga tetap.
  • Audio ditagih per menit audio, apa pun isinya. Di BroadNet, 10.000 voice note bahasa Arab berdurasi masing-masing 30 detik menelan biaya sekitar $21.00 dengan model bahasa Arab. Kalkulator biaya speech-to-text menghitung volume lain.

Sebuah rantai menjumlahkan bagian-bagiannya: voice note yang dijawab oleh model chat memakan biaya menit transkripsi ditambah token chat untuk transkrip dan jawabannya. Kalkulator biaya API LLM menangani sisi chat.

Apa yang tidak ditawarkan, dan apa yang sebaiknya dilakukan?

Referensi API BroadNet mendokumentasikan dua endpoint inferensi: chat completions dan transkripsi audio. Jadi tidak ada:

  • Text-to-speech. Tidak ada /v1/audio/speech. Jika produk Anda harus menjawab dengan suara, padukan transkripsi dan chat BroadNet dengan layanan TTS terpisah.
  • Suara live. Transkripsi menerima file yang diunggah, bukan stream audio live. Untuk agen telepon yang harus merespons di tengah panggilan, Anda memerlukan stack suara realtime di tempat lain. Merekam audio browser untuk transkripsi menunjukkan alternatif berbasis file.
  • Pembuatan gambar. Vision di sini membaca gambar; tidak membuatnya.
  • Embedding. Tidak ada /v1/embeddings. Untuk retrieval, Anda memerlukan model embedding dari provider lain atau yang di-host sendiri; kalkulator biaya embedding membandingkan harganya.

Katalog riset BroadNet memang mencantumkan model text-to-speech, pembuatan gambar, dan embedding, dengan tanda sudah di-benchmark di lab-nya. Itu mencatat apa yang diuji BroadNet, bukan apa yang dijual API-nya; membaca katalog model menjelaskan bedanya.

Mengapa perlu set evaluasi terpisah untuk setiap input?

Karena setiap jenis input gagal dengan cara yang berbeda, dan rata-rata gabungannya menyembunyikan kegagalan itu.

  • Teks: beri skor pada pesan pengguna nyata, dengan pengecekan kode jika memungkinkan. Metodenya ada di mengevaluasi LLM sebelum beralih.
  • Gambar: pakai foto nyata dengan kualitas nyata: foto ponsel yang miring, struk yang pudar, stempel di atas teks. Beri skor setiap field secara terpisah. Render PDF yang bersih mendapat skor jauh lebih tinggi daripada foto yang akan dikirim pengguna Anda.
  • Suara: ukur word error rate pada rekaman Anda sendiri, dipisah per dialek, pembicara, dan kualitas saluran, lalu cek kata-kata penting (nama, angka, jumlah uang) secara terpisah. Lihat penjelasan WER ASR bahasa Arab.
  • Rantai: saat suara diteruskan ke model chat, beri skor kedua langkah dan hasil akhirnya. Angka yang salah dengar berubah menjadi jawaban salah yang meyakinkan, dan hanya uji end-to-end yang menunjukkan seberapa sering itu terjadi.

Pisahkan set-set itu, beri versi, dan jalankan ulang set yang relevan setiap kali Anda mengganti model atau prompt.

Posisi BroadNet Inference

BroadNet Inference mencakup lima baris pertama tabel tugas dengan satu kunci dan satu base URL: chat teks, tool calling di GLM 5.3 dan Qwen3.8 27B, pemahaman gambar di tiga model, serta transkripsi bahasa Arab atau multibahasa. Gemma 4 VL 26B dan kedua model transkripsi berjalan dengan kredit awal $5; DeepSeek, GLM, dan Qwen memerlukan top up. Konten inferensi tidak disimpan; metadata akun, penagihan, dan keamanan yang diperlukan disimpan sebagaimana dijelaskan di pernyataan privasi BroadNet. Untuk suara keluaran, pembuatan gambar, suara live, atau embedding, pakai layanan lain. Harga untuk semua yang disebut di atas ada di halaman harga.

Pertanyaan umum

Model AI apa yang sebaiknya dipakai untuk gambar?

Model yang menerima input gambar di API yang Anda pakai. Menurut feed harganya, di BroadNet Inference itu adalah DeepSeek V4.1 Flash, Qwen3.8 27B, atau Gemma 4 VL 26B; GLM 5.3 hanya menerima teks. Kirim gambar sebagai data URL di dalam pesan chat.

Bisakah model chat mentranskripsi audio?

Tidak di BroadNet Inference. Audio dikirim ke endpoint transkripsi, /v1/audio/transcriptions, dengan model transkripsi. Jika setelah itu Anda butuh ringkasan atau jawaban, kirim transkripnya ke model chat sebagai langkah kedua.

Apakah BroadNet Inference menawarkan text-to-speech atau pembuatan gambar?

Tidak. Referensi API-nya hanya mendokumentasikan chat completions dan transkripsi audio. Model text-to-speech dan pembuatan gambar muncul di katalog riset BroadNet sebagai sudah di-benchmark, dan itu tidak sama dengan ditawarkan.

Format audio apa yang diterima BroadNet?

WAV (audio/wav) atau MP3 (audio/mpeg), hingga 26.214.400 byte per file. Konversi format lain, seperti voice note WhatsApp .ogg, dengan ffmpeg terlebih dulu, dan selalu kirim parameter language.

Bagaimana gambar ditagih?

Pada kunci bayar sesuai pemakaian, BroadNet menagih gambar sebagai token input dengan harga input model, dan gambar yang lebih besar memakai lebih banyak token. Pada paket sesi DeepSeek, gambar sudah termasuk dalam harga tetap.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity