Satu agen mengerjakan tugas langkah demi langkah. Sistem multi-agen memecah tugas dan menjalankan bagian-bagiannya sekaligus.
Cara kerjanya
Anthropic menggambarkan fitur Research-nya sebagai “orchestrator-worker pattern, where a lead agent coordinates the process while delegating to specialized subagents.” (terjemahan: pola orchestrator-worker, di mana agen utama mengoordinasikan proses sambil mendelegasikan ke subagen yang terspesialisasi.) Agen utama membaca pertanyaan, membuat rencana, menjalankan beberapa subagen yang mencari secara paralel, lalu menulis jawaban akhir dari ringkasan mereka.
Ada desain lain. Makalah AutoGen (Wu dkk., 2023) menggambarkan framework di mana agen yang “customizable, conversable” (terjemahan: bisa dikustomisasi dan bisa bercakap) berbicara satu sama lain, dengan manusia, dan dengan tool, sementara developer memprogram pola percakapannya dalam bahasa alami atau kode.
Contoh jalannya pola orchestrator-worker:
Lead: plan -> start 3 workers
Worker 1: search docs for topic A -> 1,500-token summary
Worker 2: search docs for topic B -> 1,500-token summary
Worker 3: search docs for topic C -> 1,500-token summary
Lead: read 3 summaries -> final answer
Setiap worker menghabiskan tokennya sendiri untuk mencari dan membaca. Agen utama hanya melihat ringkasannya.
Mengapa penting
- Kualitas pada tugas luas. Anthropic melaporkan bahwa susunan multi-agen dengan Claude Opus 4 sebagai agen utama dan worker Sonnet 4 “outperformed single-agent Claude Opus 4 by 90.2%” (terjemahan: mengungguli Claude Opus 4 agen tunggal sebesar 90,2%) pada eval riset internalnya.
- Biaya token. Artikel yang sama menyebut agen memakai sekitar empat kali token chat, dan sistem multi-agen “about 15× more tokens than chats.” (terjemahan: sekitar 15× lebih banyak token daripada chat.) Artikel itu juga melaporkan bahwa penggunaan token saja menjelaskan 80% variasi performa pada BrowseComp. Lebih banyak agen biasanya berarti tagihan lebih besar. Artikel biaya multi-agen membandingkan penagihan per token dan harga tetap.
- Kecocokan. Anthropic mencatat bahwa coding kurang cocok, karena “most coding tasks involve fewer truly parallelizable tasks than research,” (terjemahan: sebagian besar tugas coding melibatkan lebih sedikit tugas yang benar-benar bisa diparalelkan dibanding riset), dan tugas dengan konteks bersama yang berat atau ketergantungan antar-agen juga kurang cocok.
- Konkurensi. Worker paralel berarti request paralel, jadi batas konkurensi Anda membatasi percepatannya.
Di BroadNet Inference
BroadNet menyajikan modelnya; orkestrasi berjalan di framework Anda. Panduan membahas CrewAI dan OpenAI Agents SDK dengan base URL BroadNet.
Kunci bayar sesuai pemakaian mengizinkan 30 request per menit dan 4 request berjalan sekaligus. Pada paket harga tetap untuk DeepSeek V4.1 Flash tidak ada meteran token, sehingga pengali token hilang dari tagihan, tetapi setiap sesi menjalankan satu request dalam satu waktu. Beli satu sesi untuk setiap request model yang bisa berjalan pada saat yang sama: tiga worker yang berjalan bersamaan butuh tiga sesi, dan empat jika agen utama terus memanggil model selagi mereka bekerja. Menjalankan agen coding paralel di API harga tetap membahas pola-pola yang umum.