BroadRouter
Mulai

tool_choice

Diperbarui

tool_choice adalah parameter permintaan yang mengatur penggunaan tool. Di Chat Completions OpenAI, nilainya bisa auto (model yang memutuskan), required (wajib memanggil satu tool atau lebih), none (tanpa tool), atau nama fungsi tertentu yang dipaksakan. Opsi padanannya di Anthropic adalah auto, any, tool, dan none.

Disebut juga: tool_choice, tool choice, pilihan tool, memaksa tool call, forced tool call, forced function call

Tool calling memungkinkan model meminta kode Anda menjalankan sebuah fungsi. tool_choice menentukan apakah itu opsional, wajib, atau dimatikan.

Cara kerjanya

Anda mengirim tools (nama fungsi, deskripsi, dan parameter JSON Schema) dan, jika perlu, tool_choice.

Nilai OpenAI Arti Padanan Anthropic
"auto" Model memilih membalas dengan pesan atau satu call atau lebih; default jika ada tool {"type": "auto"}
"required" “The model must call one or more tools” (terjemahan: model wajib memanggil satu tool atau lebih) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} Memaksa satu tool itu {"type": "tool", "name": "get_weather"}
"none" Tanpa tool call; default jika tidak ada tool {"type": "none"}

Panduan function calling OpenAI juga menjelaskan opsi allowed-tools yang membatasi call ke sebagian tool sambil tetap mempertahankan daftar tool lengkap, yang disarankan untuk prompt caching.

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Dokumentasi Anthropic mencatat bahwa dengan any atau tool, API melakukan prefill pada balasan sehingga model tidak menulis teks apa pun sebelum call, dan beberapa model Claude menolak penggunaan tool yang dipaksa dan mengembalikan error 400.

Mengapa penting

  • Pipeline yang andal. Langkah ekstraksi yang harus berakhir dengan call tidak boleh mendapat balasan teks yang bertele-tele. Memaksa call menghilangkan cabang itu.
  • Giliran yang aman. Mengatur none di giliran ringkasan terakhir mencegah model memulai putaran tool baru, sambil tetap memakai daftar tool yang sama.
  • Caching. Anthropic menyebut mengubah tool_choice membatalkan blok pesan yang sudah di-cache, jadi usahakan nilainya tetap stabil antar-giliran.

Di BroadNet Inference

Referensi API BroadNet mendokumentasikan tool calling hanya untuk GLM 5.3 dan Qwen3.8 27B, dan tidak mendokumentasikan tool_choice. Uji setiap nilai yang ingin Anda pakai: kirim required atau nama fungsi tertentu, lalu pastikan balasannya berisi tool_calls. Jika pemaksaan tidak bekerja sesuai harapan, pakai auto dengan instruksi yang jelas lalu validasi hasilnya, atau pakai output terstruktur di model yang sama. Artikel tool calling dengan model open berisi loop validasi dan retry.

Kesalahan umum

  • Memaksa tool di setiap giliran loop agen, sehingga agen tidak pernah bisa memberi jawaban akhir.
  • Mengira required berarti tool tertentu. Artinya tool apa saja.

Pertanyaan umum

Apa nilai default tool_choice?

Di API OpenAI, none jika tidak ada tool yang dikirim dan auto jika ada tool. Anthropic memakai default yang sama.

Kapan saya sebaiknya memaksa tool call?

Saat satu-satunya jawaban yang bisa diterima adalah sebuah call, misalnya classifier yang harus memanggil submit_label. Untuk balasan JSON yang tetap, output terstruktur sering lebih sederhana.

Apakah BroadNet Inference mendukung tool_choice?

BroadNet mendokumentasikan tool calling untuk GLM 5.3 dan Qwen3.8 27B, tetapi referensi API-nya tidak mendokumentasikan tool_choice. Uji setiap nilai sebelum mengandalkannya.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity