BroadRouter
Magsimula

JSON mode

Na-update

Ang JSON mode ay isang setting ng LLM API, response_format {"type": "json_object"} sa mga OpenAI-style na API, na ginagawang valid at nae-parse na JSON ang sagot ng model. Hindi tulad ng structured outputs na may JSON Schema, hindi nito ginagarantiya kung anong mga key, type o value ang laman ng object.

Tinatawag ding: JSON mode sa LLM, JSON na output, json_object, JSON output mode, JSON response mode

Isang tanong lang ang sinasagot ng JSON mode: magtatagumpay ba ang json.loads()? Hindi nito sinasagot ang ikalawa: ito ba ang object na inaasahan ng code ko?

Paano ito gumagana

Sa Chat Completions API, isang field lang ang kailangan para i-on ito:

{"response_format": {"type": "json_object"},
 "messages": [
   {"role": "system", "content": "Return JSON with keys name and email."},
   {"role": "user", "content": "Reach me at Sara, sara@example.com"}]}

Tinatawag ito ng API reference ng OpenAI na “the older JSON mode, which ensures the message the model generates is valid JSON.” (Salin ng BroadRouter: “ang mas lumang JSON mode, na tumitiyak na valid na JSON ang message na binubuo ng model.”) Dalawang patakaran ang kasama nito. Kailangan mong humingi ng JSON sa isang message: ayon sa gabay ng OpenAI, ang API ay “will throw an error if the string ‘JSON’ does not appear somewhere in the context.” (Salin ng BroadRouter: “magbabato ng error kung hindi lumalabas ang string na ‘JSON’ saanman sa context.”) At nasa model ang hugis. Sinasabi ng gabay na ang JSON mode ay “will not guarantee the output matches any specific schema.” (Salin ng BroadRouter: “hindi gagarantiyang tumutugma ang output sa anumang partikular na schema.”)

Ang structured output ang mas mahigpit na opsyon. Nagpapasa ito ng JSON Schema gamit ang {"type": "json_schema", ...}, at nakatali ang model doon.

JSON mode (json_object) Structured outputs (json_schema)
Valid na JSON oo oo
Mga kailangang key at type hindi oo
Ikaw ang nagbibigay ng schema hindi oo
Kailangang banggitin ang “JSON” sa prompt oo (OpenAI) hindi

Inirerekomenda ng OpenAI ang “always using Structured Outputs instead of JSON mode when possible.” (Salin ng BroadRouter: “laging gumamit ng Structured Outputs sa halip na JSON mode kapag posible.”)

Bakit ito mahalaga

  • Ikaw pa rin ang magva-validate. Sa JSON mode, nae-parse nang maayos ang kulang na key o numerong ipinadala bilang string, at saka lang pumapalya mamaya. Mag-validate laban sa schema sa code.
  • Pagkaputol. Kapag tumama ang sagot sa max_tokens, hindi kumpleto ang JSON. Mas lantad dito ang mga reasoning model, dahil iisang budget ang ginagamit ng pag-iisip.
  • Fallback. Inililista ng gabay ng OpenAI ang JSON mode sa mas lumang model na walang json_schema. Iba-iba ang suporta bawat provider at model, kaya JSON mode kasama ang sarili mong validation ang fallback kapag hindi tinatanggap ang schema.

Sa BroadNet Inference

Nakalista sa API reference ng BroadNet ang structured output para sa GLM 5.3 at Qwen3.8 27B. Hindi nito sinasabi kung json_object o json_schema ang suportadong response_format, o kung tumatanggap ng alinman ang DeepSeek V4.1 Flash at BroadNet Gemma 4 VL 26B. Subukan ang dalawa sa model mo. Para isulat ang schema, gamitin ang JSON Schema generator. Tinatalakay ng post na JSON mode vs json_schema ang pag-aayos at monitoring, at ipinapakita ng gabay sa invoice ang pagkuha ng JSON mula sa mga larawan.

Mga tanong

Pareho ba ang JSON mode at structured outputs?

Hindi. Ayon sa gabay ng OpenAI, parehong valid na JSON ang nabubuo ng dalawa, pero Structured Outputs lang ang tumitiyak na sinusunod ang schema. Puwedeng magbalik ang JSON mode ng kahit anong valid na object.

Bakit nag-e-error ang JSON mode tungkol sa salitang JSON?

Hinihingi ng OpenAI na may instruction na gumawa ng JSON sa isa sa mga message, at nag-e-error ito kapag walang string na "JSON" sa context.

Puwede pa bang magbalik ng sirang JSON ang JSON mode?

Oo, kapag naputol ang sagot dahil sa max_tokens o sa limit ng context. Tingnan muna ang finish_reason bago mag-parse.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity