---
title: "Pydantic AI na may custom OpenAI-compatible base_url"
description: "Patakbuhin ang Pydantic AI agents sa BroadNet Inference gamit ang OpenAIChatModel at OpenAICompatibleProvider, pati tool calls, structured output at model profile."
url: https://broadrouter.com/fil/guides/pydantic-ai-openai-compatible/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/guides/pydantic-ai-openai-compatible/) (na-update noong 2026-11-16).

# Pydantic AI sa BroadNet Inference (OpenAICompatibleProvider)

Na-update 2026-11-16

I-install ang pydantic-ai-slim\[openai\], saka gawin ang OpenAIChatModel na may BroadNet model ID gaya ng broadnet/glm-5.3 at OpenAICompatibleProvider na may base URL na https://inference.broadnet.ai/v1 at BroadNet key mo bilang API key. Ipasa ang model sa Agent. OpenAIChatModel ang gamitin, hindi ang Responses model, dahil chat completions ang sine-serve ng BroadNet. Ayon sa docs ng Pydantic AI, para sa OpenAI mismo ang OpenAIProvider na may base\_url.

Ang Pydantic AI ay Python agent framework mula sa Pydantic team. Para sa serbisyong walang built-in provider dito, sinasabi ng docs nito na gamitin ang `OpenAICompatibleProvider` na may `base_url` ng serbisyo. Karaniwang chat completions ang sine-serve ng BroadNet Inference sa `https://inference.broadnet.ai/v1`, kaya iyan ang daan. Sariling site ng BroadNet ang BroadRouter; sinusundan ng gabay na ito ang docs ng Pydantic AI sa bersyon 2.68.

## I-install

```bash
pip install "pydantic-ai-slim[openai]"
export BROADNET_API_KEY='your-broadnet-key'
```

## Ikonekta

```python
import os
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai_compatible import OpenAICompatibleProvider

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider(
        'broadnet',
        base_url='https://inference.broadnet.ai/v1',
        api_key=os.environ['BROADNET_API_KEY'],
    ),
)

agent = Agent(model)
result = agent.run_sync('Give me three names for a Go linting tool.')
print(result.output)
```

Ang pagpapatakbo nito ang test: kapag may lumabas na sagot, tama ang key, URL at model ID.

-   **Ang unang argument ay ang model ID** na ipinapadala sa BroadNet. Gamitin ito nang eksakto, kasama ang `broadnet/` prefix.
-   **Ang pangalan ng provider** (`'broadnet'` dito) ay naitatala sa bawat response. Ayon sa docs ng Pydantic AI, panatilihin itong hindi nagbabago, dahil ito ang nagpapasya kung aling data mula sa mga naunang response ang ibinabalik sa serbisyo.
-   **Manatili sa `OpenAIChatModel`.** Ayon sa docs ng Pydantic AI, gamitin lang ang `OpenAIResponsesModel` kung ipinapatupad ng serbisyo ang Responses API. Hindi ito nakalista sa BroadNet.

## Tools at structured output

```python
from pydantic import BaseModel

class City(BaseModel):
    name: str
    country: str

agent = Agent(model, output_type=City)
print(agent.run_sync('Which city hosts the Burj Khalifa?').output)
```

Gamitin ang `broadnet/glm-5.3` o `broadnet/qwen3.8-27b` para sa tools at structured output; sa dalawang model na ito lang nakalista sa docs ng BroadNet ang parehong feature.

## Kailan magse-set ng model profile

Pumipili ang Pydantic AI ng request profile batay sa pangalan ng model. Kung binabalewala o tinatanggihan ang isang feature, sinasabi ng docs nito na magpasa ng sarili mong `OpenAIModelProfile`. Dalawang setting ang dapat mong malaman para sa BroadNet:

```python
from pydantic_ai.profiles.openai import OpenAIModelProfile

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider('broadnet', base_url='https://inference.broadnet.ai/v1', api_key=os.environ['BROADNET_API_KEY']),
    profile=OpenAIModelProfile(
        openai_chat_supports_max_completion_tokens=False,  # send max_tokens, the field BroadNet documents
        openai_supports_strict_tool_definition=False,      # only if strict tool schemas are rejected
    ),
)
```

Ipasa ang output limit sa pamamagitan ng model settings, halimbawa `agent.run_sync(prompt, model_settings={'max_tokens': 2000})`. Kasama rito ang reasoning sa DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B.

## Aling model ang pipiliin

| Agent | Model |
| --- | --- |
| Tools, structured output | `broadnet/glm-5.3` |
| Mga larawan o Arabic na teksto, may tools | `broadnet/qwen3.8-27b` |
| Mahahabang dokumento, flat-price na plan | `broadnet/deepseek-v4.1-flash` |
| Libreng panimulang credit | `broadnet/gemma-4-26b-a4b` (32,768-token na context) |

[Mga presyo ng bawat model](https://broadrouter.com/fil/pricing/).

## Troubleshooting

-   **401.** Mali, expired o ubos na ang allowance ng key.
-   **404 o model not found.** Dapat nagtatapos sa `/v1` ang `base_url`. Suriin ang model ID. Kailangan ng top-up para sa mga bayad na model; ang `broadnet/gemma-4-26b-a4b` at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
-   **Walang lamang output o paulit-ulit na validation retry.** Naubos ng reasoning ang output budget. Taasan ang `max_tokens`. [Bakit walang laman ang mga sagot](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/).
-   **400 sa mga tool definition.** I-set ang `openai_supports_strict_tool_definition=False` sa profile, at gumamit ng model na nakalista sa BroadNet na may tools.
-   **429 kapag sabay-sabay ang mga agent.** Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Tingnan ang [errors and retries](https://broadrouter.com/fil/guides/errors-and-retries/).

## Mga termino sa gabay na ito

[Tool calling (function calling)](https://broadrouter.com/fil/glossary/tool-calling/)

Ang tool calling, tinatawag ding function calling, ay feature ng LLM API kung saan nagbabalik ang model ng structured na request para magpatakbo ng function na tinukoy ng developer, kasama ang JSON arguments. Ang application ang nagpapatakbo ng function at nagpapadala pabalik ng resulta; hindi kailanman nagpapatakbo ng code ang model mismo.

[AI agent](https://broadrouter.com/fil/glossary/agent/)

Ang AI agent ay isang system kung saan ang language model mismo ang nagdidirekta ng mga hakbang nito tungo sa isang layunin: pinipili nito kung aling tools ang tatawagin, binabasa ang mga resulta at umuulit hanggang makabuo ng huling sagot o maabot ang limit. Workflow naman ang karaniwang tawag sa fixed na script na tumatawag sa model sa takdang punto.

[API key](https://broadrouter.com/fil/glossary/api-key/)

Ang API key ay isang lihim na string na kumikilala at nagpapahintulot sa client na tumatawag sa isang API. Kadalasang hinihingi ito ng mga LLM API sa Authorization: Bearer header, at ang sinumang may hawak ng key ay makakagawa ng mga request na sisingilin sa account na may-ari nito.

[Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/)

Ang pay-as-you-go ay paraan ng pagpepresyo kung saan ang nagamit mo lang ang binabayaran mo, sinusukat kada yunit gaya ng token, request o minuto ng audio, nang walang subscription o minimum na commitment. Ganito naniningil ang karamihan ng LLM API, mula sa prepaid na balance o sa pana-panahong invoice.

[Structured output](https://broadrouter.com/fil/glossary/structured-output/)

Ang structured output ay feature ng LLM API na naglilimita sa sagot ng model sa format na itinakda ng developer, kadalasang JSON Schema, para maaasahang ma-parse ito ng code. Mas mahigpit ito kaysa sa JSON mode, na gumagarantiya ng valid na JSON pero hindi ng partikular na hugis.

[Chat Completions API](https://broadrouter.com/fil/glossary/chat-completions-api/)

Ang Chat Completions API ay HTTP endpoint ng OpenAI, POST /v1/chat/completions, na tumatanggap ng pangalan ng model at listahan ng mga message na may role, at ibinabalik ang susunod na message ng model. Ang hugis ng request at response nito ang naging karaniwang format na ginagamit din ng mga OpenAI-compatible na provider at SDK.

[Concurrency](https://broadrouter.com/fil/glossary/concurrency/)

Ang concurrency ay ang bilang ng request na sabay-sabay na in flight mula sa isang client. Madalas itong nililimitahan ng mga LLM API kada key o plan, hiwalay sa requests per minute, dahil humahawak ng GPU capacity ang bawat bukas na request hanggang matapos ang response nito.

[Context window](https://broadrouter.com/fil/glossary/context-window/)

Ang context window ay ang pinakamaraming token na kayang hawakan ng isang language model sa iisang request. Sakop nito ang prompt, history ng usapan, tool definitions, mga larawan at ang nabuong output, kasama ang anumang reasoning tokens. Ang hindi kasya ay kailangang bawasan, ibuod o hatiin sa ilang request.

## Mga tanong

### OpenAIProvider ba o OpenAICompatibleProvider ang dapat kong gamitin para sa BroadNet?

OpenAICompatibleProvider. Ayon sa docs ng Pydantic AI, tumatanggap din ng base\_url ang OpenAIProvider, pero para ito sa OpenAI mismo o sa isang transparent proxy papunta rito, at ipinapalagay nito ang mga model at feature ng OpenAI.

### Bakit OpenAIChatModel at hindi ang default na OpenAI model?

Responses API ang gamit ng default na OpenAI model ng Pydantic AI. Chat completions ang sine-serve ng BroadNet sa /v1/chat/completions, na siyang tinatawag ng OpenAIChatModel.

### Gumagana ba ang tools at structured output?

Oo, sa mga model na nakalista sa BroadNet na may tools at structured output, ang GLM 5.3 at Qwen3.8 27B. Hindi nakalista sa docs ng BroadNet ang tools para sa DeepSeek V4.1 Flash, kaya subukan muna doon ang mga agent na gumagamit ng tools.

### Paano ko pipigilan ang Pydantic AI sa pagpapadala ng max\_completion\_tokens?

Ipasa ang profile=OpenAIModelProfile(openai\_chat\_supports\_max\_completion\_tokens=False) sa OpenAIChatModel. Ang mas lumang max\_tokens field na ang ipapadala ng Pydantic AI, na siyang inilalarawan ng API reference ng BroadNet.

## Mga kaugnay na gabay

-   [Paano gamitin ang OpenAI Python SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-python-sdk/)
-   [Paano gamitin ang LangChain sa BroadNet Inference](https://broadrouter.com/fil/guides/langchain-openai-base-url/)
-   [CrewAI sa BroadNet Inference bilang custom na OpenAI endpoint](https://broadrouter.com/fil/guides/crewai-custom-openai-endpoint/)
-   [Bakit walang laman ang sagot ng isang reasoning model](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/)
-   [Lahat ng tool na gumagana sa BroadNet Inference (Ingles)](https://broadrouter.com/integrations/): mga SDK, coding agent, chat UI at automation tool, kasama ang eksaktong setting ng bawat isa

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-pydantic-ai-openai-compatible&utm_content=page-cta) ·

**Mga source**

-   [Pydantic AI docs, Other compatible APIs (Other endpoints, Model profile) (sinuri noong 2026-11-15)](https://pydantic.dev/docs/ai/models/compatible-apis/)
-   [Pydantic AI docs, OpenAI models (sinuri noong 2026-11-15)](https://pydantic.dev/docs/ai/models/openai/)
-   [PyPI, pydantic-ai 2.68.0, Python 3.11+ (sinuri noong 2026-11-15)](https://pypi.org/project/pydantic-ai/)
-   [API reference ng BroadNet Inference (sinuri noong 2026-11-15) (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-pydantic-ai-openai-compatible&utm_content=sources)
