---
title: "Setup ng SillyTavern Custom OpenAI-compatible endpoint"
description: "Ikonekta ang SillyTavern sa BroadNet Inference sa Custom (OpenAI-compatible) na Chat Completion source, tamang model ID, prompt post-processing at token limit."
url: https://broadrouter.com/fil/guides/sillytavern-custom-openai-endpoint/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/) (na-update noong 2026-11-16).

# SillyTavern sa BroadNet Inference (Custom OpenAI-compatible)

Na-update 2026-11-16

Sa API Connections panel ng SillyTavern, piliin ang Chat Completion, saka ang Custom (OpenAI-compatible) bilang Chat Completion Source. I-set ang Custom Endpoint sa https://inference.broadnet.ai/v1, i-paste ang BroadNet key mo, i-type ang model ID gaya ng broadnet/qwen3.8-27b sa Enter a Model ID, i-click ang Connect, saka ang Test Message. I-set ang Max Response Length sa 1,000 token o higit pa.

Ang SillyTavern ay open-source na chat front end na sikat para sa character chat at roleplay. Ikinokonekta ng **Custom (OpenAI-compatible)** source nito ang Chat Completion API type sa kahit anong server na sumusunod sa generic na OpenAI schema. Karaniwang chat completions ang sine-serve ng BroadNet Inference sa `https://inference.broadnet.ai/v1`. Ang BroadRouter ay sariling site ng BroadNet; sinusundan ng mga hakbang ang [docs ng SillyTavern](https://docs.sillytavern.app/usage/api-connections/openai/) at ang 1.19.0 release nito.

## Setup

1.  **Kumuha ng key.** Gumawa ng pay-as-you-go key sa BroadNet console, bumili ng hourly key, o bumili ng [unlimited na plan](https://broadrouter.com/fil/guides/unlimited-llm-api-sessions/).
    
2.  Buksan ang **API Connections** panel.
    
3.  I-set ang **API** sa **Chat Completion**.
    
4.  I-set ang **Chat Completion Source** sa **Custom (OpenAI-compatible)**.
    
5.  Punan ang custom form:
    
    | Field | Value |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | ang BroadNet key mo |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  I-click ang **Connect**.
    
7.  **I-test ito.** I-click ang **Test Message**. Magpapadala ang SillyTavern ng simpleng prompt sa model; kapag may reply, gumagana ang connection.
    

Huwag idagdag ang `/chat/completions` sa URL. Sabi ng form ng SillyTavern, kusang idinadagdag ang suffix na iyon.

I-type ang model ID sa halip na pumili mula sa **Available Models**. Galing ang listahang iyon sa `/v1/models`, na inilalarawan ng docs ng BroadNet bilang catalogue metadata para sa mga monitor. Nang suriin namin ito noong Nobyembre 15, 2026, dalawang transcription model lang ang nakalista, at hindi puwedeng mag-chat ang mga iyon.

## Aling model ang pipiliin

| Model | ID | Context | Tala |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1,048,576 | Mahahabang chat; ang model sa mga unlimited na plan |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262,144 | Mga larawan; sinubok ng BroadNet sa Arabic |
| GLM 5.3 | `broadnet/glm-5.3` | 1,048,576 | Text lang; tools |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32,768 | Tumatakbo sa $5 na libreng credit at sa hourly key |

Bagay ang unlimited na plan sa mahahabang session dahil hindi ka nagbabayad kada token: $1 ang isang oras ng Meteor, $15 ang isang linggo ng Orbit at $60 ang isang buwan ng Full Moon. Isang request lang sa isang pagkakataon ang pinapatakbo ng bawat plan session.

## Mga setting na dapat baguhin

-   **Max Response Length (tokens).** Nagre-reason muna bago sumagot ang DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, at kasama ang reasoning sa limit na ito. I-set sa 1,000 o higit pa, kung hindi ay baka blangko ang makuha mong mga reply.
-   **Context Size (tokens).** Itugma ito sa model sa table. Hindi ito mababasa ng SillyTavern mula sa BroadNet.
-   **Prompt Post-Processing.** Kung tinatanggihan ng model ang isang prompt dahil sa maraming system message o sa pagkakasunod ng mga role, subukan muna ang **Merge consecutive roles**, saka ang **Semi-strict**. Sabi ng docs ng SillyTavern, tinatanggal ng mga opsyong ito ang tool calls maliban kung pipiliin mo ang “with tools” na variant.
-   **Bypass status check.** Kung nagbababala ang SillyTavern na hindi gumagana ang API pero nagtatagumpay ang Test Message, i-tick ito.

## Troubleshooting

-   **401.** Mali, expired o naubusan ng allowance ang key. I-paste ulit ito at i-click ang Connect.
-   **404 o “model not found”.** Kailangang nagtatapos sa `/v1` ang URL, at kasama sa ID ang `broadnet/` prefix. Kailangan ng top-up ang mga bayad na model; ang `broadnet/gemma-4-26b-a4b` at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
-   **Blangkong mga reply.** Taasan ang response length. [Bakit walang laman ang mga sagot](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/).
-   **429.** Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay na tumatakbo, at iisang stream lang ang pinapatakbo ng hourly key at ng mga plan session. Tingnan ang [errors and retries](https://broadrouter.com/fil/guides/errors-and-retries/).

## Mga termino sa gabay na ito

[API key](https://broadrouter.com/fil/glossary/api-key/)

Ang API key ay isang lihim na string na kumikilala at nagpapahintulot sa client na tumatawag sa isang API. Kadalasang hinihingi ito ng mga LLM API sa Authorization: Bearer header, at ang sinumang may hawak ng key ay makakagawa ng mga request na sisingilin sa account na may-ari nito.

[Token](https://broadrouter.com/fil/glossary/token/)

Ang token ay ang yunit ng text na binabasa at isinusulat ng isang language model: isang salita, bahagi ng salita, bantas o byte sequence na ginawa ng tokenizer ng model. Sa token binibilang, nililimitahan at kadalasang sinisingil ng mga LLM API ang paggamit.

[Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/)

Ang pay-as-you-go ay paraan ng pagpepresyo kung saan ang nagamit mo lang ang binabayaran mo, sinusukat kada yunit gaya ng token, request o minuto ng audio, nang walang subscription o minimum na commitment. Ganito naniningil ang karamihan ng LLM API, mula sa prepaid na balance o sa pana-panahong invoice.

[Context window](https://broadrouter.com/fil/glossary/context-window/)

Ang context window ay ang pinakamaraming token na kayang hawakan ng isang language model sa iisang request. Sakop nito ang prompt, history ng usapan, tool definitions, mga larawan at ang nabuong output, kasama ang anumang reasoning tokens. Ang hindi kasya ay kailangang bawasan, ibuod o hatiin sa ilang request.

[Flat-rate LLM plan (unlimited na plan)](https://broadrouter.com/fil/glossary/flat-rate-llm-plan/)

Ang flat-rate LLM plan ay naniningil ng fixed na presyo para sa isang period, gaya ng isang buwan, para sa access sa language model API sa halip na maningil kada token. Kadalasang may ibang nililimitahan ang ganitong plan, gaya ng concurrency, bilis, mga model o usage window, kaya kasinghalaga ng presyo ang mga limit.

[Tool calling (function calling)](https://broadrouter.com/fil/glossary/tool-calling/)

Ang tool calling, tinatawag ding function calling, ay feature ng LLM API kung saan nagbabalik ang model ng structured na request para magpatakbo ng function na tinukoy ng developer, kasama ang JSON arguments. Ang application ang nagpapatakbo ng function at nagpapadala pabalik ng resulta; hindi kailanman nagpapatakbo ng code ang model mismo.

[Base URL](https://broadrouter.com/fil/glossary/base-url/)

Ang base URL ay ang fixed na root address ng isang API, gaya ng https://api.example.com/v1, na idinudugtong ng client sa unahan ng bawat endpoint path, gaya ng /chat/completions. Sa mga OpenAI-compatible SDK, kapag pinalitan ang base URL, kasama ang API key at model ID, sa ibang provider na tatawag ang parehong code.

[Chat Completions API](https://broadrouter.com/fil/glossary/chat-completions-api/)

Ang Chat Completions API ay HTTP endpoint ng OpenAI, POST /v1/chat/completions, na tumatanggap ng pangalan ng model at listahan ng mga message na may role, at ibinabalik ang susunod na message ng model. Ang hugis ng request at response nito ang naging karaniwang format na ginagamit din ng mga OpenAI-compatible na provider at SDK.

## Mga tanong

### Bakit mali o walang laman ang listahan ng Available Models para sa BroadNet?

Pinupunan ito ng SillyTavern mula sa /v1/models. Nang suriin namin noong Nobyembre 15, 2026, dalawang transcription model lang ang nakalista sa pampublikong /v1/models ng BroadNet. I-type na lang ang chat model ID sa Enter a Model ID.

### Aling BroadNet model ang pinakamainam para sa mahahabang roleplay chat?

May 1,048,576-token na context ang DeepSeek V4.1 Flash at ito ang model sa mga flat-rate na unlimited na plan ng BroadNet. Ang Qwen3.8 27B naman ang sinubok ng BroadNet sa Arabic, kasama ang mga diyalekto ng Gulf at Egyptian.

### Bakit blangko ang mga reply sa SillyTavern?

Nagre-reason muna bago sumagot ang mga chat model ng BroadNet maliban sa Gemma 4 VL 26B, at kasama ang reasoning sa max\_tokens. Ang Max Response Length ng SillyTavern ang nagse-set ng limit na iyon, kaya taasan ito sa 1,000 token o higit pa.

### May mga patakaran ba sa content?

Oo. Saklaw ng Acceptable Use Policy ng BroadNet ang lahat ng ipinapadala sa API, at tahasan nitong isinasama ang fictional at synthetic na content sa pagbabawal nito sa sexual content na may kinalaman sa mga menor de edad.

## Mga kaugnay na gabay

-   [Jan at BroadNet Inference bilang custom OpenAI-compatible provider](https://broadrouter.com/fil/guides/jan-custom-endpoint/)
-   [Paano ikonekta ang Open WebUI sa BroadNet Inference](https://broadrouter.com/fil/guides/open-webui-openai-api/)
-   [Bakit walang laman ang sagot ng isang reasoning model](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/)
-   [Mga error code ng BroadNet Inference at kailan dapat mag-retry](https://broadrouter.com/fil/guides/errors-and-retries/)
-   [Lahat ng tool na gumagana sa BroadNet Inference (Ingles)](https://broadrouter.com/integrations/): mga SDK, coding agent, chat UI at automation tool, kasama ang eksaktong setting ng bawat isa

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**Mga source**

-   [SillyTavern docs, Chat Completions API connections, Custom OpenAI-compatible endpoint (sinuri noong 2026-11-15)](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [Source ng SillyTavern, Custom endpoint form sa public/index.html, release branch (sinuri noong 2026-11-15)](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [Release 1.19.0 ng SillyTavern sa GitHub, inilabas noong 2026-09-14, pinakabagong release (sinuri noong 2026-11-16)](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [Acceptable Use Policy ng BroadNet (sinuri noong 2026-11-15) (Ingles)](https://www.broadnet.ai/aup)
-   [API reference ng BroadNet Inference (sinuri noong 2026-11-15) (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
