Conectar SillyTavern a BroadNet Inference (Custom OpenAI-compatible)
Actualizado
En el panel API Connections de SillyTavern, elija Chat Completion y luego Custom (OpenAI-compatible) como Chat Completion Source. Ponga Custom Endpoint en https://inference.broadnet.ai/v1, pegue su clave de BroadNet, escriba un ID de modelo como broadnet/qwen3.8-27b en Enter a Model ID, haga clic en Connect y luego en Test Message. Ponga Max Response Length en 1,000 tokens o más.
SillyTavern es una interfaz de chat de código abierto, popular para chats con personajes y juegos de rol (roleplay). Su fuente Custom (OpenAI-compatible) conecta el tipo de API Chat Completion con cualquier servidor que use el esquema genérico de OpenAI. BroadNet Inference sirve chat completions estándar en https://inference.broadnet.ai/v1. BroadRouter es el sitio de la propia BroadNet; los pasos siguen la documentación de SillyTavern y su versión 1.19.0.
Configuración
Obtenga una clave. Cree una clave de pago por uso en la consola de BroadNet, compre una clave por hora o compre un plan ilimitado.
Abra el panel API Connections.
Ponga API en Chat Completion.
Ponga Chat Completion Source en Custom (OpenAI-compatible).
Complete el formulario personalizado:
Campo
Valor
Custom Endpoint (Base URL)
https://inference.broadnet.ai/v1
Custom API Key
su clave de BroadNet
Enter a Model ID
broadnet/qwen3.8-27b
Haga clic en Connect.
Pruébelo. Haga clic en Test Message. SillyTavern envía un prompt sencillo al modelo; si llega una respuesta, la conexión funciona.
No agregue /chat/completions a la URL. El formulario de SillyTavern indica que ese sufijo se agrega automáticamente.
Escriba el ID del modelo en lugar de elegirlo en Available Models. Esa lista viene de /v1/models, que la documentación de BroadNet describe como metadatos del catálogo para monitores. Cuando lo revisamos el 15 de noviembre de 2026 listaba solo los dos modelos de transcripción, que no sirven para chatear.
Qué modelo elegir
Modelo
ID
Contexto
Notas
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
1,048,576
Chats largos; el modelo de los planes ilimitados
Qwen3.8 27B
broadnet/qwen3.8-27b
262,144
Imágenes; probado en árabe por BroadNet
GLM 5.3
broadnet/glm-5.3
1,048,576
Solo texto; herramientas
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
32,768
Funciona con el crédito gratuito de $5 y con la clave por hora
Un plan ilimitado conviene para sesiones largas porque no paga por token: una hora de Meteoro (Meteor) cuesta $1, una semana de Órbita (Orbit) $15 y un mes de Luna Llena (Full Moon) $60. Cada sesión de plan ejecuta una solicitud a la vez.
Ajustes que conviene cambiar
Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y el razonamiento cuenta para este límite. Póngalo en 1,000 o más, o podría recibir respuestas en blanco.
Context Size (tokens). Hágalo coincidir con el modelo según la tabla. SillyTavern no puede leerlo de BroadNet.
Prompt Post-Processing. Si un modelo rechaza un prompt por tener varios mensajes system o por el orden de los roles, pruebe primero Merge consecutive roles y luego Semi-strict. La documentación de SillyTavern advierte que estas opciones descartan las llamadas a herramientas, salvo que elija la variante “with tools”.
Bypass status check. Si SillyTavern avisa que la API no funciona pero Test Message tiene éxito, marque esta casilla.
Solución de problemas
401. La clave es incorrecta, expiró o se quedó sin saldo. Péguela de nuevo y haga clic en Connect.
404 o “model not found”. La URL debe terminar en /v1 y el ID debe incluir el prefijo broadnet/. Los modelos de pago requieren una recarga; el crédito de $5 cubre solo broadnet/gemma-4-26b-a4b y los dos modelos Transcribe.
429. Una clave de pago por uso permite 30 solicitudes por minuto y 4 simultáneas, y la clave por hora y las sesiones de plan ejecutan un solo stream. Consulte errores y reintentos.
Preguntas frecuentes
¿Por qué la lista Available Models aparece incorrecta o vacía con BroadNet?
SillyTavern la llena desde /v1/models. Cuando lo revisamos el 15 de noviembre de 2026, el /v1/models público de BroadNet listaba solo sus dos modelos de transcripción. Escriba en su lugar el ID del modelo de chat en Enter a Model ID.
¿Qué modelo de BroadNet conviene para chats de rol largos?
DeepSeek V4.1 Flash tiene un contexto de 1,048,576 tokens y es el modelo de los planes ilimitados de tarifa plana de BroadNet. Qwen3.8 27B es el que BroadNet probó en árabe, incluidos los dialectos del Golfo y egipcio.
¿Por qué las respuestas llegan en blanco en SillyTavern?
Los modelos de chat de BroadNet, salvo Gemma 4 VL 26B, razonan antes de responder, y el razonamiento cuenta para max_tokens. Max Response Length de SillyTavern define ese límite, así que súbalo a 1,000 tokens o más.
¿Hay reglas de contenido?
Sí. La Política de Uso Aceptable de BroadNet se aplica a todo lo que se envía por la API, y su prohibición del contenido sexual que involucre a menores cubre explícitamente el contenido ficticio y sintético.