BroadRouter

Rodar o smolagents na BroadNet Inference com OpenAIModel

Atualizado em

Crie o OpenAIModel do smolagents com model_id definido como um ID da BroadNet, por exemplo broadnet/glm-5.3, api_base como https://inference.broadnet.ai/v1 e api_key com a sua chave da BroadNet, e passe-o ao CodeAgent ou ao ToolCallingAgent. O CodeAgent escreve Python em vez de usar tool calls nativas, então roda no DeepSeek V4.1 Flash. O ToolCallingAgent exige GLM 5.3 ou Qwen3.8 27B.

O smolagents é a pequena biblioteca Python da Hugging Face para agentes. A classe OpenAIModel dele “connects to an OpenAI-compatible API server” (tradução: conecta-se a um servidor de API compatível com a OpenAI), com api_base para a URL. A BroadNet Inference oferece chat completions em https://inference.broadnet.ai/v1, então funciona diretamente. O BroadRouter é o site da própria BroadNet; este guia segue a documentação do smolagents 1.26.0.

Instalação

pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'

CodeAgent

import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))

O CodeAgent pede ao modelo que escreva Python entre tags <code> e executa esse código localmente. A requisição é uma chat completion comum, com stop sequences como </code> e sem o campo tools. Ou seja, ele não depende de tool calling nativo e pode rodar no broadnet/deepseek-v4.1-flash, o modelo dos planos ilimitados da BroadNet. A qualidade do código ainda varia de modelo para modelo, então teste as suas próprias tarefas.

O CodeAgent executa código escrito pelo modelo. Leia as orientações do smolagents sobre execução segura de código antes de dar a ele ferramentas que mexem em arquivos, rede ou credenciais.

ToolCallingAgent

from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))

O ToolCallingAgent envia as suas ferramentas, mais a ferramenta final_answer dele, como esquemas de função com tool_choice: "required". Use broadnet/glm-5.3 ou broadnet/qwen3.8-27b; a documentação da BroadNet lista ferramentas só para esses dois modelos.

Qual modelo escolher

Agente Modelo
CodeAgent, execuções longas num plano de preço fixo broadnet/deepseek-v4.1-flash
ToolCallingAgent broadnet/glm-5.3
Qualquer um dos agentes com entrada de imagem broadnet/qwen3.8-27b

Uma sessão do plano roda uma requisição por vez, e um agente envia os passos um depois do outro, então uma sessão atende um agente. Preços de todos os modelos.

Como testamos

Em 2026-11-15 instalamos o smolagents 1.26.0 em um ambiente virtual limpo e rodamos os dois agentes contra um servidor mock local que fala o formato de chat completions da BroadNet. O CodeAgent com o ID do DeepSeek recebeu uma resposta com código, executou o código e devolveu 42. As requisições dele tinham max_tokens: 4000, stop sequences e nenhuma ferramenta. No ToolCallingAgent, conferimos o formato da requisição: o ID do modelo foi enviado sem alteração, com os dois esquemas de ferramenta e tool_choice: "required". O smolagents devolve os resultados das ferramentas como mensagens de usuário. O nosso mock não seguia esse formato, então não levamos esse agente até a resposta final. Não tínhamos uma chave da BroadNet, então não testamos a saída real do modelo.

Solução de problemas

  • 401. A chave está errada, expirou ou ficou sem cota.
  • 404. O api_base precisa terminar em /v1. Confira o ID do modelo. Os modelos pagos exigem uma recarga; o crédito de $5 cobre só broadnet/gemma-4-26b-a4b e os dois modelos Transcribe.
  • “Make sure to provide correct code blobs”. A resposta do modelo não tinha bloco de código. Aumente o max_tokens, porque o raciocínio conta nele, ou tente outro modelo. Por que as respostas vêm vazias.
  • O ToolCallingAgent nunca termina. Troque para broadnet/glm-5.3 ou broadnet/qwen3.8-27b.
  • 429. Uma chave de pagamento por uso permite 30 requisições por minuto. O smolagents pode se limitar sozinho com requests_per_minute. Veja erros e novas tentativas.

Perguntas frequentes

Uso OpenAIModel ou OpenAIServerModel?

O smolagents 1.26 documenta o OpenAIModel para qualquer servidor compatível com a OpenAI. O pacote ainda exporta o OpenAIServerModel, mas a documentação descreve o OpenAIModel.

O smolagents roda no plano ilimitado da BroadNet?

Os planos cobrem o DeepSeek V4.1 Flash. A BroadNet não lista tool calling para ele, mas o CodeAgent não precisa de tool calls nativas: ele pede código Python ao modelo. No nosso teste com servidor mock, um CodeAgent com o ID do DeepSeek enviou requisições de chat comuns, sem o campo tools.

Por que o ToolCallingAgent exige GLM 5.3 ou Qwen3.8 27B?

Ele envia as ferramentas como esquemas de função da OpenAI com tool_choice definido como required. A documentação da BroadNet lista ferramentas só para GLM 5.3 e Qwen3.8 27B.

Como passo max_tokens ou temperature?

Como argumentos nomeados do OpenAIModel. A documentação do smolagents diz que argumentos extras são repassados a cada chamada de completion. No nosso teste, max_tokens=4000 foi enviado em todas as requisições.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity