O CrewAI é um framework Python para equipes de agentes. A documentação dele mostra um padrão de endpoint personalizado compatível com a OpenAI: um LLM com custom_openai=True e um base_url. A BroadNet Inference serve chat completions padrão em https://inference.broadnet.ai/v1, então se conecta exatamente aí. O BroadRouter é o site da própria BroadNet; este guia segue a documentação e o código-fonte do CrewAI na versão 1.15.41.
Instalação
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
Conexão
import os
from crewai import LLM, Agent
llm = LLM(
model="broadnet/glm-5.3",
custom_openai=True,
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
max_tokens=4000, # reasoning counts toward this limit
)
# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))
analyst = Agent(
role="Analyst",
goal="Summarize incidents",
backstory="You write short incident summaries.",
llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
Se llm.call imprimir uma resposta, a chave, a URL e o ID do modelo estão certos.
Como o CrewAI roteia a requisição
O código-fonte do CrewAI define uma ordem: custom_openai=True vem primeiro e força o provedor OpenAI nativo, passando por cima do que o nome do modelo sugerir. Ele também lança um erro se nenhum endpoint personalizado for definido via base_url, api_base, OPENAI_BASE_URL ou OPENAI_API_BASE. A string do modelo é enviada como está, então broadnet/glm-5.3 chega à BroadNet sem mudança.
Sem custom_openai, um nome como broadnet/glm-5.3 seria lido como provedor broadnet, que o CrewAI não conhece, e cairia no LiteLLM. A alternativa documentada é model="openai/broadnet/glm-5.3" com um base_url: o CrewAI remove o prefixo openai/ e envia o resto.
Mais duas coisas do código e da documentação do CrewAI:
- Campo de limite de tokens. Quando você passa
max_tokens, o cliente nativo enviamax_tokensem chat completions, o campo descrito na referência da API da BroadNet. Se você passarmax_completion_tokens, é ele que vai. - Fique em chat completions. A documentação do CrewAI mostra
api="responses"para mudar para a Responses API. Não defina isso; a BroadNet não lista essa API.
Qual modelo para qual agente
| Agente | Modelo | Por quê |
|---|---|---|
| Agentes com ferramentas | broadnet/glm-5.3 |
A BroadNet lista ferramentas e saída estruturada; contexto de 1M |
| Entrada de imagem ou em árabe, com ferramentas | broadnet/qwen3.8-27b |
Ferramentas e imagens; contexto de 262K |
| Leituras longas, plano de preço fixo | broadnet/deepseek-v4.1-flash |
Planos ilimitados; ferramentas não listadas pela BroadNet |
Uma crew pode misturar os modelos: dê a cada Agent o seu próprio LLM.
Solução de problemas
- 401. A chave está errada, expirada ou sem cota. Se você omitiu
api_key, o CrewAI leuOPENAI_API_KEY, que pode conter uma chave da OpenAI. - “custom_openai=True requires base_url”. Passe
base_urlou definaOPENAI_BASE_URL. - Modelo não encontrado. Confira se o ID bate exatamente com o da BroadNet. Modelos pagos exigem uma recarga; o crédito de $5 cobre só
broadnet/gemma-4-26b-a4be os dois modelos Transcribe. EmptyLLMResponseError. O CrewAI tenta de novo uma vez após uma resposta vazia e depois lança esse erro. Aumentemax_tokens. Por que as respostas vêm vazias.- 429 com vários agentes. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento, e uma sessão do plano roda uma requisição por vez. Veja erros e novas tentativas.
