Tragam o vosso próprio modelo
Todos os fornecedores são acedidos através do mesmo cliente de chat completions compatível com a OpenAI, com um URL base e uma chave diferentes. Mudem de fornecedor sem tocar no código, encadeiem-nos para failover, ou apontem tudo para um modelo local e desliguem-se.
Fornecedores suportados
A página Fornecedores mostra a mesma lista com um indicador de configurado e ativo por fornecedor, ligações de registo e um catálogo de modelos curado por fornecedor para o seletor de modelo.
| Anthropic | pago, com crédito gratuito em contas novas |
|---|---|
| OpenAI | pago |
| Google Gemini | escalão gratuito, depois pago |
| Groq | escalão gratuito com limites de débito; serve modelos de raciocínio abertos |
| OpenRouter | uma chave para centenas de modelos com um escalão gratuito rotativo |
| Perplexity | modelos com pesquisa na web incorporada |
| DeepSeek | pago, custo mais baixo |
| Mistral | escalão experimental gratuito; alojado na UE |
| Ollama | auto-alojado na vossa própria máquina; nada sai da rede |
| Together AI | modelos abertos, alguns endpoints gratuitos |
| Cerebras | inferência muito rápida, escalão gratuito |
| Hyperbolic | modelos abertos alojados |
| Hugging Face | API de inferência sobre modelos da comunidade |
| Cohere | forte em sumarização |
| n8n | o vosso próprio workflow a expor um webhook de chat completions |
| Cloudflare Workers AI | precisa de um token de API e do ID da conta |
Selecionar um fornecedor
O fornecedor ativo é uma variável de ambiente mais a chave desse fornecedor. Mudar a partir do painel escreve a nova escolha no ficheiro de ambiente, para que sobreviva a reinícios.
AI_PROVIDER=gemini GEMINI_API_KEY=... AI_HTTP_TIMEOUT_SECONDS=20
Isolado da rede com Ollama
Corram um modelo no mesmo servidor ou numa máquina da vossa rede e apontem o InRoots para ele. O SDK exige um valor de chave, por isso qualquer valor fictício serve. Os modelos pequenos precisam de cerca de 8 GB de RAM; os melhores precisam de mais. Combinado com uma base de dados de IP local no vosso servidor, um servidor de chat auto-alojado e as respostas faladas desligadas, nada sobre as vossas pessoas sai do perímetro.
AI_PROVIDER=ollama OLLAMA_API_KEY=ollama OLLAMA_BASE_URL=http://localhost:11434/v1
Funções de modelo
- Os modelos de raciocínio (gpt-oss, série o) gastam tokens a pensar antes de responder; um orçamento demasiado pequeno devolve um sucesso vazio. O InRoots fixa o mínimo do orçamento em 400 tokens e pede esforço de raciocínio baixo na forma que cada fornecedor espera, recorrendo depois ao texto de raciocínio se a resposta vier vazia.
| summary | resumos e o assistente; nunca limitado pelo orçamento |
|---|---|
| fallback | chamadas de classificação e encaminhamento; sujeitas ao orçamento diário |
| reasoning | julgamentos críticos para a exatidão, como se uma razão de atraso é válida; elevado ao modelo mais forte do fornecedor, ou AI_REASONING_MODEL |
Failover
Todas as chamadas passam por um único ponto de entrada resiliente: primeiro o fornecedor ativo, depois cada fornecedor configurado pela ordem de failover, tentando o modelo por defeito e depois os modelos do catálogo de cada um. Se um fornecedor estiver sem crédito, limitado em débito ou rejeitar a sua chave, o seguinte responde. A ordem é editável pelos administradores; os fornecedores omitidos são acrescentados no fim, para que uma chave recém-adicionada continue a participar.
- Uma tarefa de failsafe sonda a cada 15 minutos o fornecedor ativo com um pedido de um token e, em caso de falha, muda para o primeiro fornecedor configurado que funcione na cadeia (chave de automação ai_failsafe, ligada por defeito).
- Uma sonda de estado do fornecedor avisa o painel quando uma chave expirou.
- Cada recurso à cadeia é escrito no registo de auditoria como ai_provider_fallback.
gemini, openai, anthropic, openrouter, deepseek, mistral, groq, together, cerebras, cohere, hyperbolic, huggingface, ollama