Su propio modelo
Todos los proveedores se alcanzan a través del mismo cliente de finalizaciones de chat compatible con OpenAI, con una URL base y una clave distintas. Se cambia de proveedor sin tocar código, se encadenan para la conmutación por error, o se apunta todo a un modelo local y se desconecta.
Proveedores admitidos
La página de Proveedores muestra la misma lista con un indicador de configurado y activo por proveedor, enlaces de registro y un catálogo de modelos seleccionado por proveedor para el selector de modelo.
| Anthropic | de pago, con crédito gratuito en cuentas nuevas |
|---|---|
| OpenAI | de pago |
| Google Gemini | nivel gratuito, luego de pago |
| Groq | nivel gratuito con límites de tasa; sirve modelos de razonamiento abiertos |
| OpenRouter | una clave para cientos de modelos con un nivel gratuito rotatorio |
| Perplexity | modelos con búsqueda web integrada |
| DeepSeek | de pago, el costo más bajo |
| Mistral | nivel experimental gratuito; alojado en la UE |
| Ollama | autoalojado en su propia máquina; nada sale de la red |
| Together AI | modelos abiertos, algunos endpoints gratuitos |
| Cerebras | inferencia muy rápida, nivel gratuito |
| Hyperbolic | modelos abiertos alojados |
| Hugging Face | API de inferencia sobre modelos de la comunidad |
| Cohere | fuerte en resumen |
| n8n | su propio flujo de trabajo exponiendo un webhook de finalizaciones de chat |
| Cloudflare Workers AI | necesita un token de API y el ID de cuenta |
Seleccionar un proveedor
El proveedor activo es una variable de entorno más la clave de ese proveedor. Cambiarlo desde el panel escribe la nueva elección en el archivo de entorno para que sobreviva a los reinicios.
AI_PROVIDER=gemini GEMINI_API_KEY=... AI_HTTP_TIMEOUT_SECONDS=20
Aislado de la red con Ollama
Se ejecuta un modelo en el mismo servidor o en una máquina de la red y se apunta InRoots hacia él. El SDK exige un valor de clave, así que cualquier marcador sirve. Los modelos pequeños necesitan aproximadamente 8 GB de RAM; los mejores necesitan más. Combinado con una base de datos de IP local en su servidor, un servidor de chat autoalojado y las respuestas habladas desactivadas, nada sobre las personas sale del perímetro.
AI_PROVIDER=ollama OLLAMA_API_KEY=ollama OLLAMA_BASE_URL=http://localhost:11434/v1
Roles de modelo
- Los modelos de razonamiento (gpt-oss, serie o) gastan tokens pensando antes de responder; un presupuesto demasiado pequeño devuelve un éxito vacío. InRoots fija un mínimo de 400 tokens y solicita un esfuerzo de razonamiento bajo en la forma que espera cada proveedor, y luego recurre al texto de razonamiento si la respuesta está vacía.
| summary | resúmenes y el asistente; nunca limitados por el presupuesto |
|---|---|
| fallback | llamadas de clasificación y enrutado; sujetas al presupuesto diario |
| reasoning | juicios críticos para la exactitud, como si un motivo de tardanza es válido; se eleva al modelo más potente del proveedor, o a AI_REASONING_MODEL |
Conmutación por error
Cada llamada pasa por un único punto de entrada resiliente: primero el proveedor activo, luego cada proveedor configurado en el orden de conmutación, probando el modelo por defecto y después los modelos del catálogo de cada uno. Si un proveedor se queda sin crédito, está limitado por tasa o rechaza su clave, responde el siguiente. Los administradores pueden editar el orden; los proveedores omitidos se añaden al final, de modo que una clave recién añadida sigue participando.
- Una tarea a prueba de fallos sondea cada 15 minutos el proveedor activo con una solicitud de un token y, si falla, cambia al primer proveedor configurado que funcione en la cadena (clave de automatización ai_failsafe, activada por defecto).
- Una sonda de estado de proveedores avisa en el panel cuando una clave ha caducado.
- Cada conmutación se escribe en el registro de auditoría como ai_provider_fallback.
gemini, openai, anthropic, openrouter, deepseek, mistral, groq, together, cerebras, cohere, hyperbolic, huggingface, ollama