Apportez votre propre modèle
Chaque fournisseur est atteint par le même client de complétions de chat compatible OpenAI, avec une URL de base et une clé différentes. Changez de fournisseur sans toucher au code, enchaînez-les pour la bascule, ou pointez tout vers un modèle local et déconnectez-vous.
Fournisseurs pris en charge
La page Fournisseurs affiche la même liste avec un indicateur configuré et actif par fournisseur, des liens d’inscription et un catalogue de modèles sélectionnés par fournisseur pour le sélecteur de modèle.
| Anthropic | payant, avec un crédit gratuit sur les nouveaux comptes |
|---|---|
| OpenAI | payant |
| Google Gemini | offre gratuite, puis payant |
| Groq | offre gratuite avec limites de débit ; sert des modèles de raisonnement ouverts |
| OpenRouter | une clé pour des centaines de modèles avec une offre gratuite tournante |
| Perplexity | modèles avec recherche web intégrée |
| DeepSeek | payant, coût le plus bas |
| Mistral | offre expérimentale gratuite ; hébergé dans l’UE |
| Ollama | auto-hébergé sur votre propre machine ; rien ne quitte le réseau |
| Together AI | modèles ouverts, certains points de terminaison gratuits |
| Cerebras | inférence très rapide, offre gratuite |
| Hyperbolic | modèles ouverts hébergés |
| Hugging Face | API d’inférence sur les modèles communautaires |
| Cohere | performant pour le résumé |
| n8n | votre propre flux exposant un webhook de complétions de chat |
| Cloudflare Workers AI | nécessite un jeton d’API et l’identifiant de compte |
Sélectionner un fournisseur
Le fournisseur actif est une variable d’environnement plus la clé de ce fournisseur. Changer depuis le tableau de bord écrit le nouveau choix dans le fichier d’environnement pour qu’il survive aux redémarrages.
AI_PROVIDER=gemini GEMINI_API_KEY=... AI_HTTP_TIMEOUT_SECONDS=20
Isolé du réseau avec Ollama
Exécutez un modèle sur le même hôte ou sur une machine de votre réseau et pointez InRoots vers lui. Le SDK exige une valeur de clé, donc n’importe quel texte de substitution convient. Les petits modèles ont besoin d’environ 8 Go de RAM ; les meilleurs en demandent davantage. Combiné à une base IP locale sur votre hôte, à un serveur de messagerie auto-hébergé et aux réponses vocales désactivées, rien concernant vos collaborateurs ne quitte le périmètre.
AI_PROVIDER=ollama OLLAMA_API_KEY=ollama OLLAMA_BASE_URL=http://localhost:11434/v1
Rôles de modèle
- Les modèles de raisonnement (gpt-oss, série o) dépensent des jetons à réfléchir avant de répondre ; un budget trop petit renvoie un succès vide. InRoots fixe un plancher de 400 jetons et demande un effort de raisonnement faible dans la forme attendue par chaque fournisseur, puis se rabat sur le texte de raisonnement si la réponse est vide.
| summary | résumés et assistant ; jamais soumis au budget |
|---|---|
| fallback | appels de classification et de routage ; soumis au budget quotidien |
| reasoning | jugements critiques pour la précision, comme la validité d’une raison de retard ; élevé au modèle le plus puissant du fournisseur, ou AI_REASONING_MODEL |
Bascule
Chaque appel passe par un point d’entrée résilient unique : le fournisseur actif d’abord, puis chaque fournisseur configuré dans l’ordre de bascule, en essayant le modèle par défaut puis les modèles du catalogue de chacun. Si un fournisseur est à court de crédit, limité en débit ou rejette sa clé, le suivant répond. L’ordre est modifiable par les administrateurs ; les fournisseurs omis sont ajoutés en fin de liste pour qu’une clé nouvellement ajoutée participe quand même.
- Une tâche de sécurité sonde toutes les 15 minutes le fournisseur actif avec une requête d’un jeton et, en cas d’échec, bascule vers le premier fournisseur configuré fonctionnel de la chaîne (clé d’automatisation ai_failsafe, activée par défaut).
- Une sonde d’état des fournisseurs avertit le tableau de bord lorsqu’une clé a expiré.
- Chaque bascule est écrite dans le journal d’audit sous ai_provider_fallback.
gemini, openai, anthropic, openrouter, deepseek, mistral, groq, together, cerebras, cohere, hyperbolic, huggingface, ollama