Eigenes Modell verwenden
Jeder Anbieter wird über denselben OpenAI-kompatiblen Chat-Completions-Client mit einer anderen Basis-URL und einem anderen Schlüssel erreicht. Wechseln Sie Anbieter ohne Codeänderung, verketten Sie sie für Failover oder richten Sie alles auf ein lokales Modell und trennen Sie die Verbindung.
Unterstützte Anbieter
Die Seite „Anbieter“ zeigt dieselbe Liste mit einer Anzeige für „konfiguriert“ und „aktiv“ je Anbieter, Registrierungslinks und einem kuratierten Modellkatalog je Anbieter für die Modellauswahl.
| Anthropic | Kostenpflichtig, mit Startguthaben für neue Konten |
|---|---|
| OpenAI | Kostenpflichtig |
| Google Gemini | Kostenloses Kontingent, danach kostenpflichtig |
| Groq | Kostenloses Kontingent mit Ratenbegrenzung; bietet offene Reasoning-Modelle |
| OpenRouter | ein Schlüssel für Hunderte Modelle mit wechselndem kostenlosem Kontingent |
| Perplexity | Modelle mit integrierter Websuche |
| DeepSeek | Kostenpflichtig, geringste Kosten |
| Mistral | Kostenloses experimentelles Kontingent; in der EU gehostet |
| Ollama | selbst gehostet auf Ihrer eigenen Maschine; nichts verlässt das Netzwerk |
| Together AI | offene Modelle, einige kostenlose Endpunkte |
| Cerebras | sehr schnelle Inferenz, Kostenloses Kontingent |
| Hyperbolic | gehostete offene Modelle |
| Hugging Face | Inferenz-API über Community-Modelle |
| Cohere | stark bei Zusammenfassungen |
| n8n | Ihr eigener Workflow, der einen Chat-Completions-Webhook bereitstellt |
| Cloudflare Workers AI | benötigt ein API-Token und die Konto-ID |
Einen Anbieter auswählen
Der aktive Anbieter ist eine Umgebungsvariable plus der Schlüssel dieses Anbieters. Ein Wechsel über das Dashboard schreibt die neue Wahl in die Umgebungsdatei, sodass sie Neustarts übersteht.
AI_PROVIDER=gemini GEMINI_API_KEY=... AI_HTTP_TIMEOUT_SECONDS=20
Abgeschottet mit Ollama
Betreiben Sie ein Modell auf demselben Host oder auf einer Maschine in Ihrem Netzwerk und richten Sie InRoots darauf. Das SDK verlangt einen Schlüsselwert, daher genügt ein beliebiger Platzhalter. Kleine Modelle benötigen etwa 8 GB RAM; bessere mehr. Zusammen mit einer lokalen IP-Datenbank auf Ihrem Host, einem selbst gehosteten Chat-Server und ausgeschalteten gesprochenen Antworten verlässt nichts über Ihre Mitarbeitenden den Perimeter.
AI_PROVIDER=ollama OLLAMA_API_KEY=ollama OLLAMA_BASE_URL=http://localhost:11434/v1
Modellrollen
- Reasoning-Modelle (gpt-oss, o-Serie) verbrauchen Tokens zum Nachdenken, bevor sie antworten; ein zu kleines Budget liefert einen leeren Erfolg. InRoots setzt das Budget auf mindestens 400 Tokens, fordert in der von jedem Anbieter erwarteten Form geringen Reasoning-Aufwand an und greift auf den Reasoning-Text zurück, wenn die Antwort leer ist.
| summary | Zusammenfassungen und der Assistent; nie durch das Budget begrenzt |
|---|---|
| fallback | Klassifizierungs- und Weiterleitungsaufrufe; unterliegen dem Tagesbudget |
| reasoning | genauigkeitskritische Urteile, etwa ob ein Verspätungsgrund triftig ist; auf das stärkste Modell des Anbieters angehoben, oder AI_REASONING_MODEL |
Failover
Jeder Aufruf läuft über einen einzigen robusten Einstiegspunkt: zuerst der aktive Anbieter, dann jeder konfigurierte Anbieter in der Failover-Reihenfolge, jeweils mit dem Standardmodell und dann den Katalogmodellen. Hat ein Anbieter kein Guthaben mehr, ist ratenbegrenzt oder weist seinen Schlüssel zurück, antwortet der nächste. Die Reihenfolge ist von Admins editierbar; ausgelassene Anbieter werden angehängt, sodass ein neu hinzugefügter Schlüssel weiterhin teilnimmt.
- Ein Failsafe-Job prüft alle 15 Minuten den aktiven Anbieter mit einer Ein-Token-Anfrage und wechselt bei Fehlschlag zum ersten funktionierenden konfigurierten Anbieter in der Kette (Automatisierungsschlüssel ai_failsafe, standardmäßig aktiv).
- Eine Anbieterstatusprüfung warnt das Dashboard, wenn ein Schlüssel abgelaufen ist.
- Jedes Failover wird als ai_provider_fallback ins Audit-Log geschrieben.
gemini, openai, anthropic, openrouter, deepseek, mistral, groq, together, cerebras, cohere, hyperbolic, huggingface, ollama