LLM-Routing & local-first · Modell-Ranking je Aufgabe

Gelerntes Ranking · Routing-Ketten · lokal-vs-API-Anteil · Ollama-Bootstrap · Toggle & Bootstrap nur Stufe 1 · WORM

Gast · Stufe 3
PII-Hard-Rule bleibt absolut: pii_*-Aufgaben laufen IMMER lokal (Ollama) — local-first verstärkt diese Regel nur, umgeht sie nie. Inline-Override (!opus) und Premium-Klassen sind geschützt. Aktivierung ist reversibel (Kill-Switch, Stufe 1). Diese Telemetrie ist lokal (SQLite, DORA/DSGVO).
1 Routen-Warnung(en) — siehe Tabelle.

Route-Health · Was wirkt wirklich · config-doctor · effektive Route × Provider-Key · Praevention 2026-06-16

RouteProviderModellStatusBefund
task_class:bulk_dedupe anthropic claude-haiku-4-5 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:classify_inbound anthropic claude-haiku-4-5 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:customer_engineering anthropic claude-sonnet-4-6 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:document anthropic claude-opus-4-8 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:fallback anthropic claude-sonnet-4-6 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:lead_research anthropic claude-sonnet-4-6 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:morning_briefing anthropic claude-sonnet-4-6 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:premium anthropic claude-opus-4-8 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:pricing_calc anthropic claude-haiku-4-5 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:proposal_generation anthropic claude-opus-4-8 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:sales_coach anthropic claude-sonnet-4-6 ok Provider 'anthropic' verfügbar (Key hinterlegt).
task_class:vergabe_match anthropic claude-sonnet-4-6 ok Provider 'anthropic' verfügbar (Key hinterlegt).
default_provider anthropic — ok Provider 'anthropic' verfügbar (Key hinterlegt).
fallback_chain[0] anthropic — ok Provider 'anthropic' verfügbar (Key hinterlegt).
fallback_chain[1] ollama — ok Lokaler Provider 'ollama' (kein Key nötig).
premium_chain[0] anthropic — ok Provider 'anthropic' verfügbar (Key hinterlegt).
premium_chain[1] openai — ok Provider 'openai' verfügbar (Key hinterlegt).
premium_chain[2] mistral — ok Provider 'mistral' verfügbar (Key hinterlegt).
premium_chain[3] gemini — warn Fallback-/Premium-Provider 'gemini' hat keinen Key — steht als Ausweichziel nicht zur Verfügung.

local-first · Master-Schalter

AUS
Premium geschützt

Gerankte Modelle · je task_class

0
aus llm_stats (Live-Traffic)

Bootstrap · lokale Modelle

4/4
present / gesamt

Lokal-Quote · Aufgaben mit lokal-Anteil

0
von 0 task_classes

local-first-Schalter · Config-Registry · local_first.*

local_first.enabled
aus
allow_premium_override
aus
min_calls_for_trust
20
load_threshold
0.9
Ollama Base-URL
http://127.0.0.1:11434

local-first-Schalter ändern ist Stufe 1 (Andreas) vorbehalten. Read-only für Sie.

Routing-Ketten · routing.yaml · Reihenfolge

Standard-Provider anthropic
Fallback-Kette anthropic → ollama
Premium-Kette anthropic → openai → mistral → gemini
PII (Hard-Rule) ollama

Modell-Ranking · gelernt aus Live-Traffic

llm_stats
Noch kein Ranking
Sobald Live-LLM-Calls laufen, befüllt sich llm_stats und das Ranking je task_class erscheint hier.

Ollama-Bootstrap · lokale Modell-Basis

ollama_bootstrap
ModellStatusFortschrittGrößeaktualisiert
gemma2:2b present
0.0 MB
llama3.1:8b present
0.0 MB
nomic-embed-text present
0.0 MB
qwen2.5:3b present
1840.5 MB

Bootstrap-Trigger ist Stufe 1 vorbehalten.

Lokal vs. API · Anteil je Aufgabe

Noch keine Verteilung
Die lokal-vs-API-Quote wird aus llm_stats aggregiert.
zuletzt aktualisiert: 19:39:44

SIMOSphere AI · Control Center. Daten serverseitig (DORA/DSGVO). CI aus simo.yaml → ci (Teal #5EBFBF / Dark #1A1A1A / Accent #2605F3). Lieferobjekte final als .docx/.pdf im SIMO-CI auf SharePoint — .html nur Oberfläche.