server/config/litellm/config.yaml
vegard 747244d078 AI Gateway (LiteLLM) lokalt oppsett + collect-docs script
- LiteLLM container i docker-compose.dev.yml med healthcheck
- Config med sidelinja/rutine (Gemini 2.5 Flash Lite) og
  sidelinja/resonering (Gemini 2.5 Flash) — flere leverandører
  legges til når API-nøkler er klare
- collect-docs.sh samler all dokumentasjon til én fil for deling
- Gitignore: server_context.md (generert output)

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
2026-03-13 16:16:59 +01:00

25 lines
795 B
YAML

model_list:
# === sidelinja/rutine — billig, høyt volum ===
- model_name: "sidelinja/rutine"
litellm_params:
model: "gemini/gemini-2.5-flash-lite"
api_key: "os.environ/GEMINI_API_KEY"
- model_name: "sidelinja/rutine"
litellm_params:
model: "gemini/gemini-2.5-flash"
api_key: "os.environ/GEMINI_API_KEY"
# === sidelinja/resonering — presis, lav volum ===
# 2.5 Flash brukes til resonering inntil vi legger til Anthropic/OpenRouter
- model_name: "sidelinja/resonering"
litellm_params:
model: "gemini/gemini-2.5-flash"
api_key: "os.environ/GEMINI_API_KEY"
router_settings:
routing_strategy: "simple-shuffle"
num_retries: 2
timeout: 60
general_settings:
master_key: "os.environ/LITELLM_MASTER_KEY"