Providers e autenticação
O LiteLLM unifica 100+ backends numa só interface. Por cima, o Okami roteia por capacidade, custo e disponibilidade, com fallback em cadeia. A postura é assinatura-…
Catálogo
| provider | modelos | auth · tier |
|---|---|---|
| claude | Opus · Sonnet · Haiku | CLI claude · strong |
| codex | GPT (família Codex) | OAuth device · strong |
| minimax | MiniMax (contexto longo) | OAuth token · weak |
| mimo | MiMo | API key · weak |
| lmstudio | qualquer modelo local (default) | OpenAI-compat · local |
Tiers e capability profile
Cada par (provider × modelo) carrega um capability profile derivado do tier. É ele que diz ao harness o quanto decompor, qual modo de tool-call usar e quando ensemblar. O learning auto-calibra o profile medindo os modos de falha de cada modelo.
| knob | fraco / local | forte |
|---|---|---|
| Decomposição | micro-passos especificados | chunks grandes |
| Tool-calls | JSON/GBNF constrained → ReAct | nativo |
| Contexto / tools | janela enxuta, subset pequeno | amplo |
| Decisão crítica | vota N / escala cedo | single-shot |
Autenticação por provider
params claude CLI Usa o CLI claude (já logado). Não use ANTHROPIC_API_KEY pay-as-you-go — o ToS restringe. codex OAuth device okami login codex (device flow nativo da OpenAI; habilite Device Code no ChatGPT). minimax OAuth device okami login minimax (device flow OAuth, token plan). mimo API key Defina MIMO_API_KEY no .env. lmstudio OpenAI-compat Aponte api_base para o seu servidor local (default http://localhost:4480/v1).
Fallback em cadeia
Cada provider declara um fallback. Se o codex cair (529 / timeout / resposta vazia), o roteador tenta claude → minimax → lmstudio, em ordem, sem você perceber. É o que mata a prisão por fornecedor.
providers:
codex:
model: openai-codex/<modelo>
fallback: [claude, minimax, lmstudio]
tier: strong
context_window: 256000
reasoning_effort: high # minimal | low | medium | high