fix: think=false en Open WebUI (el SYSTEM /no_think no basta) #24

Merged
hermes merged 1 commits from fix/disable-thinking into main 2026-09-12 23:06:36 +02:00
1 Commits
Author SHA1 Message Date
hermes d6b6323ea7 fix: think=false en Open WebUI (el SYSTEM /no_think no basta)
El SYSTEM /no_think del Modelfile no frena a Qwen3 en tareas complejas
(la pregunta de code generaba 700+ tokens de razonamiento a pesar del
SYSTEM y del soft-switch en el prompt).

Via oficial: la API de Ollama 0.9+ acepta 'think': false en /api/chat,
y Open WebUI 0.11.3 mapea el param del modelo directamente al payload
(payload.py: 'think': lambda x: x).

DEFAULT_MODEL_PARAMS ahora: {"function_calling":"legacy","think":false}

Medido via API con think:false: 208 tokens, sin campo thinking, contenido
limpio (vs 689-725 con thinking).
2026-09-12 23:06:22 +02:00