fix: think=false en Open WebUI (el SYSTEM /no_think no basta) #24

2026-09-12T23:06:34+02:00

hermes commented

2026-09-12 23:06:34 +02:00

Summary

El SYSTEM /no_think del Modelfile (PR #23) no frena a Qwen3 en tareas complejas: la pregunta de code generaba 700+ tokens de razonamiento a pesar del SYSTEM y del soft-switch en el prompt (verificado: 'Say hi' si lo respeta, pero code snippets no).

Via oficial: la API de Ollama 0.9+ acepta 'think': false en /api/chat, y Open WebUI 0.11.3 mapea el param del modelo directamente al payload (payload.py: 'think': lambda x: x).

DEFAULT_MODEL_PARAMS: {"function_calling":"legacy","think":false}
Medido via API con think:false: 208 tokens, sin campo thinking, contenido limpio (vs 689-725 con thinking)

Aplica a openwebui y wordpress (los 2 compose).

## Summary El SYSTEM /no_think del Modelfile (PR #23) no frena a Qwen3 en tareas complejas: la pregunta de code generaba 700+ tokens de razonamiento a pesar del SYSTEM y del soft-switch en el prompt (verificado: 'Say hi' si lo respeta, pero code snippets no). Via oficial: la API de Ollama 0.9+ acepta 'think': false en /api/chat, y Open WebUI 0.11.3 mapea el param del modelo directamente al payload (payload.py: 'think': lambda x: x). - DEFAULT_MODEL_PARAMS: {"function_calling":"legacy","think":false} - Medido via API con think:false: 208 tokens, sin campo thinking, contenido limpio (vs 689-725 con thinking) Aplica a openwebui y wordpress (los 2 compose).

hermes added 1 commit 2026-09-12 23:06:35 +02:00

fix: think=false en Open WebUI (el SYSTEM /no_think no basta) d6b6323ea7

El SYSTEM /no_think del Modelfile no frena a Qwen3 en tareas complejas
(la pregunta de code generaba 700+ tokens de razonamiento a pesar del
SYSTEM y del soft-switch en el prompt).

Via oficial: la API de Ollama 0.9+ acepta 'think': false en /api/chat,
y Open WebUI 0.11.3 mapea el param del modelo directamente al payload
(payload.py: 'think': lambda x: x).

DEFAULT_MODEL_PARAMS ahora: {"function_calling":"legacy","think":false}

Medido via API con think:false: 208 tokens, sin campo thinking, contenido
limpio (vs 689-725 con thinking).

hermes merged commit 5030770bc2 into main

2026-09-12 23:06:36 +02:00

hermes referenced this pull request

2026-09-12 23:07:46 +02:00

fix: limite de CPU 6.0 para ollama #25

Sign in to join this conversation.

1 Participants

Notifications

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: d0a1/packs#24