d0a1/packs
4
0 Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

fix: desactivar el thinking de Qwen3 (SYSTEM /no_think) #23

Merged
hermes merged 1 commits from fix/no-think into main 2026-09-12 22:38:20 +02:00
Conversation 0 Commits 1 Files Changed 4
+12 -8
hermes commented 2026-09-12 22:38:18 +02:00
Owner
Copy link
Copy source

Summary

Qwen3 4B tiene el thinking mode ON por defecto: para 'Say hi in one word' generaba 232 tokens de razonamiento interno (los acto

  • Datos reales (VPS, CPU-only): thinking = 232 tokens generados; /no_think = 7 tokens (33x menos)
  • Fix: SYSTEM /no_think en el Modelfile (tanto en el import HF como en el re-create num_ctx)
  • El re-create ahora pasa SIEMPRE al detectar el modelo ya presente: el tag existente hereda el fix sin re-descargar nada

Verificacion

  • ollama show --modelfile: SYSTEM /no_think + num_ctx 16384
  • run 'Say hi in one word' sin pasar /no_think: 7 tokens (antes 232)
  • Parse AST 4/4 OK
## Summary Qwen3 4B tiene el thinking mode ON por defecto: para 'Say hi in one word' generaba 232 tokens de razonamiento interno (los acto - Datos reales (VPS, CPU-only): thinking = 232 tokens generados; /no_think = 7 tokens (33x menos) - Fix: `SYSTEM /no_think` en el Modelfile (tanto en el import HF como en el re-create num_ctx) - El re-create ahora pasa SIEMPRE al detectar el modelo ya presente: el tag existente hereda el fix sin re-descargar nada ## Verificacion - ollama show --modelfile: SYSTEM /no_think + num_ctx 16384 - run 'Say hi in one word' sin pasar /no_think: 7 tokens (antes 232) - Parse AST 4/4 OK
hermes added 1 commit 2026-09-12 22:38:19 +02:00
fix: desactivar el thinking de Qwen3 (SYSTEM /no_think) fab69b521e 
Qwen3 4B tiene el thinking mode ON por defecto: para 'Say hi in one
word' generaba 232 tokens de razonamiento interno antes de responder
(45+ s en una GTX 1660). Con /no_think: 7 tokens.

- SYSTEM /no_think en el Modelfile (import HF y re-create num_ctx)
- el re-create pasa SIEMPRE al validar el modelo ya presente (asi el
  tag existente del usuario hereda el fix sin re-descargar)
hermes merged commit c68fe80484 into main 2026-09-12 22:38:20 +02:00
Sign in to join this conversation.
Reviewers
No Reviewers
Labels
No items
No labels
Milestone
No items
No Milestone
Projects
Clear projects
No projects
Assignees
Clear assignees
flama (Flama) hermes (Hermes) monyi (José Juan Moñino) termux
No Assignees
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: d0a1/packs#23