feat: modelo por defecto qwen3:4b (llama3.2 3B enredaba con las tools) #20

Merged
hermes merged 1 commits from feat/model-qwen3-4b into main 2026-09-12 22:05:34 +02:00
Owner

Summary

Caso 'hello' -> ask_user con preguntas absurdas (What is your name? con opciones John/Jane): llama3.2 3B no sabe gestionar las builtin tools agentic de Open WebUI 0.10+ (Native mode). Bug conocido con modelos pequenos.

Cambios (los 4 packs):

  • Modelo default: llama3.2:3b -> qwen3:4b (tool-calling nativo solido, mejor en espanol, Apache-2.0)
  • GGUF oficial no-gated de Qwen: Qwen/Qwen3-4B-GGUF Q4_K_M (2.497 GB, verificado magic+import e2e: ollama list -> qwen3:4b 2.5 GB OK) + mirror unsloth/Qwen3-4B-GGUF
  • Threshold de validacion del GGUF: 2.4 GB
  • llama3.2:3b queda como alternativa ligera en el mensaje final
  • num_ctx 16384 y todo lo demas igual

Verificacion

  • Descarga HF: 206, magic GGUF, 2.497 GB en 43 s
  • ollama create qwen3:4b e2e con docker real: success, listado 2.5 GB
  • Parse AST 4/4 OK
## Summary Caso 'hello' -> ask_user con preguntas absurdas (What is your name? con opciones John/Jane): llama3.2 3B no sabe gestionar las builtin tools agentic de Open WebUI 0.10+ (Native mode). Bug conocido con modelos pequenos. Cambios (los 4 packs): - Modelo default: `llama3.2:3b` -> `qwen3:4b` (tool-calling nativo solido, mejor en espanol, Apache-2.0) - GGUF oficial no-gated de Qwen: `Qwen/Qwen3-4B-GGUF` Q4_K_M (2.497 GB, verificado magic+import e2e: ollama list -> qwen3:4b 2.5 GB OK) + mirror `unsloth/Qwen3-4B-GGUF` - Threshold de validacion del GGUF: 2.4 GB - `llama3.2:3b` queda como alternativa ligera en el mensaje final - num_ctx 16384 y todo lo demas igual ## Verificacion - Descarga HF: 206, magic GGUF, 2.497 GB en 43 s - `ollama create qwen3:4b` e2e con docker real: success, listado 2.5 GB - Parse AST 4/4 OK
hermes added 1 commit 2026-09-12 22:05:33 +02:00
'hola' -> ask_user con preguntas absurdas: llama3.2 3B no sabe
manejar las builtin tools agentic de Open WebUI. Qwen3 4B si
(tool-calling nativo solido, mejor en espanol, Apache-2.0).
- GGUF oficial no-gated: Qwen/Qwen3-4B-GGUF Q4_K_M (2.5 GB) +
  mirror unsloth
- num_ctx 16384 igual; threshold de validacion 2.4 GB
- llama3.2:3b queda como alternativa ligera
hermes merged commit 6adbd966a0 into main 2026-09-12 22:05:34 +02:00
Sign in to join this conversation.
No Reviewers
No labels
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: d0a1/packs#20