feat: modelo por defecto qwen3:4b (llama3.2 3B enredaba con las tools)
'hola' -> ask_user con preguntas absurdas: llama3.2 3B no sabe manejar las builtin tools agentic de Open WebUI. Qwen3 4B si (tool-calling nativo solido, mejor en espanol, Apache-2.0). - GGUF oficial no-gated: Qwen/Qwen3-4B-GGUF Q4_K_M (2.5 GB) + mirror unsloth - num_ctx 16384 igual; threshold de validacion 2.4 GB - llama3.2:3b queda como alternativa ligera
This commit is contained in:
1 parent
51258f6889
commit
143fdfcafd
11 files changed
+59
-59
No files matched your search
+3
-3
@@ -105,7 +105,7 @@ echo -e "${YELLOW}Descargando contenedores (2-3 min la primera vez)...${NC}"
|
||||
docker compose -f "$COMPOSE_FILE" up -d
|
||||
|
||||
# ── Pull model ───────────────────────────────
|
||||
echo -e "${YELLOW}Descargando modelo de IA (llama3.2:3b, ~2 GB)...${NC}"
|
||||
echo -e "${YELLOW}Descargando modelo de IA (qwen3:4b, ~2.5 GB)...${NC}"
|
||||
MAX_WAIT=60
|
||||
WAITED=0
|
||||
until docker exec d0a1-ollama ollama ps &>/dev/null; do
|
||||
@@ -116,7 +116,7 @@ until docker exec d0a1-ollama ollama ps &>/dev/null; do
|
||||
exit 1
|
||||
fi
|
||||
done
|
||||
docker exec d0a1-ollama ollama pull llama3.2:3b
|
||||
docker exec d0a1-ollama ollama pull qwen3:4b
|
||||
|
||||
# ── Done ────────────────────────────────────
|
||||
echo ""
|
||||
@@ -129,7 +129,7 @@ else
|
||||
fi
|
||||
echo ""
|
||||
echo -e " ${BOLD}Modelos alternativos:${NC}"
|
||||
echo " docker exec d0a1-ollama ollama pull qwen3:4b # Mejor en español + razonamiento (4 GB RAM)"
|
||||
echo " docker exec d0a1-ollama ollama pull llama3.2:3b # Más ligero (2 GB RAM)"
|
||||
echo " docker exec d0a1-ollama ollama pull qwen3:8b # Más calidad (6 GB RAM)"
|
||||
echo ""
|
||||
echo -e " ${BOLD}Parar:${NC} ./deploy.sh stop"
|
||||
|
||||
Reference in new issue
Block a user