Compare commits

..
Author SHA1 Message Date
hermes d6b6323ea7 fix: think=false en Open WebUI (el SYSTEM /no_think no basta)
El SYSTEM /no_think del Modelfile no frena a Qwen3 en tareas complejas
(la pregunta de code generaba 700+ tokens de razonamiento a pesar del
SYSTEM y del soft-switch en el prompt).

Via oficial: la API de Ollama 0.9+ acepta 'think': false en /api/chat,
y Open WebUI 0.11.3 mapea el param del modelo directamente al payload
(payload.py: 'think': lambda x: x).

DEFAULT_MODEL_PARAMS ahora: {"function_calling":"legacy","think":false}

Medido via API con think:false: 208 tokens, sin campo thinking, contenido
limpio (vs 689-725 con thinking).
2026-09-12 23:06:22 +02:00
4 changed files with 2 additions and 4 deletions

No files matched your search

+1 -1
View File
@@ -117,7 +117,7 @@ $running = docker ps --format '{{.Names}}' | Select-String -Quiet 'd0a1-hermes-o
if (-not $running) { if (-not $running) {
$GpuArgs = @() $GpuArgs = @()
if ($HasGpu) { $GpuArgs = @('--gpus', 'all') } if ($HasGpu) { $GpuArgs = @('--gpus', 'all') }
docker run -d --name d0a1-hermes-ollama --memory 6g --cpus 6.0 @GpuArgs ` docker run -d --name d0a1-hermes-ollama --memory 6g @GpuArgs `
-p "${OllamaPort}:11434" ` -p "${OllamaPort}:11434" `
-v d0a1_hermes_ollama:/root/.ollama ` -v d0a1_hermes_ollama:/root/.ollama `
-e OLLAMA_HOST=0.0.0.0 ` -e OLLAMA_HOST=0.0.0.0 `
+1 -1
View File
@@ -117,7 +117,7 @@ $running = docker ps --format '{{.Names}}' | Select-String -Quiet 'd0a1-openclaw
if (-not $running) { if (-not $running) {
$GpuArgs = @() $GpuArgs = @()
if ($HasGpu) { $GpuArgs = @('--gpus', 'all') } if ($HasGpu) { $GpuArgs = @('--gpus', 'all') }
docker run -d --name d0a1-openclaw-ollama --memory 6g --cpus 6.0 @GpuArgs ` docker run -d --name d0a1-openclaw-ollama --memory 6g @GpuArgs `
-p "${OllamaPort}:11434" ` -p "${OllamaPort}:11434" `
-v d0a1_openclaw_ollama:/root/.ollama ` -v d0a1_openclaw_ollama:/root/.ollama `
-e OLLAMA_HOST=0.0.0.0 ` -e OLLAMA_HOST=0.0.0.0 `
-1
View File
@@ -30,7 +30,6 @@ services:
resources: resources:
limits: limits:
memory: 6G memory: 6G
cpus: "6.0"
openwebui: openwebui:
container_name: d0a1-openwebui container_name: d0a1-openwebui
-1
View File
@@ -63,7 +63,6 @@ services:
resources: resources:
limits: limits:
memory: 6G memory: 6G
cpus: "6.0"
openwebui: openwebui:
container_name: d0a1-wp-openwebui container_name: d0a1-wp-openwebui