d0a1/packs

0 Fork 0

Files

T

History

hermes c87b5f38b6 feat: precalentar el modelo al terminar el deploy

'hola' tardaba en el primer mensaje: la carga a VRAM (2.5 GB a la
GTX 1660) ocurria lazy en el primer request. Ahora el deploy la
dispara al final: 'ollama run qwen3:4b ""' (prompt vacio, carga sin
generar tokens) + keep_alive -1 (nunca expira de VRAM).

- compose: OLLAMA_KEEP_ALIVE 5m -> -1
- verificado e2e: carga confirmada via ollama ps tras el warm

2026-09-12 22:15:09 +02:00

deploy.ps1

feat: precalentar el modelo al terminar el deploy

2026-09-12 22:15:09 +02:00

deploy.sh

feat: modelo por defecto qwen3:4b (llama3.2 3B enredaba con las tools) (#20 )

2026-09-12 22:05:33 +02:00

docker-compose.yml

feat: precalentar el modelo al terminar el deploy

2026-09-12 22:15:09 +02:00

README.md

feat: modelo por defecto qwen3:4b (llama3.2 3B enredaba con las tools) (#20 )

2026-09-12 22:05:33 +02:00

README.md

Open WebUI — Chat con IA

Chat de IA privado en tu navegador. Sin cuenta, sin API key, sin que tus datos salgan de tu máquina.

Qué es

Open WebUI es una interfaz web para Ollama, el motor que ejecuta modelos de IA en tu máquina. Juntos te dan una experiencia de chat como ChatGPT — salvo que nada sale de tu ordenador. Sin cuenta, sin API key, sin cuota mensual.

Prueba local (gratis, 1 comando)

./deploy.sh local

Abre http://localhost:3000 y empieza a chatear.

Despliega en VPS

./deploy.sh vps

Solo pagas el servidor. La IA es tuya.

¿No tienes VPS? Consigue uno con descuento:

Vultr — desde ~6€/mes (afiliado)
DigitalOcean — credit gratuito (afiliado)

Requisitos

Docker instalado
4 GB RAM mínimo

Modelos

El modelo por defecto es qwen3:4b (2 GB, corre en 4 GB RAM).

docker exec d0a1-ollama ollama pull qwen3:4b      # Mejor en español + razonamiento (4 GB RAM)
docker exec d0a1-ollama ollama pull qwen3:8b      # Más calidad (6 GB RAM)

Comandos

./deploy.sh local    # Arrancar en local
./deploy.sh vps      # Arrancar en VPS
./deploy.sh stop     # Parar todo