feat: precalentar el modelo al terminar el deploy #21

Merged

hermes merged 1 commits from feat/model-warmup into main

2026-09-12 22:15:21 +02:00

Author	SHA1	Message	Date
hermes	c87b5f38b6	feat: precalentar el modelo al terminar el deploy 'hola' tardaba en el primer mensaje: la carga a VRAM (2.5 GB a la GTX 1660) ocurria lazy en el primer request. Ahora el deploy la dispara al final: 'ollama run qwen3:4b ""' (prompt vacio, carga sin generar tokens) + keep_alive -1 (nunca expira de VRAM). - compose: OLLAMA_KEEP_ALIVE 5m -> -1 - verificado e2e: carga confirmada via ollama ps tras el warm	2026-09-12 22:15:09 +02:00

Author

SHA1

Message

Date

hermes

c87b5f38b6

feat: precalentar el modelo al terminar el deploy

'hola' tardaba en el primer mensaje: la carga a VRAM (2.5 GB a la
GTX 1660) ocurria lazy en el primer request. Ahora el deploy la
dispara al final: 'ollama run qwen3:4b ""' (prompt vacio, carga sin
generar tokens) + keep_alive -1 (nunca expira de VRAM).

- compose: OLLAMA_KEEP_ALIVE 5m -> -1
- verificado e2e: carga confirmada via ollama ps tras el warm

2026-09-12 22:15:09 +02:00