U03 · 4 hrs
Servicio de inferencia y despliegue
Estrategias de serving y despliegue.
Resultados de aprendizaje
- Seleccionar patrón de servicio según NFR.
- Configurar autoscaling y mitigar cold start.
- Implementar despliegue progresivo con rollback automático.
Estructura de la sesión
Patrones de servicio (60 min)
Batch, online, stream, edge; dimensionamiento, batching y cold start.
Estrategias de despliegue (60 min)
Sombra, canaria, azul-verde; criterios de promoción y reversión.
Orquestación (60 min)
Pipelines multi-paso, reintentos y conceptos de orquestación de contenedores.
Laboratorio de serving (60 min)
Despliegue con autoscaling + canaria; contingencia Docker + LM Studio (labs/11/u01).
Lecturas
- Huyen (2022), caps. 7 y 9 — huyen2022designing
- Kreuzberger et al. (2023) — kreuzberger2023mlops
- Burns et al. — burns2022kubernetes (complementaria)
Lab — contenedor del healthcheck
docker build -t mia-health labs/11/u01 && docker run --rm mia-health (LM Studio en el host).