Guion profesor · U03
Servicio de inferencia y despliegue
Objetivo de la sesión
Estrategias de serving y despliegue.
Guion por bloques
Bloque 1 — Patrones de servicio (60 min)
Batch, online, stream, edge; dimensionamiento, batching y cold start.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 2 — Estrategias de despliegue (60 min)
Sombra, canaria, azul-verde; criterios de promoción y reversión.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 3 — Orquestación (60 min)
Pipelines multi-paso, reintentos y conceptos de orquestación de contenedores.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 4 — Laboratorio de serving (60 min)
Despliegue con autoscaling + canaria; contingencia Docker + LM Studio (labs/11/u01).
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Claves del taller (no proyectar)
docker build -t mia-health labs/11/u01 && docker run --rm mia-health (LM Studio en el host).
- Exigir batería de casos antes de “se ve bien”.
- Registrar modelo, temperatura y seed/config en el informe.
- Rechazar entregas sin tope de iteraciones/costo/tiempo en agentes.
Checklist cierre
- Articulación con la unidad siguiente / curso vecino.
- Recordar lectura previa de la próxima sesión.
- Recoger dudas sobre lab autónomo.
Se requiere sesión profesor
Iniciar sesión para ver guiones y soluciones.