Magíster en Inteligencia Artificial
Salir de la clase

Curso 11 · Unidad 2


Empaquetado y automatización

4 hrs · Contenedores y CI — UAI

Tesis

Si no está automatizado, no está listo

  • La imagen (o el entorno fijado) es el artefacto de despliegue.
  • CI valida contrato: tests + health + versión.
  • Secretos fuera del repo; config por ambiente.
  • El modelo local (LM Studio) puede ser el backend de CI smoke.

Al finalizar

Resultados de aprendizaje

  • Empaquetar un servicio de inferencia reproducible.
  • Definir pipeline CI mínimo (build, test, smoke).
  • Separar secretos de configuración.

Bloque 1 · 60 min

Contenedores

Teoría

CI/CD como principio MLOps

  • Kreuzberger et al. (2023): automatización CI/CD es principio P1 de MLOps.
  • Beyer et al. (2016), SRE — release engineering: el artefacto debe ser promovible y reversible.
  • Sin smoke de health, el build verde no garantiza servicio usable.

Imagen

Qué entra en el artefacto

  • Runtime + deps fijadas.
  • Código y config no secreta.
  • Usuario no-root; healthcheck en la imagen.
  • Etiquetas: git sha + versión semántica.

Definiciones

Léxico de empaquetado

  • Artefacto de despliegue — imagen o entorno fijado (runtime, código, config) etiquetado y promovible.
  • CI — automatización que falla el merge si tests, health o contrato no pasan.
  • Smoke — prueba mínima post-build de que el servicio responde (p. ej. /health).
  • Secret store — lugar fuera del repo para API keys; la config no secreta sí se versiona.

Artefacto

Qué va en la imagen — y qué no

Secretos fuera; etiquetas git sha + semver para rollback.

Bloque 2 · 60 min

CI

Gates

Pipeline mínimo que puede fallar

Sin smoke de health, el build verde no garantiza servicio usable.

Checks

Qué debe fallar el pipeline

  • Lint / unit tests del wrapper.
  • Smoke contra /health (modelo alcanzable).
  • Regresión de contrato OpenAI-compatible.
  • No subir secretos ni pesos gigantes al git.

Bloque 3 · 60 min

Config

Ambientes

Dev · staging · prod

  • OPENAI_BASE_URL por ambiente.
  • API keys solo en el secret store.
  • Feature flags / modelos distintos sin rebuild si es posible.
  • Documentar rollback de imagen.

Promoción

Build verde ≠ servicio listo

Tras CI: promoción/rollback por métrica, no por chat.

Bloque 4 · 60 min

Taller

Lab

Smoke del health wrapper

Reusar el health wrapper del lab 11/u01 en un job CI o script local.

Lab: labs/11/u01/health_wrapper.py

Gate: status=ok y latencia bajo umbral (p. ej. asistente interno sector público Chile — sin PII en logs).

Backend local

LM Studio en el ciclo

Servidor LM Studio

Smoke sin proveedor cloud · localhost:1234

Lecturas

Para profundizar

  • Kreuzberger et al. (2023) — kreuzberger2023mlops
  • Beyer et al. (2016), SRE — beyer2016sre (caps. release; texto OA en sre.google)

Cierre


Preguntas

Siguiente: servicio de inferencia y despliegue (Unidad 3)