Magíster en Inteligencia Artificial
Salir de la clase

Curso 11 · Unidad 5

Plataformas gestionadas

4 hrs · Make vs buy · portabilidad — UAI

Tesis

La plataforma es un trade-off, no un destino

  • Gestionado acelera; también acopla y oculta costos.
  • Decidir por NFR: latencia, costo, compliance, equipo.
  • Portabilidad = contratos (API, artefactos), no fe en un vendor.
  • Local (LM Studio) sigue siendo el laboratorio de verdad.

Al finalizar

Resultados de aprendizaje

  • Comparar opciones managed vs self-host con criterios explícitos.
  • Diseñar una capa de abstracción mínima sobre el proveedor.
  • Estimar lock-in y plan de salida.

Bloque 1 · 60 min

Mapa

Teoría

Plataforma = trade-off

  • Kreuzberger et al. (2023): roles y componentes — decidir qué externalizar.
  • Make vs buy se decide por NFR (latencia, costo, compliance, equipo), no por moda.
  • Portabilidad = contratos (API, artefactos), no fe en un vendor.

Oferta

Qué suele estar gestionado

  • Notebooks GPU, training jobs, feature stores.
  • Endpoints de inferencia y colas.
  • Observabilidad y secretos “de plataforma”.

Bloque 2 · 60 min

Criterios

Decisión

Make vs buy bajo un contrato

Local, híbrido o managed: el borde portable es lo que se puede migrar.

Criterios

Qué pesar en la tabla

  • Costo total: idle, egress, soporte, personal.
  • Datos y residencia; auditoría.
  • Velocidad del equipo vs profundidad de control.

Bloque 3 · 60 min

Contratos

Abstracción

Fronteras portables

  • OpenAI-compatible / OpenAPI como borde.
  • Imágenes y pesos versionados fuera del vendor UI.
  • Config por ambiente; secretos fuera del repo.

Definiciones

Léxico make vs buy

  • Plataforma gestionada — el proveedor opera infra; vos operás el contrato y el riesgo de acoplamiento.
  • Lock-in — costo de salida (tiempo, dinero, datos) si el vendor falla o cambia precio.
  • Borde portable — API/artefactos que podés migrar sin reescribir el producto.
  • Plan de salida — pasos y plazo (p. ej. 90 días) para operar sin ese vendor.

Portabilidad

Contrato en el borde, moda adentro

Lo que no está en el borde no cuenta como plan de salida.

Bloque 4 · 60 min

Taller

Taller

Elegir y justificar

  • Caso Chile: chat interno con PII / ClaveÚnica — residencia y auditoría mandatorias.
  • Tabla: managed vs local+CI vs híbrido.
  • Plan de salida de 90 días si el vendor falla.

Costo

Idle y egress en la tabla

Managed vs self-host: el cruce incluye idle, no solo $/token.

Lecturas

Para profundizar

  • Kreuzberger et al. (2023) — kreuzberger2023mlops
  • Documentación de programas académicos cloud (verificar al dictado)

Cierre

Preguntas

Siguiente: operación de sistemas generativos (Unidad 6)