Curso 08 · Unidad 4

Modelos abiertos y cerrados

4 hrs · Licencias · costo · soberanía — UAI

Tesis

Abierto no es un booleano

Pesos, código, datos y licencia son ejes distintos.
El punto de cruce de costo depende del volumen y del idle.
Soberanía y estabilidad de versión son requisitos de diseño.
Abstracción de proveedor sin alternativa evaluada es teatro.

Al finalizar

Resultados de aprendizaje

Distinguir grados de apertura y licencias relevantes.
Calcular punto de cruce abierto vs cerrado.
Proponer mitigación de dependencia de proveedor.

Bloque 1 · 60 min

Apertura

Teoría

Foundation models como infraestructura

Bommasani et al. (2021): el modelo base es un recurso compartido con riesgos sistémicos.
Apertura no es un booleano: pesos, código, datos y licencia son ejes distintos.
Homogeneización: muchos productos dependen del mismo upstream.

Ilustración

Cuatro ejes, no un switch

Pesos descargables ≠ licencia permisiva; cada eje se decide por separado.

Definiciones

Léxico abierto / cerrado

Apertura — ejes separados: pesos, código, datos, licencia (no un booleano).
Soberanía — capacidad de operar y auditar sin depender de un único proveedor externo.
Punto de cruce — volumen donde el costo total abierto (incl. idle) iguala al cerrado.
Plan de salida — alternativa evaluada + contrato portable (p. ej. OpenAI-compatible).

Bloque 2 · 60 min

Dimensiones

Decisión

Qué mueve la aguja

Costo unitario y de operación (idle incluido).
Latencia y localidad de datos.
Especialización, soberanía, pin de versión (Bommasani: dependencia de API).

Bloque 3 · 60 min

Cruce

Ejercicio

Punto de cruce por volumen

Sin idle ni precio/token explícitos, el “más barato” es un eslogan.

Cálculo

Qué incluir en la hoja

10k requests/día: local cuantizado vs API.
Sensibilidad a precio/token y a GPU idle.
Estimaciones y stack: página Herramientas (curso 08).

Bloque 4 · 60 min

Dependencia

Mitigación

Salida creíble

Contrato OpenAI-compatible o propio.
Alternativa abierta evaluada (no solo nombrada).
Plan de cambio de proveedor en el design doc.

Dependencia

Salida = borde portable

Nombrar un vendor open sin evaluarlo no es mitigación.

Entregable

Hoja de cruce abierto vs cerrado

Caso Chile: datos sensibles / sector público — residencia + licencia comercial.
Declarar supuestos; sin números inventados.
Artefacto versionado → sección 08 del capstone (labs/capstone/).

Lecturas

Para profundizar

Bommasani et al. (2021), On the Opportunities and Risks of Foundation Models — bommasani2021foundation

Cierre

Preguntas

Siguiente: inferencia — costo, latencia y contexto (Unidad 5)