Curso 08 · Unidad 7

Multimodalidad y riesgos

4 hrs · Visión · imagen · riesgos · cierre — UAI

Tesis

El riesgo del modelo ≠ el del sistema

Multimodal abre interfaces y superficies de falla nuevas.
Memorización y extracción son riesgos del modelo; la política es del sistema.
La instrucción sola no es control de seguridad.
Este cierre articula hacia Prompt Engineering y Diseño de Sistemas.

Al finalizar

Resultados de aprendizaje

Evaluar aplicabilidad multimodal y riesgo de memorización.
Distinguir riesgos del modelo vs del sistema.
Presentar un criterio de integración al resto de la malla.

Bloque 1 · 60 min

Multimodal

Modelos

Espacio común y documentos

Extracción desde PDF/imagen con límites medibles.
Error de OCR vs error de razonamiento.
Costo y latencia típicamente peores que texto.

Ilustración

Más canales, más fallas

Texto e imagen entran al mismo modelo; OCR ≠ razonamiento — medir por separado.

Definiciones

Léxico de riesgos

Multimodal — el modelo acepta más de un canal (texto, imagen, …); cada canal añade fallas propias.
Memorización / extracción — el modelo puede regurgitar datos de entrenamiento (Carlini et al., 2021).
Riesgo de modelo — falla inherente al artefacto (alucinación, extracción, jailbreak).
Riesgo de sistema — falla de producto/proceso (PII en logs, falta de HITL, prompt como único control).

Bloque 2 · 60 min

Imagen

Generación

Difusión, control, procedencia

Control (prompts, adapters) vs calidad.
Procedencia de datos de entrenamiento.
Uso responsable en contexto académico/profesional.

Bloque 3 · 60 min

Riesgos

Modelo

Riesgo del modelo ≠ del sistema

El prompt no es el control; filtros, logging y revisión sí lo son.

Teoría

Extracción y superficie de ataque

Carlini et al. (2021): se pueden extraer ejemplos de entrenamiento de LMs.
Greshake et al. (2023) / Perez & Ribeiro (2022): inyección e “ignore previous” — el prompt no es perímetro.
Bommasani et al. (2021): riesgos sistémicos del modelo base ≠ controles del producto.

Superficie

El prompt no es el perímetro

Contenido externo e instrucciones del usuario compiten; hace falta control de sistema.

Detalle

Extracción y límites del prompt

Extracción de datos de entrenamiento.
Jailbreaks como síntoma de frontera, no de “magia”.
Controles de sistema: filtros, logging, human review.

Bloque 4 · 60 min

Cierre

Malla

Hacia 09 y 10

09: la instrucción como especificación y agentes.
10: del modelo al sistema y design doc.
11: operar lo que aquí solo se prototipa.

Taller

Mapa de riesgos modelo vs sistema

Caso Chile: trámite con cédula/escaneo — 3 riesgos de modelo y 3 de sistema.
Para cada uno: control fuera del prompt (filtro, log, HITL).
Entregar tabla de una página — puente a 09/10.

Lecturas

Para profundizar

Carlini et al. (2021), Extracting Training Data — carlini2021extracting
Bommasani et al. (2021), Foundation Models — bommasani2021foundation
Greshake et al. (2023) — greshake2023injection; Perez & Ribeiro (2022) — perez2022ignore

Cierre

Preguntas

Fin curso 08 · siguiente arco: Prompt Engineering (09)