Guion profesor · U05
Evaluación, monitoreo y superficie de riesgo
Objetivo de la sesión
Métricas de sistema, deriva y controles arquitectónicos.
Guion por bloques
Bloque 1 — Tres niveles de evaluación (60 min)
Métricas de componente/sistema/resultado y métricas de vigilancia.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 2 — Evaluación en línea (60 min)
Sombra, canaria, experimentación controlada y criterios de rollback.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 3 — Evaluación de sistemas generativos (60 min)
Sets de dominio, jueces LLM y evaluación humana estructurada.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 4 — Superficie de riesgo (60 min)
OOD, deriva, inyección indirecta y fuga por salida; controles de diseño.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Checklist cierre
- Articulación con la unidad siguiente / curso vecino.
- Recordar lectura previa de la próxima sesión.
- Recoger dudas sobre lab autónomo.
Se requiere sesión profesor
Iniciar sesión para ver guiones y soluciones.