Guion profesor · U05
Inferencia — costo, latencia y contexto
Objetivo de la sesión
TTFT, cuantización, caché de prefijo y contexto extenso.
Guion por bloques
Bloque 1 — Anatomía de la latencia (60 min)
Prefill vs decode; qué importa según la UI.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 2 — Anatomía del costo (60 min)
Tokens in/out, caché de prefijo, proyección mensual.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 3 — Optimización (60 min)
Cuantización, batching, tamaño de modelo como variable de diseño.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 4 — Contexto extenso (Eval 2) (60 min)
Contexto largo vs RAG; medición comparativa.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Checklist cierre
- Articulación con la unidad siguiente / curso vecino.
- Recordar lectura previa de la próxima sesión.
- Recoger dudas sobre lab autónomo.
Se requiere sesión profesor
Iniciar sesión para ver guiones y soluciones.