Guion profesor · U01
Arquitectura y comportamiento del transformer generativo
Objetivo de la sesión
Atención, tokenización, decodificación y leyes de escalamiento.
Guion por bloques
Bloque 1 — Del LM al transformer generativo (60 min)
Modelado autorregresivo, atención y costo cuadrático, decoder-only vs encoder.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 2 — Tokenización y ventana de contexto (60 min)
Subpalabras, efectos en español/números, KV-cache y degradación por posición (lost in the middle).
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 3 — Generación y control de la salida (60 min)
Temperatura, nucleus sampling, salida estructurada, límites del determinismo.
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Bloque 4 — Escalamiento (60 min)
Leyes de escalamiento y asignación óptima de cómputo (Kaplan / Chinchilla).
- Demo viva: proyectar un caso corto; pedir predicción de la falla antes de correr el modelo.
- Pregunta disparadora: “¿Qué evidencia descartaría tu intuición sobre este prompt/agente?”
- Contingencia: si cae el proveedor cloud, usar LM Studio / Ollama; comparar calidad es contenido, no fracaso.
Claves del taller (no proyectar)
Con LM Studio: medí tokens de un párrafo en español vs inglés; variá temperature/top_p y registrá diversidad en 10 corridas.
- Exigir batería de casos antes de “se ve bien”.
- Registrar modelo, temperatura y seed/config en el informe.
- Rechazar entregas sin tope de iteraciones/costo/tiempo en agentes.
Checklist cierre
- Articulación con la unidad siguiente / curso vecino.
- Recordar lectura previa de la próxima sesión.
- Recoger dudas sobre lab autónomo.
Se requiere sesión profesor
Iniciar sesión para ver guiones y soluciones.