Curso 08 · Unidad 3

Vías de adaptación

4 hrs · Prompting · RAG · fine-tuning — UAI

Tesis

Elegí la vía por lo que falta, no por moda

Instrucción vs recuperación vs ajuste: errores distintos.
Fine-tune no arregla hechos que cambian cada semana.
LoRA/QLoRA: eficiencia, no magia.

Al finalizar

Resultados de aprendizaje

Elegir prompting, RAG o fine-tuning con criterios explícitos.
Preparar datos LoRA y detectar olvido catastrófico.

Bloque 1 · 60 min

Qué modifica cada vía

Mapa

Instrucción · recuperación · ajuste

Elegí la vía por el hueco: formato, hechos externos o dominio estable.

Teoría

RAG cuando el conocimiento es externo

Lewis et al. (2020): recuperar + generar para tareas knowledge-intensive.
La evidencia entra en el contexto; el índice se puede actualizar sin reentrenar.
Falla típica: fine-tune para hechos que cambian — el peso no es un índice.

RAG

Hechos fuera del peso

Actualizás el índice; no el checkpoint — vía típica cuando los hechos cambian.

Regla

Qué falla si elegís mal

Comportamiento / formato → prompting o SFT liviano.
Conocimiento externo / trazabilidad → RAG.
Estilo o dominio estable con datos → fine-tune.

Definiciones

Léxico de vías de adaptación

Prompting — adaptar el comportamiento vía instrucción en contexto, sin cambiar pesos.
RAG — recuperar evidencia externa y condicionar la generación; el índice se actualiza sin reentrenar.
Fine-tuning (LoRA/QLoRA) — adaptar pesos (o adaptadores de bajo rango) a un dominio/estilo estable.
Olvido catastrófico — degradación en tareas de control tras el ajuste; se mide, no se asume.

Bloque 2 · 60 min

Árbol de decisión

Criterios

Preguntas que cierran la vía

¿Qué falta: conocimiento, comportamiento o formato?
¿Datos, frescura, trazabilidad, presupuesto, control?
Combinaciones son el caso habitual en producción.

Bloque 3 · 60 min

LoRA/QLoRA

Teoría

Adaptación de bajo rango

Hu et al. (2022) LoRA: matrices de bajo rango sobre pesos congelados.
Dettmers et al. (2023) QLoRA: fine-tune sobre pesos cuantizados (VRAM ↓).
Eficiencia ≠ garantía de calidad: medir olvido en tareas de control.

Ilustración

Pesos congelados + adaptadores

W queda fijo; entrenás B·A de rango r ≪ d (Hu et al. 2022).

Práctica

Ajuste eficiente

Volumen mínimo y calidad de datos.
Evaluación post-ajuste vs baseline por instrucción.
Olvido catastrófico: medir tareas de control.
Colab/Kaggle + HF (página Herramientas, curso 08).

Bloque 4 · 60 min

Eval 1

Taller

Ajuste vs instrucción

Caso Chile: normativa SII que cambia — ¿RAG, FT o prompt? Justificar.
Mismo golden set de dominio; reportar formato · calidad · costo (labs/RUBRIC.md).
Contingencia: LM Studio / CPU si cae la GPU gestionada.

Lecturas

Para profundizar

Lewis et al. (2020), RAG — lewis2020rag
Hu et al. (2022), LoRA — hu2022lora
Dettmers et al. (2023), QLoRA — dettmers2023qlora

Cierre

Preguntas

Siguiente: modelos abiertos y cerrados (Unidad 4)