Curso 10 · Unidad 4

Interacción humano-IA

4 hrs · Automatización, incertidumbre, reversión — UAI

Tesis

Persona + sistema puede ser peor que cualquiera solo

El nivel de automatización se deriva del costo del error.
Confianza del modelo ≠ probabilidad calibrada.
Abstención y caminos de salida son requisitos de diseño.
Diagramar el flujo de decisión antes de elegir widgets.

Al finalizar

Resultados de aprendizaje

Elegir nivel de automatización justificable.
Diseñar presentación de incertidumbre y abstención.
Especificar reversión, apelación y registro.

Bloque 1 · 60 min

Automatización

Teoría

Niveles de automatización

Parasuraman et al. (2000): tipos (adquisición → acción) × niveles de automatización.
Amershi et al. (2019): el workflow de ML en producto no es el notebook — datos y acoplamiento.
El nivel se deriva del costo del error y de la reversibilidad, no del marketing “HITL”.

Continuo

De información pasiva a pleno automático

Costo del error, reversibilidad, volumen, supervisión real.
Crítica del “humano en el loop” nominal.
Umbrales y zonas de derivación.

Ilustración

Elegir el nivel, no el eslogan

Informar → sugerir → consentir → actuar; el salto se justifica con el costo del error.

Bloque 2 · 60 min

Incertidumbre

UI

Cómo mostrar lo que no se sabe

Scores, intervalos, conjuntos de predicción.
Abstención como salida legítima.
Efectos documentados sobre la decisión humana.

Ilustración

Decidir, abstenerse o escalar

La incertidumbre no es un badge: es una rama de diseño con dueño.

Bloque 3 · 60 min

Confianza

Teoría

Sobreconfianza y fricción cognitiva

Buçinca et al. (2021): explicaciones simples no bastan; forcing functions reducen overreliance.
Trade-off: menos overreliance a menudo empeora ratings subjetivos.
Diseñar abstención y fricción deliberada como requisitos, no como UX “nice to have”.

Riesgos

Sobreconfianza y aversión

Modelos mentales del usuario.
Explicaciones que calibran vs que inflan.
Fricción deliberada como mecanismo.

Guardrails

HITL es arquitectura

Confirmación y registro: controles fuera del modelo.

Bloque 4 · 60 min

Actividad 2

Entregable

Reversión y registro

Caminos de corrección y escalamiento.
Registro técnico + de cumplimiento.
Diagramar el flujo en el design doc.
Stack local del curso: página Herramientas, sección curso 10.

Lecturas

Para profundizar

Parasuraman et al. (2000) — parasuraman2000automation
Buçinca et al. (2021) — bucinca2021trust
Amershi et al. (2019) — amershi2019se4ml

Cierre

Preguntas

Siguiente: evaluación, monitoreo y riesgo (Unidad 5)