La supervisión humana en el uso cotidiano de la IA consiste en verificar lo que genera una herramienta antes de que dicho resultado produzca cambios en el mundo real. Esta labor se integra en tareas habituales como la redacción, la clasificación (triage), la revisión y el apoyo a la toma de decisiones, contextos en los que la velocidad y el volumen de trabajo presionan a las personas para que acepten la primera respuesta plausible. Este curso fundamenta dicha supervisión diaria en la Ley de IA de la UE y se centra en una decisión práctica: al finalizarlo, el participante sabrá cuándo confiar en el resultado de la IA, cuándo cuestionarlo y cuándo impedir que la herramienta actúe. Un error frecuente es tratar la supervisión como un simple repaso final para detectar erratas, en lugar de considerarla una decisión deliberada sobre el impacto y la reversibilidad de la acción. Este error deriva del diseño del flujo de trabajo, ya que la herramienta opera en la misma pantalla donde se realiza la tarea. [fuentes][/fuentes]
Un equipo puede actuar con gran cautela y, aun así, pasar por alto el momento crucial. Por ejemplo, el equipo podría revisar un resumen generado por el modelo, pegarlo en un correo electrónico dirigido a un cliente y enviarlo en nombre de una persona sin haber verificado el documento original. Ese mismo equipo podría aceptar una puntuación de confianza y asignar un caso a la cola incorrecta, dándose cuenta del error solo cuando el cliente presenta una queja. En ambos casos se realizó una revisión, pero esta llegó demasiado tarde para modificar la decisión. Lo difícil no es saber que la cautela es positiva; lo complicado es identificar los pocos puntos dentro de un flujo de trabajo acelerado donde todavía es posible —y poco costoso— hacer una pausa, cuestionar el resultado o detener la acción. El siguiente esquema muestra las decisiones de supervisión que se abordan recurrentemente a lo largo del curso. [fuentes][/fuentes]
En este curso, un sistema de IA es cualquier herramienta que recibe entradas y genera salidas que condicionan la forma en que las personas trabajan o cómo se comporta un servicio. Esto incluye sistemas que generan texto, clasifican opciones, categorizan contenido, extraen datos o recomiendan acciones, incluso cuando están integrados en productos familiares. Una fórmula de hoja de cálculo es predecible una vez que se conoce; en cambio, una herramienta de IA puede modificar su resultado ante pequeños cambios en la redacción. Por ello, la cuestión de la supervisión se centra en la fiabilidad, no solo en la exactitud.
Es probable que tu equipo ya interactúe con sistemas de IA en situaciones cotidianas, ya que a menudo la “IA” se presenta como una funcionalidad específica más que como una aplicación independiente. Una consola de soporte técnico puede sugerir respuestas, una herramienta de edición de documentos puede reescribir secciones y una cola de revisión puede ordenar elementos según su prioridad prevista. Todas estas herramientas ofrecen asistencia y hacen avanzar el trabajo, lo que implica que un resultado generado por IA puede convertirse en una decisión sin que nadie lo califique explícitamente como tal.
La supervisión diaria recae en la persona más cercana al momento de uso, ya que es la única que conoce la instrucción (prompt), el contexto y el propósito del resultado generado. Tú decides si utilizar el resultado, editarlo, solicitar pruebas o detener el proceso y escalar la situación, pues eres el último eslabón humano antes de que dicho resultado se incorpore a un ticket, un archivo, un mensaje o una decisión. Esto diferencia tu labor de las tareas de gobernanza, que consisten en establecer normas y analizar patrones a través de múltiples usos.
El curso también emplea términos que definen roles clave en la Ley de IA de la UE, dado que las obligaciones varían según quién realiza cada función:
La siguiente actividad evalúa si tu paso siguiente más seguro es también el que adoptas por defecto cuando trabajas bajo presión temporal, ya que ahí es donde la supervisión tiene éxito o fracasa.