La aprobación del despliegue de IA es el momento en que una organización decide permitir que un sistema de IA actúe en el mundo real, utilizando datos reales y afectando a personas reales. Este curso trata sobre cómo dotar a dicha aprobación de responsabilidad y rendición de cuentas, de modo que un ejecutivo, un responsable de programa o un gestor de presupuesto pueda decidir cuándo aprobar, cuándo hacer una pausa y qué evidencias solicitar. Un error grave consiste en tratar la responsabilidad como algo que un proveedor puede suministrar y un equipo legal puede asumir en exclusiva, ya que la decisión de aprobación en sí misma establece las condiciones que todos deberán afrontar posteriormente. Una aprobación que parece un mero trámite comercial a menudo se convierte en una decisión sobre el modelo operativo; por ello, esta tarea recae en los responsables de la toma de decisiones y no solo en los especialistas. [fuentes][/fuentes]
La aprobación responsable se manifiesta en los flujos de trabajo habituales, no solo en lanzamientos de gran repercusión. Un equipo presenta una propuesta de uso, un proveedor aporta sus afirmaciones y el negocio establece las limitaciones de tiempo y presupuesto. La persona que aprueba determina qué mecanismos de supervisión existen, qué datos se registran, qué se monitoriza y qué sucede si algo falla, incluso si los detalles técnicos han sido redactados por otras personas. Esto también abarca los sistemas que ya están en funcionamiento, donde la cuestión clave es si el uso actual sigue correspondiéndose con lo que se aprobó originalmente. Visualizar el flujo de trabajo completo desde el principio resulta útil, ya que las lecciones posteriores vincularán preguntas concretas a puntos específicos de dicho proceso. [fuentes][/fuentes]
La estructura completa del flujo de trabajo de aprobación se presenta en el siguiente mapa mental. [fuentes][/fuentes]
Un equipo afirma que está adquiriendo herramientas de análisis; otro, que se trata de un chatbot; y un tercero, que es una solución de automatización. En la práctica, nos encontramos ante un sistema de IA siempre que la herramienta toma datos de entrada de su entorno y genera resultados que condicionan una decisión, una recomendación o una acción. Esto es relevante en el momento de la aprobación, ya que un mismo proceso de adquisición puede ocultar comportamientos muy distintos; quien aprueba debe saber identificar cuándo una “funcionalidad” implica, en realidad, la toma de decisiones.
Pensemos en una herramienta de gestión de gastos que marca solicitudes para su revisión, un sistema de selección de personal que clasifica candidatos o un asistente de soporte que redacta respuestas para que los agentes las envíen. Cualquiera de estas herramientas puede alterar los resultados para el personal o los clientes, incluso si es una persona quien pulsa el botón final. La cuestión clave para la aprobación no es si la IA aparece en el material de marketing, sino qué lugar ocupa en el proceso y en qué puede influir una vez integrada en las operaciones reales.
Un proveedor puede facilitar documentación y garantías, pero no puede tomar la decisión de aprobación por usted. Usted es quien decide si se permite el uso del sistema, cuál será su ámbito de actuación y qué condiciones regirán su supervisión y control. También es usted quien decide exigir pruebas, ya que una aprobación basada únicamente en declaraciones de confianza suele fallar en cuanto surge el primer caso excepcional o imprevisto.
Los equipos de implementación y de gestión de riesgos desempeñan una labor fundamental, y esta separación de funciones resulta útil. Ellos pueden realizar pruebas, diseñar controles y llevar a cabo procesos de diligencia debida, además de presentarle opciones con sus respectivas ventajas e inconvenientes. Su tarea consiste en plasmar dichas opciones de forma concreta en el registro de aprobación, de modo que, posteriormente, sea posible verificar qué se aprobó, qué supuestos se manejaron y qué circunstancias requerirían una nueva aprobación.
La siguiente lista se centra en los instintos que guían una decisión de aprobación segura, antes de que entren en juego los detalles legales.