Esta lección comienza con una situación que la mayoría de los equipos de seguridad y TI encuentran habitualmente. Se inicia una evaluación de riesgos y alguien menciona un asistente de IA que el equipo de atención al cliente lleva semanas utilizando; se pagó con una tarjeta corporativa, sin generar un ticket de solicitud, sin una revisión del proveedor y sin un registro claro de qué datos se introdujeron en él. El problema que debemos resolver es práctico: mantener la operatividad mientras recuperamos el control sobre la identidad, la autorización y la visibilidad del uso de la IA en toda la organización.
En este curso, trataremos los sistemas de IA igual que al resto de nuestro entorno de producción. Cada función y herramienta de IA genera identidades, permisos y rutas de datos que requieren un diseño intencional y una supervisión continua. Nuestro objetivo no es crear una lista de elementos prohibidos, sino mapear una superficie de acceso que podamos proteger y encontrar la manera de transformar el uso “en la sombra” en una opción segura y respaldada oficialmente.
El riesgo rara vez reside en la primera instrucción (prompt) introducida. El riesgo surge de la cadena de pequeñas decisiones que, silenciosamente, se convierten en una ruta de acceso activa: por ejemplo, copiar y pegar texto interno en un chat externo, añadir una extensión del navegador con permisos amplios o conectar una herramienta de IA al correo electrónico y a los sistemas de gestión de tickets. Una vez que se dan estos pasos, los datos confidenciales pueden salir de los límites previstos, y es posible que la organización no pueda responder a preguntas básicas durante un incidente o una auditoría sobre quién accedió a qué información y por qué.
A lo largo del curso, utilizaremos un modelo mental sencillo. Una capacidad de IA se convierte en un riesgo de acceso cuando crea una nueva identidad, una nueva decisión de autorización o una nueva ruta hacia un almacén de datos confidenciales sin contar con los mismos controles que exigimos en otras áreas. En la siguiente sección, analizaremos cada punto de transferencia en el que una persona, aplicación, agente o conector obtiene una nueva forma de interactuar con datos o sistemas. Examinaremos paso a paso toda la cadena, desde el descubrimiento hasta la exposición.
Para controlar el acceso a la IA, primero necesitamos un mapa compartido de lo que existe. Un inventario de la superficie de acceso a la IA es una lista y un mapa de sistemas de aquellos componentes que pueden realizar solicitudes, recibir datos o ejecutar acciones en nuestro entorno mediante funciones de IA. Este inventario incluye los sistemas autorizados que hemos desarrollado, los copilotos de terceros que hemos habilitado y las herramientas no autorizadas (“shadow IT”) que los usuarios han adoptado para cumplir con plazos reales. Si un componente no figura en el inventario, es fácil otorgar permisos excesivos, resulta imposible revisarlo y dificulta cualquier investigación posterior.
Al mapear un flujo de trabajo habilitado para IA, buscamos identificar ciertos tipos de componentes recurrentes. Seguiremos utilizando estas mismas categorías en lecciones posteriores, al definir el alcance del principio de privilegios mínimos y configurar la supervisión. Este es el mapa de sistemas con el que practicaremos a continuación. Haga clic para examinarlo y observe dónde se establece la identidad y dónde se aplican los permisos.