Las respuestas perjudiciales de los LLM se convierten en un problema de seguridad cuando pasan de ser errores aislados a modos de fallo predecibles que los equipos pueden modelar y controlar. Este curso ofrece a los equipos de seguridad y a los ingenieros de IA/ML las herramientas para definir qué constituye contenido perjudicial, implementar controles de filtrado y revisión, ajustar las decisiones de moderación y generar pruebas de la eficacia de dichos controles. Al finalizar, los participantes serán capaces de abordar la seguridad del contenido como una disciplina de seguridad operativa, y no simplemente como una función de moderación.
El curso abarca el modelado de amenazas para resultados perjudiciales de LLM, taxonomías de daños específicas para la organización y filtrado de defensa en profundidad en las fases de entrada, recuperación y salida. También trata sobre clasificadores de moderación, establecimiento de umbrales, colas de revisión humana, pruebas adversarias, documentación de cumplimiento y el ajuste continuo de los controles.