Las aplicaciones basadas en LLM aceptan entradas no confiables, generan salidas inciertas y pueden desencadenar acciones de gran impacto; por ello, los controles de seguridad deben implementarse en etapas del *backend* donde puedan aplicarse de manera efectiva. Este curso ayuda a desarrolladores de nivel intermedio a transformar los riesgos del producto en mecanismos de protección (o *guardrails*) organizados por capas, abarcando aspectos como *prompts* dañinos, respuestas inseguras, datos sensibles, límites de alcance, salidas estructuradas, clasificadores y acciones de herramientas. Al finalizar, contarás con un diseño de control integral para un *chatbot*, que incluye pruebas cuantificables, telemetría y un análisis explícito de las compensaciones entre seguridad, latencia y costo.
El curso abarca la implementación de mecanismos de protección (guardrails), la delimitación del alcance de las amenazas, el filtrado de entradas y salidas, la detección de datos sensibles, los límites temáticos y de permisos, la validación de esquemas, las decisiones de los clasificadores, la autorización de herramientas, la seguridad de las URL, la optimización de pipelines, las pruebas de regresión, la telemetría y la integración de chatbots en capas.