Los chatbots de IA pueden responder preguntas, utilizar herramientas y exponer información sensible si la seguridad es deficiente. Este curso explica el funcionamiento de un chatbot, dónde se sitúan sus límites de confianza y cómo ciertos ataques habituales pueden transformar una conversación normal en robo de datos, generación de contenido perjudicial, uso indebido de herramientas o costes desorbitados. Está dirigido a principiantes que deseen comprender los riesgos asociados a los chatbots lo suficiente como para evaluar las medidas de seguridad, revisar diseños y detectar vulnerabilidades antes de su lanzamiento.
El curso aborda cómo un chatbot basado en LLM utiliza una instrucción del sistema (*system prompt*), el historial del chat, la entrada del usuario y herramientas dentro de un ciclo de solicitud, además del modelo de seguridad fundamental de confidencialidad, integridad y disponibilidad. Posteriormente, trata temas como la inyección de instrucciones (*prompt injection*), el *jailbreaking*, la filtración de instrucciones (*prompt leakage*), los riesgos de privacidad, el uso indebido de herramientas, la denegación de servicio, los mecanismos de salvaguarda (*guardrails*), la protección de datos, la autorización, los límites de tasa, la monitorización y el *red teaming*.