GenAI-Systeme in der Cloud schaffen neue Vertrauensgrenzen für Modelle, Agenten, Tools und Daten. Dieser Kurs vermittelt eine praxisorientierte Sicherheitsperspektive auf gehostete und selbstverwaltete Bereitstellungen – von der Bedrohungsmodellierung und Prompt Injection bis hin zu Identität, Autorisierung, Überwachung, Incident Response und Governance. Er richtet sich an Fachleute, die produktive GenAI-Workloads absichern müssen, ohne dabei Aspekte wie Cloud-Verantwortung, Nachweisbarkeit und Restrisiken aus den Augen zu verlieren. Nach Abschluss des Kurses sind die Teilnehmenden in der Lage, Sicherheitsmaßnahmen für LLM- und Agenten-Anwendungen über den gesamten Bereitstellungslebenszyklus hinweg zu bewerten und zu planen.
Der Kurs behandelt Vertrauensgrenzen bei generativer KI, Bedrohungsmodellierung für LLMs und Agenten, Prompt Injection, die Spiegelung von Berechtigungen bei RAG (Retrieval-Augmented Generation) sowie die Isolierung von Vektordaten. Zudem werden Workload-Identitäten, kurzlebige Zugangsdaten, Tool-Autorisierung, die sichere Bereitstellung verwalteter APIs und selbst gehosteter Modellgewichte, Laufzeitüberwachung, Incident Response bei Datenlecks sowie Governance in Verbindung mit technischen Kontrollmechanismen thematisiert.