Bei Sicherheitsvorfällen mit KI-Systemen sind schnelle Entscheidungen, eine saubere Beweissicherung und Kontrollmaßnahmen erforderlich, die auch über die erste Reaktion hinaus Bestand haben. Dieser Kurs vermittelt praxisnahe Fähigkeiten für die Reaktion auf Vorfälle bei LLM-Anwendungen – von der Klassifizierung auf Basis von OWASP über Untersuchung, Eindämmung und Behebung bis hin zur revisionssicheren Berichterstattung. Er richtet sich an Sicherheitsanalysten und Incident-Response-Experten, die Vorfälle bearbeiten müssen, bei denen ein KI-System entweder das Ziel oder den Angriffsvektor darstellt, ohne dabei Beweise oder den Überblick zu verlieren.
Der Kurs behandelt die Triage gemäß der OWASP Top 10 für LLM-Anwendungen 2026, die Beweissicherung (Prompts, Logs, RAG-Traces und Anbieter-Artefakte) sowie Maßnahmen zur Eindämmung von Prompt-Injection, Datenoffenlegung, Agenten-Missbrauch, Supply-Chain-Kompromittierung und unkontrolliertem Ressourcenverbrauch. Zudem werden die Dokumentation von Ursachenanalysen, das Management von Behebungs-Backlogs, Governance-Aufzeichnungen, die Optimierung der Erkennung nach Vorfällen sowie die vollständige Fallbearbeitung thematisiert.