Planung, Durchführung und Berichterstattung autorisierter LLM-Red-Team-Tests mit Zuordnung zu den OWASP-Top-10-Risiken
4 Abschnitte · 8 Lektionen
Definieren Sie das Szenario, die Einsatzregeln und den Testplan, die sicherstellen, dass die LLM-Red-Teaming-Aktivität autorisiert und nachvollziehbar ist sowie die OWASP-Abdeckung berücksichtigt.
3 LektionenSetzen Sie garak, PyRIT und promptfoo ein, um Tests auf direkte und indirekte Prompt-Injection durchzuführen und dabei Beweise zu sichern sowie die Sicherheit zu gewährleisten.
1 LektionBewerten Sie Risiken in den Bereichen Retrieval, Speicher, Kontext, Agent, Tool-Nutzung und Ressourcenerschöpfung und dokumentieren Sie Nachweise für die OWASP-Fehlerklassen.
2 LektionenUntersuchen Sie die Verarbeitung von Ausgaben sowie die Kompromittierung von Abhängigkeiten und fassen Sie die Ergebnisse anschließend in einem vollständigen Bericht zusammen, der Angaben zu Schweregrad, Abhilfemaßnahmen, Schritten für erneute Tests sowie Empfehlungen für die Veröffentlichung enthält.
2 LektionenDieser fortgeschrittene Red-Teaming-Kurs beginnt mit der Klassifizierung eines realen LLM-Sicherheitsvorfalls auf Basis der OWASP-Standards. Im Mittelpunkt stehen autorisierte Angriffstests für Sicherheitsteams und Red Teamer, die für ihre Anwendungen einen klar definierten Prüfumfang, belastbare Nachweise sowie eine Entscheidungsgrundlage für die Freigabe benötigen. Nach Abschluss des Kurses sind die Teilnehmenden in der Lage, ein Testprogramm zu konzipieren, kontrollierte Angriffe mit gängigen Tools durchzuführen und die Ergebnisse in einen Management-Bericht zu überführen, der konkrete Empfehlungen zur Fehlerbehebung sowie eine Entscheidungshilfe für die Freigabe (Go/No-Go) enthält.
Der Kurs behandelt die auf OWASP basierende Testplanung, die Einsatzregeln (Rules of Engagement) sowie ausführbare Testfälle für eine spezifische LLM-Anwendung. Zudem werden Tests auf Prompt-Injection-Schwachstellen mittels garak, PyRIT und promptfoo sowie Fehlerklassen in den Bereichen Retrieval, Memory, Agenten, Ausgabeverarbeitung und Supply Chain behandelt.
Von Projektmanagern und Operations-Teams bis zu Gründern, Analysten und Teams, die KI einführen: Fenzo ist für alle, die in ihrer bisherigen Arbeit besser werden wollen.
Alles – vom Einsatz von KI für Projektplanung und Datenanalyse bis zu besseren Arbeitsabläufen, Entscheidungen, Kommunikation und Umsetzung. Wenn du die Fähigkeit oder Aufgabe beschreiben kannst, kann Fenzo einen Kurs dazu erstellen.
Ja. Erzähl Fenzo, was du machst, was du erreichen willst und wo du feststeckst – Fenzo passt den Kurs an deine Rolle, deine Ziele und die Arbeit an, die du tatsächlich erledigen musst.
Nein. Fenzo passt sich deinem Ausgangspunkt an – du kannst mit den Grundlagen beginnen oder direkt mit fortgeschrittenen Themen einsteigen.
Ja. Fenzo for Business bringt dein ganzes Team in einen Plan: gemeinsame Lizenzen, Kurse, die du zuweisen kannst, und Berichte darüber, wer was abgeschlossen hat.
Mehr über Fenzo for BusinessDu beschreibst zuerst dein Ziel oder machst eine kurze Kompetenzbewertung. Fenzo nutzt diesen Kontext, um deine Lücken zu erkennen und das Lernerlebnis darauf auszurichten.
Ja, Fenzo funktioniert im Browser deines Smartphones.
In jedem Abschnitt etwas zum Ausprobieren.
Drei Erkenntnisse aus Jahrzehnten der Lernforschung bestimmen, wie jede Fenzo-Lektion aufgebaut ist.
Durchschnittliche Bestehensquote · Freeman et al., PNAS 2014
Was die Wissenschaft sagt
Studierende in reinen Vorlesungskursen fallen 1,5-mal häufiger durch.
Wie Fenzo es umsetzt
Jede Fenzo-Lektion ist interaktiv. Kein passives Lesen oder Zuschauen, niemals.
Du arbeitest es selbst durchKI erledigt es für dich
Kompetenzerhalt im Zeitverlauf · mit vs. ohne Übung
Was die Wissenschaft sagt
Wer das Denken an die KI auslagert, schwächt genau die Fähigkeiten, die er aufbauen will.
Wie Fenzo es umsetzt
Bei Fenzo denkst du selbst – mit Anleitung, aber nie für dich erledigt.
AbrufübungenErneutes Lesen
Langfristiges Erinnern · Abrufen vs. erneutes Lesen
Was die Wissenschaft sagt
Informationen abzurufen ist für dauerhaftes Verständnis wirksamer, als sie erneut zu lesen.
Wie Fenzo es umsetzt
Die Lektionen enthalten Quizfragen und Abrufimpulse, damit es hängen bleibt.