Ordnen Sie LLM-Bedrohungen im Kontext der OWASP Top 10 Schutzmaßnahmen, Tests und Überwachungsmechanismen zu – für Verteidiger.
4 Abschnitte · 9 Lektionen
Definieren Sie die Anzeichen für eine Kompromittierung einer LLM-Anwendung, ordnen Sie diese den OWASP Top 10 zu und legen Sie das unmittelbare Ziel für die Eindämmung fest.
1 LektionVergleichen Sie Prompt Injection mit verwandten Risiken und wählen Sie anschließend Kontrollen, Tests sowie Überwachungsmaßnahmen für Offenlegung, verborgenen Kontext, Handlungsspielraum (Agency) und die Verarbeitung der Ausgabe aus.
3 LektionenVerfolgen Sie Bedrohungen durch Modelle, Prompts, Datensätze, Plugins, Laufzeitumgebungen, Training, Feinabstimmung, RAG und Feedback-Schleifen und definieren Sie anschließend Verifizierung, Validierung sowie Drift-Überwachung.
2 LektionenAnalysieren Sie Missbrauch bei der Ressourcennutzung, Schwachstellen bei RAG-Systemen sowie Desinformation und führen Sie anschließend eine Überprüfung auf Basis von OWASP-Standards durch, ergänzt durch Tests und Runbooks für das Monitoring.
3 LektionenDie Kompromittierung eines aktiven LLM-Systems ist selten auf einen einzelnen Fehler zurückzuführen; vielmehr handelt es sich um eine Kette von Symptomen, die schnell der korrekten OWASP-Kategorie zugeordnet werden müssen. Dieser Kurs vermittelt Sicherheitsteams sowie KI-/ML-Ingenieuren die Perspektive der Verteidiger auf die wichtigsten Bedrohungsmuster bei LLM- und KI-Anwendungen und bietet praxisorientierte Ansätze für Eindämmung, Härtung, Validierung und Überwachung. Nach Abschluss des Kurses sind die Teilnehmenden in der Lage, Angriffe zu klassifizieren, geeignete Abwehrmaßnahmen auszuwählen und LLM-Systeme anhand eines reproduzierbaren Sicherheitsansatzes zu überprüfen.
Der Kurs behandelt Prompt Injection, die Offenlegung sensibler Informationen, die Preisgabe verborgener Kontextinformationen, übermäßige Autonomie (Excessive Agency), unsachgemäße Verarbeitung von Ausgaben, Risiken in der Lieferkette, Daten- und Modellmanipulation (Poisoning), unbegrenzten Ressourcenverbrauch, Schwachstellen bei Vektoren und Embeddings sowie Desinformation. Zudem werden Verifizierung, Tests, Überwachungssignale und ein auf OWASP basierender Prüfablauf für LLM-Sicherheitsbewertungen thematisiert.
Von Projektmanagern und Operations-Teams bis zu Gründern, Analysten und Teams, die KI einführen: Fenzo ist für alle, die in ihrer bisherigen Arbeit besser werden wollen.
Alles – vom Einsatz von KI für Projektplanung und Datenanalyse bis zu besseren Arbeitsabläufen, Entscheidungen, Kommunikation und Umsetzung. Wenn du die Fähigkeit oder Aufgabe beschreiben kannst, kann Fenzo einen Kurs dazu erstellen.
Ja. Erzähl Fenzo, was du machst, was du erreichen willst und wo du feststeckst – Fenzo passt den Kurs an deine Rolle, deine Ziele und die Arbeit an, die du tatsächlich erledigen musst.
Nein. Fenzo passt sich deinem Ausgangspunkt an – du kannst mit den Grundlagen beginnen oder direkt mit fortgeschrittenen Themen einsteigen.
Ja. Fenzo for Business bringt dein ganzes Team in einen Plan: gemeinsame Lizenzen, Kurse, die du zuweisen kannst, und Berichte darüber, wer was abgeschlossen hat.
Mehr über Fenzo for BusinessDu beschreibst zuerst dein Ziel oder machst eine kurze Kompetenzbewertung. Fenzo nutzt diesen Kontext, um deine Lücken zu erkennen und das Lernerlebnis darauf auszurichten.
Ja, Fenzo funktioniert im Browser deines Smartphones.
In jedem Abschnitt etwas zum Ausprobieren.
Drei Erkenntnisse aus Jahrzehnten der Lernforschung bestimmen, wie jede Fenzo-Lektion aufgebaut ist.
Durchschnittliche Bestehensquote · Freeman et al., PNAS 2014
Was die Wissenschaft sagt
Studierende in reinen Vorlesungskursen fallen 1,5-mal häufiger durch.
Wie Fenzo es umsetzt
Jede Fenzo-Lektion ist interaktiv. Kein passives Lesen oder Zuschauen, niemals.
Du arbeitest es selbst durchKI erledigt es für dich
Kompetenzerhalt im Zeitverlauf · mit vs. ohne Übung
Was die Wissenschaft sagt
Wer das Denken an die KI auslagert, schwächt genau die Fähigkeiten, die er aufbauen will.
Wie Fenzo es umsetzt
Bei Fenzo denkst du selbst – mit Anleitung, aber nie für dich erledigt.
AbrufübungenErneutes Lesen
Langfristiges Erinnern · Abrufen vs. erneutes Lesen
Was die Wissenschaft sagt
Informationen abzurufen ist für dauerhaftes Verständnis wirksamer, als sie erneut zu lesen.
Wie Fenzo es umsetzt
Die Lektionen enthalten Quizfragen und Abrufimpulse, damit es hängen bleibt.