Verstehen Sie, wie Jailbreaks Sicherheitsmechanismen umgehen, und entwickeln Sie mehrschichtige, messbare Schutzmaßnahmen für bereitgestellte LLM-Anwendungen.
4 Abschnitte · 12 Lektionen
Definieren Sie Jailbreaks, grenzen Sie diese von Prompt Injection ab und untersuchen Sie, wie Sicherheitstraining das Modellverhalten prägt und wo dessen Grenzen bei bereitgestellten Systemen liegen.
2 LektionenAnalysieren Sie Persona-Framing, Eskalation über mehrere Interaktionsschritte, Many-Shot-Kontexte, adversarielle Suffixe, Verschleierung und multimodale Eingaben als eigenständige Wege zur Umgehung von Modell-Sicherheitsmechanismen.
6 LektionenImplementieren Sie Erkennungsmechanismen auf der Basis von Heuristiken, Klassifikatoren und Telemetriedaten und kombinieren Sie anschließend Überwachung, Ratenbegrenzung, Sicherheitsschulungen und weitere Kontrollmaßnahmen zu einem mehrschichtigen Schutzsystem.
2 LektionenBewerten Sie die Widerstandsfähigkeit mithilfe sicherer, dokumentierter Methoden und wenden Sie die Ergebnisse auf ein öffentliches Chatbot-Konzept an, das operative Kontrollen und Regressionstests umfasst.
2 LektionenBeim Jailbreaking wird untersucht, ob eine LLM-Anwendung dazu gebracht werden kann, ihre vorgesehenen Sicherheitsgrenzen zu überschreiten, was Risiken für Nutzer, Organisationen und öffentlich zugängliche Systeme birgt. Dieser Kurs vermittelt Entwicklern mit Vorkenntnissen, ML-Ingenieuren und Sicherheitsexperten einen klaren Rahmen, um Jailbreak-Mechanismen zu analysieren, deren Grenzen zu erkennen und mehrschichtige Verteidigungsmaßnahmen anzuwenden. Sie erlernen praktische Methoden zur Erkennung, zur verantwortungsvollen Evaluierung und zur Härtung von Chatbots, ohne dabei Anleitungen zu veröffentlichen, die für Angriffe ausgenutzt werden könnten.
Der Kurs behandelt die Grenzen des Sicherheitstrainings, Persona- und Multi-Turn-Angriffe, Many-Shot-Kontexte, Adversarial Suffixes, Verschleierungstechniken sowie multimodale Eingaben. Zudem werden Erkennungsmethoden, mehrschichtige Verteidigungsstrategien, eine verantwortungsvolle Bewertung der Widerstandsfähigkeit sowie die operative Härtung öffentlicher Chatbots thematisiert.
Von Projektmanagern und Operations-Teams bis zu Gründern, Analysten und Teams, die KI einführen: Fenzo ist für alle, die in ihrer bisherigen Arbeit besser werden wollen.
Alles – vom Einsatz von KI für Projektplanung und Datenanalyse bis zu besseren Arbeitsabläufen, Entscheidungen, Kommunikation und Umsetzung. Wenn du die Fähigkeit oder Aufgabe beschreiben kannst, kann Fenzo einen Kurs dazu erstellen.
Ja. Erzähl Fenzo, was du machst, was du erreichen willst und wo du feststeckst – Fenzo passt den Kurs an deine Rolle, deine Ziele und die Arbeit an, die du tatsächlich erledigen musst.
Nein. Fenzo passt sich deinem Ausgangspunkt an – du kannst mit den Grundlagen beginnen oder direkt mit fortgeschrittenen Themen einsteigen.
Ja. Fenzo for Business bringt dein ganzes Team in einen Plan: gemeinsame Lizenzen, Kurse, die du zuweisen kannst, und Berichte darüber, wer was abgeschlossen hat.
Mehr über Fenzo for BusinessDu beschreibst zuerst dein Ziel oder machst eine kurze Kompetenzbewertung. Fenzo nutzt diesen Kontext, um deine Lücken zu erkennen und das Lernerlebnis darauf auszurichten.
Ja, Fenzo funktioniert im Browser deines Smartphones.
In jedem Abschnitt etwas zum Ausprobieren.
Drei Erkenntnisse aus Jahrzehnten der Lernforschung bestimmen, wie jede Fenzo-Lektion aufgebaut ist.
Durchschnittliche Bestehensquote · Freeman et al., PNAS 2014
Was die Wissenschaft sagt
Studierende in reinen Vorlesungskursen fallen 1,5-mal häufiger durch.
Wie Fenzo es umsetzt
Jede Fenzo-Lektion ist interaktiv. Kein passives Lesen oder Zuschauen, niemals.
Du arbeitest es selbst durchKI erledigt es für dich
Kompetenzerhalt im Zeitverlauf · mit vs. ohne Übung
Was die Wissenschaft sagt
Wer das Denken an die KI auslagert, schwächt genau die Fähigkeiten, die er aufbauen will.
Wie Fenzo es umsetzt
Bei Fenzo denkst du selbst – mit Anleitung, aber nie für dich erledigt.
AbrufübungenErneutes Lesen
Langfristiges Erinnern · Abrufen vs. erneutes Lesen
Was die Wissenschaft sagt
Informationen abzurufen ist für dauerhaftes Verständnis wirksamer, als sie erneut zu lesen.
Wie Fenzo es umsetzt
Die Lektionen enthalten Quizfragen und Abrufimpulse, damit es hängen bleibt.