Implementieren Sie praxisnahe Kontrollmechanismen für schädliche LLM-Ausgaben mittels Filterung, Schwellenwerten, menschlicher Überprüfung und prüfsicheren Nachweisen.
3 Abschnitte · 8 Lektionen
Definieren Sie, wie schädliche LLM-Ausgaben entstehen, und erstellen Sie anschließend eine Schadens-Taxonomie sowie Schweregrad-Stufen, die Moderationsregeln messbar und überprüfbar machen.
2 LektionenKonzipieren Sie die Filterung für Eingabe, Abruf und Ausgabe, legen Sie Moderationsschwellenwerte fest und leiten Sie unklare Fälle unter Einbeziehung von Protokollierung und Eskalation an Warteschlangen für die manuelle Überprüfung weiter.
3 LektionenÜberprüfen Sie die Abdeckung der Inhaltssicherheit mithilfe von Adversarial Tests, stellen Sie die von Auditoren erwarteten Nachweise zu Richtlinien und Protokollen zusammen und passen Sie die Kontrollmechanismen bei auftretenden Abweichungen (Drift) kontinuierlich an.
3 LektionenSchädliche Ausgaben von LLMs werden dann zu einem Sicherheitsproblem, wenn sie von isolierten Fehlern zu vorhersehbaren Fehlermustern übergehen, die von Teams modelliert und kontrolliert werden können. Dieser Kurs vermittelt Sicherheitsteams und KI/ML-Ingenieuren Methoden, um schädliche Inhalte zu definieren, Filter- und Prüfmechanismen zu implementieren, Moderationsentscheidungen zu optimieren und nachzuweisen, dass diese Kontrollmaßnahmen wirksam sind. Am Ende des Kurses sind die Teilnehmenden in der Lage, Content-Sicherheit als operative Sicherheitsdisziplin zu begreifen – und nicht bloß als reine Moderationsfunktion.
Der Kurs behandelt die Bedrohungsmodellierung für schädliche LLM-Ausgaben, organisationsspezifische Taxonomien für Schadpotenziale sowie mehrschichtige Filtermechanismen (Defense-in-Depth) entlang der Eingabe-, Abruf- und Ausgabepfade. Zudem werden Moderationsklassifikatoren, die Festlegung von Schwellenwerten, Warteschlangen für die manuelle Überprüfung, Adversarial Testing, Compliance-Dokumentation sowie die kontinuierliche Optimierung der Kontrollmechanismen thematisiert.
Von Projektmanagern und Operations-Teams bis zu Gründern, Analysten und Teams, die KI einführen: Fenzo ist für alle, die in ihrer bisherigen Arbeit besser werden wollen.
Alles – vom Einsatz von KI für Projektplanung und Datenanalyse bis zu besseren Arbeitsabläufen, Entscheidungen, Kommunikation und Umsetzung. Wenn du die Fähigkeit oder Aufgabe beschreiben kannst, kann Fenzo einen Kurs dazu erstellen.
Ja. Erzähl Fenzo, was du machst, was du erreichen willst und wo du feststeckst – Fenzo passt den Kurs an deine Rolle, deine Ziele und die Arbeit an, die du tatsächlich erledigen musst.
Nein. Fenzo passt sich deinem Ausgangspunkt an – du kannst mit den Grundlagen beginnen oder direkt mit fortgeschrittenen Themen einsteigen.
Ja. Fenzo for Business bringt dein ganzes Team in einen Plan: gemeinsame Lizenzen, Kurse, die du zuweisen kannst, und Berichte darüber, wer was abgeschlossen hat.
Mehr über Fenzo for BusinessDu beschreibst zuerst dein Ziel oder machst eine kurze Kompetenzbewertung. Fenzo nutzt diesen Kontext, um deine Lücken zu erkennen und das Lernerlebnis darauf auszurichten.
Ja, Fenzo funktioniert im Browser deines Smartphones.
In jedem Abschnitt etwas zum Ausprobieren.
Drei Erkenntnisse aus Jahrzehnten der Lernforschung bestimmen, wie jede Fenzo-Lektion aufgebaut ist.
Durchschnittliche Bestehensquote · Freeman et al., PNAS 2014
Was die Wissenschaft sagt
Studierende in reinen Vorlesungskursen fallen 1,5-mal häufiger durch.
Wie Fenzo es umsetzt
Jede Fenzo-Lektion ist interaktiv. Kein passives Lesen oder Zuschauen, niemals.
Du arbeitest es selbst durchKI erledigt es für dich
Kompetenzerhalt im Zeitverlauf · mit vs. ohne Übung
Was die Wissenschaft sagt
Wer das Denken an die KI auslagert, schwächt genau die Fähigkeiten, die er aufbauen will.
Wie Fenzo es umsetzt
Bei Fenzo denkst du selbst – mit Anleitung, aber nie für dich erledigt.
AbrufübungenErneutes Lesen
Langfristiges Erinnern · Abrufen vs. erneutes Lesen
Was die Wissenschaft sagt
Informationen abzurufen ist für dauerhaftes Verständnis wirksamer, als sie erneut zu lesen.
Wie Fenzo es umsetzt
Die Lektionen enthalten Quizfragen und Abrufimpulse, damit es hängen bleibt.