Erkennen Sie Angriffe, Grenzwerte und Kontrollmechanismen, die verhindern, dass ein Chatbot Daten preisgibt, schädliche Aktionen ausführt oder das Budget aufzehrt.
5 Abschnitte · 14 Lektionen
Definieren Sie, wie ShopEasy Nachrichten, Tool-Aufrufe und den Chatverlauf verarbeitet, und stellen Sie anschließend die wesentlichen Sicherheitsrisiken in einem einfachen Bedrohungsmodell dar.
2 LektionenVergleichen Sie die wichtigsten Methoden, mit denen Angreifer die Worte, den verborgenen Kontext, die Daten, die Tools und die Ressourcennutzung eines Chatbots missbrauchen, um Schaden anzurichten.
6 LektionenImplementieren Sie Kontrollmaßnahmen auf Prompt- und Code-Ebene, die Injection, Datenabfluss, Fehlgebrauch und Missbrauch reduzieren, und berücksichtigen Sie dabei, was die jeweilige Maßnahme für sich allein nicht verhindern kann.
4 LektionenWerten Sie Protokolle, Warnmeldungen und Red-Team-Überprüfungen aus, die übersehene Autorisierungen aufdecken, und testen Sie die Korrekturen nach vorgenommenen Änderungen.
1 LektionOrdnen Sie die Bedrohungen den passenden Schutzmaßnahmen zu und verwenden Sie vor der Auslieferung eine kurze Prüfliste für ShopEasy.
1 LektionKI-Chatbots können Fragen beantworten, Tools aufrufen und – bei unzureichender Sicherheit – mehr preisgeben, als sie sollten. Dieser Kurs erläutert die Funktionsweise von Chatbots und ihre Vertrauensgrenzen. Zudem wird gezeigt, wie gängige Angriffe eine normale Konversation in Datendiebstahl, schädliche Ausgaben, den Missbrauch von Tools oder explodierende Kosten verwandeln können. Der Kurs richtet sich an Einsteiger, die die Risiken von Chatbots so weit verstehen möchten, dass sie Sicherheitsmaßnahmen beurteilen, Designs überprüfen und Schwachstellen erkennen können, bevor das System in Betrieb geht.
Der Kurs behandelt die Verwendung von System-Prompts, Chat-Verlauf, Benutzereingaben und Tools durch einen LLM-Chatbot innerhalb einer Anfrage-Schleife sowie das grundlegende Sicherheitsmodell aus Vertraulichkeit, Integrität und Verfügbarkeit. Zudem werden Themen wie Prompt Injection, Jailbreaking, Prompt Leakage, Datenschutzrisiken, Tool-Missbrauch, Denial-of-Service, Guardrails, Datenschutz, Autorisierung, Ratenbegrenzungen, Monitoring und Red Teaming behandelt.
Von Projektmanagern und Operations-Teams bis zu Gründern, Analysten und Teams, die KI einführen: Fenzo ist für alle, die in ihrer bisherigen Arbeit besser werden wollen.
Alles – vom Einsatz von KI für Projektplanung und Datenanalyse bis zu besseren Arbeitsabläufen, Entscheidungen, Kommunikation und Umsetzung. Wenn du die Fähigkeit oder Aufgabe beschreiben kannst, kann Fenzo einen Kurs dazu erstellen.
Ja. Erzähl Fenzo, was du machst, was du erreichen willst und wo du feststeckst – Fenzo passt den Kurs an deine Rolle, deine Ziele und die Arbeit an, die du tatsächlich erledigen musst.
Nein. Fenzo passt sich deinem Ausgangspunkt an – du kannst mit den Grundlagen beginnen oder direkt mit fortgeschrittenen Themen einsteigen.
Ja. Fenzo for Business bringt dein ganzes Team in einen Plan: gemeinsame Lizenzen, Kurse, die du zuweisen kannst, und Berichte darüber, wer was abgeschlossen hat.
Mehr über Fenzo for BusinessDu beschreibst zuerst dein Ziel oder machst eine kurze Kompetenzbewertung. Fenzo nutzt diesen Kontext, um deine Lücken zu erkennen und das Lernerlebnis darauf auszurichten.
Ja, Fenzo funktioniert im Browser deines Smartphones.
In jedem Abschnitt etwas zum Ausprobieren.
Drei Erkenntnisse aus Jahrzehnten der Lernforschung bestimmen, wie jede Fenzo-Lektion aufgebaut ist.
Durchschnittliche Bestehensquote · Freeman et al., PNAS 2014
Was die Wissenschaft sagt
Studierende in reinen Vorlesungskursen fallen 1,5-mal häufiger durch.
Wie Fenzo es umsetzt
Jede Fenzo-Lektion ist interaktiv. Kein passives Lesen oder Zuschauen, niemals.
Du arbeitest es selbst durchKI erledigt es für dich
Kompetenzerhalt im Zeitverlauf · mit vs. ohne Übung
Was die Wissenschaft sagt
Wer das Denken an die KI auslagert, schwächt genau die Fähigkeiten, die er aufbauen will.
Wie Fenzo es umsetzt
Bei Fenzo denkst du selbst – mit Anleitung, aber nie für dich erledigt.
AbrufübungenErneutes Lesen
Langfristiges Erinnern · Abrufen vs. erneutes Lesen
Was die Wissenschaft sagt
Informationen abzurufen ist für dauerhaftes Verständnis wirksamer, als sie erneut zu lesen.
Wie Fenzo es umsetzt
Die Lektionen enthalten Quizfragen und Abrufimpulse, damit es hängen bleibt.