Ein Support-Copilot im Fintech-Bereich muss erkennen, wer eine Anfrage stellt, welche Informationen für diese Person sichtbar sind und welche Aktionen ausgelöst werden dürfen, ohne Sicherheitsgrenzen zu überschreiten. Dieser Kurs vermittelt Python-Backend-Entwicklern – die mit RAG, Rückerstattungstools und modellgeneriertem Analysecode arbeiten – das nötige Urteilsvermögen; dabei stehen konkrete Kontrollmechanismen im Vordergrund, nicht vage Diskussionen über KI-Sicherheit. Am Ende fügen sich Backend-Anfragepfad, delegierter Zugriff, Kontingente, Retrieval-Prüfungen, Tool-Zugangskontrollen, Sandboxing, Logging und Kill-Switches zu einem ganzheitlichen Sicherheitsmodell zusammen.
Der Kurs behandelt Identitätsbindung, Delegierung auf Mandantenebene, Abrechnung gemeinsamer Kontingente, Abrufberechtigungen, Injection-Prüfungen, Validierung von Tool-Argumenten, Genehmigungsschritte, Idempotenz sowie URL-Richtlinien. Zudem werden Script-Sandboxing, MCP-Server-Scoping, Audit-Logging, Verschlüsselung, Vorgaben für Schlüssel und Aufbewahrungsfristen, Kill-Switches sowie eine Regressions-Suite für Fälle der Verweigerung bei adversariellen Angriffen behandelt.