KI-Agenten können echte Arbeitsaufgaben übernehmen; daher unterscheidet sich die Überwachung dieser Systeme grundlegend von der bloßen Beobachtung eines Chatbots, der Fragen beantwortet. Dieser Kurs vermittelt nicht-technischen Mitarbeitern und verantwortlichen Führungskräften das Verständnis dafür, was ein KI-Agent ist, in welchen Bereichen menschliche Kontrolle unverzichtbar bleibt und wie das „IMDA Model AI Governance Framework for Agentic AI“ im Arbeitsalltag angewendet werden kann. Nach Abschluss des Kurses sind die Teilnehmenden in der Lage, den Einsatz eines KI-Agenten zu bewerten, Verantwortlichkeiten festzulegen und zu überprüfen, ob die Überwachungsmaßnahmen auch langfristig wirksam sind.
Der Kurs behandelt die Unterschiede zwischen KI-Agenten und Assistenten, die Begrenzung ihrer Befugnisse sowie die Entscheidung darüber, ob ein Anwendungsfall überhaupt geeignet ist. Zudem werden die explizite menschliche Verantwortlichkeit, kontinuierliche Kontrollpunkte, Drift-Signale sowie die wesentlichen Fehlerquellen in den Bereichen Daten, Sicherheit und Prompt-Injection bei Agenten-Workflows thematisiert.