Dieser Kurs behandelt KI-Agenten, die am Arbeitsplatz eigenständig handeln können, und orientiert sich dabei an den bewährten Verfahren des „IMDA Model AI Governance Framework for Agentic AI“. Er richtet sich an Vorgesetzte und verantwortliche Führungskräfte, die festlegen müssen, welche Befugnisse ein Agent hat, wie er überwacht wird und wann ein Mensch eingreifen muss. Ein häufiger Fehler besteht darin, einen Agenten wie einen Chat-Assistenten zu behandeln und sich nur auf seine Aussagen zu konzentrieren; die eigentliche Neuerung liegt jedoch in den Aktionen, die er mithilfe der ihm zugänglichen Werkzeuge ausführen kann. Diese Diskrepanz zeigt sich im Arbeitsalltag oft in Kleinigkeiten – etwa wenn ein Agent ein Ticket schließt, eine E-Mail versendet oder einen Datensatz aktualisiert –, wobei der Schaden meist zunächst praktischer Natur ist, bevor er gravierende Ausmaße annimmt. Die Herausforderung liegt nicht im Verständnis von KI-Fachbegriffen. Sie besteht vielmehr darin, Grenzen zu ziehen, die auch dann Bestand haben, wenn der Agent stark ausgelastet ist und die Mitarbeitenden unter Zeitdruck stehen.
Bei einer typischen Einführung aktiviert ein Team einige wenige Integrationen, gibt dem Agenten ein Ziel vor und fügt einen Hinweis ein, der von einem Menschen überprüft werden kann. Dies wirkt kontrolliert, doch die tatsächliche Kontrolle hängt davon ab, ob die Überprüfung fundiert ist, ob jemand den Vorgang stoppen und ob die Aktion rückgängig gemacht werden kann. Der Kurs konzentriert sich auf genau diese Aspekte, da es sich um Entscheidungen handelt, die Führungskräfte tatsächlich treffen können, ohne programmieren oder sich durch Gesetzestexte arbeiten zu müssen. Die untenstehende Übersicht veranschaulicht das Gesamtbild, bevor die einzelnen Bestandteile im Detail behandelt werden.
Ein KI-Agent ist Software, die über Handlungsschritte entscheiden und diese dann mithilfe von Werkzeugen ausführen kann, die ihr zur Verfügung gestellt werden – etwa ein Ticketsystem, E-Mail, ein Kalender oder eine interne Datenbank. Ein Chat-Assistent hingegen ist Software, die Texte für Menschen erstellt (zum Lesen und Verwenden), selbst wenn diese Texte von sehr hoher Qualität sind. Dieser Unterschied ist entscheidend, da Handlungen Auswirkungen außerhalb des Chats nach sich ziehen; das bedeutet, dass Sie nicht nur auf die Richtigkeit achten, sondern auch Berechtigungen, Freigabeprozesse und Rückgängigmachungsoptionen (Rollback) verwalten müssen. Wenn behauptet wird, ein Agent sei sicher, weil er seine Überlegungen erläutert, so handelt es sich dabei lediglich um eine Darstellung seines Vorgehens, nicht um eine Überprüfung der tatsächlich vorgenommenen Änderungen.
Als Vorgesetzter oder verantwortliche Führungskraft sollten Sie darauf bestehen, dass klar definiert ist, wer für den Agenten zuständig ist, welche Werkzeuge er nutzen darf und in welchen Fällen er Rücksprache mit einem Menschen halten muss. Betrachten Sie den Handlungsspielraum als den Bereich, auf den der Agent zugreifen kann, und die Autonomie als das Maß an eigenständigen Entscheidungen, die er treffen darf; eine gleichzeitige Erweiterung beider Aspekte führt oft dazu, dass Teams den Überblick über die Fähigkeiten des Agenten verlieren. Vor der Einführung können Sie eine kurze Leistungsbeschreibung anfordern, die auch die Grenzen der Fähigkeiten des Agenten sowie das Eskalationsverfahren für den Fall des Erreichens dieser Grenzen umfasst. Achten Sie im laufenden Betrieb darauf, wann Nutzer aufhören, die Ergebnisse zu überprüfen, nur weil der Agent souverän und überzeugend wirkt – denn genau in solchen Momenten können fehlerhafte Aktionen unbemerkt durchschlüpfen.
Die Beantwortung der folgenden Fragen zeigt Ihnen, wo Ihr aktueller Umgang mit Agenten bereits angemessen ist und wo Anpassungen erforderlich sind.