Dieser Kurs behandelt den sicheren Einsatz von KI-Agenten im Arbeitsalltag und orientiert sich dabei am „Model AI Governance Framework for Agentic AI“ der IMDA. Er unterstützt Mitarbeitende, externe Auftragnehmer und ausgelagerte Teams dabei, fundierte Entscheidungen zu treffen: Welche Aufgaben sollen einem Agenten übertragen werden, welche sollten zurückgehalten werden und wann ist menschliches Eingreifen erforderlich? Ein häufiger Fehler besteht darin, einen Agenten wie einen intelligenteren Chatbot zu behandeln, da beide textbasiert kommunizieren und überzeugend auftreten können. Diese Annahme verschleiert jedoch den eigentlichen Unterschied. Die Arbeit mag sich zwar wie das Formulieren präziser Anfragen anfühlen, doch das Ergebnis hängt davon ab, welche Aktionen der Agent nach seiner Antwort ausführen darf.
Ein KI-Agent ist eine Software, die in Ihrem Auftrag handeln kann – etwa durch das Erstellen eines Tickets, die Aktualisierung eines Datensatzes, das Versenden einer Nachricht oder die Ausführung eines Workflows –, indem sie die ihr erteilten Zugriffsrechte nutzt. Während ein Chatbot-Assistent lediglich Antworten liefert und Vorschläge macht, kann ein Agent auch aktiv handeln. Ein sicherer Umgang beginnt bereits bei alltäglichen Routinen, wie dem Anfordern eines E-Mail-Entwurfs, dem Erstellen einer Zusammenfassung oder dem Übertragen der Aufgabe, Anfragen zu öffnen und weiterzuleiten. Genau in diesen Momenten können sich kleine Berechtigungen unbemerkt in echte Systemänderungen verwandeln. Die Herausforderung liegt nicht darin, eine einzelne fehlerhafte Antwort zu erkennen. Vielmehr geht es darum zu bemerken, wann eine Aufgabe von der reinen Beratung in eine konkrete Handlung übergeht, damit eine Überprüfung stattfinden kann, bevor Änderungen vorgenommen werden, die nur schwer rückgängig zu machen sind.
Sicherer Umgang bedeutet, einen Agenten wie einen Kollegen mit einem Dienstausweis zu behandeln und nicht wie ein Suchfeld; denn dieser Ausweis bestimmt, auf welche Bereiche das System zugreifen darf. Wenn Sie die Befugnisse dieses „Ausweises“ kennen, können Sie den passenden Prüfaufwand wählen, über Genehmigungspflichten entscheiden und sicherstellen, dass private Daten nicht an unbefugte Stellen gelangen. Das IMDA-Framework empfiehlt eine klare menschliche Verantwortlichkeit sowie praktische Kontrollmechanismen für die operativen Tätigkeiten von Agenten. Daher konzentriert sich dieser Kurs auf die Entscheidungen, die Sie im Moment der Nutzung treffen. Hier sehen Sie, wie sich die Arbeitsweise gestaltet, die Sie mithilfe dieses Kurses in Ihrem eigenen Alltag erkennen werden:
Ein Agent birgt ein ganz spezifisches Risiko, wenn seine Aktion etwas außerhalb des Chatfensters verändert. Liefert ein Chatbot eine falsche Zusammenfassung, können Sie diese ignorieren; sendet ein Agent jedoch eine E-Mail, schließt einen Vorgang ab, genehmigt einen Zugriff oder veröffentlicht einen Beitrag in einem öffentlichen Kanal, können sich die Auswirkungen ausbreiten, noch bevor jemand sie überprüft. Am sichersten ist es, sich vor der Ausführung zwei Fragen zu stellen: Auf welche Systeme kann der Agent zugreifen, und welche seiner Aktionen lassen sich schnell rückgängig machen?
Ihre Aufgabe ist es, den Agenten bestimmungsgemäß zu nutzen und innezuhalten, sobald ein Schritt menschliches Urteilsvermögen erfordert. Tool-Verantwortliche und Führungskräfte legen die Zugriffsrechte fest, bestimmen die zulässigen Aufgaben und entscheiden, was protokolliert wird, während die Anbieter das Produkt und dessen Funktionsgrenzen bereitstellen. Diese Aufgabenteilung gilt auch bei der Auslagerung von Arbeiten: Da externe Support-Teams oft über weitreichende Zugriffsrechte verfügen, benötigen sie – genau wie interne Mitarbeitende – klare Grenzen, Eskalationswege und festgelegte Verantwortlichkeiten.
Sichere Nutzung hängt oft von kleinen, schnellen Entscheidungen ab – besonders dann, wenn ein Agent den nächsten Schritt wie einen automatischen Vorgang erscheinen lässt. Bei diesem Check geht es nicht darum, perfekt abzuschneiden. Vielmehr geht es darum zu erkennen, in welchen Situationen Sie wie in einem Chatbot-Gespräch agieren, obwohl es sich eigentlich um die Aufforderung handelt, eine Aktion in einem Arbeitssystem auszuführen.