Die Gestaltung und Überwachung der Autonomie von Agenten erfordert die Entscheidung, wann Software eigenständig in Ihrem Namen handeln darf und an welchen Punkten sie innehalten und Rücksprache halten muss. Dieser Kurs basiert auf dem „Model AI Governance Framework for Agentic AI“ der Infocomm Media Development Authority (IMDA), das bewährte Verfahren für den verantwortungsvollen Einsatz autonom agierender KI (Agentic AI) empfiehlt. Ein häufiger Fehler besteht darin, einen Agenten wie einen verbesserten Chatbot zu behandeln, da beide in natürlicher Sprache kommunizieren und überzeugend auftreten können. Die Herausforderung liegt darin, dass ein Agent durch den Einsatz von Werkzeugen und Systemen Veränderungen in der realen Welt bewirkt, während ein Chatbot primär die Bildschirmanzeige beeinflusst. Genau dieser Unterschied macht Autonomie zu einer Gestaltungsentscheidung und nicht zu einer Einstellung, die man nur einmalig vornimmt.
Im Arbeitsalltag kommen Agenten dort zum Einsatz, wo bereits Routineabläufe herrschen – etwa beim Entwerfen von Antworten an Kunden, der Erstellung von Berichten oder der Aktualisierung von Tickets. Teams beginnen oft damit, dem Agenten Zugriff auf dieselben Werkzeuge zu gewähren, die auch menschliche Mitarbeiter nutzen. Dabei stellen sie fest, dass sich einzelne Entscheidungen zu konkreten Ergebnissen summieren, da der Agent mehrere Schritte hintereinander ausführen kann, ohne zu pausieren. Entscheidend ist dabei nicht die Qualität des zugrundeliegenden Modells, sondern Faktoren wie Autonomiegrad, Handlungsspielraum, Grenzen, Kontrollpunkte, Tests, Überwachung, Transparenz für den Nutzer und Eskalationsmechanismen; denn diese bestimmen, was der Agent tatsächlich leisten kann. Die nachstehende Mindmap veranschaulicht die Struktur dieser Entscheidungen, bevor wir ins Detail gehen.
Ein Agent ist eine Software, die Aktionen in mehreren Schritten planen und ausführen kann, um ein von Ihnen gesetztes Ziel zu erreichen – häufig unter Verwendung von Tools wie Suchfunktionen, Dateierstellung oder Systemaktualisierungen. Ein Assistent kann sich im Gespräch zwar wie ein Agent verhalten, gilt in diesem Kurs jedoch nicht als solcher, sofern er nicht mehr leisten kann, als lediglich Text oder Vorschläge zu generieren. Autonomie beschreibt das Ausmaß, in dem der Agent eigenständig Entscheidungen trifft, nachdem Sie Ziel und Kontext vorgegeben haben. Der Aktionsraum definiert, worauf der Agent zugreifen darf – also welche Tools, Daten und Systeme er nutzen kann. Diese beiden Entscheidungen sind voneinander unabhängig; daher sind Aussagen wie „Wir haben ihm nur Lesezugriff gewährt“ und „Es hat sich eigenständig dazu entschieden, dies zu tun“ grundlegend verschieden.
Sie müssen nicht für das gesamte Governance-Programm verantwortlich sein, um Agents sicher einzusetzen, denn Ihre Entscheidungen bestimmen die täglichen Grenzen, innerhalb derer sich der Agent bewegt. Sie entscheiden über die praktischen Aspekte am Einsatzort: Was delegieren Sie? Was überprüfen Sie? Und welche Aufgaben darf der Agent nicht ohne Rücksprache ausführen? Die Entwickler (Builder) verantworten die technische Konzeption und das Testen des Agent, während die für Sicherheit Verantwortlichen (Security Owners) Zugriffskontrolle, Protokollierung und Reaktion auf Sicherheitsvorfälle (Incident Response) steuern. Die für Governance Verantwortlichen legen die Erwartungen der Organisation fest, sind jedoch auf Ihren Input angewiesen, da sie nicht jeden Arbeitsablauf kennen können, in dem ein Agent zum Einsatz kommt. Wenn Rollen verschwimmen, verschwimmt auch die Rechenschaftspflicht; deshalb betont das Framework die Notwendigkeit klarer Verantwortlichkeiten über den gesamten Lebenszyklus des Agent hinweg.
Wählen Sie die Option, nach der Sie als Erstes handeln würden, denn dies offenbart Ihr zugrundeliegendes mentales Modell.