Die Überwachung von KI-Agenten am Arbeitsplatz bedeutet, die menschliche Verantwortlichkeit zu wahren, während Software im Auftrag von Personen tätig ist. Dieser Kurs basiert auf dem „Model AI Governance Framework for Agentic AI“ der Infocomm Media Development Authority (IMDA). Dieses Framework empfiehlt praktische Ansätze, um Verantwortlichkeiten zuzuweisen und eine wirksame Überwachung zu gewährleisten. Die zugrundeliegende Entscheidung ist zwar leicht zu benennen, aber schwer konsequent umzusetzen: Es gilt zu entscheiden, wann ein Agent fortfahren darf, wann er für eine Überprüfung pausieren sollte und wann die Aufgabe an eine benannte verantwortliche Person übergeben werden muss. Diese Aufgaben treten im Arbeitsalltag auf – etwa bei der Genehmigung einer Workflow-Änderung, der Verwendung von Ergebnissen eines Agenten in einer Kunden-E-Mail oder der Aktualisierung eines gemeinsamen Datensatzes durch den Agenten. Die Herausforderung liegt nicht nur im Verständnis des Tools, sondern auch darin, den Überblick darüber zu behalten, wer die Verantwortung trägt, wenn sich die Aktionen des Agenten auf andere Personen und Systeme auswirken.
Nach der Definition der IMDA unterscheiden sich Agenten von früheren KI-Anwendungen am Arbeitsplatz dadurch, dass sie eigenständig handeln, sich an neue Informationen anpassen und mit Systemen interagieren können, um Aufgaben für Menschen zu erledigen. Dieser Wandel führt dazu, dass Überwachung nicht mehr nur eine einmalige Prüfung ist, sondern zu einer kontinuierlichen Arbeitsweise wird – selbst wenn der Agent nützlich ist und gute Absichten verfolgt. Die IMDA weist zudem darauf hin, dass ein Gleichgewicht gefunden werden muss, da eine durchgehende menschliche Überwachung jedes einzelnen Workflows bei zunehmendem Umfang unpraktikabel wird. Der Ausgangspunkt ist also nicht die Überwachung aller Vorgänge. Vielmehr geht es darum zu entscheiden, welche Aktionen am wichtigsten sind, wo Kontrollpunkte sinnvoll sind und wer eingreifen kann, wenn etwas nicht in Ordnung scheint. Im weiteren Verlauf dieses Kurses werden wir diese Entscheidungsstruktur Schritt für Schritt detailliert ausarbeiten. Lassen Sie uns zunächst einen Überblick über die Art dieser Entscheidungen verschaffen, bevor wir tiefer in die Materie einsteigen.
Ein KI-Agent ist eine Software, die Schritte planen und über mehrere Interaktionsschritte hinweg Aktionen ausführen kann, um ein von Ihnen festgelegtes Ziel zu erreichen – etwa das Suchen von Informationen, das Erstellen von Dateien oder die Aktualisierung eines Systems. Herkömmliche Chat-Tools schlagen Ihnen meist lediglich Texte zur Verwendung vor. Ein Agent geht darüber hinaus, da er tatsächlich Aufgaben in der Arbeitsumgebung erledigen kann, anstatt sie nur vorzuschlagen. Dieser Unterschied ist entscheidend, selbst wenn die Benutzeroberfläche identisch wirkt, denn die Auswirkungen der Agenten-Aktivität können über das eigentliche Gespräch hinaus Bestand haben.
Die wichtigste Frage ist nicht, wie „intelligent“ der Agent ist, sondern worauf er zugreifen und was er mit den ihm erteilten Berechtigungen verändern kann. Wenn ein Agent einen Kalender auslesen, einen E-Mail-Entwurf verfassen und diesen anschließend versenden kann, handelt es sich um drei verschiedene Aktionen mit jeweils unterschiedlichen Konsequenzen. Verantwortungsbewusste Aufsicht beginnt damit, diese Berechtigungen als bewusste Entscheidungen zu betrachten und nicht als bloße Standardeinstellungen des Tools.
Wenn Sie die Aufsicht über einen Agenten führen oder als verantwortliche Führungskraft fungieren, liegt es an Ihnen sicherzustellen, dass die Verantwortung bei einer Person verbleibt, auch wenn Aufgaben an eine Software delegiert werden. Der Rahmenplan der IMDA stellt unmissverständlich klar, dass ein vertrauenswürdiger Einsatz nicht allein von den Entwicklern abhängt, da auch die Endnutzer die Agenten verantwortungsvoll handhaben müssen. Das bedeutet: Sie sollten wissen, welche Aufgaben der Agent übernehmen soll, was er unterlassen muss und wie zu verfahren ist, wenn er sich außerhalb dieser Grenzen bewegt. Sie müssen nicht der Entwickler des Agenten sein, um diese Informationen einzufordern.
Entwickler, Anbieter und IT-Abteilungen tragen weiterhin wesentliche Verantwortung, insbesondere hinsichtlich Design, Test, Überwachung und Anbindung des Agenten an andere Tools. Ihr Aufgabenbereich ist ein anderer: Sie legen die zulässige Nutzung innerhalb Ihrer Prozesse fest, überprüfen, ob die erforderliche Aufsicht tatsächlich stattfindet, und eskalieren den Vorgang, wenn keine klare Zuständigkeit definiert ist. Wenn ein Team nicht benennen kann, wer für einen Agenten in einem Arbeitsablauf verantwortlich ist, handelt es sich nicht um ein bloßes Versäumnis bei der Dokumentation, sondern um eine Lücke in der Kontrolle.
[Quellen][/Quellen]