Menschliche Überwachung bei der täglichen Nutzung von KI bedeutet, die Ergebnisse eines Tools zu prüfen, bevor diese in der realen Welt Auswirkungen entfalten. Sie ist Teil alltäglicher Aufgaben wie dem Entwerfen von Texten, der Triage, der Überprüfung und der Entscheidungsunterstützung – Situationen, in denen Zeitdruck und Arbeitsvolumen dazu verleiten, die erstbeste plausible Antwort zu akzeptieren. Dieser Kurs verankert diese alltägliche Überwachungspraxis im EU-KI-Gesetz und zielt auf eine konkrete Entscheidungskompetenz ab: Wer den Kurs absolviert hat, kann beurteilen, wann man sich auf ein KI-Ergebnis verlassen, wann man es hinterfragen und wann man das Tool stoppen sollte. Ein häufiger Fehler besteht darin, die Überwachung lediglich als letzten Blick auf Tippfehler zu betrachten, anstatt als bewusste Entscheidung über Auswirkungen und Umkehrbarkeit. Dieser Fehler ist oft auf das Design des Arbeitsablaufs zurückzuführen, da sich das Tool auf demselben Bildschirm befindet wie die eigentliche Arbeit.
Ein Team kann äußerst sorgfältig arbeiten und dennoch den entscheidenden Moment verpassen. So könnte ein Team beispielsweise eine von der KI erstellte Zusammenfassung prüfen, in eine Kunden-E-Mail kopieren und unter dem Namen eines Mitarbeiters versenden, ohne das Quelldokument zu kontrollieren. Ebenso könnte dasselbe Team einen Konfidenzwert akzeptieren und einen Vorgang in die falsche Bearbeitungsschlange leiten – und dies erst bemerken, wenn sich der Kunde beschwert. In beiden Fällen fand zwar eine Überprüfung statt, doch sie erfolgte zu spät, um die Entscheidung noch zu ändern. Die Herausforderung liegt nicht darin, zu wissen, dass Vorsicht geboten ist. Sie besteht vielmehr darin, in einem schnellen Arbeitsablauf jene wenigen Punkte zu erkennen, an denen ein Innehalten, ein Hinterfragen oder ein Stoppen des Prozesses noch möglich und mit geringem Aufwand verbunden ist. Die untenstehende Übersicht veranschaulicht die Entscheidungen zur Überwachung, die im Verlauf dieses Kurses immer wieder aufgegriffen werden.
In diesem Kurs ist ein KI-System jedes Tool, das Eingaben entgegennimmt und Ausgaben liefert, welche die Arbeitsweise von Menschen oder das Verhalten eines Dienstes beeinflussen. Dazu gehören Systeme, die Texte generieren, Optionen bewerten, Inhalte klassifizieren, Datenfelder extrahieren oder Handlungsempfehlungen geben – selbst wenn sie in ein bereits bekanntes Produkt integriert sind. Eine Tabellenkalkulationsformel ist vorhersehbar, sobald man sie kennt. Ein KI-Tool hingegen kann seine Ausgabe schon durch geringfügige Änderungen an der Formulierung verändern; daher geht es bei der Überwachung nicht nur um die Korrektheit, sondern auch um die Verlässlichkeit der Ergebnisse.
Ihr Team begegnet KI-Systemen bereits im Arbeitsalltag, da „KI“ oft eher als Bezeichnung für eine bestimmte Funktion dient denn als eigenständige Anwendung. Eine Helpdesk-Konsole kann Antwortvorschläge machen, ein Dokumenten-Tool kann Textabschnitte umschreiben und eine Prüfwarteschlange kann Vorgänge nach ihrer voraussichtlichen Priorität sortieren. All dies fühlt sich wie eine Unterstützung an. Zudem treiben diese Funktionen die Arbeit voran, was dazu führen kann, dass aus einer Ausgabe eine Entscheidung wird, ohne dass sie explizit als solche benannt wird.
Die tägliche Überwachung liegt in der Verantwortung der Person, die am nächsten am eigentlichen Anwendungsmoment ist, denn nur sie sieht den Prompt, den Kontext und den Verwendungszweck der Ausgabe. Sie entscheiden, ob Sie die Ausgabe verwenden, bearbeiten, Belege anfordern oder den Prozess stoppen und eskalieren – denn Sie bilden das letzte menschliche Bindeglied, bevor die Ausgabe in ein Ticket, eine Datei, eine Nachricht oder eine Entscheidung einfließt. Damit unterscheidet sich Ihre Aufgabe von der Governance-Arbeit, bei der Regeln festgelegt und Muster über viele Anwendungsfälle hinweg überprüft werden.
Der Kurs verwendet zudem Begriffe für Rollen, die im EU-KI-Gesetz (EU AI Act) von Bedeutung sind, da sich die Pflichten je nach Akteur und Tätigkeit unterscheiden.
Die nächste Übung prüft, ob Ihr sicherster nächster Schritt unter Zeitdruck bereits Ihrer Standardvorgehensweise entspricht – denn genau hier entscheidet sich, ob die Überwachung erfolgreich ist oder nicht.