Die Freigabe für den Einsatz von KI ist der Moment, in dem eine Organisation beschließt, ein KI-System in der realen Welt agieren zu lassen – unter Verwendung echter Daten und mit Auswirkungen auf echte Menschen. In diesem Kurs geht es darum, diesen Freigabeprozess verantwortungsvoll zu gestalten, damit Führungskräfte, Programmleiter oder Budgetverantwortliche entscheiden können, wann eine Freigabe erteilt oder pausiert werden soll und welche Nachweise erforderlich sind. Ein schwerwiegender Fehler besteht darin, Verantwortung als etwas zu betrachten, das ein Anbieter liefern oder eine Rechtsabteilung übernehmen kann; denn die Freigabeentscheidung selbst legt die Rahmenbedingungen fest, mit denen alle Beteiligten später leben müssen. Eine Freigabe, die zunächst wie eine rein geschäftliche Abzeichnung wirkt, entwickelt sich oft zu einer Entscheidung über das Betriebsmodell – weshalb diese Aufgabe bei Entscheidungsträgern liegen sollte und nicht allein bei Fachspezialisten.
Verantwortungsvolle Freigabeprozesse finden sich im regulären Arbeitsablauf, nicht nur bei aufsehenerregenden Markteinführungen. Ein Team schlägt einen Anwendungsfall vor, ein Anbieter macht Leistungsversprechen, und das Unternehmen gibt zeitliche sowie budgetäre Vorgaben vor. Die freigebende Person legt fest, welche Kontrollmechanismen greifen, was protokolliert und überwacht wird und wie im Fehlerfall zu verfahren ist – selbst wenn die entsprechenden Details von anderen ausgearbeitet wurden. Dies gilt auch für bereits in Betrieb befindliche Systeme, bei denen geprüft werden muss, ob die aktuelle Nutzung noch der ursprünglich genehmigten entspricht. Es ist hilfreich, den gesamten Arbeitsablauf frühzeitig zu überblicken, da spätere Lektionen spezifische Fragen mit bestimmten Punkten dieses Prozesses verknüpfen werden.
Die vollständige Struktur des Freigabeablaufs ist in der untenstehenden Mindmap dargestellt.
Ein Team spricht von der Anschaffung einer Analyselösung, ein anderes von einem Chatbot und ein drittes von Automatisierung. In der Praxis haben Sie es immer dann mit einem KI-System zu tun, wenn das Tool Eingaben aus Ihrem Umfeld verarbeitet und Ausgaben liefert, die eine Entscheidung, eine Empfehlung oder eine Handlung beeinflussen. Dies ist bei der Genehmigung von Bedeutung, da sich hinter demselben Beschaffungsprozess sehr unterschiedliche Funktionsweisen verbergen können; die genehmigende Person muss erkennen, wann eine bestimmte „Funktion“ tatsächlich eine Entscheidung trifft.
Denken Sie an ein Tool zur Spesenabrechnung, das bestimmte Anträge zur Überprüfung markiert, an ein System zur Vorauswahl von Bewerbern, das Kandidaten einstuft, oder an einen Support-Assistenten, der Antwortentwürfe für die Servicemitarbeiter erstellt. Jedes dieser Systeme kann die Ergebnisse für Mitarbeiter oder Kunden verändern – selbst wenn am Ende ein Mensch den entscheidenden Button klickt. Bei der Genehmigung geht es nicht darum, ob KI im Marketing erwähnt wird, sondern darum, an welcher Stelle des Prozesses sie angesiedelt ist und was sie beeinflussen kann, sobald sie in den realen Geschäftsbetrieb integriert ist.
Ein Anbieter kann zwar Unterlagen und Zusicherungen liefern, Ihnen jedoch die Entscheidung über die Genehmigung nicht abnehmen. Sie entscheiden darüber, ob das System eingesetzt werden darf, in welchem Rahmen es operieren soll und welche Bedingungen für Aufsicht und Überwachung gelten. Zudem liegt es in Ihrer Hand, Nachweise zu verlangen; denn eine Genehmigung, die sich lediglich auf bloße Beteuerungen stützt, erweist sich beim Auftreten des ersten Sonderfalls oft als unzureichend.
Die für die Umsetzung und das Risikomanagement zuständigen Teams leisten nach wie vor unverzichtbare Arbeit, und diese Aufgabentrennung ist sinnvoll. Sie können Tests durchführen, Kontrollmechanismen entwerfen und Due-Diligence-Prüfungen vornehmen; zudem sollten sie Ihnen verschiedene Optionen unter Darlegung der jeweiligen Vor- und Nachteile (Trade-offs) präsentieren. Ihre Aufgabe ist es, diese Optionen in der Genehmigungsdokumentation zu konkretisieren, damit später nachvollzogen werden kann, was genehmigt wurde, welche Annahmen zugrunde lagen und welche Umstände eine erneute Genehmigung erforderlich machen würden.
Der folgende Check befasst sich mit den Instinkten, die einer sicheren Genehmigungsentscheidung zugrunde liegen – noch bevor rechtliche Details eine Rolle spielen.