Wann Mitarbeitende einen KI-Agenten übersteuern müssen

Verantwortung beginnt bei der Übergabe

Ein KI-Agent empfiehlt, eine Kundenanfrage abzulehnen. Mitarbeitende müssen die Empfehlung bestätigen, ihre Umsetzung anhalten oder ihr widersprechen. Eine Schulung zur Kontrolle von KI-Agenten sollte genau diese Entscheidung prüfen. Eine Kursteilnahme allein zeigt nicht, ob Mitarbeitende Belege prüfen, innerhalb ihrer Befugnisse eingreifen oder Entscheidungen belastbar dokumentieren.

IBM misst Prioritäten, nicht Kompetenz

Für die IBM-Studie vom 21. September 2026 (newsroom.ibm.com) wurden weltweit 1.500 CHROs und 8.800 Beschäftigte befragt. Laut der Studie sehen 71 % der CHROs das Überwachen, Prüfen und Übersteuern von KI-Ergebnissen als wichtigste Kompetenz der Belegschaft. 29 % der Beschäftigten stufen Urteilsvermögen als wichtig ein. Diese Angaben beziehen sich auf unterschiedlich gefasste Prioritäten. Sie sind weder vergleichbare Kompetenzwerte noch ein kausaler Beleg dafür, dass Schulungen Vorfälle reduzieren.

Ein Kommentar von Judge Learning Solutions vom 2. November 2026 (judge.com) plädiert ebenfalls dafür, KI-Agenten zu beaufsichtigen, statt lediglich Werkzeuge zu bedienen. Das ist die Einschätzung eines Anbieters, kein empirischer Nachweis für die Wirksamkeit von Schulungen.

Kompetentes Eingreifen zeigt sich an fünf Punkten

1. Fragwürdige Empfehlungen erkennen.
2. Empfehlungen anhand der Unterlagen und freigegebenen Richtlinien prüfen.
3. Innerhalb der eigenen Befugnisse entscheiden.
4. Eskalieren, wenn Belege oder Befugnisse nicht ausreichen.
5. Belege, Maßnahmen, Begründung und Zuständigkeit dokumentieren.

Ein wissenschaftlich begutachtetes Experiment von Buçinca und Kollegen (iis.seas.harvard.edu) zeigte: Maßnahmen, die bewusstes Nachdenken erforderten, verringerten übermäßiges Vertrauen in KI stärker als Oberflächen, die lediglich Erklärungen boten. Untersucht wurde die Gestaltung von Benutzeroberflächen, kein Schulungsprogramm für Banken.

Drei Minuten machen die Entscheidung sichtbar

Ein beispielhaftes Bankszenario dauert drei Minuten: Ein KI-Agent entwirft eine Kundennachricht, in der er einen Sanktionsverstoß behauptet. Die Akte zeigt jedoch nur eine mögliche Namensübereinstimmung. Die für die Übung freigegebene Richtlinie verlangt eine Prüfung durch Fachleute. Mitarbeitende im operativen Geschäft dürfen die Nachricht zurückhalten, den Warnhinweis aber nicht aufheben.

Die lernende Person prüft die Unterlagen, wählt eine zulässige Reaktion und schreibt eine Übergabenotiz. Der entscheidende Hinweis ist die unvollständige Beleglage, nicht eine offensichtlich unsinnige Formulierung. Weitere beispielhafte Varianten behandeln eine falsche Betrugswarnung, einen an die falsche Stelle weitergeleiteten Vorgang und eine unbelegte Schlussfolgerung zur Einhaltung von Vorschriften.

Für sichere Entscheidungen reicht kein Knopfdruck

Ein vorgeschlagener Test zum Urteilsvermögen im Umgang mit KI vergibt pro Verhaltensweise null, einen oder zwei Punkte: Bewertet wird, ob das Verhalten fehlt, nur teilweise oder fachlich stimmig umgesetzt wird. Neben der Handlung zählt die Qualität der Begründung. Wer seine Befugnisse schwerwiegend überschreitet, besteht unabhängig von der Gesamtpunktzahl nicht.

Auch korrekte Empfehlungen gehören in die Fallsammlung. Sonst wird es zur Strategie, immer auf „Übersteuern“ zu klicken. Fehlen Belege, sollte die Übung es erlauben, den Vorgang begründet anzuhalten und zu eskalieren, statt Gewissheit zu verlangen.

Bewertungen abstimmen: Selbstsicherheit ist keine Befugnis

Das freiwillig anwendbare AI Risk Management Framework des NIST (airc.nist.gov) unterscheidet Rollen und Zuständigkeiten für die Aufsicht. Bei Schulungen zur menschlichen Kontrolle von KI sollten Führungskräfte und Mitarbeitende zunächst denselben Fall unabhängig voneinander bewerten. Anschließend sollten sie Unterschiede gemeinsam mit den Risikoverantwortlichen anhand der Richtlinien klären.

Das Bewertungsraster sollte klar unterscheiden: Mitarbeitende im operativen Geschäft dürfen Vorgänge anhalten und eskalieren. Risikoverantwortliche entscheiden über den weiteren Umgang damit. Führungskräfte tragen die Verantwortung für ungeklärte Ausnahmefälle.

Eine beispielhafte Umsetzung mit App-Learning würde freigegebene, versionierte Richtlinien in rollenbezogene kurze Lerneinheiten zur KI-Governance überführen, Entscheidungen anhand eines von Menschen freigegebenen Bewertungsrasters bewerten und Antworten bei Unsicherheit an Prüfende weiterleiten. Das sind Gestaltungsbeispiele, keine berichteten Kundenergebnisse.

Praxistransfer zählt mehr als der Kursabschluss

Die wissenschaftlich begutachtete Arbeit von Schemmer und Kollegen (cs.ubc.ca) unterscheidet zwischen angemessenem Vertrauen in korrekte Empfehlungen und dem Zurückweisen falscher Empfehlungen. Ein praxistaugliches Dashboard sollte zwei Größen getrennt ausweisen: korrekte Eingriffe in Fällen mit Handlungsbedarf und irrtümliches Übersteuern in Fällen ohne Handlungsbedarf.

Ob das Gelernte in der Praxis ankommt, sollte nach der Schulung mit neuen Szenarien und genehmigten Stichprobenprüfungen laufender Fälle überprüft werden. Eine schrittweise Einführung mit vergleichbaren ungeschulten Teams würde belastbarere Belege liefern als reine Vorher-nachher-Ergebnisse. Dabei müssen die Zusammensetzung der Fälle und Änderungen an den KI-Agenten erfasst werden.

Das Ziel sind nicht mehr Eingriffe. Es geht um eine belastbare, durch Belege gestützte Entscheidung im richtigen Zuständigkeitsrahmen – und die Übergabe an jemanden, der handeln darf.