Jede Anfrage an einen KI-Tutor kann eine Richtlinienebene durchlaufen

Jede Anfrage an einen KI-Tutor kann eine Richtlinienebene durchlaufen

Der KI-Tutor wird Teil der Laufzeitumgebung für mobiles Lernen. Er beantwortet Fragen im Onboarding, erklärt neue Bankprodukte, übt schwierige Gespräche und unterstützt Mitarbeitende direkt im Arbeitsalltag. Damit ist jede Interaktion mit dem Tutor eine produktive Anfrage mit Auswirkungen auf Kosten, Datenschutz, Verhaltensvorgaben und Nachweise. Die Governance für KI-Tutoren darf nicht bei einer losen Sammlung aus Prompts, Prüfungen im Client und manuellen Reviews stehen bleiben.

Am 10. September 2026 kündigten die Release Notes von Firebase eigene serverseitige Skripte für Firebase AI Logic an, die vor und nach jeder über den Dienst an Gemini gesendeten `generateContent`-Anfrage laufen. Google nennt Prompt-Moderation, Token-Limits, Protokollierung der Generierung, Analysen und das Schwärzen von Antworten als vorgesehene Einsatzbereiche. Für ein KI-Lernprodukt mit Flutter schafft das eine sinnvolle Grenze zwischen der wiederverwendbaren Tutor-Oberfläche und den Kontrollen, die jeder Kunde benötigt.

Das ist eine Architekturoption, keine vollständige Compliance-Antwort. Firebase kennzeichnet die Trigger-Funktion als Preview, ohne SLA oder Abkündigungsrichtlinie. Banken sollten daher Reifegrad, Standortkonzept, Verhalten bei Ausfällen, Datenverarbeitung, Zugriffskontrollen und Lieferantenpflichten prüfen, bevor sie die Funktion als regulierte Kontrolle im Produktivbetrieb einsetzen.

Regeln im Client zerfasern unter dem Druck unterschiedlicher Mandanten

Regeln im Client wirken verlockend, weil sie nah am Lernerlebnis sind. Doch White-Label-Akademien bleiben selten einheitlich. Eine Bank kann einen strikten Umgang mit Kundendaten und umfangreiche Audit-Ereignisse verlangen. Eine andere priorisiert knappe Antworten, niedrigere Token-Limits und minimale Speicherung. Eine dritte erlaubt einer bestimmten Mitarbeitergruppe möglicherweise nur freigegebene interne Wissensbereiche.

Liegen diese Kontrollen in der App, wird jede Richtlinienvariante zum Release-Management-Problem. Teams verdoppeln Logik für iOS und Android, Richtlinien driften zwischen Versionen auseinander, und dringende Regeländerungen warten auf den Store-Rollout. Noch wichtiger: Ein Client kann nicht die letzte Instanz für eine Kontrolle sein, die in jeder unterstützten Version einheitlich gelten muss.

Besser ist ein Muster, bei dem der Client für eine schnelle, klare Tutor-Oberfläche zuständig bleibt. Der Server entscheidet, ob eine Anfrage weiterlaufen darf, welche Vorgaben gelten, was zurückgegeben werden darf und welche Nachweise gespeichert werden sollen.

Kontrollen vor der Anfrage gestalten ihre Grenzen

Eine Firebase AI Logic-Funktion `beforeGenerateContent` läuft, bevor die Anfrage das Modell erreicht. Sie kann die Anfrage prüfen, in veränderter Form zurückgeben oder ablehnen. Damit ist sie ein praktischer Ansatzpunkt für serverseitige Leitplanken für KI.

• Mandant, Lernendenrolle, Akademie, Kurs und Richtlinienversion anhand der vertrauenswürdigen Identität und des Anfragekontexts ermitteln.
• Prompts ablehnen, die gegen die vom Mandanten festgelegten Themen, Anwendungsfälle oder Inhaltsgrenzen verstoßen.
• Ausgabe-Tokens begrenzen und über einen gemeinsamen Quota-Service Nutzungslimits pro Nutzer oder Mandant durchsetzen.
• Freigegebene Systemanweisungen anwenden, die den Tutor bei der vorgesehenen Lernaufgabe halten.
• Anfragen an ein freigegebenes Modell und eine passende Konfiguration für das jeweilige Mandantenprofil leiten.

Ein Token-Limit ist nützlich, aber kein vollständiges System zur Kostenkontrolle. Es begrenzt eine einzelne Antwort. Aggregierte Quoten, Ratenlimits und Kontrollen für Auffälligkeiten benötigen einen gemeinsamen Status über den einzelnen Modellaufruf hinaus. Die Richtlinienebene sollte diesen Unterschied klar machen, statt einen einzelnen Konfigurationswert als finanzielle Steuerung darzustellen.

Kontrollen nach der Anfrage steuern Antwort und Nachweise

Eine Funktion nach der Anfrage kann die Modellantwort prüfen, ändern, blockieren oder beobachten, bevor sie an die lernende Person zurückgeht. Hier gehören das Schwärzen von Antworten und die strukturierte Erfassung von Ereignissen hin. Die lernende Person erhält die Antwort weiterhin in derselben Tutor-Oberfläche, während die Plattform akademieübergreifend eine einheitliche Ausgaberichtlinie anwenden kann.

• Inhalte schwärzen, die gegen die vom Mandanten festgelegte Richtlinie verstoßen, bevor sie das Gerät erreichen.
• Unsichere oder nicht belegte Ausgaben durch eine kurze, kontrollierte Alternative und einen Verweis auf freigegebene Lernmaterialien ersetzen.
• Modell, Token-Anzahl, Richtlinienversion, Entscheidungsresultat, Kurskontext und Schwärzungsstatus erfassen.
• Nur die unbedingt erforderlichen Ereignisdaten speichern und operative Telemetrie von unbearbeiteten Gesprächsinhalten trennen.
• Muster mit hohem Risiko in einen Review-Prozess mit klaren Zuständigkeiten und Aufbewahrungsregeln überführen.

Protokollierung ist nicht automatisch ein Audit-Trail. Eine Bank sollte Ereignisschemata an Entscheidungen und Nachweisen ausrichten: Welche Richtlinie galt, welche Regel wurde ausgelöst, ob sich die Antwort änderte und welcher Lernkontext aktiv war. Standardmäßig jeden unverarbeiteten Prompt und jede Antwort zu speichern, kann ein neues Problem mit sensiblen Daten schaffen, ohne die Absicherung zu verbessern.

Mandantenrichtlinien werden zur Produktkonfiguration

Der zentrale Schritt in der Architektur eines KI-Tutors für Unternehmen besteht darin, Richtlinien als Daten zu modellieren. Der Tutor braucht nicht für jede Bank eine eigene Codebasis. Er braucht ein Richtlinienprofil, das anhand des authentifizierten Mandantenkontexts ausgewählt wird. Dieses Profil kann erlaubte Lernbereiche, Moderationsschwellen, Modelleinstellungen, Token-Budgets, Aufbewahrungskategorien, Schwärzungsregeln, Eskalationswege und die Richtlinienversion des Kunden festlegen.

So entsteht eine wiederverwendbare Tutor-Oberfläche von App-Learning, ohne allen dieselbe Risikoposition aufzuzwingen. Eine Akademie mit hohen Kontrollanforderungen kann offene Fragen außerhalb freigegebener Curricula blockieren und Entscheidungsereignisse zur Prüfung erfassen. Eine interne Innovationsakademie mit geringerem Risiko kann breitere Erkundung erlauben und gleichzeitig Ausgaben strenger begrenzen. Beide Gruppen nutzen dasselbe mobile Interaktionsmuster; die Richtlinienebene verändert die Bedingungen dahinter.

Eine Umsetzungsbeschränkung sollte eingeplant werden. Firebase AI Logic unterstützt pro Projekt höchstens eine Funktion vor und eine nach der Anfrage. In einem Mandanten-Setup spricht das für einen Richtlinien-Dispatcher innerhalb jeder Funktion. Er lädt das passende Mandantenprofil und wendet Regeln in einer vorhersehbaren Reihenfolge an, statt für jeden Kunden einen eigenen Trigger anzulegen.

Tutor-Telemetrie muss mit Kompetenznachweisen verknüpft werden

Modelltelemetrie allein misst Systemaktivität, nicht die Kompetenz der Belegschaft. Ein gutes Konzept für Lernanalysen verknüpft Tutor-Ereignisse mit Kursfortschritt, Szenarioversuchen, Bewertungsergebnissen, Vertrauenssignalen, Beobachtungen durch Führungskräfte und rollenbasierten Kompetenzzielen. So wird sichtbar, ob Mitarbeitende den Tutor nutzen, wo sie nicht weiterkommen und ob die Unterstützung zu einer besseren Anwendung des Wissens führt.

Für die Transformation im Banking ist das besonders in neuen oder sich wandelnden Bereichen relevant, etwa KI, Cybersicherheit, Automatisierung, digitalen Vermögenswerten und neuen Betriebsprozessen. Verantwortliche für Innovation müssen sowohl Nutzung als auch Vorbereitung erkennen können. Compliance-Verantwortliche müssen Richtlinienentscheidungen und Ausnahmen sehen. Lernteams müssen Inhaltslücken erkennen. Ein gemeinsames Ereignismodell kann allen drei Gruppen dienen, ohne den Tutor zum Überwachungsinstrument zu machen.

Der regulierte Tutor wird zum wiederverwendbaren System

Eine praktikable Referenzarchitektur ist einfach: Die Flutter-App sendet eine Tutor-Anfrage über Firebase AI Logic; eine Richtlinienfunktion vor der Anfrage ermittelt den Mandantenkontext und wendet Kontrollen an; das Modell generiert die Antwort; eine Funktion nach der Anfrage schwärzt, blockiert oder erfasst das Ergebnis; und eine separate Analyse-Pipeline verknüpft strukturierte Tutor-Ereignisse mit Lernergebnissen. Für sensible Inhalte sollten klare Regeln zur Datenminimierung und Aufbewahrung gelten, nicht die Standardprotokollierung.

Der operative Vorteil besteht nicht darin, dass Governance verschwindet. Sie wird leichter steuerbar. Produktteams behalten ein schnelles Erlebnis in der App. Kundenteams erhalten Kontrollen, die zu ihren Richtlinien passen. Plattformteams können zentrale Regeln ohne mobiles Release aktualisieren. Für Akademien mit KI-Unterstützung macht diese Trennung den Unterschied zwischen einer ausgelieferten Tutor-Funktion und einem gesteuerten Lernsystem.