Human-in-the-loop

Human-in-the-Loop bedeutet, dass ein Mensch an festgelegten Stellen eines automatisierten Ablaufs entscheidet oder freigibt. Das System bereitet vor, der Mensch prüft und trägt die Verantwortung.

So funktioniert es

Ein automatisierter Ablauf oder ein Agent bearbeitet eine Aufgabe bis zu einem definierten Punkt. Dort legt er einem Menschen eine Empfehlung mit Begründung und Belegen vor. Der Mensch bestätigt, ändert oder verwirft sie. Welche Punkte das sind, hängt vom Risiko ab. Routineaktionen laufen automatisch, folgenreiche Eingriffe brauchen eine Freigabe.

Ein Beispiel aus der Praxis: Ein Agent untersucht eine verdächtige Anmeldung eines Geschäftsleitungsmitglieds. Er findet Hinweise auf eine Kontoübernahme und empfiehlt, alle Sitzungen zu widerrufen. Weil das Konto besonders geschützt ist, entscheidet ein Analyst. Er prüft die Belege, bestätigt die Massnahme und informiert die Person telefonisch.

Worauf Sie achten sollten

• Legen Sie die Freigabepunkte nach Risiko fest und dokumentieren Sie sie.
• Geben Sie dem Menschen genug Kontext. Eine Freigabe ohne Belege wird schnell zur Formalität.
• Achten Sie auf Ermüdung. Wer hundert Freigaben pro Stunde erteilt, prüft nicht mehr sorgfältig.
• Messen Sie, wie oft Menschen die Empfehlung ändern. Das zeigt, wo das System besser werden muss.

Varianten

Man unterscheidet oft zwischen «in the loop» und «on the loop». Im ersten Fall gibt der Mensch jede Aktion frei. Im zweiten Fall handelt das System selbst, und der Mensch überwacht und kann eingreifen.

Schweiz und Regulierung

Das revDSG gibt Betroffenen bei automatisierten Einzelentscheidungen mit erheblichen Folgen ein Recht auf Information und Anhörung. Für Entscheide im SOC ist das selten direkt relevant. Menschliche Freigaben helfen aber, Verantwortung klar zuzuordnen.

So setzen wir es um

Unsere Agents handeln bei Routinefällen innerhalb des Mandats selbst. Eingriffe mit grösseren Folgen legen sie unseren Analysten zur Freigabe vor.