Human in the Loop: Definition, Positionen, Abgrenzung

Human in the Loop (HITL, „Mensch im Ablauf") bezeichnet eine Betriebsweise für KI-Systeme, bei der die KI an festgelegten Stellen anhält und einen Menschen entscheiden lässt, bevor sie weitermacht. Der Mensch gibt die Vorschläge der KI frei, korrigiert sie oder ergänzt fehlende Informationen. An dieser Stelle trägt er die Verantwortung für die Entscheidung.

Was ist Human in the Loop?

Human in the Loop beschreibt Systeme, in denen eine KI-Entscheidung erst dann wirksam wird, wenn ein Mensch sie freigegeben oder korrigiert hat. Die Übergabestelle (der Punkt, an dem die Maschine an den Menschen abgibt) liegt fest im Prozess: Das System schlägt eine Entscheidung vor, hält an, wartet auf die menschliche Antwort und macht erst danach weiter. HITL ist damit eine Betriebsweise, kein bestimmtes KI-Modell. Dieselbe Anwendung kann mit oder ohne HITL laufen.

Der Begriff hat drei typische Positionen im Modell-Lebenszyklus. Im Trainings-Loop stellt ein Mensch Labels bereit oder korrigiert Modell-Ausgaben für das nächste Training (Datenaufbereitung, RLHF, DPO). Im Inference-Loop prüft ein Mensch einzelne Ausgaben vor der Ausführung: Freigabe einer Aktion, Korrektur einer Klassifikation, Ergänzung fehlenden Kontexts. Im Feedback-Loop fließen menschliche Bewertungen zeitversetzt in Monitoring, Bias-Prüfung und die nächste Trainings-Runde ein. Ein produktives HITL-System kombiniert häufig alle drei Positionen.

Der Übergabepunkt wird typischerweise über einen Trigger gesteuert und greift damit nur für einen Teil der Modell-Ausgaben. Die üblichen Trigger sind ein Konfidenz-Schwellwert (Modell markiert unsichere Vorhersagen), die Aktions-Klasse (schreibende Werkzeuge, Kunden-Kommunikation, Zahlung, unwiderrufliche Schritte), eine regulatorische Pflicht (etwa „menschliche Aufsicht" nach Artikel 14 des EU AI Act) oder ein Neuartigkeits-Detektor (Eingaben außerhalb des trainierten Bereichs). Der Trigger bestimmt, welcher Anteil der Modell-Ausgaben tatsächlich menschlich bearbeitet wird und wie hoch die Betriebskosten des Loops liegen.

Konzeptionell knüpft HITL an die ältere Automations- und Human-Factors-Forschung an. Paul Fitts' MABA-MABA-Liste von 1951 („Men are better at, Machines are better at") beschreibt die Aufgabenteilung zwischen Mensch und Maschine als Design-Entscheidung. Mit der Breite generativer KI wurde HITL zur Standardsprache für Governance-Anforderungen: Der EU AI Act verpflichtet Hochrisiko-Systeme zu menschlicher Aufsicht, ISO/IEC 42001 verankert die menschliche Rolle im Managementsystem, und Anthropic zieht in „Building Effective Agents" (2024) die Trennlinie zwischen autonomen Agenten-Läufen und HITL-Systemen als Design-Achse.

Abgrenzung zu Human on the Loop, Active Learning, Agent Handoff und Autonomous Agents

Die Nachbar-Begriffe werden häufig synonym verwendet, adressieren aber unterschiedliche Fragen.

Begriff	Rolle des Menschen	Zeitpunkt
Human in the Loop (HITL)	Freigabe/Korrektur pro Entscheidung im Kontrollfluss	synchron, vor Ausführung
Human on the Loop (HOTL)	Überwachung des laufenden Systems, Eingriff bei Anomalie	asynchron, nach Bedarf
Human out of the Loop	keine menschliche Interaktion während des Betriebs	nur vor/nach dem Lauf
Active Learning	Labeln der informativsten Beispiele im Training	im Trainings-Loop, nicht in der Ausführung
Agent Handoff	Übergabe eines Tasks samt Kontext an Agent oder Mensch	Kontrollfluss-Primitiv
Autonomous Agents	kein menschlicher Zwischenschritt über die Auftrags-Dauer	Gegenpol zu HITL

Der wichtigste Unterschied liegt in der Übergabe-Frequenz. HITL erzwingt eine Übergabe pro Entscheidung an einem definierten Punkt; HOTL beobachtet das System und greift nur bei Alarmen ein. Active Learning ist ein Spezialfall des HITL im Trainings-Loop mit Fokus auf Label-Effizienz, während HITL im Inference-Loop die laufende Ausführung steuert. Agent Handoff ist das technische Kontrollfluss-Primitiv, mit dem der Übergabepunkt implementiert wird; HITL ist das Muster, Handoff der Mechanik-Baustein dafür. Autonomous Agents markieren den entgegengesetzten Betriebs-Modus mit menschlichem Eingriff erst am Auftrags-Rand.

Beispiel: Rechnungs-Klassifikator mit Konfidenz-Trigger

Ein Rechnungs-Klassifikator im Finanzbereich verarbeitet eingehende Belege und schlägt Kategorie und Kostenstelle vor. Fällt die Modell-Konfidenz für einen Beleg über 0,92, wird die Zuordnung automatisch übernommen und der Beleg gebucht. Fällt sie darunter, landet der Beleg in einer Prüf-Warteschlange. Ein Bearbeiter bestätigt oder korrigiert Kategorie und Kostenstelle und schließt den Fall. Die korrigierten Entscheidungen laufen in einen Feedback-Store; aus diesem wird periodisch ein Re-Training gestartet, das die Fehlerklassen des Menschen als Labels nutzt.

Der Übergabepunkt sitzt an einer bewussten Stelle im Prozess: bei niedriger Modell-Konfidenz und ausschließlich für die fachliche Zuordnung, während die technische Verarbeitung durchläuft. Ein zweiter Trigger ergänzt den Konfidenz-Schwellwert: Beträge über einer definierten Grenze werden unabhängig von der Modell-Konfidenz zur Freigabe vorgelegt (Aktions-Klasse als Trigger). Der Loop bleibt damit betreibbar: Das Modell erledigt den Volumen-Anteil, der Mensch die Grenzfälle und die risikoreichen Buchungen. Die Betriebskosten des HITL-Anteils lassen sich über die Trigger-Schwellen direkt steuern.