In-the-Loop vs On-the-Loop vs In-Command

Menschliche Aufsicht über KI ist kein Schalter, der nur an und aus kennt, sondern ein Spektrum mit drei klar unterscheidbaren Stufen. Wer eine KI verantwortungsvoll einsetzen will, muss zuerst entscheiden, an welcher Stelle der Mensch tatsächlich eingreift – vor jeder Aktion, während des Betriebs oder nur auf der Ebene der grundsätzlichen Steuerung. Genau diese drei Stufen heißen Human-in-the-Loop, Human-on-the-Loop und Human-in-Command.

Was bedeuten die drei Aufsichtsmodelle in einem Satz?

So lässt sich jedes Modell in einem Satz fassen:

• Human-in-the-Loop (HITL): Der Mensch ist in jeden einzelnen Entscheidungsdurchlauf eingebunden. Die KI schlägt etwas vor, aber erst die menschliche Freigabe löst die Handlung aus. Ohne diese Bestätigung passiert nichts.
• Human-on-the-Loop (HOTL): Die KI handelt eigenständig in Echtzeit, während der Mensch den Betrieb überwacht und jederzeit eingreifen, korrigieren oder stoppen kann. Die Aufsicht läuft mit, nicht davor.
• Human-in-Command (HIC): Der Mensch behält die übergeordnete Hoheit über das Gesamtsystem – also die Entscheidung, ob, wofür, unter welchen Bedingungen und wie lange eine KI überhaupt eingesetzt wird. Diese Kontrolle wirkt auf der strategischen und organisatorischen Ebene, nicht im einzelnen Vorgang.

Der entscheidende Unterschied liegt im Zeitpunkt und in der Reichweite des Eingriffs. Bei HITL greift der Mensch vor der Handlung ein, bei HOTL während der Handlung, bei HIC oberhalb des laufenden Betriebs. Die drei Modelle schließen sich nicht aus – ein reifer KI-Einsatz kombiniert sie meist: operative Vorgänge unter On-the-Loop-Aufsicht, heikle Einzelfälle im Loop, das ganze System unter menschlichem Oberbefehl.

Human-in-the-Loop: Wann muss der Mensch jeden Fall freigeben?

Beim Human-in-the-Loop ist der Mensch ein notwendiger Bestandteil der Verarbeitungskette. Das System bereitet eine Entscheidung vor, hält dann aber an und wartet auf eine bewusste menschliche Bestätigung, bevor das Ergebnis wirksam wird. Der Mensch ist nicht Beobachter, sondern Teil des Mechanismus.

Konkrete Beispiele aus der Praxis:

• Radiologie: Ein Bildanalyse-System markiert auffällige Bereiche auf einem CT, aber die Diagnose stellt und verantwortet die Radiologin. Der Befund wird erst gültig, wenn sie ihn bestätigt.
• Kreditvergabe: Ein Scoring-Modell schlägt eine Ablehnung vor, doch ein Sachbearbeiter prüft den Fall und trifft die endgültige Entscheidung – schon deshalb, weil eine rein automatisierte Ablehnung datenschutzrechtlich heikel ist.
• Recruiting: Die KI erstellt eine Vorauswahl von Lebensläufen, die finale Einladung entscheidet aber ein Mensch.
• Inhaltsmoderation: Grenzfälle landen in einer Prüf-Warteschlange, in der ein geschulter Mensch über Löschung oder Freigabe entscheidet.

HITL bietet das höchste Maß an Kontrolle und ist überall dort sinnvoll, wo eine Entscheidung schwer umkehrbar ist oder Menschen unmittelbar betrifft. Der Preis dafür ist Geschwindigkeit: Jeder Vorgang wartet auf einen Menschen, und der Mensch wird zum Engpass. Bei Millionen Transaktionen pro Tag lässt sich dieses Modell schlicht nicht durchhalten.

Human-on-the-Loop: Wie überwacht der Mensch ein autonom laufendes System?

Beim Human-on-the-Loop handelt die KI eigenständig und in Echtzeit. Der Mensch steht nicht in der Kette, sondern darüber: Er überwacht den Betrieb, beobachtet Kennzahlen und Warnsignale und greift nur dann ein, wenn etwas aus dem Ruder läuft. Entscheidend ist die jederzeitige Eingriffsmöglichkeit – im Kern ein gut erreichbarer „Not-Aus“.

Konkrete Beispiele:

• Betrugserkennung: Ein System blockiert verdächtige Zahlungen automatisch und in Millisekunden; ein Analyst überprüft die Fälle anschließend und gibt zu Unrecht blockierte Transaktionen wieder frei.
• Fertigung: Roboterzellen arbeiten autonom, während eine Schichtleiterin über ein Leitsystem mehrere Linien gleichzeitig überwacht und bei Anomalien stoppt.
• Netz- und Infrastrukturbetrieb: Ein Leitstand beobachtet automatisierte Steuerungen und übernimmt manuell, sobald die Telemetrie auffällig wird.
• Assistiertes Fahren: Das Fahrzeug fährt selbst, der Mensch muss aber aufmerksam bleiben und die Kontrolle jederzeit wieder übernehmen können.

HOTL ist der pragmatische Mittelweg: Es skaliert weit besser als HITL und behält trotzdem eine menschliche Sicherung. Sein größtes Risiko ist menschlicher Natur und heißt Aufmerksamkeitsverfall (automation complacency). Wer stundenlang ein System überwacht, das fast immer richtig liegt, verliert die Wachsamkeit – und ist im seltenen Ernstfall genau dann nicht bereit, wenn es darauf ankommt. Gute On-the-Loop-Aufsicht braucht deshalb durchdachte Alarmierung, sinnvolle Eskalationsschwellen und Übung, kein bloß dekoratives Dashboard.

Human-in-Command: Wer behält die Hoheit über das ganze System?

Human-in-Command ist die Aufsicht auf der höchsten Ebene. Hier geht es nicht um den einzelnen Vorgang, sondern um die übergeordnete Steuerung: Wird diese KI überhaupt eingesetzt? Für welchen Zweck? Innerhalb welcher Grenzen? Wann wird sie abgeschaltet? Diese Entscheidungen trifft kein Modell, sondern eine verantwortliche Person oder ein verantwortliches Gremium – sie liegen außerhalb der Reichweite des Systems selbst.

Konkrete Beispiele:

• Geschäftsführung und Governance: Ein Unternehmen legt per Richtlinie fest, in welchen Prozessen KI eingesetzt werden darf, definiert rote Linien und benennt eine verantwortliche Stelle samt Abschaltbefugnis.
• Zweckbindung: Die Leitung entscheidet, dass ein Empfehlungssystem im Kundenservice laufen darf, in der Personalauswahl aber nicht – unabhängig davon, wie gut das Modell technisch funktioniert.
• Sicherheitskritische Domänen: Das Prinzip der „bedeutsamen menschlichen Kontrolle“ verlangt, dass ein Mensch die Verantwortung für den Einsatz behält und das System als Ganzes außer Betrieb nehmen kann.

Human-in-Command verlangsamt den laufenden Betrieb nicht, weil es nicht in einzelne Vorgänge eingreift. Es setzt den Rahmen, in dem HITL und HOTL überhaupt erst stattfinden. Sein Risiko ist das gegenteilige: Wenn dieser Oberbefehl nur auf dem Papier existiert – als unterschriebene Richtlinie ohne echte Abschaltmöglichkeit und ohne jemanden, der hinschaut –, dann ist die Kontrolle eine Fiktion.

Latenz gegen Kontrolle: Wie hängen die Modelle zusammen?

Die drei Modelle verkörpern eine Abwägung zwischen Kontrolltiefe auf der einen und Geschwindigkeit und Skalierbarkeit auf der anderen Seite. Je näher der Mensch am einzelnen Vorgang steht, desto höher die Kontrolle und desto höher die Latenz.

Merkmal	Human-in-the-Loop	Human-on-the-Loop	Human-in-Command
Eingriffszeitpunkt	vor jeder Aktion	während des Betriebs	oberhalb des Betriebs
Kontrolltiefe	sehr hoch	mittel	strategisch/strukturell
Latenz pro Vorgang	hoch	niedrig	keine (operativ)
Skalierbarkeit	gering	hoch	sehr hoch
Typisches Risiko	Engpass	Aufmerksamkeitsverfall	Aufsicht nur auf dem Papier
Eignung	irreversible, sensible Einzelfälle	Massenvorgänge in Echtzeit	Zweck, Grenzen, Abschaltung

Wichtig ist: Diese drei Stufen sind keine konkurrierenden Optionen, von denen man genau eine wählt. In der Praxis liegen sie übereinander. Ein Zahlungsdienstleister betreibt seine Betrugserkennung on-the-loop, schickt die zehn riskantesten Fälle pro Tag in eine in-the-loop-Prüfung und unterstellt das gesamte System einem in-command-Gremium, das Zweck und Grenzen festlegt. Die Frage lautet also selten „welches Modell“, sondern „welches Modell auf welcher Ebene“.

Welches Modell sollte man wann wählen?

Ein praktischer Entscheidungsleitfaden lässt sich an wenigen Fragen festmachen:

• Wie umkehrbar ist die Entscheidung? Ist ein Fehler schwer oder gar nicht rückgängig zu machen (medizinische Diagnose, Kündigung, dauerhafte Sperre), spricht das für Human-in-the-Loop. Lässt sich ein Fehler nachträglich korrigieren (eine kurz blockierte Zahlung), reicht oft Human-on-the-Loop.
• Wie hoch ist das Volumen? Bei Tausenden oder Millionen Vorgängen pro Tag ist HITL physisch nicht durchzuhalten – hier führt an HOTL kein Weg vorbei, ergänzt um eine HITL-Stichprobe für die heikelsten Fälle.
• Wie unmittelbar betrifft es Menschen? Entscheidungen über Kredit, Beschäftigung, Gesundheit oder rechtliche Ansprüche verlangen mehr menschliche Nähe – tendenziell HITL bei der Einzelentscheidung.
• Steht der Rahmen? Unabhängig von der operativen Stufe braucht jeder ernsthafte KI-Einsatz eine Human-in-Command-Ebene: eine benannte verantwortliche Stelle, eine dokumentierte Zweckbindung und eine reale Abschaltmöglichkeit.

Als Faustregel: HIC ist immer Pflicht, HOTL ist der Standard für den Betrieb in der Breite, und HITL setzt man gezielt dort ein, wo Umkehrbarkeit und Betroffenheit es verlangen. Mehr zur grundsätzlichen Einordnung im Beitrag Was bedeutet menschliche Aufsicht über KI?.

Wie passen die Modelle zur menschlichen Aufsicht nach der KI-Verordnung?

Die EU-KI-Verordnung (KI-VO) schreibt für Hochrisiko-Systeme menschliche Aufsicht vor – in Artikel 14. Wichtig ist dabei eine oft missverstandene Nuance: Der Gesetzestext nennt kein einzelnes Modell als verbindlich. Er verlangt, dass Anbieter Hochrisiko-Systeme so gestalten, dass natürliche Personen sie wirksam beaufsichtigen können, und dass diese Aufsicht den Risiken angemessen ist. Welches der drei Modelle dafür das richtige ist, hängt vom konkreten Anwendungsfall ab – die Verordnung lässt bewusst das gesamte Spektrum zu.

Artikel 14 beschreibt dabei genau die Fähigkeiten, die unsere drei Modelle abbilden: die Funktionsweise verstehen und richtig einordnen können, einem übermäßigen Vertrauen in die Ausgabe entgegenwirken (das ist der erwähnte Aufmerksamkeitsverfall), sich gegen die Verwendung der Ausgabe entscheiden können und vor allem in den Betrieb eingreifen oder ihn unterbrechen können – sinnbildlich der „Stopp-Knopf“. Genau das ist die Bandbreite von In-the-Loop über On-the-Loop bis In-Command.

Ein paar Punkte zur Einordnung, ohne Panikmache:

• Die Pflichten für Hochrisiko-Systeme aus der KI-VO greifen nicht sofort. Der sogenannte Digital-Omnibus sieht eine Verschiebung dieser Anforderungen in Richtung Dezember 2027 vor. Es bleibt also Zeit, Aufsicht solide aufzubauen, statt sie zu überstürzen.
• Die Transparenzpflichten nach Artikel 50 – etwa die Kennzeichnung, dass man mit einer KI interagiert oder dass Inhalte KI-generiert sind – gelten ab dem 2. August 2026. Das ist ein eigener, früher Strang und betrifft nicht nur Hochrisiko-Anwendungen.
• Davon zu trennen ist die Datenschutz-Grundverordnung: Nach Artikel 22 DSGVO haben Betroffene das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung mit erheblichen Auswirkungen unterworfen zu werden. Genau hier wird Human-in-the-Loop oft zur Notwendigkeit, weil eine echte menschliche Mitentscheidung den Automatismus durchbricht.

Aufsicht ist damit kein Compliance-Häkchen, sondern eine Gestaltungsfrage: Welches Modell auf welcher Ebene macht den Einsatz beherrschbar? Wer das vom konkreten Risiko her durchdenkt, erfüllt die regulatorische Erwartung in aller Regel ohnehin – und baut nebenbei ein System, dem Menschen vertrauen.

Fazit

Human-in-the-Loop, Human-on-the-Loop und Human-in-Command sind keine Schlagworte, sondern drei genau definierte Hebel: Eingriff vor, während oder oberhalb des Betriebs. Sie konkurrieren nicht, sie ergänzen sich. Die reife Antwort auf „Wie behalten wir den Menschen in der Verantwortung?“ lautet selten „eins davon“, sondern „alle drei – auf der jeweils richtigen Ebene“.