// DefinedTermSet

Glossar zum Menschen in der Schleife

Klare, zitierfähige Definitionen für das Vokabular der menschlichen Aufsicht über KI — die Begriffe, auf die sich die übrigen Texte stützen, von der KI-Verordnung bis zum täglichen Handwerk, den Menschen in der Schleife zu halten.

01Mensch in der Schleife (HITL): Eine Gestaltung, bei der ein Mensch die Ausgabe eines KI-Systems prüft, freigibt oder korrigiert, bevor sie wirksam wird. Der Mensch steht im Entscheidungspfad, sodass keine folgenreiche Handlung ohne ausdrückliche menschliche Mitwirkung erfolgt.
02Mensch über der Schleife (HOTL): Eine Gestaltung, bei der das KI-System eigenständig handelt, ein Mensch es aber überwacht und jederzeit eingreifen, anhalten oder übersteuern kann. Die Aufsicht ist beaufsichtigend statt schrittweise und eignet sich für mengen- oder zeitkritische Aufgaben.
03Mensch im Befehl: Der Grundsatz, dass Menschen die übergeordnete Befugnis und Verantwortung für ein KI-System behalten — sie entscheiden, ob, wann und wie es genutzt wird — selbst wenn der laufende Betrieb automatisiert ist. Er versteht KI als Werkzeug im Dienst menschlicher Ziele, nicht umgekehrt.
04Wirksame menschliche Aufsicht: Aufsicht, die einem Menschen wirklich erlaubt, ein KI-System zu verstehen, infrage zu stellen und zu stoppen — kein bloßes Abnicken per Klick. Die KI-Verordnung (Art. 14) verlangt, Hochrisikosysteme so zu gestalten, dass eine aufsichtsführende Person ihre Grenzen erfasst, auf Automatisierungsverzerrung achtet und eingreifen oder den Betrieb anhalten kann.
05Automatisierungsverzerrung: Die Neigung, der Empfehlung einer Maschine zu sehr zu vertrauen und sie nicht mehr zu prüfen — falsche Antworten zu übernehmen und Fehler zu übersehen, die ein Mensch sonst bemerkt hätte. Sie ist das zentrale Versagen, dem wirksame menschliche Aufsicht entgegenwirken soll.
06Augmentation versus Automatisierung: Zwei gegensätzliche Ziele beim KI-Einsatz: Augmentation macht einen Menschen besser und schneller in seiner Arbeit, während er weiter entscheidet; Automatisierung nimmt den Menschen ganz aus der Aufgabe heraus. Die Wahl prägt Arbeitsgestaltung, Risiko und den verbleibenden Raum für menschliches Urteil.
07Eskalation und Rückübergabe: Der Moment, in dem ein KI-System einen Fall an einen Menschen abgibt, weil es unsicher ist, außerhalb seines Bereichs liegt oder viel auf dem Spiel steht. Eine gut gestaltete Rückübergabe enthält den Kontext und die Begründung, die der Mensch braucht, um zu übernehmen, ohne bei null zu beginnen.
08Kalibriertes Vertrauen: Das Vertrauen einer Person in ein KI-System, das seiner tatsächlichen Verlässlichkeit entspricht — ihm vertrauen, wo es stark ist, und zweifeln, wo es schwach ist. Klare Oberflächen und deutliche Leistungssignale fördern es; undurchsichtige treiben Menschen zu Über- oder Untervertrauen.
09Automatisierte Entscheidungsfindung: Eine Entscheidung, die allein durch automatisierte Verarbeitung zustande kommt, ohne dass ein Mensch sie beurteilt. Nach der DSGVO (Art. 22) hat eine Person das Recht, einer solchen Entscheidung nicht unterworfen zu werden, wenn diese rechtliche oder ähnlich erhebliche Wirkung entfaltet — abgesehen von engen Ausnahmen mit Schutzmaßnahmen.
10Transparenzpflichten (KI-VO Art. 50): Pflichten nach Artikel 50 der KI-Verordnung, Menschen darüber zu informieren, dass sie es mit KI zu tun haben: Chatbots müssen offenlegen, dass sie Maschinen sind, und synthetische oder manipulierte Inhalte (Deepfakes) sind als künstlich erzeugt zu kennzeichnen. Diese Regeln gelten ab dem 2. August 2026.
11Hochrisiko-KI-System: Eine Kategorie der KI-Verordnung für KI in sensiblen Bereichen — Einstellung, Kredit, Bildung, Gesundheit, Justiz und Ähnliches —, in denen Fehler die Rechte von Menschen ernsthaft beeinträchtigen können. Solche Systeme tragen die strengsten Pflichten, darunter Risikomanagement, Datenqualität und menschliche Aufsicht.
12Betreiber: In der KI-Verordnung die Organisation, die ein KI-System im eigenen Betrieb einsetzt (im Unterschied zum Anbieter, der es entwickelt). Betreiber von Hochrisikosystemen müssen eine fachkundige menschliche Aufsicht benennen, die Gebrauchsanweisung befolgen und das Verhalten des Systems in der Praxis überwachen.
13Umschulung und Weiterbildung: Umschulung qualifiziert Menschen für eine andere Rolle, wenn ihre bisherigen Aufgaben automatisiert werden; Weiterbildung vertieft ihre vorhandenen Fähigkeiten für die Arbeit mit KI. Beides ermöglicht Organisationen, KI einzuführen und zugleich ihre Belegschaft zu behalten, statt sie zu ersetzen.
14Veränderungsmanagement: Die bewusste Arbeit, Menschen durch eine neue Arbeitsweise zu führen — Kommunikation, Schulung, neu zugeschnittene Rollen und Rückmeldung —, damit eine KI-Einführung wirklich Bestand hat. Die meisten gescheiterten Einführungen sind Versäumnisse im Veränderungsmanagement, keine technischen.
15Aufsichts-UX: Die Oberflächengestaltung, die menschliche Aufsicht praktikabel macht: Sie zeigt Sicherheit und Begründung der KI, hebt prüfbedürftige Fälle hervor und macht das Eingreifen schnell und reibungsarm. Mangelhafte Aufsichts-UX ist ein häufiger Grund, warum Aufsicht auf dem Papier, aber nicht in der Praxis besteht.
16Verantwortungskette: Die dokumentierte Linie, wer für eine KI-gestützte Entscheidung einzustehen hat — vom Anbieter und Betreiber bis zur Person, die sie freigegeben hat. Eine klare Kette stellt sicher, dass die Verantwortung bei einem Fehler bei Menschen liegt und nicht beim Modell.
17Sicherheitsstopp / Not-Aus: Eine verlässliche Möglichkeit, ein KI-System anzuhalten und in einen sicheren Zustand zurückzukehren — der „Stopp-Knopf“, auf den sich wirksame menschliche Aufsicht stützt. Damit er echt ist, muss er erreichbar, schnell und wirksam bleiben, selbst wenn das System von seiner Richtigkeit überzeugt ist.
18Modelldrift: Der allmähliche Rückgang der Treffsicherheit eines KI-Modells, während sich die reale Welt von den Trainingsdaten entfernt. Weil Drift lautlos verläuft, ist sie einer der stärksten Gründe, KI noch lange nach dem Start von Menschen überwachen zu lassen.