Ist KI im Recruiting nach der KI-Verordnung verboten?

Nein. KI-Systeme für Einstellung und Personalauswahl sind nach Anhang III der KI-Verordnung als hochriskant eingestuft, nicht als verboten. Das bedeutet, sie unterliegen besonderen Anforderungen – unter anderem an Risikomanagement, Dokumentation und wirksame menschliche Aufsicht nach Artikel 14. Der Anwendungsbeginn dieser Hochrisiko-Pflichten soll nach dem Digital-Omnibus-Vorschlag der Kommission vom November 2025 verschoben werden; im Gespräch ist Dezember 2027. Den genauen Termin sollten Sie an der finalen Fassung prüfen.

Darf eine Bewerbung allein durch einen Algorithmus abgelehnt werden?

Nach Artikel 22 der DSGVO haben betroffene Personen das Recht, nicht einer ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Eine rein maschinelle Absage auf eine Bewerbung kann darunterfallen. Entscheidend ist das Wort ausschließlich: Eine nur formale Bestätigung am Ende eines durchautomatisierten Prozesses genügt nicht – die menschliche Prüfung muss tatsächlich Substanz haben.

Was ist der Unterschied zwischen Human-in-the-Loop und wirksamer Aufsicht im HR?

Human-in-the-Loop beschreibt die Position eines Menschen im Prozess – er ist eingebunden. Wirksame Aufsicht beschreibt, ob diese Person die maschinelle Vorauswahl wirklich prüfen und übersteuern kann. Ein Mensch kann eingebunden sein und trotzdem nur abnicken. Erst wenn Befugnis, Zeit, Kontext und Kompetenz zusammenkommen, wird aus der bloßen Anwesenheit eine echte Kontrolle.

Wie erkennt man, dass im Bewerbungsverfahren nur abgenickt wird?

Ein deutliches Signal ist, dass über lange Zeit kaum jemand von der Empfehlung des Systems abweicht – die Quote der manuellen Korrekturen liegt nahe null. Weitere Indizien sind fehlende Zeit pro Bewerbung, Eignungswerte ohne nachvollziehbare Begründung und fehlende Schulung der prüfenden Personen zu den Grenzen des Systems. Dann trägt die Aufsicht nur den Namen, die Maschine entscheidet.

Wie entstehen Verzerrungen in KI-Personalsystemen?

Meist aus den Trainingsdaten. Lernt ein System aus früheren Einstellungsentscheidungen, übernimmt es deren Muster – auch unerwünschte. Ein öffentlich dokumentiertes Beispiel ist ein internes Recruiting-Werkzeug von Amazon, das nach Berichten von 2018 eingestellt wurde, weil es weibliche Bewerberinnen systematisch schlechter bewertete. Es hatte aus überwiegend männlichen Lebensläufen der Vergangenheit gelernt.

Welche Schutzmaßnahmen wirken am ehesten gegen Diskriminierung durch KI im HR?

Wirksam sind vor allem organisatorische Vorkehrungen: Datensparsamkeit, das Aufspüren von Proxy-Merkmalen wie Postleitzahl oder Lebenslauflücken, regelmäßige Auswertung der Gruppenwirkung, stichprobenartige Vollprüfung automatisch abgelehnter Bewerbungen, eine Begründungspflicht beim Übernehmen von Empfehlungen sowie vertragliche Belege zur Diskriminierungsfreiheit bei eingekauften Systemen.

Müssen Bewerberinnen und Bewerber über den KI-Einsatz informiert werden?

Transparenz ist zentral. Die DSGVO verlangt bei automatisierter Entscheidungsfindung Informationspflichten gegenüber den betroffenen Personen, und die Transparenzpflichten aus Artikel 50 der KI-Verordnung greifen ab dem 2. August 2026. Unabhängig vom genauen Rechtsstand ist es gute Praxis, offenzulegen, dass und in welchem Umfang KI im Auswahlverfahren eingesetzt wird, und einen Weg zur menschlichen Überprüfung anzubieten.

Human-in-the-Loop im Personalwesen

Eine abgelehnte Bewerbung sieht für die betroffene Person immer gleich aus – eine höfliche Absage per E-Mail. Ob dahinter eine Personalverantwortliche stand, die den Lebenslauf gelesen hat, oder ein Algorithmus, der das Dokument nach Stichworten sortiert und aussortiert hat, bleibt unsichtbar. Genau diese Unsichtbarkeit ist das Problem. Im Personalwesen entscheidet KI heute häufiger mit, als den meisten Beteiligten bewusst ist – und sie entscheidet über Lebensläufe von Menschen, nicht über Datensätze.

Dieser Beitrag erklärt, wo KI im HR-Prozess auftaucht, warum das Recruiting unter der KI-Verordnung als hochriskant gilt und unter der Datenschutz-Grundverordnung besonders sensibel ist, wie wirksame menschliche Prüfung in der Praxis aussieht – und welche konkreten Schutzmaßnahmen gegen verzerrte automatisierte Einstellungsentscheidungen tatsächlich greifen. Er gehört zum Themenfeld menschliche Aufsicht nach Branche und setzt voraus, was wir an anderer Stelle zu den Grundlagen von Human-in-the-Loop ausgeführt haben.

Was bedeutet Human-in-the-Loop im Personalwesen – kurz und zitierfähig?

Human-in-the-Loop im Personalwesen bedeutet, dass eine zuständige Person jede folgenreiche Personalentscheidung tatsächlich prüft, einordnen kann und im Zweifel übersteuert – und nicht nur eine maschinelle Vorauswahl bestätigt. Die KI darf Bewerbungen aufbereiten, Profile zusammenfassen oder Kandidatinnen und Kandidaten vorsortieren; die Entscheidung, wen man einlädt, absagt oder einstellt, bleibt beim Menschen, der dafür Befugnis, Zeit, Kontext und fachliche Kompetenz braucht.

Der entscheidende Punkt: Ein Mensch im Prozess genügt nicht, wenn er nur abnickt. Wird die von der KI erstellte Rangliste ungeprüft übernommen, weil sie ohnehin „meistens passt“, hat die Maschine faktisch entschieden und der Mensch trägt nur noch den Namen darunter. Wirksame Aufsicht über KI-Personalsysteme verlangt mehr als eine formale Freigabe – sie verlangt, dass Widerspruch real möglich ist und auch vorkommt.

Wo taucht KI im HR-Prozess auf?

KI im HR ist selten ein einzelnes, sichtbares „Recruiting-Tool“. Sie steckt verteilt in vielen kleinen Schritten, von denen jeder einzelne harmlos wirkt – in der Summe aber den Zugang zu einer Stelle steuert. Vier Felder sind besonders relevant:

Vorauswahl und Filterung (Screening). Bewerbermanagementsysteme parsen Lebensläufe, gleichen sie mit der Stellenbeschreibung ab und filtern Bewerbungen, die bestimmte Kriterien nicht erfüllen. Was als reine Formatierungshilfe beginnt, wird zur Schwelle: Wessen Lebenslauf das System nicht „lesen“ kann, fällt heraus, bevor ein Mensch ihn je gesehen hat.

Bewertung und Ranking. Manche Systeme vergeben Eignungswerte oder erstellen eine Rangliste der vermeintlich besten Profile. Das Ranking suggeriert Objektivität, beruht aber auf Mustern aus historischen Daten – und genau dort sitzen die Verzerrungen.

Terminplanung und Organisation (Scheduling). Automatisierte Einladungen, Terminvorschläge und Erinnerungen wirken rein administrativ. Sensibel werden sie dort, wo die Logik dahinter unausgesprochen aussortiert, etwa wenn nur „Top-Profile“ überhaupt einen Termin angeboten bekommen.

Personalverwaltung über die Einstellung hinaus. KI taucht auch in der Bestandsbelegschaft auf – bei der Leistungsbewertung, der Schichtzuteilung oder der Auswahl für Schulungen und Beförderungen. Die KI-Verordnung fasst diesen gesamten Bereich, von der Einstellung bis zur Beendigung, unter dem Stichwort Beschäftigung zusammen.

Einsatzfeld	Typische KI-Funktion	Worauf die menschliche Prüfung achten muss
Vorauswahl (Screening)	Lebensläufe parsen, nach Kriterien filtern	Wer wird automatisch ausgesiebt – und nach welcher Logik?
Bewertung/Ranking	Eignungswerte, Ranglisten	Auf welchen Daten beruht der Wert? Reproduziert er Muster der Vergangenheit?
Terminplanung (Scheduling)	Einladungen, Terminvorschläge	Steuert eine verborgene Auswahllogik mit, wer überhaupt eingeladen wird?
Personalverwaltung	Leistung, Schicht, Beförderung	Werden bestehende Beschäftigte algorithmisch bewertet, ohne es zu wissen?

Warum gilt KI im Recruiting als hochriskant unter der KI-Verordnung?

Die KI-Verordnung stuft KI-Systeme für Einstellung und Personalauswahl ausdrücklich als hochriskant ein. In Anhang III nennt sie Systeme, die für die Anwerbung oder Auswahl natürlicher Personen eingesetzt werden – etwa zur gezielten Schaltung von Stellenanzeigen, zur Filterung von Bewerbungen oder zur Bewertung von Kandidatinnen und Kandidaten. Auch Systeme, die über Beförderung, Aufgabenzuweisung oder Beendigung eines Arbeitsverhältnisses mitentscheiden, fallen darunter.

Der Grund für diese Einstufung ist nicht die Technik, sondern die Wirkung. Eine Personalentscheidung berührt unmittelbar die Existenz und die berufliche Zukunft eines Menschen. Fehler oder Verzerrungen wirken sich nicht auf einen anonymen Markt aus, sondern auf einzelne Lebensläufe – und sie können ganze Gruppen systematisch benachteiligen, ohne dass es jemandem auffällt.

Für hochriskante Systeme verlangt die Verordnung in Artikel 14 eine wirksame menschliche Aufsicht: Sie müssen so gestaltet sein, dass Menschen sie tatsächlich beaufsichtigen, ihre Ausgaben richtig deuten und im Zweifel eingreifen können. Wichtig für die Planung: Der Anwendungsbeginn der Hochrisiko-Pflichten soll nach dem im November 2025 vorgelegten Digital-Omnibus-Vorschlag der Kommission verschoben werden – im Gespräch ist Dezember 2027. Das ist ein laufendes Gesetzgebungsvorhaben, kein abgeschlossenes Recht; den genauen Termin sollten Sie vor verbindlichen Festlegungen an der endgültigen Fassung prüfen. Davon zu trennen sind die Transparenzpflichten aus Artikel 50, die ab dem 2. August 2026 greifen und etwa verlangen, dass Menschen erfahren, wenn sie mit einem KI-System interagieren.

Warum sind Bewerbungsdaten unter der DSGVO besonders sensibel?

Unabhängig von der KI-Verordnung gilt für jede Bewerbung das Datenschutzrecht – und das setzt automatisierten Personalentscheidungen enge Grenzen. Artikel 22 der Datenschutz-Grundverordnung gibt betroffenen Personen das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Eine algorithmische Absage auf eine Bewerbung kann genau das sein.

Entscheidend ist das Wort ausschließlich. Sobald eine Entscheidung allein von einer Maschine getroffen wird – etwa wenn ein Filter Bewerbungen verwirft, ohne dass je ein Mensch sie ansieht –, greift der Schutz aus Artikel 22. Eine bloß formale menschliche Bestätigung am Ende eines durchautomatisierten Prozesses hebt diesen Schutz nicht auf: Damit eine Person die automatisierte Entscheidung wirklich „nicht ausschließlich“ trifft, muss ihre Prüfung Substanz haben. Das ist derselbe Maßstab, den wir unter dem Stichwort wirksame Aufsicht statt bloßem Abnicken ausführlicher behandeln.

Hinzu kommt: Bewerbungsunterlagen enthalten oft mehr Information, als für die Auswahl nötig ist – Hinweise auf Herkunft, Gesundheit, Alter oder familiäre Situation. Je mehr ein System verarbeitet, desto größer die Gefahr, dass es an Merkmale anknüpft, an die es rechtlich nicht anknüpfen darf. Datensparsamkeit ist hier kein Formalismus, sondern ein Schutz gegen Diskriminierung durch die Hintertür.

Wie sieht wirksame menschliche Prüfung in der Praxis aus?

Wirksame menschliche Prüfung im Personalwesen heißt nicht, dass am Ende jemand „Bestätigen“ anklickt. Sie heißt, dass diese Person die Vorauswahl tatsächlich infrage stellen kann. Vier Bedingungen müssen gleichzeitig erfüllt sein – fehlt eine, bleibt von der Prüfung eine Geste übrig.

Befugnis. Die prüfende Person muss eine maschinelle Vorauswahl tatsächlich übersteuern dürfen, ohne dafür Rechtfertigungsdruck oder Nachteile zu fürchten. Wer ein abgelehntes Profil nicht ohne Weiteres wieder ins Verfahren holen kann, beaufsichtigt nichts.

Zeit. Eine echte Prüfung braucht mehr als die wenigen Sekunden, die eine Freigabemaske suggeriert. Sind pro Fall nur Augenblicke vorgesehen, ist Abnicken die einzig praktikable Reaktion – und genau das untergräbt den Sinn der Aufsicht.

Kontext. Die Person muss verstehen, warum das System ein Profil hoch oder niedrig einstuft. Eine Punktzahl ohne Begründung lässt sich nicht prüfen, nur glauben. Das System sollte daher nachvollziehbar machen, welche Faktoren in seine Empfehlung eingeflossen sind.

Kompetenz. Wer KI-gestützte Auswahl beaufsichtigt, muss deren Grenzen kennen – insbesondere den Hang, Mustern der Vergangenheit zu folgen. Ohne dieses Wissen wird die maschinelle Empfehlung zur stillen Autorität, der man eher vertraut als der eigenen Urteilskraft. Diese Neigung, der sogenannte Automation Bias, ist im Recruiting besonders heimtückisch, weil das System oft plausibel wirkt.

Ein praktischer Prüfstein für die eigene Organisation: Wie oft weicht eine Personalverantwortliche von der Empfehlung des Systems ab? Liegt diese Quote über lange Zeit nahe null, prüft vermutlich niemand wirklich – dann ist die Aufsicht eine Haftungsfassade.

Welche Schutzmaßnahmen wirken gegen verzerrte automatisierte Einstellungsentscheidungen?

Verzerrungen in HR-Systemen entstehen meist nicht aus bösem Willen, sondern aus den Trainingsdaten. Lernt ein System aus früheren Einstellungsentscheidungen, übernimmt es deren Muster – auch die unerwünschten. Das bekannteste öffentlich dokumentierte Beispiel ist ein internes Recruiting-Werkzeug von Amazon, das das Unternehmen laut Berichten von 2018 verwarf, weil es Frauen systematisch schlechter bewertete: Es hatte aus überwiegend männlichen Lebensläufen der Vergangenheit gelernt, dass Männer die „passenderen“ Kandidaten seien. Der Fall zeigt das Grundmuster – ein System reproduziert die Ungleichheit, aus der es gelernt hat.

Gegen solche Verzerrungen helfen konkrete, organisatorische Vorkehrungen mehr als gute Absichten:

Datensparsamkeit erzwingen. Je weniger sensible Merkmale ein System verarbeitet, desto weniger kann es an ihnen anknüpfen. Felder, die für die Eignung irrelevant sind, gehören gar nicht erst in die Bewertung.
Proxy-Merkmale aufspüren. Verzerrung versteckt sich oft hinter scheinbar neutralen Größen – Postleitzahl, Lücken im Lebenslauf, Name der Hochschule. Wer nur das offensichtliche Merkmal entfernt, übersieht den Stellvertreter.
Ergebnisse auf Gruppenwirkung prüfen. Regelmäßige Auswertung, ob bestimmte Gruppen auffällig häufig aussortiert werden, deckt Muster auf, die im Einzelfall unsichtbar bleiben.
Stichprobenartige Vollprüfung. Ein Teil der automatisch abgelehnten Bewerbungen wird unabhängig von Hand gesichtet – so fällt auf, wen das System zu Unrecht aussiebt.
Begründungspflicht beim Zustimmen. Wer eine maschinelle Empfehlung übernimmt, sollte kurz festhalten, warum. Diese bewusste Reibung wirkt dem reflexhaften Abnicken entgegen.
Pflicht zur Information. Bewerberinnen und Bewerber sollten erfahren, dass und in welchem Umfang KI eingesetzt wird – und einen Weg haben, eine menschliche Überprüfung zu verlangen.
Lieferanten in die Pflicht nehmen. Bei eingekauften Systemen müssen die Dokumentation zur Funktionsweise und die Belege zur Diskriminierungsfreiheit vertraglich eingefordert werden; ein „Black-Box-Tool“ lässt sich nicht verantworten.

Diese Maßnahmen sind kein Misstrauensvotum gegen die Technik. Sie sind die Bedingung dafür, dass KI im Personalwesen überhaupt verantwortbar bleibt – als Werkzeug, das Menschen entlastet, und nicht als unsichtbare Instanz, die über Lebensläufe richtet.

Fazit

KI im HR verschwindet nicht wieder, und das muss sie auch nicht. Sie kann Vorauswahl beschleunigen, Termine organisieren und Personalverantwortliche von Routinen entlasten. Riskant wird sie erst dort, wo der Mensch aus der Entscheidung herausfällt – formal noch anwesend, faktisch entmachtet. Die KI-Verordnung mit ihrer Einstufung als hochriskant und die DSGVO mit Artikel 22 ziehen hier dieselbe Linie: Über die Zukunft eines Menschen darf am Ende nicht allein eine Maschine entscheiden. Wirksame menschliche Prüfung ist die Bedingung dafür, dass diese Linie hält.