Von allen Einsatzfeldern der künstlichen Intelligenz ist die Personalauswahl eines der wenigen, bei denen die Einstufung selten strittig ist. Die KI-Verordnung nennt Beschäftigung und Personalmanagement ausdrücklich als Bereich mit Hochrisiko-Anwendungen — und darunter fallen Systeme zur Auswahl und Beurteilung von Bewerbenden.
Für Personalabteilungen ist das unangenehm, weil KI-Funktionen dort selten als KI-Projekt eingeführt wurden. Sie kamen als Zusatzfunktion in einem Bewerbermanagementsystem: eine automatische Vorsortierung, ein Abgleich von Lebensläufen mit einem Anforderungsprofil, eine Eignungsvorhersage.
Warum Recruiting ausdrücklich genannt ist
Der Grund für die Einstufung liegt in den Folgen für die betroffene Person. Eine Auswahlentscheidung bestimmt den Zugang zu Erwerbstätigkeit, und ein Fehler wirkt für die abgelehnte Person unmittelbar und meist unbemerkt — sie erfährt nie, dass ein System sie aussortiert hat.
Hinzu kommt die Verzerrungsanfälligkeit. Ein System, das aus früheren Einstellungsentscheidungen lernt, lernt auch die Muster mit, die in diesen Entscheidungen steckten. Wenn eine Organisation historisch eine bestimmte Gruppe seltener eingestellt hat, reproduziert das System diese Neigung — nicht aus Absicht, sondern weil sie in den Daten steht.
Vorsortieren ist bereits Auswahl
Ein verbreitetes Missverständnis lautet, ein System, das nur vorsortiert und nicht entscheidet, sei unkritisch. Das trifft die Realität nicht. Wenn ein System eine Rangfolge erzeugt und die zuständige Person die ersten zwanzig von zweihundert Bewerbungen liest, hat das System die Auswahl faktisch getroffen.
Die formale Zuständigkeit des Menschen ändert daran wenig, solange ihm die Zeit fehlt, die Rangfolge zu hinterfragen. Genau deshalb ist die Frage nach der menschlichen Aufsicht in diesem Einsatzfeld keine Formalie, sondern der Kern der Beurteilung.
Was das konkret verlangt
Für ein als hochriskant eingestuftes Auswahlsystem greift der volle Pflichtenkatalog: ein Risikomanagementsystem, Anforderungen an die Daten, technische Dokumentation, Protokollierung, menschliche Aufsicht und die Information der betroffenen Personen. Für ein Unternehmen, das ein solches System einsetzt, kommen zusätzlich die Betreiberpflichten hinzu.
Praktisch bedeutet das zuerst zwei Dinge. Erstens: Der Anbieter des Systems muss die für die Konformität nötigen Angaben liefern — das ist eine Beschaffungsfrage und gehört in den Vertrag. Zweitens: Die eigene Nutzung muss dokumentiert werden, insbesondere wie die menschliche Aufsicht tatsächlich ausgeübt wird.
Die Mitbestimmung kommt dazu
Neben der KI-Verordnung greifen weitere Regelungen, die in der Praxis oft früher wirksam werden. Der Einsatz eines Systems zur Beurteilung von Beschäftigten oder Bewerbenden berührt regelmässig Mitbestimmungsrechte und datenschutzrechtliche Anforderungen. Die konkrete Lage unterscheidet sich je nach Land und Betrieb und gehört im Einzelfall geklärt.
Wer die KI-Verordnung isoliert betrachtet, übersieht deshalb häufig den Punkt, an dem ein Vorhaben tatsächlich stoppt — nicht an der Aufsichtsbehörde, sondern an der internen Interessenvertretung.
Was eine abgelehnte Person verlangen kann
Bewerbende haben Rechte, die unabhängig von der KI-Verordnung bestehen und durch sie an Bedeutung gewinnen. Dazu gehört Auskunft über verarbeitete Daten und, bei automatisierten Entscheidungen mit erheblicher Wirkung, Information über die zugrunde liegende Logik.
Für die Personalabteilung folgt daraus eine unbequeme Prüffrage: Könnten wir einer abgelehnten Person erklären, warum das System sie aussortiert hat? Wo die Antwort nein lautet, ist das ein Problem — und zwar bevor jemand fragt.
Ein gangbarer Weg
Der pragmatische Einstieg beginnt nicht bei der Konformität, sondern bei der Bestandsaufnahme: Welche Funktionen im Bewerbungsprozess bewerten, sortieren oder empfehlen? Diese Frage bringt regelmässig Funktionen zutage, die niemand als KI geführt hat.
Danach lohnt eine ehrliche Prüfung, ob die Funktion tatsächlich gebraucht wird. Bei überschaubaren Bewerberzahlen ist der Nutzen einer automatischen Vorsortierung gering und der regulatorische Aufwand erheblich. Die Funktion abzuschalten ist in diesen Fällen die schnellste und billigste Form der Konformität — und eine legitime Antwort.