Bei hunderten Bewerbungen auf eine Stelle liegt der Einsatz von KI nahe: Sie kann Lebensläufe analysieren, Rankings erstellen und Absagen vorschlagen – der Personaler klickt am Ende nur noch „bestätigen“.
Rechtlich ist das riskanter, als es klingt. Gleich drei Regelungswerke greifen ineinander: DSGVO, KI-Verordnung (AI-Act) und AGG. Wann welches Gesetz relevant wird und was es in diesem Kontext vorschreibt wird im Folgenden erläutert.
Zudem werden konkrete Handlungsempfehlungen für den Umgang der Anforderungen und Risiken für Personalabteilungen/HR in Unternehmen gegeben.
Kein „Abnicken“ automatisierter Entscheidungen (Art. 22 DSGVO)
Nach Art. 22 DSGVO dürfen Bewerber keiner rein automatisierten Entscheidung unterworfen werden. Entscheidend ist dabei nicht, ob formal ein Mensch im Prozess sitzt, sondern ob er tatsächlich Einfluss nimmt.
Der EuGH hat im Schufa-Urteil (EuGH, 07.12.2023 – C634/21) klargestellt: Schon ein automatisiert erzeugter Score kann eine automatisierte Entscheidung darstellen, wenn er maßgeblich in die Entscheidung einfließt. Wer nur einen Wert von „34/100″ sieht und den KI-Vorschlag routinemäßig übernimmt, ist kein echter „Human in the Loop“.
HR muss die Empfehlung inhaltlich nachvollziehen, hinterfragen und im Zweifel korrigieren können.
