AI Act und Fairnessmetriken: Rechtskonforme KI im Personalmanagement

Mit Inkrafttreten des AI Act müssen Unternehmen beim Einsatz KI-gestützter Systeme neue Regeln befolgen. Das Herzstück der Verordnung bilden die strengen Regeln für sog. Hochrisiko-KI-Systeme, die ausdrücklich auch die sensiblen Bereiche “Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit” umfassen. Der Einsatz von KI-basierten HR-Tools birgt daher das Risiko, weitgehend als Hochrisiko-KI-System eingestuft zu werden. Dies hat einen erheblichen Compliance-Aufwand in technischer, organisatorischer und dokumentarischer Hinsicht zur Folge. So müssen etwa Trainings-, Validierungs- und Testdatensätze im Rahmen der Data Governance einem “Bias-Check” unterzogen werden. Fairnessmetriken bieten hier wertvolle Ansätze zur Überprüfung und Minimierung von Bias. Obwohl der AI Act keine spezifischen Fairnessmetriken vorschreibt, kann deren Implementierung gleichwohl helfen, die Wahrscheinlichkeit für algorithmische Diskriminierungen zu senken und die Rechtskonformität zu erhöhen.