Mit dem weltweit ersten KI-Gesetz, das im vergangenen März vom Europäischen Parlament verabschiedet wurde, ist ein umfassendes Regulierungssystem geschaffen worden, um EU-Bürgerinnen und -Bürger vor den potenziellen Gefahren von KI zu schützen. Eine Frage bleibt dabei aber unbeantwortet: wie viel Bias ist eigentlich zu viel?
27 von 30 DAX-Konzernen verwenden bei der Auswahl von Bewerberinnen und Bewerbern ein Verfahren, das ein implizites Diskriminierungsmuster aufweist, sicherlich ohne Absicht und Kenntnis. Damit schaffen sie ein doppeltes Dilemma: Wenn andere Kriterien als die tatsächliche Qualifikation die Auswahl mitbestimmen, arbeitet das Verfahren weder ethisch noch funktional im Interesse der Organisation. Mit der richtigen Konzeption des Verfahrens ließe sich dieses Dilemma vermeiden.
Haben Sie sich schon einmal bei einem großen Unternehmen oder einer Behörde beworben? Dann haben Sie vielleicht selbst schon einmal die Stufen eines Masseneinstellungsverfahrens durchlaufen. Unsere Beobachtung: Diese Verfahren weisen oft einen doppelten Gender Bias auf. Unsere Fallstudie: die Bundespolizei.