Gesellschaft für Informatik e.V., Arbeitspapier: Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl

„Auch in Deutschland kommen zunehmend KI-basierte Systeme für die Personalauswahl auf den Markt. Sie sollen eine möglichst effiziente, sichere und vorurteilsfreie Auswahl geeigneter Bewerber*innen ermöglichen. Die Praxis zeigt jedoch, dass entsprechende Systeme erhebliche Diskriminierungsrisiken bergen. Diese Risiken werden von den einschlägigen Gesetzen, allem voran der Datenschutz-Grundverordnung (DSGVO) und dem Allgemeinen Gleichbehandlungsgesetz, nur unzureichend adressiert. Zu diesem Ergebnis kommt nicht nur die rechtswissenschaftliche Analyse des Forschungsprojekts „ExamAI – KI Testing & Auditing“, sondern auch das Gutachten zum Dritten Gleichstellungsbericht der Bundesregierung.“

Das Arbeitspapier dokumentiert die Veranstaltung „Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl“ vom 25. Mai 2021. Es enthält:

• Beitrag von Dr. Andrea Knaut, Mitarbeiterin der Geschäftsstelle
• Beitrag von Lorena Jaume-Palasi, Elisa Lindinger, Julia Kloiber basierend auf ihrer Expertise „AI Powered Recruiting? Wie der Einsatz von algorithmischen Assistenzsystemen die Gleichstellung auf dem Arbeitsmarkt beeinflusst“
• Beitrag von Dr. Andreas Sesing und Angela Tschech mit zahlreichen Bezügen auf den Dritten Gleichstellungsbericht

Link zum Arbeitspapier: https://testing-ai.gi.de/fileadmin/user_upload/ExamAI_Publikation_Arbeitspapier_final.pdf