Die Transparenz automatisierter Personalauswahlsysteme sicherstellen

Dem Umstand, dass gegenwärtig die Funktionsweise automatisierter Personalauswahlsysteme allein in Vermarktungsbroschüren erläutert wird, muss ein Ende gesetzt werden. Technologien mit derart hohem Diskriminierungspotenzial dürfen keine Geschäftsgeheimnisse sein. Um dies zu ändern, dabei aber Berufs- und Eigentumsrechte der Entwickler*innen und Unternehmen zu wahren, kommen etwa sogenannte In-Camera-Verfahren in Betracht. Dabei werden nicht einer breiten Öffentlichkeit, sondern ausgewählten Fachkreisen, ihrerseits unter Verpflichtung zur Geheimhaltung, Einsicht und Prüfmöglichkeiten gewährt.

Die Sachverständigenkommission empfiehlt, entsprechende Technologien nur unter Verwendung partizipativer Gestaltungsansätze zu entwickeln. Unternehmen, die algorithmische Systeme entwickeln, müssen sicherstellen, dass deren technische Spezifikationen, Programmiervorgaben, Anforderungskataloge, Dokumentationen und Quellcodes offengelegt werden.

In Zertifizierungsverfahren nach Art. 42 DSGVO soll in besonderer Weise gewürdigt werden, wenn auf den Einsatz algorithmischer Systeme bei der Personalauswahl und -beobachtung gänzlich verzichtet wird.

In einem nationalen Beschäftigtendatenschutzgesetz sollte, über Art. 22 DSGVO hinaus, das Verbot verankert werden, auch Teile eines Entscheidungsverfahrens vollständig zu automatisieren, ohne individuelle Umstände zu berücksichtigen. Damit soll auch für einzelne Verfahrensschritte sichergestellt werden, dass der Prozess als solcher fair und transparent verläuft und dass die betroffene Person ihre individuelle Perspektive einbringen kann. Zudem sollte bei einer Neuordnung des Beschäftigtendatenschutzes untersagt werden, dass das Verbot gemäß Art. 22 Abs. 1 DSGVO im Beschäftigungsverhältnis durch eine Einwilligung der Arbeitnehmer*innen oder Bewerber*innen ausgeschlossen werden kann. Weiterhin ist von der Möglichkeit nach Art. 22 Abs. 2 lit. b), mitgliedschaftliche Ausnahmeregelungen zu erlassen, kein Gebrauch zu machen.