Zur Durchführung von Datenschutz-Folgeabschätzungen verpflichten, um vor Diskriminierung zu schützen

Diskriminierungsrisiken, die aus dem Einsatz algorithmischer Systeme resultieren, müssen im Rahmen der Datenschutzfolgenabschätzung berücksichtigt werden. Bereits heute muss die für die Datenverarbeitung verantwortliche Stelle im Vorfeld eines besonders risikobehafteten Datenverarbeitungsvorgangs dessen Folgen für den Schutz personenbezogener Daten abschätzen (Art. 35 Abs. 1 DSGVO). Beim Einsatz von Profiling- Systemen, also der automatisierten Datenverarbeitung personenbezogener Daten, ist ein besonders hohes Risiko anzunehmen. Der Einsatz algorithmischer Systeme bei Personalentscheidungen sollte daher in die Liste der Verarbeitungsvorgänge aufgenommen werden, in denen eine Datenschutzfolgenabschätzung zwingend durchzuführen ist (vgl. Art. 35 Abs. 4 DSGVO).

Dem erheblichen Diskriminierungs- und Benachteiligungspotenzial algorithmischer Systeme bei Personalentscheidungen im Sinne des § 2 Abs. 1 Nr. 1 und 2 AGG (d. h. vom ersten Schritt der Personalgewinnung über die Personalauswahl und die Vertragsgestaltung bis hin zur Beendigung eines Arbeitsverhältnisses) sollte außerdem begegnet werden, indem konkrete Regelungen für den Einsatz derartiger Systeme in das AGG aufgenommen werden. Hier bietet sich eine Ergänzung der präventiven Organisationspflichten von Arbeitgeber*innen in § 11 AGG an. Die Regelung verbietet bislang nur, einen Arbeitsplatz unter Verstoß gegen das Benachteiligungsverbot des § 7 Abs. 1 AGG auszuschreiben. Diese Pflicht greift angesichts der technologischen Möglichkeiten zu kurz. Daher ist § 11 AGG um einen an § 4 Abs. 4 EntgTranspG orientierten Abs. 2 folgenden Inhalts zu ergänzen:

Verwenden Arbeitgebende im Rahmen personeller Maßnahmen im weitesten Sinne, d. h. insbesondere im Zusammenhang mit Maßnahmen gem. § 2 Abs. 1 Nr. 1 und 2 AGG, algorithmische Systeme, muss deren Einsatz offenlegt werden. Arbeitgebende haben sicherzustellen, dass das jeweilige System als Ganzes sowie seine einzelnen Komponenten so ausgestaltet sind, dass eine Benachteiligung wegen eines der in § 1 genannten Gründe, insbesondere wegen des Geschlechts, ausgeschlossen ist. Dazu ist insbesondere zu gewährleisten, dass:

1. die dem algorithmischen System zugrunde liegenden Daten auf deren potenziell benachteiligende Effekte hin geprüft und von potenziell benachteiligenden Verwendungen der Daten und Korrelationen bereinigt sind,
2. die einzelnen Differenzierungskriterien diskriminierungsfrei gewichtet sind und
3. das System insgesamt durchschaubar ist.

Die Einführung eines algorithmischen Systems wäre demzufolge nur zulässig, wenn Arbeitgeber*innen bereits bei der Personalauswahl über deren Einsatz informieren und wenn gesicherte Erkenntnisse darüber vorliegen, dass das konkret gewählte System den oben genannten Anforderungen entspricht. Diese Pflicht ist – wie die Schutzpflichten des § 12 AGG – eine vertragliche Nebenpflicht der Arbeitgeber*innen; auf ihre Erfüllung besteht ein Anspruch nach § 241 Abs. 2 Bürgerliches Gesetzbuch (BGB) (vgl. zu § 12 AGG v. Roetteken 2020: Rn. 34). Bei Verstößen gegen diese Pflicht können sich Schadenersatzansprüche aus § 280 Abs. 1 BGB ergeben. § 11 Abs. 2 AGG ist ein Schutzgesetz im Sinne des § 823 Abs. 2 BGB, sodass bei Verstoß auch deliktische Ansprüche entstehen können.

Aufgrund der Komplexität algorithmischer Systeme können Beschäftigte in der Regel keine Indizien vorlegen, die eine fehlende Prüfung des Systems nahelegten. Die Beweislast für die Einhaltung der Prüfpflicht des neuen § 11 Abs. 2 AGG sollten daher die Arbeitgeber* innen tragen. In Fällen, in denen Arbeitgeber*innen den Einsatz algorithmischer Systeme nicht offenlegen, greift die Beweiserleichterungsregel des § 22 AGG zugunsten der Beschäftigten. Hinsichtlich der Einhaltung der Prüfpflicht liegt auch in diesen Fällen die Beweislast bei den Arbeitgeber*innen.

Für die Abwägung des Für und Wider des Einsatzes eines algorithmischen Systems innerhalb eines Betriebes empfiehlt die Sachverständigenkommission, auf Prüfleitfäden zurückzugreifen (beispielsweise in Anlehnung an Stiller et al. 2020 sowie Algorithmwatch 2020) und externe Expert*innen heranzuziehen.

Algorithmische Systeme müssen kontinuierlich, d. h. mindestens einmal jährlich, überprüft werden. Um eine solche systematische Überprüfung sicherzustellen, bietet sich die Entwicklung innerbetrieblicher Prüfleitfäden an, die Diskriminierungspotenziale kritisch in den Blick nehmen. Diese Überprüfung muss in paritätisch besetzten innerbetrieblichen Kommissionen/ Gremien/Ausschüssen erfolgen, denen neben dem (Personal-)Management die Beschäftigten bzw. deren Interessenvertretungen angehören; zu empfehlen ist ein beratender Beistand durch Expert*innen.

Zudem ist beim Einsatz algorithmisch gestützter Entscheidungsverfahren ein*e betriebliche*r Datenschutzbeauftragte* r zu bestellen. Soweit vorhanden, ist die*der Gleichstellungsbeauftragte in die Entwicklung des algorithmisch gestützten Verfahrens einzubeziehen.