Schutz vor algorithmischer Diskriminierung

Um die mit der Nutzung von Algorithmen einhergehenden Diskriminierungsrisiken zu vermeiden, bedarf es eindeutiger rechtlicher Pflichten. Dazu gehört, die „algorithmische Aufgabenverteilung in der Plattformarbeit“ in die Positivliste der Vorgänge nach Art. 35 Abs. 4 Datenschutz-Grundverordnung (DSGVO) aufzunehmen, für die eine Datenschutzfolgeabschätzung durchzuführen ist. Zudem ist die Datenschutzfolgenabschätzung inhaltlich um Diskriminierungsrisiken zu erweitern (vgl. Art. 35 Abs. 7 DSGVO). Die zuständigen Aufsichtsbehörden sollten Plattformen auf die Einbeziehung von Diskriminierungsrisiken als Teil der Folgenabschätzung nach Art. 35 DSGVO hinweisen.

Plattformarbeit ist durch einen hohen Grad an Informationsasymmetrie zwischen Plattformbetreibenden und -arbeitenden geprägt; daher wird eine Beweislastumkehr für den Fall der Diskriminierung durch Algorithmen im Arbeitsbereich vorgeschlagen, wenn die Algorithmen nur für die Plattform selbst einsehbar sind. In § 22 AGG sollte aufgenommen werden, dass Plattformbetreibende die Beweislast dafür tragen, dass sie beim Einsatz algorithmischer Systeme nicht gegen die Bestimmungen des AGG zum Schutz vor Benachteiligungen verstoßen.

Datenschutzrechtliche Auskunftsansprüche (insbesondere Art. 15 DSGVO) sind für den Einsatz algorithmischer Systeme in der Plattformarbeit zu konkretisieren. Es sind Informations- und Offenlegungspflichten zu schaffen, sodass betroffene Personen umfassend über den Einsatz algorithmischer Systeme und deren Funktionsweise informiert werden.

Daten, aus denen die sexuelle Orientierung oder das Geschlecht hervorgehen, sollten im Arbeitskontext wie die besonderen Datenkategorien im Sinne des Art. 9 DSGVO besonders geschützt sein. Die Verarbeitung dieser Daten sollte grundsätzlich untersagt und nur in gesetzlich geregelten Ausnahmefällen zulässig sein (vgl. Systematik des Art. 9 DSGVO). Eine solche Regelung würde nicht zuletzt dafür sensibilisieren, dass Geschlecht kein relevantes oder legitimes Kriterium zur Beurteilung der Arbeitsleistung von Menschen ist. Ausnahmeregelungen können ausreichend Raum schaffen, um berechtigten Interessen an der Verarbeitung der Daten, aus denen die sexuelle Orientierung oder das Geschlecht hervorgehen, nachzukommen. Ein berechtigtes Interesse besteht insbesondere, wenn bestehende und strukturelle Nachteile durch geschlechtsspezifische Fördermaßnahmen ausgeglichen werden sollen (§ 5 AGG).