Geschlecht und Intersektionalität in datengetriebenen Systemen berücksichtigen

Die Verpflichtung auf diskriminierungsfreie Einsätze algorithmischer Systeme obliegt nicht allein jenen, die sie anwenden, sondern auch jenen, die sie entwickeln oder beauftragen. Für die Entwicklung datenintensiver algorithmischer Systeme und Technologien des Maschinellen Lernens empfiehlt die Sachverständigenkommission der Bundesregierung, relevante Akteur*innen wie Auftraggeber*innen und Entwickler*innen zusammenzubringen und für mögliche diskriminierende Auswirkungen von IT zu sensibilisieren, beispielsweise in Form von Kampagnen, Workshops, Denkwerkstätten, Seminaren oder Hackathons. Hierzu müssen Akteur*innen aus verschiedenen Feldern, unter anderem aus den Rechtswissenschaften, dem Gleichstellungsbereich und aus Softwarefirmen, zusammenwirken.

Zudem empfiehlt die Sachverständigenkommission erstens die Diversifizierung von Datensets bezüglich Personengruppen und Kontexten; zweitens gilt es im Zuge dessen für die unterschiedlichen Effekte zu sensibilisieren, die Datenerhebungen, Sichtbarkeit und Klassifizierungen für Menschen mit Diskriminierungsrisiko mit sich bringen.