Umfassende Kontrolle algorithmischer Systeme sicherstellen

Aufgrund der Vielfalt möglicher Ursachen diskriminierender und unerwünschter Effekte des Einsatzes algorithmischer Systeme sind umfassende Kontrollen erforderlich. Um Diskriminierungen insbesondere im Zusammenhang mit Profilbildung und Überwachung zu vermeiden, müssen die Datenbasis eines algorithmischen Systems (Inputkontrolle), deren Auswertung durch Algorithmen (Algorithmenkontrolle) sowie die darauf aufbauende Entscheidung des algorithmischen Systems (Outputkontrolle) kontrolliert werden. Die Kontrolle ist unabhängig davon, ob staatliche oder private Akteur*innen das Entscheidungssystem einsetzen, sicherzustellen.