Softwaresysteme einer Risikoprüfung unterziehen

Die Sachverständigenkommission schließt sich den Empfehlungen der Datenethikkommission für eine unabhängige Risikoprüfung von Softwaresystemen mit ihren fünf Kritikalitätsstufen an (vgl. Datenethikkommission der Bundesregierung 2019: 177 ff. und 183 f., Handlungsempfehlungen 39–42). Eine Einstufung bestimmter algorithmischer Systeme in die höchste Kritikalitätsstufe („Anwendungen mit unvertretbarem Schädigungspotenzial“, Datenethikkommission der Bundesregierung 2019: 177) ist besonders im Bereich der Personalauswahlverfahren nicht auszuschließen, sodass ggf. auch deren Verbot angeraten sein kann. Diese unabhängige Risikoprüfung kann beispielsweise von den Aufsichtsbehörden mit zusätzlichen Kapazitäten durchgeführt werden; aber auch andere öffentliche Einrichtungen kommen in Betracht.