Beschränkungen hochriskanter Technologien prüfen

Bei Technologien, die insbesondere für vulnerable und marginalisierte Personen hochriskante Folgen nach sich ziehen können, muss ein Einsatzverbot erwogen werden. Liegen einer Technologie beispielsweise Ideen zugrunde, die Werte wie Geschlechtergerechtigkeit und Diskriminierungsfreiheit gefährden, können technische Verbesserungen allein die negativen gesellschaftlichen Folgen nicht abfangen.

Dies lässt sich mit dem oben beschriebenen Beispiel der Biometrie illustrieren (siehe Abschnitt B.I.1.1 im Dritten Gleichstellungsbericht). Mithilfe biometrischer Systeme wird hinsichtlich der Identität einer Person eine feststehende Entscheidung getroffen, inklusive beispielsweise Alter, Geschlecht und Hautfarbe. Ein solcher Zweck tritt zwangsläufig in Widerspruch zur Maskerade, zu queerer Sexualität oder einer nicht (allein) an den Körper gekoppelten Identität. Zwar gibt es auch für Biometriesysteme Industrienormen zur Abwägung relevanter juristischer und gesellschaftlicher Fragen; sie haben aber nur Empfehlungscharakter und dienen vor allem der Akzeptanzsteigerung biometrischer Überwachungstechnologien.

Neben hohen datenschutzrechtlichen Hürden für den Einsatz biometrischer Systeme empfiehlt die Sachverständigenkommission, ein Verbot biometrischer Gesichtserkennung im Rahmen öffentlicher Überwachung zu prüfen. Zu empfehlen ist hierfür die Analyse und der Vergleich alternativer Regulierungsansätze weltweit, um biometrische Überwachungstechnologien zu beschränken und eine nationale und europäische Begrenzung gefährlicher digitaler Technologien umzusetzen.