12.1 KI, Biometrie & neue Bedrohungen

Künstliche Intelligenz verändert den Datenschutz grundlegend — nicht weil sie Regeln bricht, sondern weil sie bisher unvorstellbare Fähigkeiten in die Hände von Unternehmen, Behörden und Einzelpersonen legt. Die Herausforderungen, die dadurch entstehen, sind keine fernen Zukunftsszenarien. Sie sind bereits Realität.

Gesichtserkennung: Clearview AI als Fallbeispiel

Das US-Unternehmen Clearview AI hat ohne Einwilligung der Betroffenen über 30 Milliarden Fotos aus sozialen Netzwerken, Nachrichtenwebseiten und öffentlichen Quellen gescraped und daraus eine Gesichtserkennungsdatenbank aufgebaut. Diese wurde an Strafverfolgungsbehörden in den USA, Kanada und mehreren europäischen Ländern verkauft. Aufsichtsbehörden in Deutschland, Frankreich, Italien und Griechenland verhängten Bußgelder und untersagten die Datenverarbeitung — doch die Bilder bleiben gespeichert. Clearview AI zeigt exemplarisch, wie biometrische Massenüberwachung ohne demokratische Kontrolle entstehen kann.

Algorithmische Vorurteile: die Gender-Shades-Studie

Die Informatikerin Joy Buolamwini wies in ihrer Gender-Shades-Studie (2018) nach, dass führende Gesichtserkennungssysteme bei der Klassifizierung von Frauen mit dunkler Hautfarbe eine Fehlerquote von bis zu 34,7 % aufwiesen — gegenüber weniger als 1 % bei hellhäutigen Männern. Wer von fehlerhafter KI fälschlicherweise verdächtigt, abgelehnt oder überwacht wird, erleidet realen Schaden. Algorithmische Fehler sind kein technisches Randproblem — sie sind eine Gerechtigkeitsfrage.

Weitere biometrische Bedrohungen

Neben Gesichtserkennung entwickeln sich Emotionserkennung (Analyse von Mimik, Stimme und Körperhaltung zur Ableitung psychischer Zustände) und Ganganalyse (Identifikation von Personen anhand ihrer Bewegungsweise ohne Kamerakontakt) zu ernstzunehmenden Überwachungswerkzeugen. In China sind solche Systeme bereits im öffentlichen Raum im Einsatz.

Das Kernproblem biometrischer Daten

Biometrische Merkmale — Fingerabdruck, Iris, Gesicht, Stimme, Gang — sind unveränderbar. Ein kompromittiertes Passwort kann zurückgesetzt werden; ein geleaktes Gesichtsprofil bleibt ein Leben lang ein Risiko. Dieses grundlegende Asymmetrieproblem macht biometrische Daten zur sensibelsten Datenkategorie überhaupt.

Vorhersagendes Profiling und Gehirn-Computer-Schnittstellen

KI-basiertes Profiling ermöglicht es, aus harmlosen Verhaltensdaten (Tippgeschwindigkeit, Scrollverhalten, Kaufmuster) psychologische Eigenschaften, politische Einstellungen und Gesundheitszustände vorherzusagen. Am Horizont stehen Gehirn-Computer-Schnittstellen (BCIs) wie die von Neuralink — Geräte, die direkt mit dem Nervensystem interagieren und eines Tages Gedanken lesen könnten. Die datenschutzrechtliche Regulierung hinkt dieser Entwicklung noch weit hinterher.

Der EU AI Act (2024)

Die EU reagiert mit dem weltweit ersten umfassenden KI-Regulierungsrahmen. Der EU AI Act verbietet bestimmte KI-Praktiken vollständig, darunter die Echtzeit-biometrische Fernidentifikation im öffentlichen Raum durch Strafverfolgungsbehörden (mit engen Ausnahmen) und KI-Systeme zur Einschätzung des Kriminalitätsrisikos allein auf Basis personenbezogener Merkmale. Hochrisiko-KI-Systeme — etwa in Bildung, Beschäftigung oder kritischer Infrastruktur — unterliegen strengen Anforderungen an Transparenz, Genauigkeit und menschliche Aufsicht.

Für eine vertiefende Analyse KI-gesteuerter Beeinflussung empfehlen wir Kritisches Denken: Die Grundlagen.

Ihr wichtigster Gedanke

Die KI-Revolution verlangt keine passive Akzeptanz. Regulierung, informierte Öffentlichkeit und kritische Nutzerinnen und Nutzer sind die wirksamsten Gegenkräfte zu unkontrollierter biometrischer Überwachung.