Biometrische Suchmaschinen für alle erschaffen eine Welt, in der niemand unerkannt bleibt. Ein Schnappschuss genügt, um eine fremde Person zu identifizieren. Jetzt ist ein Verbot solcher Gesichter-Suchmaschinen in greifbarer Nähe. Anlass ist das KI-Gesetz der Europäischen Union, auch bekannt als AI Act, über das derzeit Kommission, Rat und Parlament im Trilog verhandeln.
Bei einer Gesichter-Suchmaschine können Nutzer*innen das Foto einer beliebigen Person hochladen und bekommen als Suchergebnis die Orte im Netz gezeigt, an denen ähnliche Gesichter auftauchen. Möglicherweise auch das Gesicht der Zielperson. Damit lässt sich häufig herausfinden, wie die Zielperson heißt, wo sie arbeitet, mit wem sie befreundet ist. Das macht Gesichter-Suchmaschinen zur Bedrohung für Menschen, die zu ihrem eigenen Schutz auf Anonymität angewiesen sind – ob als Aktivist*in auf einer Demo, als Frau im Nachtbus oder als queere Person in einer queerfeindlichen Umgebung.
Im Jahr 2020 haben wir erstmals über die Gefahren dieser Technologie berichtet. Bei einem Testlauf konnten wir 93 von 94 Bundestagsabgeordneten korrekt identifizieren. In der Folge forderten etwa die SPD-Vorsitzende Saskia Esken und die großen Polizei-Gewerkschaften besseren Schutz vor biometrischer Gesichtserkennung. Die Datenschutzaufsicht Baden-Württemberg leitete ein Verfahren gegen PimEyes ein. Die Betreiber der Seite flohen aus der EU, zunächst auf die Seychellen, dann nach Belize.
Der Vorstoß für ein Verbot von Gesichter-Suchmaschinen kam aus dem EU-Parlament. Aus dem Englischen übersetzt heißt es im Änderungsantrag: Das wahllose Abgreifen biometrischer Daten für Gesichter-Datenbanken „verstärkt das Gefühl der Massenüberwachung und kann zu groben Verletzungen der Grundrechte führen, einschließlich des Rechts auf Privatsphäre“. Deshalb fordert das Parlament, niemand solle solche Gesichter-Datenbanken anbieten oder erstellen dürfen. Verboten sein soll demnach:
Das Inverkehrbringen, die Inbetriebnahme oder die Nutzung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen erstellen oder erweitern.
PimEyes ist nur eine von mehreren gratis im Netz verfügbaren Gesichter-Suchmaschinen. Weniger leicht zugänglich ist ein ähnlicher Dienst der Firma Clearview AI, die ihre Suchmaschine an Behörden und Unternehmen vermarktet.
„Glasklar“ machen, dass Dienste gestoppt werden müssen
Das EU-Parlament zielt mit dem Verbot auf das Rückgrat von Gesichter-Suchmaschinen. Es sind die Datenbanken mit Abermillionen Gesichtern aus dem Netz, die Menschen identifizierbar machen. In den Datenbanken liegen nicht die Bilddateien selbst, sondern die biometrischen Daten, verknüpft mit den Fundorten im Netz. Lädt jemand ein neues Foto hoch, erfasst die Suchmaschine die biometrischen Daten der Zielperson und gleicht sie mit der Datenbank ab.
Schon jetzt bewegen sich solche Gesichter-Suchmaschinen rechtlich auf dünnem Eis. Die Datenschutz-Grundverordnung (DSGVO) verbietet es, biometrische Daten ohne explizite Einwilligung zu verarbeiten. Dennoch setzen Anbieter von Gesichter-Suchmaschinen ihre Geschäfte fort. Dafür gibt es mehrere Gründe. Einerseits betreiben die Anbieter juristische Winkelzüge und zögern ihre Reaktionen auf Briefe von Aufsichtsbehörden beharrlich hinaus. Andererseits können die regionalen Behörden gegen Unternehmen im Ausland wenig tun, um Rechte von Betroffenen durchzusetzen.
Ein Verbot im KI-Gesetz könnte Staaten im Vorgehen gegen Gesichter-Suchmaschinen stärken. Darauf hofft zum Beispiel die Organisation für Bürger:innenrechte EDRi (European Digital Rights). Aktuell würden Unternehmen ihre Gesichter-Suchmaschinen einfach betreiben und auf die langsamen Reaktionen der überarbeiteten Datenschutzbehörden warten, erklärt EDRi-Vertreterin Ella Jakubowska auf unsere Anfrage. Sie kritisiert auch den Flickenteppich der Datenschutzaufsicht: Einige würden sehr stark gegen Gesichter-Suchmaschinen vorgehen, andere gar nicht. Das von der EU geplante Verbot würde es Anbietern und Behörden allerdings „glasklar machen“, dass diese Dienste gestoppt werden müssen.
Selbst Polizei und Union sind für PimEyes-Verbot
Mehrere Abgeordnete des EU-Parlaments bestätigen auf Anfrage von netzpolitik.org, dass die Fälle PimEyes und Clearview AI den Anstoß zum geplanten Verbot von Gesichter-Suchmaschinen gegeben haben. „Genau diese Fälle waren der Grund“, schreibt etwa Patrick Breyer (Piraten). Der SPD-Abgeordnete Tiemo Wölken schreibt, PimEyes und Clearview AI hätten nachdrücklich bewiesen, wie gefährlich solche Suchmaschinen sind.
Zuspruch für das Verbot kommt auch aus einem politischen Lager, das Privatsphäre üblicherweise eher schwächt als stärkt: „Die Deutsche Polizeigewerkschaft (DPolG) sieht Gesichter-Suchmaschinen, die private Unternehmen als Software anbieten, nach wie vor kritisch und lehnt sie deshalb ab“, teilt eine Sprecherin auf Anfrage mit. Und der Europa-Abgeordnete Axel Voss (CDU) aus der christdemokratischen EVP-Fraktion schreibt:
Ich denke deshalb, und glaube, dass wir uns auch mit Kommission und Rat darin einig sind, dass wir die allgemeine und uneingeschränkte Nutzung von entsprechenden Bilddatenbanken mit Blick auf die eindeutige Verletzung der Bürger- und Menschenrechte rechtlich regulieren und damit entsprechende Gesichter-Suchmaschinen für den kommerziellen Gebrauch verbieten müssen.
Kurz gesagt: Sogar Union und Polizei wollen PimEyes verbieten. Ein entsprechendes Verbot im KI-Gesetz hält Voss für wirkungsvoll. Anders als die DSGVO lasse das KI-Gesetz bei Gesichter-Suchmaschinen „keinen Raum für divergierende Interpretationen“, so Voss. Den Anbietern würden hohe Geldbußen drohen.
Streit um Ausnahmen für die Ermittlungsbehörden
Ohne Streit wird dieses Verbot allerdings nicht durch den Trilog gehen. Denn Voss ergänzt: „Als EVP-Fraktion setzen wir uns nach wie vor für eine Ausnahme für die Strafverfolgung und die vorausschauende Polizeiarbeit ein“. Das heißt: Ja zum Verbot für Gesichter-Suchmaschinen – außer für die Polizei. Eine brisante Ausnahme, die etwa auch die DPolG befürwortet.
SPD-Digitalpolitiker Tiemo Wölken gibt zu bedenken: Gesichter-Suchmaschinen können bei den Sicherheitsbehörden in einigen Mitgliedstaten „Begehrlichkeiten“ wecken. „Wir werden hier, genau wie beim allgemeinen Verbot der Gesichtserkennung, sehen müssen, wo das Parlament und der Rat zusammenkommen können.“
„Der Mensch ist der Stalker, nicht die Suchmaschine“
Die Bürgerrechtler:innen von EDRi weisen mit Nachdruck darauf hin, wie problematisch der Einsatz biometrischer Gesichtserkennung durch Polizeibehörden ist. EDRi hatte ursprünglich auf einen viel strengeren Änderungsantrag aus dem Parlament gehofft. Er hätte pauschal den Einsatz biometrischer Daten für die Strafverfolgung verboten. „Traurigerweise hat er es nicht in den finalen Text des Parlaments geschafft“, schreibt Jakubowska.
Auch im vom EU-Parlament geforderten Verbot erkennt die Bürgerrechtlerin eine Lücke. Untersagt ist demnach nur das wahllose („untargeted“) Sammeln von Daten für eine Gesichter-Suchmaschine. Jakubowska hält es für sehr wahrscheinlich, dass Behörden diese Formulierung als Schlupfloch nutzen können. In anderen Worten: Behörden könnten Gründe konstruieren, um angeblich „gezielt“ nach Daten für eine Gesichter-Suchmaschine zu schürfen. In solchen und ähnlichen Überwachungsvorhaben von Regierungen sieht Jakubowska einen „konzertierten Angriff auf die Unschuldsvermutung“.
Gesichter-Suchmaschinen spielen nur eine Nebenrolle im KI-Gesetz, das sogenannte Künstliche Intelligenz umfassend regulieren soll. Ein großer Streitpunkt ist etwa der Einsatz von biometrischer Echtzeit-Überwachung. Weitere große Probleme drehen sich etwa um den Einsatz von KI an den EU-Außengrenzen. Bis Ende des Jahres könnte sich die EU auf den finalen Text des Gesetzes einigen.
