Automatisierte Gesichtserkennung – ein Zauberwort und Heilsbringer für die Einen, Kontrollverlust und totale Überwachung für die Anderen. Unstrittig ist, dass immer mehr Systeme mit Gesichtserkennung eingesetzt werden. Auch die Bundesregierung würde gerne mehr davon einsetzen.

Doch nun könnte die EU-Kommission auf die Bremse treten. Pressemeldungen zur Folge (hier und hier), erwägt die Kommission einen mehrjährigen Aufschub für den Einsatz von Gesichtserkennungssystemen.

Weißbuch zum Einsatz von künstlicher Intelligenz

Derzeit erstellt die EU-Kommission ein Weißbuch zum Einsatz von künstlicher Intelligenz in Europa. In dem von EURACTIV eingesehen Entwurf wird unter anderem auf die potentiellen Gefahren und Probleme von künstlicher Intelligenz hingewiesen. Die Vorschläge zur Regulierung von KI-Systemen beinhalten explizit Vorgaben, die den Einsatz KI-basierter Gesichtserkennung betreffen.

Das Dokument verweist auf die DSGVO, wonach den Bürgern „das Recht geben [wird], nicht Gegenstand einer Entscheidung zu sein, die ausschließlich auf einer automatisierten Verarbeitung, einschließlich der Erstellung von Profilen, beruht“.

Im Entwurf der EU-Kommission wird ein Verbot automatisierter Gesichtserkennung für drei bis fünf Jahre erwogen. Innerhalb dieser Zeit sollte dann untersucht werden, welche Auswirkungen eine KI-basierte Gesichtserkennung hat und ein Risikomanagement für den Einsatz dieser Technologie entwickelt werden.

Das Weißbuch soll offenbar Ende Februar veröffentlicht werden. Sollte es so kommen, wären auch die Pläne Deutschlands, an 134 Bahnhöfen und 14 Flughäfen automatische Gesichtserkennungssysteme zukünftig einzusetzen gefährdet.

In anderen Ländern wie China oder den USA sind derartige Verfahren längst etabliert worden und fast nicht mehr aus dem Alltag wegzudenken.

Update 07.02.2020

Anscheinend hat die Europäische Kommission wieder Abstand genommen von der Idee, automatisierte Gesichtserkennung in öffentlichen Räumen zu untersagen. Netzpolitik.org liegt eigenen Angaben zu Folge ein neuer Entwurf  für das Weißbuch zur KI-Strategie vor, in dem Passagen zum Verbot bzw. zu einem Moratorium automatisierter Gesichtserkennung fehlen.

| | | , , , , ,