„Daiquiri“ = „Hey Siri“

Smart Speaker sind praktisch und erfreuen sich trotz datenschutzrechtlicher Kritik zunehmender Beliebtheit. Alexa, Siri oder der Google Assistant kümmern sich um die Musikwiedergabe, stellen den Wecker, schalten den Fernseher ein und erleichtern den Alltag. Das gesamte Smart Home kann über Sprachkommandos gesteuert werden, ohne dass man einen einzigen Finger rühren muss. Die Sprachassistenten werden dabei erst aktiv, wenn entsprechende Signalwörter wie „Hey Siri“, „Ok Google“, „Alexa“ oder „Amazon“ fallen. Doch was passiert, wenn Alexa, Siri und Co. sich „verhören“?

Ein Experiment

In einem Experiment testeten Forscherinnen und Forscher der Ruhr-Universität Bochum (RUB) und des Bochumer Max-Planck-Instituts (MPI) für Cybersicherheit und Schutz der Privatsphäre elf Smart Speaker von acht Anbietern auf fehlinterpretierte Triggerworte. Dazu wurden den Lautsprechern TV-Serien wie „Game of Thrones“, „Das Traumschiff“ und „Die Simpsons“, Nachrichtensendungen sowie professionelle Audio-Datensätze, die zum Training von Sprachassistenten verwendet werden, vorgespielt. Getestet wurden die marktführenden Anbieter Amazon (Alexa), Apple (Siri), Google (Assistant), Microsoft (Cortana), die Deutsche Telekom (Houndify) sowie die chinesischen Smart Speaker Xiaomi (Xiao Al), Baidu (DuerOS) und Tencent (Xiaowei).

Die Auswertung der Begriffe, welche die einzelnen Sprachassistenten fälschlicherweise getriggert hatten, war für die Forscherinnen und Forscher vermutlich amüsant und erschreckend zugleich. Als bei der englischsprachigen Audioausgabe von Game of Thrones „a letter“ erwähnt wurde, aktivierte sich Alexa. Der getestete Echo Dot von Amazon fühlte sich auch bei der Wettervorhersage „am Sonntag“ („Amazon“) und bei einfachen Aussagen wie „Ich schon“ („Echo“) angesprochen. Als im „Traumschiff“ eine Runde „Daiquiri“ bestellt wurde, verstand Apples Gerät „Hey Siri“. Der Google Assistent reagierte, als beim Tatort „Habt ihr die Kugel?“ („Ok Google“) gefragt wurde. „Botswana“ und „Montana“ aktivierten „Cortana“.

180 Mal in nur 7 Tagen aktivierten deutschsprachige Sendungen die „Smart“ Speaker, obwohl kein einziges Mal das jeweilige Signalwort fiel. Sobald die Geräte durch den vermeintlichen Sprachbefehl aktiviert werden, wird die Audiosequenz aufgenommen und in die jeweilige Cloud des Anbieters hochgeladen. Um die Sprachassistenz zu optimieren, transkribieren die Mitarbeiter der Großkonzerne die Audioaufnahmen und werten diese aus. Kritik findet sich vor allem in der versehentlichen Aufzeichnung von privaten, vertraulichen Gesprächen, deren Aufnahme von den Betroffenen in vielen Fällen nicht einmal bemerkt wird.

Der Hamburgische Datenschutzbeauftragte für Datenschutz und Informationssicherheit Johannes Caspar sprach sich in einem Interview mit dem Ersten für deutlich mehr Transparenz bei den Sprachaufzeichnungen aus. (Tagesschau Sendung vom 30.06.2020, 17:00 Uhr)

Im April 2020 äußerten Alina Feustel von der Hamburgischen Datenschutzaufsichtsbehörde und Kerstin Schröter von dem Landesinstitut für Lehrerbildung und Schulentwicklung in einem Themenblatt Medienphänomene ihre Bedenken. Sie erwähnten neben der Kritik zur Aufzeichnung von privaten Gesprächen aufgrund fehlerhafter Aktivierung auch die unautorisierten Massenbestellungen sowie die Wiedergabe von Geschlechtervorurteilen. Die beliebten Sprachassistenten hätten vorwiegend weibliche Stimmen, welche geduldig, hilfsbereit und kommentarlos die Befehle befolgten.

Inakzeptabel ist aus datenschutzrechtlicher Sicht in jedem Fall die intransparente Auswertung intimer Gespräche und sensibler personenbezogener Informationen. Interessanterweise reagierte Alexa auch bei dem Wort „unacceptable“. Es wäre wünschenswert, dass künftig nicht nur die Sprachassistenten, sondern auch ihre Hersteller dazu lernen und eine datenschutzfreundliche Lösung für die Optimierung der Geräte gefunden wird.

Das Experiment der Forscherinnen und Forscher kann hier verfolgt werden: https://unacceptable-privacy.github.io/

Das Themenblatt Medienphänomene kann hier aufgerufen werden: https://datenschutz-hamburg.de/assets/pdf/Themeblatt_Sprachassistenten_042020_Z7.pdf