Analyse: Privatsphäre im Zeitalter von Big Data

Amazon Echo: Intelligente Systeme und das Vertrauen der Nutzer

Denn die sind immer noch führend, wenn es um die Entwicklung neuer Systeme geht. Amazon hat mit dem intelligenten Echo-Lautsprechersystem etwa den Archetyp der neuen Always-On-Assistenten auf den Markt gebracht. Auf Zuruf erwacht das Gerät und wartet auf Befehle. Wobei lokal nur die Aktivierungswörter am Anfang eines Befehles verarbeitet werden, der restliche Teil wird in die Amazon Cloud geschickt, verarbeitet und gespeichert. Man kann so einen Wecker stellen, sich den Kontostand ansagen lassen, die Musikwiedergabe steuern oder eine Einkaufsliste verwalten. Mit Erweiterungen kann sogar das eigene Automobil aus der Ferne abgeschlossen werden – sofern es ein ausreichend neuer BMW ist.

All das ist praktisch, komfortfördernd und an eine ansprechende optische Erscheinung hat man bei Amazon zum Glück auch gedacht. Der Haken ist nur: Was aufgenommen wird und was nicht, wie das Aufgenommene gespeichert und wofür es genutzt wird, da vertraut man am Ende den Versprechen des Herstellers.

Der Paranoia sind dann Tür und Tor geöffnet: Man stelle sich nur vor, dass Freunde zu Besuch gekommen sind und nach mehreren Gläsern entwickelt sich eine politische Diskussion, in der auch das eine oder andere Schmähwort gegenüber Parteien und öffentlichen Personen fällt. Daneben sitzt unscheinbar ein Gerät auf der Kommode, theoretisch fähig alles Gesagte im selben Moment an einem fernen unzugänglichen Ort abzuspeichern. Ob solch ein Gespräch genauso offen und unverzagt verliefe, wenn die Teilnehmer sich dessen bewusst sind, muss jeder für sich selber beantworten – Chilling Effect ist hier das Stichwort.

Letztlich zeigt dieses Beispiel jedenfalls die grundsätzliche Problematik hinter den Always-On-Assistenten auf. Konzeptionsbedingt befinden sie sich in unmittelbarer Nähe ihrer Nutzer. Persönlichste Momente, die vor zehn Jahren nur durch einen seltenen Zufall oder durch richterliche Anordnung aus den eigenen vier Wänden dringen hätten können, können nun dauerhaft und regelmäßig aufgezeichnet und andernorts gespeichert werden. Einfach, per Aufstellen und Anstecken des Gerätes, sozusagen. Vielleicht sogar durch fälschlich als Aktivierungsbefehle identifizierte Wortfolgen unbewusst ausgelöst – die Mikrophone hören lokal ja schließlich fast immer mit.

Daten wecken Begehrlichkeiten

Diese unmittelbare Nähe zum Nutzer gibt den gewonnenen Daten in der Regel besondere Qualität. Genau diese ist für die Dreifaltigkeit von Staaten, Unternehmen und Hackern ein interessantes Angriffsziel. Eine Regierung kann den Zugang schlicht per Gesetz anordnen, was kein Hirngespinst ist: In den USA hat eine Polizeibehörde bereits im Rahmen einer Mordermittlung versucht, Amazon mit einem Gerichtsbeschluss zur Herausgabe von Echo-Daten zu zwingen. Die Ermittler hofften, dass die Lautsprecher etwas aufgezeichnet haben, was den Verdächtigen überführen könnte. Ebenso interessant waren für die Ermittler die Smart-Home-Geräte, weil die in der Nacht des Mordes einen erhöhten Wasserverbrauch in der Wohnung des verdächtigen registriert haben.

Erfolg hatten die Ermittler beim eigentlichen Vorhaben aber nicht. Amazon erklärte umgehend, dass man zwar verfügbare Kundendaten übermittelt habe. Das Echo-System wäre aber keine Hilfe, da Daten erst mit dem Aktivierungsbegriff aufgezeichnet und an die Cloud verschickt werden. Was das Unternehmen betonen will: Die Lautsprechersystem sind nur ein Alltagshelfer und eben keine Wanze in der Wohnung der Kunden.

Selbst wenn das bei Amazon Echo zutrifft, verdeutlicht der Fall im Kern aber das entscheidende Problem: Wenn es um den Datenschutz geht, sind Kunden derzeit noch darauf angewiesen, den Versprechen der Unternehmen zu vertrauen. Und dass Unternehmen nicht immer ihren Versprechungen und selbst auferlegten Richtlinien zum Schutze des Kunden folgen, ist mittlerweile keine bahnbrechende Neuigkeit mehr. Und wenn in einem digitalen Assistenzsystem etwa Kontodaten involviert sind, sind Hacker erfahrungsgemäß auch nicht mehr weit.

Wenn man solch ein Gerät nicht regelmäßig vom Stromnetz abstecken möchte, müssen Nutzer bei der Abwehr all dieser Szenarien derzeit auf zwei Dinge vertrauen: die Qualität der – in aller Regel proprietären – Software des Gerätes und die Datenschutzversprechen des jeweiligen Herstellers. Bei Ersterem stehen Nutzer vor dem Problem, dass man die Software weder einfach überprüfen, geschweige denn ihr beim Arbeiten zusehen kann – so banal das klingen mag. Bei Zweiterem hängen Speicherungsart, -dauer und die Art der Verwendung von der Bereitschaft des Herstellers ab, sich an etwa firmeneigene Vorgaben zu halten. Nicht nur die jüngere Vergangenheit mit ihrer Neigung zu immer größeren Zugriffsbefugnissen für staatliche Behörden und dem ökonomischen Anreiz für Unternehmen, mit Daten Geld zu verdienen, legt den Schluss nahe, dass hier Vertrauen nicht ausreichend ist.

Dazu kommt ein weiterer Umstand: Staatliche Überwachungsmaßnahmen innerhalb der Wohnung eines Verdächtigen bedarf in der Regel einer – grundrechtsbedingten – richterlichen Bewilligung. Durch Always-On-Geräte müsste die Exekutive hingegen gar nicht in die grundrechtlich geschützten Privaträume eindringen, sondern könnte sich bei den existierenden Datenbanken des Herstellers bedienen oder womöglich gar das Gerät aus der Entfernung aktivieren und in Echtzeit mitlauschen. Konkrete für solche Szenarien existierende Regelungen bestehen derzeit nicht.

Mehr Kontrolle für die Nutzer

Um diese Regelungs- und Privatsphärenlücken zu beheben, hat die American Civil Liberties Union (ACLU) umfassende Vorschläge formuliert, die im Kern mit den Vorgaben aus den europäischen Datenschutzgesetzen übereinstimmen.

• Hersteller sollten die Sammlung unwichtiger Daten minimieren und solche unwesentlichen Datensätze unverzüglich löschen.
• Nutzern muss unmissverständlich klar gemacht werden, was mit ihren Daten geschieht, ein komplexes Verstecken dieser Information in der EULA ist nicht ausreichend.
• Nutzern muss die Möglichkeit offenstehen, alle gespeicherten Daten selbst löschen zu können.
• Hersteller sollten am Mikrofon eine nicht über Software ansteuerbare, gut sichtbare LED als Aufnahmeindikator installieren müssen.
• Hersteller sollten einen nicht über Software ansteuerbaren Schalter verbauen, der gut erkennbar das Gerät physikalisch vom Stromnetz trennt.
• Die Software des Always-On-Assistenten sollte möglichst umfassend öffentlich überprüfbar sein, um Transparenz über die Fähigkeiten des Gerätes zu schaffen.
• Eine Fernaktivierung der Aufnahmefunktion sollte aufgrund der großen Eingriffstiefe nur in Ausnahmefällen möglich sein. Darüber hinaus sollte diese Funktion dauerhaft deaktivierbar sein und das Gerät einen Warnhinweis tragen müssen.

Darüber hinaus schlägt die ACLU vor, konkrete Regelungen zur Updatepolitik vorzunehmen. Etwa im Falle eines Strategiewechsels innerhalb eines Herstellerunternehmens oder auch eines Konkurses könnten Geräte nicht mehr mit Sicherheitsupdates versorgt und so zur potenziellen Gefahr für die Privatsphäre werden. Langfristig sei ohnehin die Speicherung der Spracherkennungssoftware am Gerät selbst eine ideale Lösung. Derzeit ist das aufgrund der benötigten großen Rechenleistung aber nicht machbar.

Nun ist natürlich zu erwähnen, dass etwa Amazons Echo über einen Mute-Button verfügt, der laut Hersteller hartverdrahtet ist und die lokal nach den Signalwörtern lauschenden Mikrofone deaktiviert. Gesetzlich vorgeschrieben ist das allerdings nicht, eine neue Version könnte theoretisch dieses Feature ersatzlos verlieren. Dies ist im Grunde auch für sonstige vernetzte Geräte nicht anders.