Streit um Facebooks automatisierte Chat-Überwachung

Im Laufe der letzten Tage wurde publik, dass Facebook die Kommunikation der Nutzer automatisiert überwachen lässt. Das soziale Netzwerk will auf diesem Weg präventiv gegen sexuelle Übergriffe vorgehen, bei Datenschützern ruft dieses Instrument aber deutliche Kritik hervor – und selbst Facebook ist sich der Brisanz bewusst.

Gegenüber der Nachrichtenagentur Reuters erklärt Chief Security Officer Joe Sullivan, wie die Überwachung von Beiträgen und Chats abläuft. Demnach wird die private Kommunikation nach Schlüsselbegriffen durchsucht, die Analyse dann erfolgt mittels bekannter Chat-Protokolle, die sexuellen Übergriffen vorausgegangen sind. Hinzu kommen Angaben zu den Personen wie etwa das Alter sowie die Beziehungen untereinander. Schlagen die Facebook-Algorithmen Alarm, erhalten Mitarbeiter von Facebook eine Meldung. Diese entscheiden dann, ob die Chat-Auswertung an Ermittlungsbehörden weitergeleitet wird.

Als erfolgreiches Beispiel für das System wird der Fall eines 13-jährigen Mädchen aus Florida zitiert. Ein Mann Anfang 30 chattete mit ihr über Sex und wollte sich mit ihr treffen. Facebook-Mitarbeiter gaben die Chat-Protokolle an die Polizeibehörden weiter, diese nahmen den Mann daraufhin fest. Allerdings scheint es fragwürdig, ob der Fall eher die Regel oder eine Ausnahme darstellt. Die Ermittlungsbehörden zeigen sich zwar grundsätzlich zufrieden mit dem Ansatz, allerdings ist ihnen der Algorithmus noch zu ungenau. Nach Aussage eines Ermittlers liege die Erkennungsquote nur bei zehn Prozent der potentiellen Straftaten.

Bei Facebook bereitet aber schon das derzeitige Verfahren Sorgen. Auf der einen Seite will das soziale Netzwerk mit den Ermittlungsbehörden kooperieren, insbesondere unter dem Gesichtspunkt, dass das Angebot für Jugendliche attraktiver gestaltet werden soll. Allerdings will man nach Aussage von Sullivan kein Umfeld schaffen, in dem Mitarbeiter des Unternehmens Einblicke in die private Kommunikation der Nutzer haben. Die niedrige Erkennungsrate hänge mit dem Versuch zusammen, irrtümliche Verdächtigungen zu vermeiden – so hat das Unternehmen etwa vorwiegend ein Auge auf Unterhaltungen von Personen, die sich nach Sichtweise von Facebook nicht persönlich kennen.

Unzulänglichkeiten der systematischen Überwachung

Neben dem automatisierten Überwachungssystem verfolgt Facebook noch weitere Ansätze, um Jugendliche zu schützen. So können Minderjährige etwa nicht über die öffentliche Suche gefunden werden oder Nachrichten von Fremden erhalten. Allerdings können minderjährige Nutzer einfach ein falsches Alter eingeben, womit die Schutzmechanismen in der öffentlichen Kommunikation umgangen werden und Beeinträchtigungen für das Überwachungssystem entstehen. Es zeigen sich also deutliche Schwierigkeiten, trotz vollständiger Kommunikationsüberwachung die Sicherheit der Nutzer zu erhöhen.

Davon abgesehen geht der Reuters-Artikel nicht darauf ein, ob Facebook die Algorithmen noch für andere Zwecke einsetzt oder das zukünftig plant. Inwieweit die Maßnahmen in Deutschland umgesetzt werden, ist indes nicht genau bekannt. Jedoch bestätigte das Unternehmen nach einer Anfrage der Süddeutschen, dass Facebook auch hierzulande „proaktiv“ mit Ermittlungsbehörden zusammenarbeite, wenn es von tatsächlichen oder vermeintlichen Straftaten erfahre.

Bei Datenschützern und Bürgerrechtlern stößt solch ein umfassendes Überwachungssystem erwartungsgemäß auf Widerstand. So fordert Sascha Lobo in seiner Kolumne auf Spiegel Online die Einführung eines Telemediengeheimnisses, sozusagen das digitale Briefgeheimnis im 21. Jahrhundert. Dass Facebook per Algorithmen die Chats der Nutzer überwachen lässt, empfindet er als Katastrophe. Zwar sei die Frage nach der Sicherheit der Nutzer berechtigt und müsse beantwortet werden, doch „heimliche Totalüberwachung“ könne nicht die Antwort sein.

Der Anwalt Thomas Stadler geht in seinem Blog Internet Law auf den Vorschlag ein und argumentiert, dass es mit dem Fernmeldegeheimnis bereits ein entsprechendes Gesetz gibt. Diesem unterliegen Telekommunikationsanbieter wie Facebook mit dem hauseigenen Chat-System. Problematisch ist also nicht ein fehlendes Gesetz in Deutschland oder Europa, sondern ein „Vollzugsdefizit“ – vor allem gegenüber US-Anbietern.