News Offener Brief: Bürgerrechtler kritisieren Apples Überwachungspläne

[Andy]

Der Protest gegen Apples Überwachungspläne geht weiter. Mehr als 90 Bürgerrechtsorganisationen fordern in einem offenen Brief, der Konzern dürfe nicht das System implementieren, um auf den Geräten der Nutzer nach kinderpornografischem Material zu suchen. Die Sorge: Die Überwachung könne ohne Weiteres ausgeweitet werden.

Zur News: Offener Brief: Bürgerrechtler kritisieren Apples Überwachungspläne

 

[PakMan]

Lt. diesem Video ist der Algorithmus schon seit Version 14.3 in iOS vohanden.

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[MasterMaso]

Bürgerrechtler, Journalisten, ITler und sogar Apples Angestellte kritisieren das Vorgehen.
Apple: Machen wir es trotzdem

 

[wern001]

Ich schätze das ganze läuft schon längst in der beta-phase bei einer Tochterfirma. Jetzt wo das dann zuverlässig läuft will man das den Leute schmackhaft machen.

 

[3125b]

Natürlich wird die Überwachung ausgeweitet, andere Annahmen wären doch sehr naiv.
Jetzt bin ich übrigens froh kein neues iPad gekauft zu haben, das will ich wirklich nicht unterstützen.

 

[dasbene]

Ich kann nicht nachvollziehen warum Apple so etwas dem Menschen antuen will.

Solange die Bilder nicht direkt verglichen werden ist es möglich Hashes oder Bildmarker von belibigen Bildern unterzuschieben.
Da kann die Chinesische "Behörde für Schutz von Kindern" (oder was auch immer) Bilder vom Tiananmen Square oder Winnie Pooh mit unter die CSAM mischen.

 

[silentdragon95]

Ich sehe das Vorgehen von Apple hier auch sehr kritisch. Es passt einfach nicht, dass Apple sich (bisher ja sogar sehr glaubwürdig) immer als Verteidiger der Datenselbstbestimmung darstellt und sich sogar geweigert hat, das iPhone eines Serienmörders für das FBI zu entsperren. Ich vermag nicht zu bewerten, welches Vergehen das schlimmere ist, aber es scheint eine eher willkürlich gezogene Linie zu sein.

Viel kritischer jedoch ist das Missbrauchspotenzial dieser Technologie. Wenn eine solche Überwachungstechnologie existiert, wird sie auch missbraucht werden - vielleicht nicht zwansläufig in Demokratien mit Meinungsfreiheit wie der unseren, aber ich denke da an Länder wie China, die sicherlich nicht davor zurückschrecken werden, das auch für politisch unerwünschte Inhalte zu verwenden. Zur Not wird Apple halt zur Kooperation gezwungen - es liegen ja heute bereits alle iCloud-Daten von Chinesischen Nutzern auf Servern in China, da ist das dann sicher auch kein großer Schritt mehr.

Und weil das Argument bestimmt kommt; "Ich mache nichts verbotenes, ich habe nichts zu verbergen" ist kein gutes Argument, weil das zwar heute zutreffen mag, aber die Vergangenheit hat leider immer wieder gezeigt dass sich das auch sehr schnell ändern kann.

 

[DirtyHarryOne]

Ist ja nicht so, das ich Zuhause meine Türe offen lasse und jeder Person die meine Sachen ansehen möchte, ohne mich zu Fragen, dies machen darf.

So was geht endgültig zu weit. Zudem darf doch Apple nicht auch noch Polizei spielen und entscheiden bei welcher Person was verdächtiges gefunden worden ist. Es braucht Grenzen. Apple oder sonst ein Unternehmen darf nicht Rechte wie die Legislative, Judikate oder Exekutive erhalten oder für sich aus dem nichts beanspruchen/erschaffen.
Das ganze kann auch nach hinten los gehen, indem Jemand fremdes oder durch Zugang als Beispiel terrorischtische Inhalte oder Kinderpornografie auf dem Telefon im Internet sucht oder zugeschickt bekommt und man sich somit unbewusst Strafbar macht oder gemacht wird...

Das ganze hat doch keine Zukunft. Da bin ich froh old school zu sein und kein Smartphone besitze.

#Kinderpornografie als Vorwand nutzen um alle Daten zu Scannen und wenn man Pech hat, werden alle Daten gespeichert.

 

[Penicillin]

Ich denke mal derartig Gestörte sind nicht so verrückt zu wissen, dass sie kriminell sind. Ich frage mich, ob das von denen auf dem iPhone dann auch noch in die Cloud hochgeladen wird?

Ich bezweifle es stark und teile die Meinung dieser Organisationen. Da gibt es sicherlich effektivere Maßnahmen diese Leute bzw. insbesondere die Urheber zur Rechenschaft zu ziehen und zwar ohne pauschal einen "Sniffer" auf hunderten Millionen Geräten der Bevölkerung zu installieren.

Es werden schließlich 99,9 % (?) der Menschen nicht pädophil sein? Mal abgesehen von Minderjährigen untereinander und ob die im Stile der Rechtssprechung gewisser Länder, dann "geflagged" oder gar verfolgt werden sollten, muss jeder Staat/Bürger für sich selbst bewerten, aber sicherlich nicht Apple.

Grundsätzlich muss der Aufbau von (teurer) technischer Infrastruktur zur Überwachung aber gerechtfertigt und vorallem finanziert werden, sei es durch den Steuerzahler oder - wie hier - den Kunden von Apple. Die Privatwirtschaft ist es vermutlich eher nicht. Zur Steigerung der Akzeptanz funktionieren die üblichen Argumente Kindesmissbrauch > Terrorismus > "Darknet" > Steuerhinterziehung/Glückspiel in dieser sortierten Reihenfolge natürlich am besten.

Ob diese Interessen tatsächlich mittelfristig die einzigen bleiben werden, kann vollkommen zurecht zumindest angezweifelt werden. Die Kritik an derartigen Entwicklungen ist daher völlig korrekt und wichtig, selbst wenn sie sich als fruchtlos herausstellen wird.

P.S.
Gott bzw. Google sei Dank sind Androidnutzer komplett befreit von jeglicher Form der Überwachung ;-)

 

[Tinpoint]

Jaja Apple der Datenschutzvorreiter numero uno

gibt da schönen alten Beitrag im fefe Blog

Habt ihr das auch gehört? Dass Apple jetzt Datenschutz-Vorreiter ist?
Und unsere Verschlüsselung gegen das fiese FBI verteidigt?

Und ich will jetzt nicht auf die naheliegende Theorie hinaus, dass Apple dem FBI nicht helfen wollte, weil sie einen Exklusivvertrag mit der NSA haben. Nein.

Ich will hierauf hinaus:

Apple had asked the F.B.I. to issue its application for the tool under seal. But the government made it public, prompting Mr. Cook to go into bunker mode to draft a response, according to people privy to the discussions, who spoke on condition of anonymity. The result was the letter that Mr. Cook signed on Tuesday, where he argued that it set a “dangerous precedent” for a company to be forced to build tools for the government that weaken security.

Apple hat das FBI gebeten, sie nicht-öffentlich nach der Backdoor zu fragen, und dann hätten sie sie auch ohne zu zucken eingebaut. Aber als das FBI dann aus internen Machtdemonstrationsgründen gegenüber den anderen Geheimdiensten und anderen Tech-Firmen einen auf dicke Hose machte und das öffentlich über einen richterlichen Beschluss machte, da hat Apple sich dann entschieden, lieber einen auf theatralischen offenen Brief zu machen.
Apple scheißt auf eure Privatsphäre. Außer man kann für die PR ausschlachten. Dann machen sie Rehaugen und zähneknirschen ein bisschen in die Kamera.

 

[Thaxll'ssillyia]

Die Technik die Apple für die Hashes anwendet scheint übrigens auch nicht besonders ausgereift zu sein:

https://blog.fefe.de/?ts=9fe22070
Originalquelle: https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1

In dem Fall sogar ein Preimage-Angriff. Gerade von Apple ist man da eher höhere Qualität gewohnt...

Ungeachtet dessen stellt sich natürlich die Frage warum Apple so eine aufwendige Variante mit Scannen des lokalen Gerätes durchführt, wenn die Daten doch eh alle unverschlüsselt auf der icloud liegen. Da könnten sie doch dort die Scans machen, wäre rechtlich auch einfacher umsetzbar.
Die angedachte Icloud Verschlüsselung wurde ja wohl wieder abgesagt, nachdem es da Interventionen gab (Quelle: https://www.reuters.com/article/us-apple-fbi-icloud-exclusive-idUSKBN1ZK1CT).

 

[Fakechaser]

So langsam beschleicht mich das Gefühl, dass Apple sich hier nur vor Regressansprüchen in Bezug auf Verbreitung von kinderpornografischem Material schützen will. Und wahrscheinlich auch gegen richterliche Anweisungen zur Entschlüsselung von iCloud-Konten.

Es wird nur gescannt, wenn sich die Fotos in der iCloud befinden, also in einem Datenzentrum von Apple.
Das potenziell mit illegalem Bildmaterial befüllte iPhone steht dem Täter also weiterhin zur Verfügung, um die Inhalte auf anderen Plattformen zu teilen.

Die Angst, dass solche Methoden am Ende auch in bestimmten Ländern auf politisch motiviertes Bildmaterial ausgeweitet werden könnten liegt tatsächlich nicht ganz fern.

Apple will den Nutzern damit also vielleicht nur „sagen“:
Es interessiert uns nicht, was für Fotos ihr habt und wie/wo ihr diese teilt.
Aber nicht in unserer iCloud.

Das würde tatsächlich zu dem konstruierten aber am Ende bigotten Saubermann-Image dieses Unternehmens passen.

 

[iWeaPonZ]

Das heißt mein zukünftiges iPhone prüft bald ständig meine iCloud Uploads ob ich Kinderpornos hochladen?

An sich hätte ich da nichts gegen, aber wer von den Tätern ist so dumm und würde dann seine Sammlung hochladen?
Bei mir kostet das ganze vermutlich nur Akkulaufzeit…
Mir erschließt sich der Nutzen noch nicht wirklich.

 

[Corros1on]

Apple und jeder andere Konzern hat kein Recht PRIVATE Daten (der Öffentlichkeit nicht zugänglich) in diesem Fall Bilder auf Legalität zu prüfen und schlussendlich zu verpfeifen.

Es ist schlicht und ergreifen nicht Apple Aufgabe bzw. darf es nie sein, den Moralwächter/-apostel bei den PRIVATEN Daten ihrer Kunden zu spielen.

 

[Lemiiker]

Wehret den Anfängen! Und morgen wird dann auf anti-gesellschaftliches Verhalten a la China's Social Creditsystem gesannt oder auf klimaschädliches Verhalten oder auf ungesunde Lebensweise, die dann deiner Krankenkasse gemeldet wird, damit deine Beiträge angepasst werden können. Oder auf...

Natürlich immer unter Maßgabe ja nur Gutes tun zu wollen. Alle unter Generalverdacht zu stellen, ist doch eine positive Entwicklung.

 

[h3@d1355_h0r53]

Ich frage mich inwieweit hier die DSGVO anwendbar ist. Beim Kauf eines iPhone werden ja die betroffenen Apps beworben. Die Hashes selbst sind da wohl eher nicht greifbar wobei da ja schlussendlich aus personenbezogenen Fotos sozusagen Zahlen gemacht werden. Aber die Überprüfung durch Menschen? Tricky.
Und davon unabhängig wird ja mit Datenschutz geworben. Der wird so nicht eingehalten. Somit erfüllt das Produkt seine Eigenschaften nicht mehr. Muss wohl der Händler nachbessern?! Also Rückgabe.

 

[foo_1337]

Mehr Infos zur Implementierung: https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX

 

[Atze-Peng]

Schwieriges Thema.

Leider sind Sicherheit und Freiheit leider Gegensätze. Und selbst wenn Apple 2021 das noch nicht ausnutzen würde, so weiß man nicht was Apple 2022 oder später macht.

Erinnert ein wenig an die australische Sperre von Internetseiten welche dann geleakt ist - und oh Wunder - nicht nur kinderpornographische Webseiten enthielt.

Ein System ist immer nur so gut wie man es im worstcase ausnutzen kann.

 

[brabe]

Ich finde es gut, wenn die Bilder und deren Verbreitung unterbunden wird. Nicht so gut fände ich es, wenn man dadurch false postiv auf eine Listen kommen sollte.
Sie sollten einfach die Bilder und deren Verbreitung unterdrücken. Auch Browser sollten das meiner Meinung nach tun! Nur die Verfolgung sollte halt gut durchdacht sein. Beispielsweise, wenn man die Quelle dieser Bilder ist, dann sollte man verfolgt werden.

Angenommen ein 17 jähriger meint mit seinem Partner Bilder auszutauschen, welcher auch 17 ist, dann sollte man sich halt fragen, wie will dieses System das erkennen und davon unterscheiden, dass es legal ist?

 

[chartmix]

Technik darf nicht die vordergründige Lösung sein sondern ganz normale Strafverfolgung.
Zudem mehr Aufklärungsarbeit, bessere Finanzierung der Behörden (Jugendamt, Schulen), etc.