News CSAM: Apple will Kinderpornografie-Erkennung nicht umsetzen

[shy-Denise]

Nein. Du hast staatliche Zensur die auf dem GG basiert genannt. Das ist eine REIN deutsch-rechtliche Definition. Man kann ja nur gegen etwas Klagen was entsprechend in dem Rechtsrahmen definiert ist.

Wir sind in Deutschland und hier sind ausschließlich deutsche Gesetze relevant. Was Kirchen im Ausland machen hat nichts mit dem Thema zu tun.

 

[DocWindows]

Da steht zwar, das läge daran, weil es sich um einen "schwerwiegenden Verstoß" handle - aber genau das ist es doch nicht, schließlich waren das harmlose Fotos seines Neffen

Da steht aber auch

Ein dafür genutztes Konto "darf sofort und dauerhaft deaktiviert werden. So etwas rechtfertigt unter Abwägung der beiderseitigen Interessen die sofortige Kündigung des Nutzungsvertrages", stellen Löffel und Laoutoumai klar. Besonders wichtig an dieser Stelle: Ein begründeter Verdacht des Onlinedienstes reiche bereits aus.

Kann man also so verstehen, dass der Tatbestand nicht bewiesen werden muss, sondern dass es als gültige Begründung schon reicht, wenn der Anbieter den Verdacht haben kann.

 

[PHuV]

Was ich an dem Artikel jetzt leider gar nicht verstehe, ist, warum dem Betroffenen auch anwaltlich nicht geholfen werden konnte und die Entscheidung von Seiten MS bezüglich der Kontosperrung unumkehrbar bleibt. Da steht zwar, das läge daran, weil es sich um einen "schwerwiegenden Verstoß" handle - aber genau das ist es doch nicht, schließlich waren das harmlose Fotos seines Neffen. Hätte er in seinem Fall wirklich keine Aussicht auf Erfolg wenn er vor Gericht gegen die Sperrung seiner digital erworbenen Inhalte klagen würde?

Das kann ich leider auch nicht nachvollziehen.

 

[habla2k]

Bei Kindern kommt dazu,, dass diese Rechte in dem jeweiligen Alter eben noch bei den Eltern liegen:

Eben und deswegen sollten genau die Eltern dabei auch bedenken, ob ihrem Kind das vielleicht unangenehm oder sogar nicht recht ist, wenn Fotos gemacht werden. Und das nicht einfach nur mit "Ach, ist doch bloß n Foto" zu schnell abtun.

 

[NJay]

Faktencheck: iOS lässt sich ohne iCloud und damit ohne Filter benutzen. Dein Posting hat keine Aussagekraft.

Es geht hier um die grundlegende Sache, dass man bei gesellschaftlich wichtigen Sachen nicht einfach mit "Hausrecht" um sich werfen kann. Soetwas muss man gesellschaftlich Diskutieren und nicht einfach auf die Firmen abwaelzen.

Ausserdem ist keine iCloud auf einem Apple Geraet zu nuzten schon ein herber Einschnitt in die Nutzbarkeit des Geraetes. (Auch wenn man es natuerlich benutzen kann)

 

[shy-Denise]

Ausserdem ist keine iCloud auf einem Apple Geraet zu nuzten schon ein herber Einschnitt in die Nutzbarkeit des Geraetes. (Auch wenn man es natuerlich benutzen kann)

Nein, man muss nur den Fotoupload ausschalten. Beschäftigt euch doch erstmal mit dem Thema bevor ihr so einen unsinn postet.

 

[DeusoftheWired]

Kinder könnten demnach auch ohne das Durchkämmen der Daten etwa durch die Zusammenarbeit mit entsprechenden Behörden geschützt werden.

Ach? Und es brauchte erst den medialen Aufschrei der westlichen IT-Welt, um zu dieser Erkenntnis zu erlangen?

Children can be protected without companies combing through personal data, and we will continue working with governments, child advocates, and other companies to help protect young people, preserve their right to privacy, and make the internet a safer place for children and for us all.

lol, na klar, Apple sind die reinsten Philanthropen. Wenn man Kinder schützen kann, ohne ihre persönlichen Daten zu durchwühlen, weshalb sollte das dann nicht auch bei Erwachsenen funktionieren?

 

[NJay]

Nein, man muss nur den Fotoupload ausschalten. Beschäftigt euch doch erstmal mit dem Thema bevor ihr so einen unsinn postet.

Ja und den Fotouplaod nicht zu benutzen ist durchaus eine Einschraenkung des Geraetes, oder etwa nicht?

 

[mixn_mojo]

Die Einschränkung liefert doch Apple direkt selbst, in dem sie einem ganze 5 GB anbieten, die direkt schon ohne ein Foto fast komplett nur durchs Iphone Backup belegt sind. Ohne also monatlich noch Kohle an Apple abzudrücken ist iCloud als Fotoupload somit schon gleich außen vor.

 

[shy-Denise]

Ja und den Fotouplaod nicht zu benutzen ist durchaus eine Einschraenkung des Geraetes, oder etwa nicht?

Du kannst für den Fotoupload doch eine datenschutzkonforme Cloud aus Deutschland nehmen. Dann sind deine Fotos auf deutschen Servern und somit greift auch der deutsche Datenschutz.

Ein Anbieter wäre zum Beispiel Mailbox. Gibt aber noch unzählige andere.

 

[scryed]

Falsch, nennt sich Hausrecht. AGBs lesen hilft.

Falsch ! AGB Hausrecht hin oder her , es steht nicht über den gesetzt ..... Wenn man sowas gutheisst nur dann weil man noch nicht selber unschuldig in eine Zwickmühle geraten ist

Der Ruf und das Leben ist schnell ruiniert und bekommt man so schnell dann nicht mehr geregelt

Wenn die sich ber AGB das Recht nehmen dann sollten sie bei falscher Verdächtigung und allen schaden die entsprechende Personen gegebenenfalls dadurch bekommen voll haftbar gemacht werden und Millionen an Entschädigung zahlen

Ansonsten ist denunzianten tum Tür und Tor geöffnet es muss einem nur jemand was untermogeln , der Automat meldet und man tritt einem die Tür ein .....

 

[engineer123]

dieses Feature mit dieser Funktionsweise wäre nicht gut gegangen, garantiert nicht...

Also ein AI Algo-Rhythmus markiert dreißig Fotos, die der Algorhythmus als child porn identifiziert und
meldet dann automatisch die Telefonnummer der Polizei...

oh je, oh je, da wären Tausende Fehl-Meldungen angekommen, im Schlimmsten Fall wären irgendwelche
Personen gebrandmarkt worden aufgrund von einer fehlerhaften AI Erkennung.

Ich sag nur: wer hat auf dem smartie Fotos vom Familienurlaub am Strand drauf 👈

 

[Cool Master]

Super Entscheidung! Das wäre früher oder später nach hinten losgegangen vor allem in China hätte man das super ausbauen können um Bilder zu identifizieren welche die CCP nicht gutheißt.

 

[ProSpeed]

dieses Feature mit dieser Funktionsweise wäre nicht gut gegangen, garantiert nicht...

Also ein AI Algo-Rhythmus markiert dreißig Fotos, die der Algorhythmus als child porn identifiziert und
meldet dann automatisch die Telefonnummer der Polizei...

Ne, das ist ja die Krux. Es gibt eine Datenbank von bekannter Kinderpornographie. Davon werden Hashes, etwa digitale Fingerabdrücke, genommen. Nach diesen Hashes wird auf deinem Handy gesucht. Die Chance einen identischen Hash mit einer anderen Datei zu haben ist sehr, sehr gering.
Nur dann wird bei einer Übereinstimmung eine entsprechende Stelle darüber informiert.
Das verhindert genau das Problem, dass eine KI ein altes Strandfoto sieht und ausflippt.

 

[M-X]

Das verhindert genau das Problem, dass eine KI ein altes Strandfoto sieht und ausflippt.

Die Hasfunktion die du beschreibst funktioniert nur wenn das Bild identisch ist. Das wäre in so einem Kontext aber wenig sinnvoll da nur ein Pixel geändert werden muss damit der Hash nicht mehr passt. Daher wird eben nicht 1zu1 abgeglichen sondern auch Sachen wie Spiegelung Auflösung etc miteinbezogen was die Fehleranfälligkeit sehr schnell erhöht. Das hat Apple auch so beschreiben.

 

[ProSpeed]

Das ist richtig, es bleibt aber ein deterministischer Prozess, der klar definiert ist. Es ist keine AI Blackbox, die nicht verifizierbar handelt und im ungünstigsten Falle auch noch ihr Verhalten ändert.
Die Chance auf falsche Hashes steigt dabei linear mit der Anzahl der Variationen. Das ist zum Glück immer noch sehr gering.

Ideal ist auch das nicht, keine Frage, aber meines Erachtens weitaus erträglicher als ein unverstandener Algorithmus, der sagt „heute verpetze ich alle, die folgenden Hex Wert in der Farbpalette ihrer Bilder haben!“.

 

[Luthredon]

Hashes werden durch ALGORITHMEN berechnet...

Dann ist ein Dreisatz aber auch ein Algorithmus .

Ergänzung (8. Dezember 2022)

Und jetzt mal überlegen, welche Personengruppe durch solche Technologien zu "Tätern" gemacht werden.

Und genau das meinte ich: niemand. Apple wollte nie irgendetwas per Algorithmus 'erkennen'. Es ging (bislang) immer nur darum, BEKANNTE Bilder (in Form eines Hash) mit dem Inhalt des jeweiligen iPhones zu vergleichen.

Wohlgemerkt, das ist der Stand der Dinge, wenn wir davon reden, was Apple vor hatte. Dass Minderjährige auch gerne mal zu freizügige Bilder verschicken, ist ein komplett anderes Problem und soll auch angegangen werden. Dort kommen dann die 'Algorithmen' zum Einsatz, die ich meinte und die eben auch irren können. Soweit ichs verstanden habe, soll dann aber keine Behörde informiert werden, sondern 'nur' eine Warnung an den Nutzer selbst ergehen. Apple wiederum hat ja den Famlienaccount und kann auch die Eltern, bzw. nur die Eltern informieren. Da gehts aber eher um Selbstschutz, als um Strafverfolgung.

 

[Sylar]

Das wäre früher oder später nach hinten losgegangen vor allem in China hätte man das super ausbauen können um Bilder zu identifizieren welche die CCP nicht gutheißt.

Die CCP hat sowieso Zugriff auf die iCloud der Chinesischen Nutzer.Die fahren wahrscheinlich nur mehr deren Erkennungssoftware drüber etc. Da müssen die nicht auf Apple warten

 

[Miuwa]

Dann können wir ja gleich in jeder Privatwohnung Kameras aufhängen, immerhin finden die meisten Übergriffe genau dort statt. Würde auch gleich noch eine Reihe anderer Straftaten wie Gewalt durch Partner, Einbruch etc. abdecken, also eine super Idee oder ?

Wieso immer gleich mit extremen argumentieren? Nur weil ich ein Geschwindigkeitslimit in Städten für sinnvoll halte will ich doch nicht gleich ein Schrittgeschwindigkeitslimit.

Abgesehen davon halte ich es philosophisch da ganz streng mit den Zitaten aus meinem Profil, allen voran:
"People willing to trade their freedom for temporary security deserve neither and will lose both." Benjamin Franklin

Mag ja ein ganz netter Slogan sein, aber zu wörtlich bzw. schwarz/weiß darf man ihn auch nicht nehmen Einen gewissen Tradeoff zwischen Sicherheit und Freiheit gibt es in jeder Gesellschaft. Z.B. Darf bei uns nicht jeder eine Waffe tragen und unter bestimmten Umständen darf der Staat in meine Privatsphäre eindringen (z.B. Hausdurchsuchung).

Hier übrigens noch was zum Kontext in dem dieses Zitat wohl ursprünglich auf kam:
https://www.npr.org/2015/03/02/3902...safety-quote-lost-its-context-in-21st-century


Und nur zur Klarstellung: Ich trauere der Funktion nicht nach, aber ich finde mit solchen Parolen bzw. Argumentationsweisen wird man dem Thema nicht gerecht.

Ergänzung (8. Dezember 2022)

Nein. Nur Gelegenheitstäter würden meines Erachtens erfasst. Kriminelle wissen, wie sie so was umgehen können.

Ganz ehrlich: Das lese ich zwar immer wieder, aber die Geschichte und die Strafvollzugsanstalten sind voll von Kriminellen, die eben nicht wussten, wie sie sich Staatlicher überwachung entziehen können oder es theoretisch wussten, aber halt einfach mal schlampig waren.

Interessant wäre halt immer zu wissen , wie viel Vorfälle man so aufdecken würde, aber ohne einen längeren Feldversuch wird man das halt nicht bekommen können. Und mir fehlt bei sowas immer das vertrauen, dass die Maßnahme auch wieder zurückgenommen wird wenn sie sich als nicht besonders wirkungsvoll erweist.

 

[ComputerJunge]

daß diese automatische Erkennung Mist ist.

Die automatische Erkennung selbst nicht (die hat ja ein nacktes Kind entdeckt, wie es auch bei manueller Contentprüfung passiert wäre), sondern die kafkaeske "automatische" Prozesskaskade im Anschluss.
Ich meine, da muss noch einiges mehr schief gelaufen sein. Ich kenne einige Menschen, die Nacktbilder ihrer Kinder in den großen Clouds ablegen, ohne dass die Konten gesperrt werden oder gar die Kripo eingeschaltet wird.

Aber Microsoft agiert(e) in diesem einen Fall, als sei es eine Superbehörde, die in einem grauen, bedrohlich-imposanten Betonkubus mit 1 km Kantenlänge ohne Fenster und Klingel residiert.

Diesbezüglich war ich schon naiv, denn ich hatte so etwas (Komplettsperrung, keinerlei Zugriffsmöglichkeiten auf die eigenen Daten mehr, vor allem keinerlei Interesse an einer Aufklärung seitens des Diensteanbieters) in dieser "extremen" Form tatsächlich nicht für möglich gehalten.

Daher: Cloud (Services) gerne, wenn sie der Bequemlichkeit dienen. Aber die Datenhoheit bleibt in meinen Händen. Deswegen werden alle relevanten Daten in der Cloud verschlüsselt, und nur mit Verfahren, bei denen ich den Key generiere und besitze. Bitlocker kommt ebenso nicht in Frage, und ich halte von jedem Backup mehrere Kopien auf unterschiedlichen Datenträgern und Dateisystemen.