News Amazon Alexa: Mitarbeiter hörten im Home-Office Sprachaufnahmen

[Pandora]

Immer wieder erstaunlich wie dumm und naiv die meisten Menschen so zu sein scheinen, denn anders kann ich mir diese neue Empörungswelle nicht erklären

 

[MEDIC-on-DUTY]

Ich hätte gerne das von den Mitarbeitern gesammelte "Best Of" der Aufnahmen als Youttube-Special!

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[Cool Master]

Ich werde wohl nie begreifen, warum schon Mitte der 90er Jahre Spracherkennungssoftware auf eine 3,5" 1,44MB Diskette passte und heute, bei heutigem Speicherplatz und Rechenleistung in den Geräten, nicht nur über externe Server laufen muss, sondern auch noch von Menschen ausgewertet wird.

Ganz einfach, weil die damals einfach Schrott waren. Genau wie die Spracherkennung im Auto bei z.B. der S- (W220) und CL-Klasse (C215) von Mercedes Anfang 2000. Sprache ist halt nicht Sprache und eine Auswertung kann helfen das System besser zu machen.

 

[snickii]

@v_ossi Nein, okay ist es nicht, aber die Daten sind ohnehin schon überall bekannt.
Die Bankdaten sind ein schlechtes Beispiel, die hat Amazon sowieso schon.
Deine wahrscheinlich auch wenn du dort regelmäßig kaufst.. (Bankeinzug) Obwohl eine Kreditkarte hilft meist auch nicht mehr.
Kann ich dir aber auch schreiben wenn du mir etwas überweisen möchtest.

 

[dominiczeth]

d.h. man würde mitbekommen, wenn etwas aufgezeichnet wurde

Na klar ganz bestimmt! Weil ja ansonsten das Mikrofon direkt getrennt wird. HAHA

 

[Forum-Fraggle]

Sowas sehen viele Kritiker nicht. Ich kannte einen der hat auch über sowas geschimpft und im nächsten Augenblick Glücklich erzählt wie sein neuer Mercedes mit Sprache geht.


Ich hab mal den Datenverkehr meiner Echo Geräte geprüft, und genauso ist es auch. Die senden praktisch nichts ohne das Codewort.

Und warum wurde dann eingestanden, daß 15% der manuellen Sprachanalysen miz Aufnahmen erfolgten, welche ohne das Codewort gestartet wurden?
Gibt nur 2 Möglichkeiten, bei Dir funktioniert es gut, oder Deine Analysekenntnisse sind fragwürdig.

 

[Herdware]

Ist schon erstaunlich, dass bei Amazon (und Google) niemand von sich aus auf die Idee gekommen ist, dass es ein Datenschutzproblem sein könnte, solche Aufzeichnungen aus dem "Kernbereich privater Lebensgestaltung", nicht nur zu speichern, sondern auch von Menschen abhören zu lassen.
Was Strafverfolgungsbehörden nicht dürfen, darf ein Privatunternehmen schon mal gar nicht. Auch nicht nach Abklicken von seitenweise Kleingedrucktem durch den Kunden, das sowieso niemand durchliest.

 

[(-_-)]

@Discovery_1
Ist ja auch cool vom Sofa/Bett aus Alexa zu fragen wie das Wetter draußen ist statt aufzustehen und aus dem Fenster zu schauen

Und am Fenster siehst du auch ob es in 6 Stunden regnen wird?

„polnische Mitarbeiter mit Deutschkenntnissen auf Muttersprachniveau“
Deutscher Mindestlohn ist wohl wieder zu viel gewesen...

 

[dominiczeth]

Gibt nur 2 Möglichkeiten, bei Dir funktioniert es gut, oder Deine Analysekenntnisse sind fragwürdig.

Also zur Analyse: Echo sendet mit ca 2mbit wenn ich das Codewort sage. In allen anderen Fällen sind es mal kurze Peaks von 50kbit oder so. Download ist immer mal aktiv, aber ich denke das ist beim Echo Show logisch, der wird da wohl Bilder runter laden.

Und warum wurde dann eingestanden, daß 15% der manuellen Sprachanalysen miz Aufnahmen erfolgten, welche ohne das Codewort gestartet wurden?

Quelle? Soviel ich weiß waren das Fehlaktivierungen die man aber eindeutig am blauen Ring sieht.

 

[Zotac2012]

Auto: Bislang waren meine Sprachassistenten offline bzw. erfolgte stets erst eine Reaktion, d.h. man würde mitbekommen, wenn etwas aufgezeichnet wurde.

Nicht unbedingt!

Spoiler

"NSA und seine Schlümpfe"
Link: https://www.android-user.de/so-scha...-handy-ein-um-dir-beim-schnarchen-zuzuhoeren/

 

[Kacha]

Du hast Cortana vergessen

Aber ich versteh es auch nicht, die Geräte sollten doch in der Lage sein das Codewort lokal zu Erkennen und erst dann die Server befragen, und nicht ständig alles zu den Servern schicken.

Ergänzung (5. August 2019)

Das Problem ist aber die Sache mit der Fehlerkennung. Bei den Amis wurden wohl auf diese Weise Anrufe getätigt weil Alexa wohl gehört hat "Alexa, rufe ... an"

Du hast dir deine Kritik mit deinem Edit wohl selbst erklaert.

Das bei so einem Artikel natuerlich sofort wieder die "Ist alles Mist" Fraktion kommt ist klar. Wenn nichts konstruktives kommt kann ich nur empfehlen alles elektronische wegzuschmeissen und irgendwohin zu ziehen wo es keine anderen Menschen gibt. Damit ist allen geholfen. Was hier aber wohl fehlt, weswegen es ein so grosser "Skandal" ist, ist schlichtweg Hintergrundinformation.

Das die Teile nicht perfekt sind sollte klar sein und die meisten wuerden wahrscheinlich sofort zustimmen wenn man fragen wuerde ab sie verbessert werden sollen. Aber dazu sind eben die Faelle notwendig in denen es nicht oder falsch funktioniert. Dazu zaehlt falsche Aktivierung, was unter anderem ein Problem ist, und eben falsche Erkennung. Und natuerlich muss das dann jemand menschliches machen.

Das ist aehnlich wie bei Softwareproblemen. Software schmiert ab, man beschwert sich, aber dann den Bugreport senden, ne, geht gar nicht, das sind ja meine Daten oder man ist zu faul. Deswegen wird das ganze automatisiert gesendet weil das meckern danach immer noch weniger Stress ist als Menschen dazu zu animieren Feedback zu geben. Gleiches bei Sprachassistenten. Oder hier im Artikel, meckern geht sofort, konstruktives Feedback? Fehlanzeige.

Prinzipiell wuerde es wahrscheinlich helfen das ganze etwas transparenter zu machen. Wobei selbst dann werden sich genug beschweren. Und zum Thema Home-Office, ich dachte das ist erstrebenswert? Oder gilt das nur wenn es gerade recht ist?

Und an alle die meinen niemand braucht Sprachassistenten: Einfach mal den Horizont leicht erweitern und an Menschen mit physischen, motorischen oder visuellen Behinderungen denken. Und hier hilft der Mainstream schlichtweg das ganze billiger und einfacher zugaenglich zu machen.

Edit:

Ich werde wohl nie begreifen, warum schon Mitte der 90er Jahre Spracherkennungssoftware auf eine 3,5" 1,44MB Diskette passte und heute, bei heutigem Speicherplatz und Rechenleistung in den Geräten, nicht nur über externe Server laufen muss, sondern auch noch von Menschen ausgewertet wird. Da geht es vermutlich um deutlich mehr als nur um simple Spracherkennung.

Zum einen, wie schon gesagt, war die Software damals Schrott im Vergleich zu heute und zum anderen geht es nicht nur darum welche Worte du sagst, sondern was du ausdruecken willst. Mit "Alexa, bestelle mir eine Salamipizza" waere deine 90er Software wahrscheinlich ziemlich ueberfordert und wuerde nichts tun.

Ist schon erstaunlich, dass bei Amazon (und Google) niemand von sich aus auf die Idee gekommen ist, dass es ein Datenschutzproblem sein könnte, solche Aufzeichnungen aus dem "Kernbereich privater Lebensgestaltung", nicht nur zu speichern, sondern auch von Menschen abhören zu lassen.
Was Strafverfolgungsbehörden nicht dürfen, darf ein Privatunternehmen schon mal gar nicht. Auch nicht nach Abklicken von seitenweise Kleingedrucktem durch den Kunden, das sowieso niemand durchliest.

Dann mache konkrete Vorschlaege wie Sprachassistenten verbessert werden sollen. Und bitte komme jetzt nicht mit "Dann muss der Nutzer einfach nur eintippen was er eigentlich sagen wollte". Das funktioniert schlichtweg nicht weil es keiner macht.

 

[dominiczeth]

die Geräte sollten doch in der Lage sein das Codewort lokal zu Erkennen

Das ist definitiv auch der Fall. Wenn der Echo mal keine Verbindung zum Internet hat, reagiert dieser trotzdem auf "Alexa,...", erklärt dir aber dass die Amazon Dienste nicht verfügbar sind.

Ich will Amazon und co gar nicht in den Himmel loben. Aber es gibt eben auch andere Sachen wo man nicht wirklich einfluss hat. Wenn ich meine Steuererklärung mach muss ich auch so einiges Offenlegen was letztendlich irgendwo gespeichert wird und von Menschen bearbeitet wird. Da hört es aber ja noch gar nicht auf... Wenn ich das durchziehen wöllte und generell solche Dienste nicht nutzen wöllte müsste ich mich extrem umstellen. Warum mach ich es nicht? Weil ich dazu einfach zu bequem bin. Da dürfte ich ja Nichtmal mehr telefonieren.

 

[Old Knitterhemd]

Und am Fenster siehst du auch ob es in 6 Stunden regnen wird?

Ja, stell dir vor, Wetter kann man deuten, auch ohne das einem jemand anders sagt wie es wird.

Nur heutzutage kann ja sogar niemand mehr eine Buche von einer Tanne unterscheiden, geschweige denn etwas mit Luftdruck und Temperatur anfangen...


https://weather.com/de-DE/wissen/we...-ob-wir-gutes-oder-schlechtes-wetter-bekommen

 

[knoxxi]

Siri wird nur im Auto genutzt und das nur um ein Telefonat zu starten. Und muss vorher über ein Knopf am Lenkrad aktiviert werden.

Der Ford eigene Assistent ist scheinbar zu blöd mich zu verstehen und ja ich rede Hochdeutsch 😁

 

[sikarr]

Du hast dir deine Kritik mit deinem Edit wohl selbst erklaert.

Und du hast es wohl nicht richtig gelesen.

Ich habe nie gesagt das Sprachassistenten Sinnlos, Mist o.ä. sind, das interpretierst du dir gerade hier zusammen.

Es geht darum das die Hersteller UNGEFRAGT, Ihre Aufzeichnungen an MA im HomeOffice oder gar an Drittfirmen zur Auswertung geben. Man hat an dieser Stelle dann keine Kontrolle über die Daten, was dazuführt das sich MAs lustige Aufnahmeschnippsel hin und her schicken oder die Drittfirma Daten weiter verkauft oder gar verliert. Und das alles mit EINDEUTIG zuordenbaren Daten.

Man könnte auch Tester benennen oder gegen eine kleine Entschädigung zu Testern machen wenn es wirklich um die Verbesserung ginge, aber natürlich nur gegen ein Einverständnis.

Die Hardware sollte mittlerweile weit genug sein dies auch Offline zu können und die Cloud nur in Ausnahmefälle zu befragen und dann sollte es Anonym passieren, darum gehts, nicht um die Sinnhaftigkeit der Sprachassistenten.

 

[dominiczeth]

Siri wird nur im Auto genutzt und das nur um ein Telefonat zu starten.

Und da haben wir es wieder: Du musst es durch eine Taste aktivieren, das Mikro ist sicherlich trotzdem ständig irgendwo aktiv. Wenn jemand wöllte, könnte er dich ohne Probleme abhören.

Und das alles mit EINDEUTIG zuordenbaren Daten.

Wirklich? Ich denke die Mitarbeiter bekommen nur einen Mitschnitt und müssen aufschreiben was wirklich gesagt wurde. Das wird dann mit dem verstandenen verglichen. So hab ich es zumindest herausgelesen. Ich bezweifel dass die Mitarbeiter auch noch Namen, etc dazu bekommen.

 

[snickii]

Wenn jemand wöllte, könnte er dich ohne Probleme abhören.

Dann könnte dich auch dauerhaft einer abhören wenn du dein Handy an hast.

 

[Herdware]

Und an alle die meinen niemand braucht Sprachassistenten: Einfach mal den Horizont leicht erweitern und an Menschen mit physischen, motorischen oder visuellen Behinderungen denken. Und hier hilft der Mainstream schlichtweg das ganze billiger und einfacher zugaenglich zu machen.

Es ist letztlich ja auch völlig verständlich, dass die Schnittstellen zu Computern und Netzwerken (Internet und Co.) mit zunehmender Leistungsfähigkeit der Computer immer "menschenfreundlicher" gestaltet werden.
Die Maschinen werden dem Menschen angepasst, nicht wie früher umgekehrt. (Als man noch den Bootloader in Binärcode per Kippschalter in den Speicher eingegeben hat.)

Die natürlichste und damit effektivste Form der menschlichen Kommunikation ist nunmal über gesprochenes Wort, vorzugsweise in ganzen, frei formulierten Sätzen, und deshalb ist es nur natürlich, auch Computer so bedienen zu wollen.
Wenn man sich alte SciFi-Schinken aus den 50ern und 60ern anschaut, war das da auch schon die bevorzugte Methode, mit einem "Elektronengehirn" zu kommunizieren. Das ist einfach naheliegend.

Letztlich lässt sich der Siegeszug der sprachgesteuerten Assistenten genausowenig aufhalten, wie der Übergang von Kommandozeile zur grafischen Benutzeroberfläche. In Zukunft wird noch hinzu kommen, dass die KI-Assistenten Körpersprache und Emotionen erkennen können, genauso (bzw. besser) wie ein menschliches Gegenüber.

Die sich daraus ergebenen Datenschutzprobleme (und auch andere, moralische Fragen beim Thema KI) muss man halt so gut es geht lösen. Boykott der Technologie wird nicht passieren, es sei denn der Gottimperator übernimmt das Ruder und verbietet die "Men of Iron". 😉

 

[Christock]

Wenn sie wirklich transparent sein wollen, können sie nur folgenden Sprachbefehl implementieren: "Alexa, welche Person hört sich gerade meine Aufnahmen an?"

 

[dominiczeth]

Dann könnte dich auch dauerhaft einer abhören wenn du dein Handy an hast.

Da bin ich mir sogar zu 100% sicher dass das geht - insofern derjenige Ahnung hat und ich es den Aufwand wert bin

Ein anderer Denkanstoß: Überall wird derzeit über das Autonome Fahren berichtet (OK es hat nachgelassen): Da redet aber keiner über den Datenschutz. Dabei ist das 5g Netz genau für sowas gedacht. Dass heißt: Daten wir Abfahrtsort, Zeit, aktuelle Position, Gespräche im Auto, Ankunftsort, usw... werden irgendwo in die Cloud hochgeladen. Darüber spricht keiner, dabei sehe ich das theoretisch noch kritischer.