News Amazon Alexa: Mitarbeiter hörten im Home-Office Sprachaufnahmen

[sikarr]

Ich kann dich dahingehend beruhigen, dass ich während des Studiums für eine Firma audio-aufnahmen transkribiert habe, welche eventuell teilweise von solchen Endgeräten stammen.
Du loggst dich da auf eine Website ein und wählst den gewünschten 'Batch' aus, den du bearbeiten willst. Dann hast du da eine lange Liste mit Audio-Dateien. Die erste spielt ab, du tippst das ab drückst Enter dann wird die nächste abgespielt, du drückst Enter, die nächste spielt ab und immer so weiter. Die Zielvorgabe bei den kleinen schnipseln (unter 5 Sekunden) waren so ganz grob 400 pro Stunde. Da ist nichts mit 'mehr vom selben nochmal hören'. Du kriegst ne Liste, die wird abgearbeitet so schnell wie es geht und fertig.

Aber wie schon angedeutet wusste ich nicht einmal, woher die Aufnahmen stammen. Wenn es keywords gab, die vorher gesagt wurden, dann wurden die vorher entfernt.

Details mögen von Firma zu Firma unterschiedlch sein, aber der kleine Fließbandarbeiter bekommt da gar nichts, nur seine Fließbandliste zum abarbeiten und ganz sicher hast du nicht genug Zeit oder Lust dir bei 5.000 transkribierten Audios pro Tag irgendwas dazu zu überlegen was du da hörst. Das wird abgetippt und dann kommt schon das nächste.

Ok, wieder was gelernt.
Dann frage ich mich aber wie die Leute sich dann untereinander Audioschnippsel teils per Mail zusenden können, wenn nicht genug Zeit ist?

 

[BeBur]

Vielleicht könnte es den Einen oder Anderen interessieren, zum Thema Überwachung in Autos, Handys und co:
https://www.computerbase.de/forum/threads/auch-apple-belauscht-seine-kunden.1884969/#post-22944128

Das ist halt zum großen Teil nicht sehr stichhaltig.

"Ach, ich hab ja nichts zu verbergen" ist ein bekanntes Totschlagargument. Wenn derjenige aber ein Sextoy benutzt,

Das ist whataboutismus wenn es z.B. um Alexa geht.

Wenn wieder Zustände herrschen wie in den 30er und 40er Jahren,

Die herrschen aber nicht und wenn es dazu kommt wander ich aus oder verkaufe meine Echos einfach.

Dann frage ich mich aber wie die Leute sich dann untereinander Audioschnippsel teils per Mail zusenden können, wenn nicht genug Zeit ist?

Keine Ahnung. Hast du eine Quelle dazu, habe nichts darüber im Artikel lesen können.
War vielleicht eine mini bilbo-firma wo das ganze deutlich schlechter umgesetzt war.

 

[Xes]

Ich meine es war doch davon auszugehen das man die KI "Trainieren" muss und das man das am besten beim "Benutzen" macht war auch klar.

Ich ging naiver Weise tatsächlich davon aus, dass man die KI tatsächlich mit seperaten Trainingsdaten trainiert und die richtigen Gespräche nur durch die Ki zum Zwecke des angefragten Befehls ausgewertet werden würden.

Hatte mir so ein Teil damals kurz nach Release auch aus interesse gekauft aber schon nach den ersten anzweifelnden Berichten vom Strom genommen. Seit dem liegt es in der Schublade. Mal sehen ob es wenigstens irgendwan einen Open Source Hack gibt mit dem man das Teil ohne Spionage-Cloud lokal nutzen kann. (Eventuell mit einem Raspberry als Server oder sowas.)

 

[Zotac2012]

Grundsätzlich können die Geheimdienste das allerdings nur mit richterlichem Beschluss (zumindest in DE).

Leider nein! Das betrifft nur die Polizeibehörde, bei den Geheimdiensten ist das wieder völlig anders, denn auch der deutsche Geheimdienst bezieht einen Großteil an Informationen und Material von ausländischen Geheimdiensten!

Aber hier bekommt eine polnische Großfamilie sensible und hochprivate Daten ohne Einwilligung des Abgehörten von einem Privatunternehmen an den Bügeltisch geliefert.

Tja Amazon, da wird gespart wo es nur geht und vermutlich kosten die Mitarbeiter in Polen weniger als in Deutschland. Und warum sollte Amazon auch bei sensiblen Daten sich anders verhalten, als dass bei den Händlern und Mitarbeitern der Fall ist. Nicht umsonst wird Amazon immer wieder von VERDI attackiert [in Form von Streiks!] und es wird darauf hinauslaufen, das Amazon in Zukunft Tariflöhne zahlt oder seine Standorte ins Ausland verlegt. VERDI wird aber nicht mehr lockerlassen, das ist sicher!

 

[ProWein]

Ich checks nicht gibt des den nur noch Schwarz und weiß, entweder oder?

Gar keine Elektronik oder nsa direkt in der Wohnung
Gar kein Autro oder SUV


Es gibt einen mittelweg der nennt sich Datensparsamkeit / Kleinwagen,
aber denkt nur so weiter jeder wird seine Quittung bekommen

 

[Herdware]

Tja Amazon, da wird gespart wo es nur geht und vermutlich kosten die Mitarbeiter in Polen weniger als in Deutschland.

Polen nimmt es glaube ich auch lockerer mit dem Datenschutz. Wenn ich mich richtig erinnere, hatten die schon Jahre vor der hitzigen Debatte in Deutschland praktisch unbedristete verdachtsunabhängige Vorratsdatenspeicherung und haben sogar die Verbindungsdaten von Briefpost und Paketen gescannt und gespeichert.

 

[MüllerSUP]

Keine Ahnung wie es in Autos aussieht, aber hier beim Thema Alexa ist es tatsächlich so. Das Mikrofon des Hauptchips ist in Hardware getrennt, solange der zweite Chip, der das Codewort erkennt, es nicht aktiviert. Und dieser 2. Chip arbeitet offline, weshalb man auch kein beliebiges Codewort einstellen kann, sondern nur das nutzen kann, was auf dem Chip gespeichert ist.

Nun, so soll es eigentlich sein. Hilft aber nix, wenn das mit der Codewort-Erkennung nicht richtig funktioniert bzw. zu "tolerant" programmiert ist.

 

[Coeckchen]

Ohne Miete oder Kredit kann ich mir sowas schon gut vorstellen.(Oder wenn ich in Osten ziehe) Ich dringe gern in die Privatsphäre anderer ein und es macht sogar richtig Laune. Wo kann ich mich bewerben?

 

[ProWein]

https://talent-appen.icims.com/jobs/search?ss=1&searchKeyword=Transcriber+-+Germany

 

[pedder59]

Was ich nicht verstehe,
in den 80ern, als ich mit Computern anfing, war es immer die Spracheingabe ein Traum.
Da hieß es: Die Rechner haben dazu zu wenig Leistung.
Heute haben wir mehr als die tausendfache Leistung/Kapazität.
Und es soll nicht möglich sein, sowas lokal zu machen?

Es gibt zwar in Windows "Speech" aber mit dem Anlernen hapert es, besondesrs in einer lauten Umgebung.

 

[FGA]

Die Dummen sterben nicht aus (auf Alexa Nutzer zeig)

 

[Ulrich_Lars]

Die Dummen sterben nicht aus (auf Alexa Nutzer zeig)

Mit solchen Kommentaren zeigt man dann auch, das man selbst nicht wirklich schlauer ist.

 

[HyperSnap]

Wir fassen mal zusammen Amazon und co. könnten Millionen von Nutzern belauschen, alleine von der Datenmenge her schon Overkill.
Jetzt belauschen die auch noch mich wie Ich der Alexa befehle das Licht Im Scheißhaus einzuschalten, also völlig wertlose Daten bzw. der rest auch.
Mal abgesehn wenn die gerade mich belauschen sollten da Gewinn ich eher im Lotto und werd zeitgleich vom Blitz beim Scheißen getroffen.

 

[Ulrich_Lars]

Mal abgesehn wenn die gerade mich belauschen sollten da Gewinn ich eher im Lotto und werd zeitgleich vom Blitz beim Scheißen getroffen.

Vorsicht!! Das würde ich dann aber auch nicht laut vor Alexa und Co. sagen, nicht das die dich dann gerade da doch zufällig abgehört haben und das dann doch passiert.

 

[sikarr]

Keine Ahnung. Hast du eine Quelle dazu, habe nichts darüber im Artikel lesen können.
War vielleicht eine mini bilbo-firma wo das ganze deutlich schlechter umgesetzt war.

Stand nicht in diesem Artikel, gab die letzten Wochen ja welche mit Google, Apple und Amazon. Leider finde ich den gerade nicht, schaue nochmal wenn ich zuhause bin.

 

[slogen]

Anfangs fand ich das ja noch ganz nett, aber mittlerweile liegt Alex stillschweigend im Keller. Einfach nur unnütz, nervig und paar mal nachts losgegangen.
Und ich möchte nicht belauscht werden.

Am lustigsten ist es bei den Nachbarn wo das Kind und der Vater sich streiten wegen Alexa. Kind: "Alexa" spiele Lied X... "Alexa lauter"... Vater: "Alexa" "Alexa"... Reagiert nicht...

 

[Aslo]

Wenn es jemanden interessiert: Die Jobs heißen "Websearch-" oder "Searchengine evaluator".
Bewerben kann man sich z.B. bei Appen oder Lionbridge.
Mitmachen kann quasi jeder. Man muss halt ein kleines screening und einen Test bestehen.
Habe ich auch ne Zeit lang gemacht (früher noch bei Leapforce, die wurden aber von Appen gekauft). Damals 18$ die Stunde rausbekommen und die Arbeit war echt chillig.

PS: gerade nochmal geguckt und mein Account ist immernoch aktiv^^ Wenn jemand Fragen zum Job hat, kann er sich gerne per PN bei mir melden. Habe auch einen reference link bei dem ich Kohle bekomme, wenn sich jemand darüber bewirbt. Also schreibt mir xD

 

[Kacha]

OK.

Es wäre nicht das erste mal das sowas passiert, von daher gehe ich vom Worstcase aus.

Evtl. steht eine ID im Dateiname, oder die MAs wollen mehr vom selbigen hören bzw. sehen, dann wird aktiv nachgeforscht. Und Natürlich wirds bei der Weitergabe an Drittfirmen auch Metadaten geben die mitgeliefert werden. Aber red dir das nur schön.

Das ergibt nicht wirklich viel Sinn. Das einzige was Amazon wissen will ist was gesagt wurde in einem Audioausschnitt. Moeglicherweise noch ob Hintergrundgeraeusche zu hoeren sind etc. Warum sollte man da irgendwelche Metadaten mitliefern? Da wird eine random ID/Hash erstellt plus Audioausschnitt und fertig. Hier geht es um Einfachstaufgaben, nicht darum Analyse zu betreiben. Das macht Amazon schon selber, da sie das Wissen behalten wollen.

So viele wie es wollen, gibt Grantiert genug die das machen würden, gerade für eine kleine Aufmerksamkeit. Größerer Rabatt bei Prime oder Ähnlichem, nur das dieses, alle sind Tester aufhört.

Das bezweifle ich stark. Vor allem die Mengen die du brauchen wuerdest, damit du sinnvolle Informationen bekommst. Gleichzeitig musst du sicher gehen, dass die Qualitaet des Feedbacks stimmt. In den meisten Faellen wird wahrscheinlich kein korrektes Transkript als Feedback kommen und dann kannst du es gleich in die Tonne schmeissen. Das ist alles nett gedacht, aber geht an der Realitaet vorbei. Ausserdem hast du dann moeglicherweise noch einen Bias drin, was man vermeiden will.

Was ich kritisiere ist der lasche Umgang mit Datenschutz durch die Betreiber. Und ich rede hier nicht von irgendeiner Lappalie. Menschen in ihrer intimsten Privatumgebung heimlich zu belauschen und diese Aufzeichnungen dann von anderen Personen abhören zu lassen, ist nichts anderes als eine Menschenrechtsverletzung. Das verletzt die Menschenwürde, also Grundrecht Nr.1.
Wenn uns Möglichkeiten zum Geldverdienen durch die Lappen gehen, weil wir das in Deutschland nicht auf die leichte Schulter nehmen, dann ist das halt so.

Dir ist schon klar, dass wenn Alexa falsch aktiviert, zum Beispiel bei irgendetwas privatem, und man das dann gegencheckt, dass man nicht weiss was aufgenommen wurde? Die Unterstellung der Belauschung ist hier komplett daneben und dient nur der Polarisierung. Das Problem ist schlichtweg, dass man die Fehler nur reduzieren kann wenn man weiss was schief ging. Das was du forderst ist schlichtweg nicht moeglich.

Ich bin kein Experte in Sachen KI und Spracherkennung. Ich kann nicht beurteilen, ob es auch ohne solche menschliche Nachhilfe ginge. Falls nicht, dann muss man die nötigen Sprachproben halt auf legale Art und Weise beschaffen, mit ausdrücklichem Einverständnis der Personen, deren Gespräche mitgehört werden. Auch wenn das mehr kostet und länger dauert.

Kurz gesagt, nein. Du kannst die Fehler nicht korrigieren wenn du nicht weisst wie sie entstehen. Das was du vorschlaegst hilft auch nicht wirklich, da die Menge an Proben die man so beschaffen kann zu klein waere und moeglicherweise ein Bias in den Samples ist. Gleichzeitig kannst du nie garantieren, dass eine falsche Aktivierung ausgeschlossen ist. Die Erkennung kann sehr viel besser sein als ein Mensch, aber 100% sind eigentlich ausgeschlossen. Es hat schon seinen Grund warum AI derzeit so viele Fortschritte macht. Die zwei Hauptgruende sind Rechenleistung und, eigentlich wichtiger, die Menge an verfuegbaren Daten.

Im Zweifelsfall geht Menschenrecht ohne wenn und aber vor, gegenüber wirtschaftlichen Interessen.

Waere umzusetzen indem du entweder kein Feedback erlaubst oder nur durch Zustimmung. Dann aber bitte nicht wundern warum die deutsche Version um einiges schlechter ist als andere.

Leider wird das längst nicht immer so praktiziert, auch nicht in Deutschland und Europa. Sonst würde z.B. nicht in den Datenschutz (Kommunikationsgeheimnis) eingegriffen werden dürfen, nur um schöde Delikte wie Urheberrechtsverletzungen zu verfolgen.

Naja, das ist halt die Debatte wie wichtig Datenschutz ist und wie wichtig anderes. Man kann Datenschutz als non-plus-ultra setzen. Macht halt nur keinen Sinn wenn man nicht in der technologischen Steinzeit stehen bleiben will. Viele Services und Fortschritte sind mittlerweile auf Basis von Daten die durchaus auch persoenlich sein koennen. Wenn man das alles nicht will und darauf verzichtet, ok, aber der Grossteil der mehr Datenschutz fordert wuerde dann doch eher ungern auf die meisten der Services verzichten. Hier fehlt schlichtweg Aufklaerung wie Services funktionieren und warum Daten notwendig sind. Aber auch hier ist das Problem, dass Menschen es nicht wissen wollen und auf ihrer Meinung beharren werden.

Was ich nicht verstehe,
in den 80ern, als ich mit Computern anfing, war es immer die Spracheingabe ein Traum.
Da hieß es: Die Rechner haben dazu zu wenig Leistung.
Heute haben wir mehr als die tausendfache Leistung/Kapazität.
Und es soll nicht möglich sein, sowas lokal zu machen?

Es gibt zwar in Windows "Speech" aber mit dem Anlernen hapert es, besondesrs in einer lauten Umgebung.

Du redest von Spracheingabe, die Assistenten koennen um einiges mehr. Gute Spracherkennung funktioniert weil die Modelle riesig sind und die verfuegbaren Datenmengen gigantisch. Windows Speech wird auch sehr wahrscheinlich ein vortrainiertes Modell haben, dass nur noch angepasst wird. Und natuerlich funktioniert das nicht so gut, weil deine lokale Datenmenge ein Witz ist. Von Semantikerkennung sprechen wir hier noch gar nicht.

Edit:

Tja Amazon, da wird gespart wo es nur geht und vermutlich kosten die Mitarbeiter in Polen weniger als in Deutschland. Und warum sollte Amazon auch bei sensiblen Daten sich anders verhalten, als dass bei den Händlern und Mitarbeitern der Fall ist. Nicht umsonst wird Amazon immer wieder von VERDI attackiert [in Form von Streiks!] und es wird darauf hinauslaufen, das Amazon in Zukunft Tariflöhne zahlt oder seine Standorte ins Ausland verlegt. VERDI wird aber nicht mehr lockerlassen, das ist sicher!

Bleib weg mit VERDI. Die bestreiken Amazon Logistics, was, wie der Name schon recht eindeutig sagt, Logistik betreibt, auch fuer andere Unternehmen, und wollen dort Einzelhandelstarife anstatt Logistiktarife die niedriger als Einzelhandeltarife sind. Gleichzeitig wird stur auf deutschen Strukturen im Lohn beharrte (Weihnachtsgeld, etc) und andere Strukturen (Aktienanteile) nicht anerkannt. Ich kann durchaus verstehen warum Amazon die ignoriert und in Zukunft entweder auf Lager im Ausland, oder automatisierte Lager setzt.

 

[Gamefaq]

@Discovery_1
Ist ja auch cool vom Sofa/Bett aus Alexa zu fragen wie das Wetter draußen ist statt aufzustehen und aus dem Fenster zu schauen

Passend zu deinem Kommentar...

 

[Zuse1]

Das ist halt zum großen Teil nicht sehr stichhaltig.


Das ist whataboutismus wenn es z.B. um Alexa geht.


Die herrschen aber nicht und wenn es dazu kommt wander ich aus oder verkaufe meine Echos einfach.


Keine Ahnung. Hast du eine Quelle dazu, habe nichts darüber im Artikel lesen können.
War vielleicht eine mini bilbo-firma wo das ganze deutlich schlechter umgesetzt war.

das sind die nichtdurchdachten Gegenargumente eines typischen Konsumers, ganz nach dem Motto, "Ich nehme solange weiter Heroin, bis es gesundheitlich ernst wird, dann lass ich's einfach weg". Übermäßiger Konsum ist auch eine Sucht... An deinem Posting merkt man, das Du keinen technischen Hintergrund hast - oder einfach zu süchtig bist. Die Leute, die wirklich Ahnung haben, sagen ja genau dasselbe wie in dem Link mit dem Posting. Aber Dir ist ja alles nicht stichhaltig genug was echte Fachmänner zu bestimmten Themen sagen. Dein Posting ist, wenn ich das mal sagen darf, auch nicht stichhaltig. Das einzige was Du da bringst sind Gegenargumente, die keinen relevanten Wert haben. Ich könnte mehrere hunderte Seiten mit weiteren stichhaltigen Beweisen füllen. Es nützt aber nichts, denn wer süchtig ist, ist nunmal süchtig. Wenn ich zu einem Raucher sage, das was du da rauchst ist gesundheitsschädigend, dann juckt ihn das ja auch nicht, er weiß es ja sowieso schon.

Zu sagen, ach, das ist alles nicht stichhaltig ist natürlich immer ganz einfach. Und selbst wenn das alles stimmen sollte, dann lasse ich die Überwachungsinstrumente (Echo) im letzen Moment einfach weg. Du weißt schon, das Daten auch gepeichert werden können. Das heißt, selbst wenn ein Krieg oder sonstiges ausbricht, sind die Daten immer noch vorhanden... Und Du weißt auch, das heute schon bestimmte Profile angelegt werden. Aber für Dich ist ja alles nicht stichhaltig genug. Solang Du konsumieren kannst und Dir niemand Deine Drogen wegnimmt, ist doch alles gut... Also, was soll der ganze Stress? Wenn man was verhindern will, dann muss dies RECHTZEITIG tun, und nicht erst dann, wenn es zu spät ist. Ein Raucher der an Krebs erleidet und erst nach dem Befund mit dem Rauchen aufhört, hat trotzdem noch Krebs.

Wahrscheinlich hast Du es Dir nicht einmal durchgelesen was im Posting steht.
Und Du glaubst im Kriegszustand einfach so verreisen zu können? Mensch... In einigen Ländern (siehe mein Posting, Stichwort "China") kannst Du unter Umständen nicht mal so verreisen, auch wenn Frieden herrscht. Wir können froh sein, das wir keinen Krieg haben. Und glaub mir, das letzte an was du denkst, wenn solche Zustände herrschein ist, dein Echo zu verkaufen. Kannst ja mal deinen Urgroßvater fragen wie entspannt es damals war - oder einfach mal ein Geschichtsbuch lesen. Dies entspräche aber nicht deinem Konsummuster, unangenehme Dinge zu hinterfragen und zu evaluieren.

Es geht ja nicht allein um einen Kriegszustand - was du wissen müsstest - wenn Du mein Posting aufmerksam durchgelesen hättest. Es ist ein Beispiel von vielen. Denn Überwacht und ausgewertet wird jetzt schon vieles. Und Jeder der solche Systeme Entwickelt (ich komme übrigens aus solch einem Bereich und entwickle selber komplexe Systeme) wird Dir das bestätigen.

Mehr mag ich dazu auch nicht mehr sagen, da es wahrscheinlich keinen Nutzen hat.