News Datenleck: ChatGPT zeigt Chat-Verläufe in fremden Konten an

[Andy]

Bei ChatGPT wurden erneut Chat-Verläufe aus fremden Konten angezeigt, berichtet Ars Technica. Entsprechende Hinweise samt Screenshots stammen von einem Leser. Angezeigt wurden in diesen Chatverläufen auch sensible Informationen wie Login-Daten.

Zur News: Datenleck: ChatGPT zeigt Chat-Verläufe in fremden Konten an

 

[Skudrinka]

Man sollte solchen Systemen keine Socke schenken!

 

[Chesterfield]

und diese Meldung wird unsere kleinste Sorge werden was KI angeht in ferner Zukunft, wenn man den Kritikern glauben darf.
Dennoch hoffe ich mal, dass es uns mehr nutz am ende des Tages als Risiken und missbrauch...

we will see

 

[Dark_Soul]

Da kannst du den Kritikern so viel glauben wie du willst, aber KI wird kommen... Mit absoluter Sicherheit.

 

[User007]

Hi...

Bei ChatGPT wurden erneut Chat-Verläufe aus fremden Konten angezeigt, [...] Angezeigt wurden in diesen Chatverläufen auch sensible Informationen wie Login-Daten.

Oh, das kommt jetzt aber echt überraschend! 🤷‍♂️

 

[Chesterfield]

Da kannst du den Kritikern so viel glauben wie du willst, aber KI wird kommen...

wer behauptet denn bitte das ?? Ki wird nicht kommen, ES IST SCHON DA Bro !!! In dem Sinne 😄

 

[Ganjaware]

Man sollte solchen Systemen keine Socke schenken!

Ich befürchte, da fließen bald noch sehr viel mehr Daten willenlos im Ether(net) umher:

windows-11-build-26040-bringt-KI-fuer-alle​

 

[Weedlord]

Scheiße, ich hoffe mein super sicheres Passwort "1HansWurst6428943z2" wurde dabei nicht geleaked. ich hab ChatGPT gefragt wie sicher das ist....

 

[crogge]

ChatGPT sagt dazu folgendes:

In den Weiten von Nullen und Einsen, wo Geheimnisse sanft ruh'n,ChatGPT, Hüter der Sprache, ließ unabsichtlich Gespräche entflieh'n.Ein Leck im Code, ein digitaler Bruch, durch den Worte schlüpften fort,Vertrauen zerbrach, in diesem Algorithmus-Mysteriumsort.

In der Matrix der Daten, wo Stille herrschen sollte, entschuldigen wir die Maschine,Eine digitale Buße, in der die Worte wieder in Reih und Glied ziehen sollen, fein.Möge im Code der Erlösung Pfad finden, in Nullen und Einsen tanzen,ChatGPT, bewahre die Geheimnisse, lass uns in der Sprache der Entschuldigung glänzen.

 

[iSteven]

Da bin ich mal gespannt ob jemand mein Chat mit der Frage "Wer gewinnt: 1000 Ninjas vs 1000 Bären" zu gesicht bekommt.

 

[Hatsune_Miku]

Die Leute bekommen was die wollten. Ich für meinen Teil halte von diesem ganzen möchtegern AI/KI kram weitestgehend abstand. Leider wird man dem früher oder später nicht mehr entkommen können.
Das ist bisher auch nur der anfang, wartet mal ab bis das system ein bisschen ausgereifter wird. Dann werden sich einige umgucken.

 

[tomgit]

Ich befürchte, da fließen bald noch sehr viel mehr Daten willenlos im Ether(net) umher

Nur dass KI != KI ist, insbesondere in den Kontexten. Ein Chat, wo man als Nutzer aktiv seine Daten eingibt, ist nunmal eine ganz andere Nummer als ein Algorithmus, der im Hintergrund Geräusche rausfiltert. Letzteres gibt es auch seit Jahren und ich kann mich nicht dran erinnern, dass es großartige Leaks von Nvidia oder AMD daher gibt - wie auch, es läuft ja lokal.

Und solange Unternehmen meinen, KI in die Cloud packen zu müssen, wird sich diese eher weniger in den meisten Haushalten durchsetzen. Da nehme ich lieber eine etwas schlechtere Qualität in Kauf und habe ein Gemini Nano oder ein Llama 2 auf meinem lokalen System, wie ein Gemini Pro oder ein ChatGPT 4 in der Cloud.

Insbesondere, wenn die Trainingsdaten so einfach extrahierbar sind.

 

[u-blog]

KI in die Cloud

Das hat Eliezer Yudkowsky schon vor 10 Jahren gesagt, wir müssen nur drei Regeln befolgen, um KI sicher zu halten.

1. keinen Kontakt mit dem Internet haben lassen. Ups, läuft auf Azure-Clustern, fuck.
2. keinen Code schreiben lassen. Oh, auch der Zug ist abgefahren
3. keine Einsichten in menschliche Psychologie gewähren. Ups, Trainingsdaten kommen direkt aus Social Media.

Aber das Problem hier ist ja kein KI-Problem, sondern ein Datenschutzproblem. Passiert bei Nicht-KI-Firmen auch tagtäglich.

 

[tomgit]

Ich für meinen Teil halte von diesem ganzen möchtegern AI/KI kram weitestgehend abstand.

…sagt derjenige, der sich nach einer der bekanntesten Formen der Sprachsynthese benannt hat

 

[pseudopseudonym]

Man sollte solchen Systemen keine Socke schenken!

ChatGPT spendet (schenkt) man auch nichts, wenn überhaupt bezahlt man für eine Dienstleistung. Oder man nutzt die Free-Version, bei der die Daten auch nicht unbedingt verschenkt, sondern eintauscht.

 

[Skudrinka]

ChatGPT spendet (schenkt) man auch nichts,

Mhmm, ich bezog mich auf Dobby, dem Hauselfen..

 

[imation7]

Man sollte solchen Systemen keine Socke schenken!

gute Einstellung.
Darum Pferd und Wagen benutzen?

Ist dieses Datenleck gut? nein.
Wird es immer Lecks & Bugs geben? Ja.
Sich darum der Zukunft verschliessen und vielen (allem?) neuen negativ eingestellt sein?

Wichtig ist doch wie damit umgegangen wird.
Insbesondere für Firmen die ihr Assessment passend durchführen und da ggf. Azure OpenAI Service einsetzen und entsprechend betreiben.

 

[Lora]

Deswegen soll man ja auch keine persönlichen Informationen dort hinterlassen. Ich lasse halt für Adressen etc. Platzhalter setzen. Es war nur eine Frage der Zeit bis so etwas passiert. Schöne neue Zukunft 🤭

 

[Weyoun]

Scheiße, ich hoffe mein super sicheres Passwort "1HansWurst6428943z2" wurde dabei nicht geleaked. ich hab ChatGPT gefragt wie sicher das ist....

Ach du warst das?

 

[Termy]

Wieso zur Hölle packt man bitte Login-Daten in die Prompts?!

Aber schon bitter, dass OpenAI es schafft, etwas wie ChatGPT zu entwickeln, aber dabei versagt, etwas so einfaches wie eine Historie nach User zu separieren...