News Datenleck: ChatGPT zeigt Chat-Verläufe in fremden Konten an

[Dark_Soul]

wer behauptet denn bitte das ?? Ki wird nicht kommen, ES IST SCHON DA Bro !!! In dem Sinne 😄

No shit sherlock.
Dann rechne mal damit, dass das noch deutlich ausgebaut wird.

 

[andy_m4]

Jetzt kann man natürlich lange darüber lamentieren, ob es schlau ist Login-Daten in solche Systeme reinzugeben. Dabei vergisst man gerne, das auch sonst Daten geleakt werden können, die vielleicht nicht eine so offensichtliche Brisanz haben.
Ansonsten zeigt sich das (inzwischen klassische) Problem, was man auch mit anderen Cloud-Diensten hast. Man hat die Daten nicht mehr unter Kontrolle. Und ja. Auch wenn man die lokal hat, können die natürlich "gehackt" werden. Nur sind in der Cloud die Dinge eben konzentriert. Das ist eine sehr viel größere (und im Zweifel auch damit attraktivere) Datenhalde.
Die Cloud-Kritiker sagen das seit Jahren und müssen sich dann "nix zu verbergen"- und Ewiggestrigen-Sprüche anhören.

Natürlich sind Cloud-Dienste nicht generell schlecht. Und man kann sich ja auch absichern (in dem man zum Beispiel Verschlüsselung einsetzt, was dann aber Szenarien ausschließt, bei denen in der Cloud Daten verarbeitet werden). Und man sollte sich im Zweifel gut überlegen, ob man die Cloud einsetzt oder nicht.

Per default ist es sicher keine schlechte Idee es zu lassen. In einigen Ländern gibts ja bereits z.B. in Behörden die Direktive kein Chat-GPT einzusetzen. Was natürlich völlig richtig ist. Irgendwelche Meldedaten von Bürgern sollen natürlich nicht versehentlich abhanden kommen. Und darauf zählen, das die Sachbearbeiter da schon aufpassen werden, das nicht versehentlich was geleakt wird, darauf will ich mich auch nicht verlassen wollen.

Das weist auch auf eine andere Problematik bei Clouddiensten hin. Nämlich das ich selbst nur begrenzte Einflussmöglichkeiten habe, weil selbst wenn ich darauf achte, muss ich immer damit rechnen, das andere Mist bauen. Typisches Beispiel ist, wenn durch Bekannte meine Telefonnummer zu WhatsApp weiter gegeben wird, obwohl ich den Dienst gar nicht benutze.

Solche Sachen werden natürlich auch zunehmend bei Systemen wie Chat-GPT ein Thema werden.

Es braucht hier einfach klare Privacy-Regeln. Insbesondere für den vielzitierten Normaluser ist das ja auch nicht immer nachvollziehbar und klar. Der macht das oft nicht mit Absicht, sondern benutzt die Systeme nur. Insofern sind da die Anbieter mehr in die Pflicht zu nehmen. Sei es durch konsequente Datenminimierung und/oder durch ganz klare Aufklärungspflicht (den User darauf hinweisen, das er möglicherweise eine Rechtsverletzung begeht; haben wir in anderen Bereichen auch, warum also nicht auch im Digitalen).

 

[BFF]

Rein „menschlich“. 😉

Bei ChatGPT wurden erneut Chat-Verläufe aus fremden Konten angezeigt

Laberst Du mit zu vielen Leuten gleichzeitig verlierst Du halt den Überblick mit wem Du laberst.

In dem Sinne nix Neues. 😎

 

[supertramp]

Ja, da rollt was tolles auf uns zu. Ich möchte mir nicht ausmalen, was noch alles passieren wird.

 

[ascer]

Und solange Unternehmen meinen, KI in die Cloud packen zu müssen, wird sich diese eher weniger in den meisten Haushalten durchsetzen. Da nehme ich lieber eine etwas schlechtere Qualität in Kauf und habe ein Gemini Nano oder ein Llama 2 auf meinem lokalen System, wie ein Gemini Pro oder ein ChatGPT 4 in der Cloud.

Klar, Cloud ist ja auch generell böse und setzt sich nicht durch. Gerade bei Unternehmen nutzt deshalb auch niemand MS Teams, Google, Zoom, AWS, Dropbox, Slack, ... und hat alles überall und immer lokal laufen. Oh wait...

Jetzt kann man natürlich lange darüber lamentieren, ob es schlau ist Login-Daten in solche Systeme reinzugeben. Dabei vergisst man gerne, das auch sonst Daten geleakt werden können, die vielleicht nicht eine so offensichtliche Brisanz haben.

Absolute Zustimmung. Wenn ich sehe, was insbesondere bei nicht IT'lern mal eben schnell in unverschlüsselte Klartext-E-Mails gepackt wird...

 

[Azeron]

Angezeigt wurden in diesen Chatverläufen auch sensible Informationen wie Login-Daten

Warum schreibt man in ChatGPT seine Logindaten rein? Fragen da welche ob die sicher sind?
Zum Glück lösche ich die Chatverläufe immer aber selbst wenn nicht, gäbe es da sowieso nichts wirklich interessantes zu lesen

 

[BeBur]

Zum Glück lösche ich die Chatverläufe immer

Oh dear.... ich habe schlechte Neuigkeiten für dich . Und du gibst witzigerweise selbst die Antwort auf deine Frage:

Warum schreibt man in ChatGPT seine Logindaten rein?

Na, ist doch kein Problem, man kann doch alles hinterher löschen .

 

[tomgit]

Klar, Cloud ist ja auch generell böse und setzt sich nicht durch. Gerade bei Unternehmen nutzt deshalb auch niemand MS Teams, Google, Zoom, AWS, Dropbox, Slack, ... und hat alles überall und immer lokal laufen. Oh wait...

Oh, ja, weil ich auch gesagt habe, dass Cloud allgemein nichts bringt.
Oder von Unternehmen gesprochen habe.
Und nicht explizit von Privatpersonen sprach.

Lesen und Verstehen sind wohl zweierlei

 

[ascer]

Lesen und Verstehen sind wohl zweierlei

In der Tat.

(...) von Unternehmen gesprochen habe.
Und nicht explizit von Privatpersonen sprach.

1. habe ich auch hauptsächlich von Unternehmen gesprochen und mein Text war nun wirklich nicht lang:

Gerade bei Unternehmen nutzt deshalb auch niemand MS Teams, Google, Zoom, AWS, Dropbox, Slack, ... und hat alles überall und immer lokal laufen. Oh wait...

2. hast du sehr wohl auch von Privatpersonen gesprochen:

Da nehme ich (...)

auf meinem lokalen System (...)

Oder bist du keine Privatperson? Und dein lokales System ist eigentlich ein interner Unternehmenscluster?

 

[tomgit]

Und was haben Nutzungsverhalten von Unternehmen und Privatnutzern zu tun?
Dass Unternehmen auf MS Teams, Slack, etc. zurückgreifen hat nichts damit zu tun, wie Privatpersonen über Cloud-Services denken.

 

[foofoobar]

Es wird langsam Zeit für eine eigene Kategorie oder Tag für solche Meldungen, die kommen ja mittlerweile täglich.
Ich schlage "IT-Havarien", "Immanente Bugs", "Schlechte Technik" oder "Broken by Design" als Namen vor.

In einem Jahr kann man den recht einfach nachschauen welche Technik am schlechtesten funktioniert.

 

[andy_m4]

Gerade bei Unternehmen nutzt deshalb auch niemand MS Teams, Google, Zoom, AWS, Dropbox, Slack, ... und hat alles überall und immer lokal laufen. Oh wait...

Naja. Das heißt ja noch lange nicht, das es gut funktioniert. Sieht man ja schön, wie selbst bei den Großen regelmäßig Daten weg kommen - trotz ihrer vollmundigen Versprechungen. Und das bloß, um ein paar Euro fuffzig zu sparen. Und selbst das stimmt ja auf lange Sicht nicht unbedingt, selbst wenn kein Schadensfall eintreten sollte. Weil die Firmen die ihre IT auslagern ihr Know-Kow verlieren und dann gar nicht mehr so ohne Weiteres zurück können. Das nutzen dann die Betreiber, um die Daumenschrauben/Preise anzuziehen. Und den Cloudbetreiber mal eben wechseln gestaltet sich in der Praxis häufig als schwierig.

Natürlich ist nicht jegliche Cloud abzulehnen genauso wie ohne Cloud nicht automatisch alle Probleme gelöst sind. Aber man kann kaum darüber hinweg sehen, das die jetzige Situation gut gehen. Und wer Sprüche benutzt a-la "machen alle so" der will bloß im Fall der Fälle die Verantwortung abwälzen können.

 

[raychan]

Ist wer überrascht? Wer sensible Daten ins Netz stellt und irgendeiner Firma anvertraut, egal welche, kann die sensiblen Information auch gleich in irgendein Forum posten. Was ins Netz geladen wird ist früher oder später für jeden zugänglich. Egal ob verschlüsselt oder unverschlüsselt. Das sollte jeden klar sein.

Gibt ja auch den Spruch, verlässt man sich auf andere ist man verlassen.

Das einzige was "einigamassen" sicher ist die lokale Speicherung der Daten in einen lokalen Netzwerk zuhause.

 

[Piehnat]

Das heißt, fremde Menschen wissen jetzt, dass ich der einzige Deutsche bin, der Rosenkohl liebt, weil ich gestern nach Rezepten fragte, Fuck.

 

[qappVI]

In einem Jahr kann man den recht einfach nachschauen welche Technik am schlechtesten funktioniert.

Dann gibt’s ein Jahresendranking.

 

[missi]

wer behauptet denn bitte das ?? Ki wird nicht kommen, ES IST SCHON DA Bro !!! In dem Sinne 😄

Das war wir hier haben ist noch Kindergarten .. die AI die uns erwartet ist 10k besser als ChatGPT und die Sorge ist dass sie nicht wie Skynet ausrastet (das Milität vernetzt jetzt schon sehr fleissig Ai mit hunderten von Objekten und der Mensch erhält nur noch Vorschläge wie er reagieren soll..) werbung dieser Leute ist dass AI nicht selber eingreift und wartet auf das GO vom Menschen.. aber wer MOral und Kodex nicht Programiert macht sich weniger Arbeit und ist effektiever.. also ist AI als Killer vorprogramimiert o0

... oder aber dass einer auf die Idee kommt ein Botnetz aus Zombis zu erstellen was auf einer Blockchain basiert.. (kannst nicht abschaltet) dieser in einer verschlüsselten VM auf den Zombis sich einnistet und AI darauf programiert wird die Welt zu zerstören .. solche KI´s gibt es schon.. eine ist bratgpt.com (oben rechts X) die hier aber ist ein scherz und in einer Cloud.. aber es gibt schon andere die auf Vernichtung programiert sind..

Ich sage nur -- sammelt so viele Daten und Games als Portable version Offline und auf Disk.. wer weiß was in einigen Jahren sich eine KI für Schutzsystem und Giergesteuerten Strukturen erlaubt. Blick nach China kann einem Angst bereitet mit ihrem Punktesystem fürs verhalten in RL..

 

[foofoobar]

Dann gibt’s ein Jahresendranking.

Auf dem Kongress gab es dieses Jahr auch ein Review der vergangenen Reviews:

https://media.ccc.de/v/37c3-12224-security_nightmares

 

[dienst]

Tatsächlich hatte ich diesen Fall auch schon einmal.

 

[foofoobar]

Das war wir hier haben ist noch Kindergarten .. die AI die uns erwartet ist 10k besser als ChatGPT

Wie viel mehr Transistoren braucht man für eine 10K bessere KI?

 

[missi]

Das heißt, fremde Menschen wissen jetzt, dass ich der einzige Deutsche bin, der Rosenkohl liebt, weil ich gestern nach Rezepten fragte, Fuck.

Wenn dein Leben nur aus Rosenkohl besteht ist das schon mal eine Nullnummer für sich Aber wenn du Prostatakrebs hast oder es dich nach dem Sex im Schritt Juckt oder du Hemoroiden hast und du nicht weiterweisst und dann im Netz nach Hilfe suchst und seine Daten bin Stunden an Unternehmen verkauft werden die dir unbewusst ein schlechten Scoring ausstellen oder die Preise bei der Online Apotheke anheben weil du das Produkt sicher kaufen wirst.. dann sollten wir uns da mehr Sorgen machen.. nicht jeder hat so ein langweiliges Leben wie du -.-

Ergänzung (31. Januar 2024)

Wie viel mehr Transistoren braucht man für eine 10K bessere KI?

Kann ich dir nicht sagen aber die "Meta kauft 350000 Nvidia H100-GPUs!" könnte es glaub packen .. diese Aussage von 10k ist nicht von mir .. das war eine Aussage eines Herren aus einem Podcast bei deutschlandradio.. er ging schon so weit dass wir das schon haben aber nicht auf dem Menschen losslassen.