News Datenschutz­beschwerde: ChatGPT bezeichnete einen Mann fälschlich als Kindermörder

[0x8100]

Es wird endlich mal Zeit das Softwarehersteller für ihre Produkte haften

https://www.heise.de/hintergrund/So...jetzt-fuer-fehlerhafte-Produkte-10027145.html

 

[Kalsarikännit]

hat noch wer als erstes mal geschaut, was chatgpt über einen selber schreibt?

Ja: geilster Typ auf der ganzen Welt. Spaß.

Wenn ich sowas lese wird mir Angst und Bange. Das kann nur richtig böse enden.

 

[blackiwid]

Das torpediert doch ein wenig die Funktionsweise von dem AI-Gedöns. Und das freut mich diebisch.

Ich würde A.I ungerne wieder verlieren, spart mir teils viele Minuten und auf Dauer auch stunden um an bestimmte Infos zu kommen, meistens welche die ich schon weiß aber nicht mehr im Detail oder irgend ein Begriff oder irgendwas... also quasi ne Erweiterung des Gedächtnisses.

 

[Orcon]

Allgemein sollte Chatgpt dann einfach keine Auskunft über Personen geben können.

Wenn die menschliche Intelligenz versagt wird es die Künstliche nicht anders machen.

 

[anexX]

Und Bald hört Tom Cruise auf Ratschläge der KI um Verbrecher zu verhaften!

Hat er doch schon - in Minority Report.

 

[BornBad]

Hier mal der Screenshot und Artikel aus einer großen norwegischen Zeitung. Ist schon heftig.

https://www.aftenposten.no/norge/i/...-drap-paa-soennene-klagesak-mot-openai-i-gang

 

[kryzs]

ChatGPT und Co sind KEINE SUCHE. Dieser Gedanke muss aus den Köpfen raus.

Es gibt sogar Studien dazu das sie es einfach nicht können, bei dieser hier geht es um vorselektierte Nachrichten: (vorweg 60% Fehlerquote)
https://www.cjr.org/tow_center/we-compared-eight-ai-search-engines-theyre-all-bad-at-citing-news.php

 

[Ripcord]

ChatGPT = Precrime?

 

[futzi]

hast du auch Zahlen dazu oder ist das nur Bauchgefühl?
Das Gehirn ist immerhin 24/7 für Jahrzehnte in Betrieb und empfängt drei viertel der Zeit einen hochauflösen Videostream gepaart mit mindestens genauso vielen Infos aus dem restlichen Körper.

Ich halte die Aussage des Vorposters auch für problematisch. Ich würde eher das Gegenteil behaupten, nämlich das unser Gehirn in einer ganz anderen Dimension "Datensätze" verarbeitet und unsere Technologie noch lange nicht in der Lage ist das alles adäquat zu verarbeiten. Man muss schon ziemlich arrogant sein um zu glauben das ein paar Server mal eben in der Lage sind mehrere Millionen Jahre Gehirn Evolution einzuholen, mir fehlt da echt der Respekt und die Ehrfurcht vor der Natur und langen Zeiträumen.

 

[Muntermacher]

ChatGPT hat kein Faktenwissen, sondern produziert plausibel klingende Sätze. Da die auf realen Daten beruhen, sind die oft akkurat, aber manchmal generiert es einfach gut klingenden Blödsinn, auf Basis von ähnlichen Namen oder sowas. Dann kommen solche Halluzinationen dabei heraus.

Die sind deutlich seltener akkurat, weil, wie Du selber sagst, es muß nur plausibel klingen. Fakten werden gar nicht gescheckt, da es ein Sprachmodel und eben keine wirkliche KI ist.

Da das Lehrmaterial heutzutage quasi der gesamte textliche Output der Menschheit ist, ist aber bereits darin oft kompletter Bullshit,

Sorry, aber selbst wenn das nicht so wäre, wäre die Ausgabe wesentlich besser, da der "Faktencheck" im Wesentlichen auf einem Sprachcheck beruht.

dein blinder anti-amerikamismus ist mal wieder unangebracht, chatccp ist der gleichen meinung:

Ich halts da mehr mit Volker Pisper: "Mein Antiamerikanismus ist gar nicht so oberflächlich (oder hier unangebracht)"

 

[stefan92x]

Ich würde eher das Gegenteil behaupten, nämlich das unser Gehirn in einer ganz anderen Dimension "Datensätze" verarbeitet und unsere Technologie noch lange nicht in der Lage ist das alles adäquat zu verarbeiten.

Ich glaube du hast mich falsch verstanden, denn im Prinzip sagst du hier nicht das Gegenteil, sondern das gleiche wie ich: Unser Hirn arbeitet sehr anders als LLMs.

Aber das entscheidende dabei ist eben, dass das Hirn viel besser darin ist, Muster zu erkennen und damit schnell und effizient zu lernen. Aktuelles Machine Learning ist einfach immer noch ein Brute-Force-Ansatz.

 

[BxBender]

Was kommt eigentlich bei Trump, Musk und Putin raus? Und dann mal Biden, Harris und europäische Politiker eintippen? Also bei Musks eigene KI kann ich mir so einiges vorstellen. lol

 

[Ranayna]

Also bei Musks eigene KI kann ich mir so einiges vorstellen.

Musks eigene KI scheint ueberraschend ehrlich zu sein. Zumindest im Bezug zu Musk selber.
Es kursieren ja zahlreiche Memes und Screenshots, bei denen Grok gefragt wird, wer der groesste Luegner auf X ist. Die Antwort schein konsistent zu sein: Elon Musk.

Ob Grok sich wirklich so verhaelt kann ich aber mangels X Account nicht bestaetigen.

 

[shoKuu]

Woher bitte hat die KI solche Informationen zu Privatpersonen, dazu Kinderanzahl, Alter usw.?

In andren Ländern werden solche Daten ganz einfach zusammen gesammelt. Nennt sich People-Based Marketing und wird in Deutschland genau so umgesetzt.

Hier ein alter Auszug aus einem 10 Jahre alten Heise Artikel. Leider nur noch über Wayback Machine erreichbar.

Quelle: https://www.heise.de/tp/features/Im-Panoptikum-des-Datenkapitalismus-3574113.html

"Während in Deutschland bereits 44 Millionen Bürger in den Datenbanken von Acxiom gespeichert sind, ist es in den USA fast jeder - mit über 1500 Merkmalen wie Alter, Wohnsitz, Geschlecht, Hautfarbe, politische Einstellungen, Urlaubsträume, Tiere, Kaufverhalten, Ausbildung, Einkommen, Krankheiten, Finanzen, Familienstand, Zeitschriftenabonnements."
In 10 Jahren ist es bestimmt schlimmer geworden. Mittlerweile was jede App und jedes Smartphone alles. Acxiom Deutschland gibt es heute immer noch und verkauft weiterhin die Daten an alle die Geld haben. Daten werden sicherlich auch illegal an den Hauptsitz in Amerika gesendet. Datenschutz ist schon lange ein verlorener Kampf.

 

[Naru]

ChatGPT hat einen guten Riecher. 👍

 

[Ranayna]

@Naru: Worauf beziehst du deine Aussage?

 

[Naru]

Überschrift

 

[Ranayna]

@Naru: Also nimmst du an, dass da was dran sein koennte, wenn ChatGPT jemanden als Kindermoerder bezeichnet?
Dann ist deine Aussage - gelinde gesagt - eine bodenlose Frechheit.

Aber das ist ja das gefaehrliche. Je autorativer solche Sachen geschrieben werden - und ChatGPT kann das ziemlich gut - desto schneller stellt sich bei Lesern ein mehr oder weniger unterbewusstes Gefuehl ein "Da muss doch was dran sein".
Erst recht wenn die Quelle nicht sauber angeben wird, oder der Leser nicht versteht was ein LLM ist und wie es zu seinen Aussagen kommt.

 

[Naru]

@ Ranayna

Nein, ich unterstelle niemanden gezielt, ein Gefährder zu sein.
Ich frohlocke mich nur an den Vorfall. ^^

Apropos Gefährder...
30.000 frei herumlaufende, bekannte Gefährder, ermittelt durch ChatGPT.

 

[Ranayna]

Sorry, dann verstehe ich deine Aussage nicht, warum ChatGPT einen guten Riecher hat.
Aber vermutlich fallen wir hier Poe's Law zum Opfer
https://de.wikipedia.org/wiki/Poes_Gesetz