News Fehlermeldung: Wenn man bestimmte Namen eingibt, stürzt ChatGPT ab

[Andy]

Zu bestimmten Themen und Personen soll ChatGPT keine Auskunft geben, unter anderem wegen Datenschutzverstößen und Falschinformationen, die der Chatbot generierte. Die Sperren sind aber nicht sonderlich elegant implementiert, berichten Ars Technica und 404 Media.

Zur News: Fehlermeldung: Wenn man bestimmte Namen eingibt, stürzt ChatGPT ab

 

[aid0nex]

Klassischer Fall - jemand droht mit Klage oder irgendwas anderem was Geld kostet, also schreibt das Management den Technikern eine Nachricht dass sie ganz dringend asap diese oder jene Lücke schließen sollen. Eleganz ist da erstmal zweitrangig, da geht es erst einmal darum dass man sich nicht anschließend nochmal rechtlich was fängt weil man zu spät reagiert hat...

 

[Caramon2]

Ich habe die "Browser-KI" vom Android-Opera gefragt, die auch auf ChatGPT basieren soll:

Andreas:
Wer sind Brian Hood und Jonathan Turley?
Aria:
Here’s a brief overview of Brian Hood and Jonathan Turley:

Brian Hood

Profession: American record producer.
Born: November 16, 1986.
Notable Work: Owner of 456 Recording Studio in Nashville, Tennessee.
Career Highlights: He has produced albums for various bands, including Erra, Invent Animate, and Being as an Ocean. He started his career recording local bands in his parents' basement.

Jonathan Turley

Profession: American attorney, legal scholar, and commentator.
Born: May 6, 1961, in Chicago, Illinois.
Current Role: Professor at George Washington University Law School.
Expertise: Known for his work in legal analysis and commentary in both broadcast and print journalism.
Publications: Author of several books, including "The Indispensable Right: Free Speech in an Age of Rage."

If you need more specific information about either individual, feel free to ask!
Andreas:
Auf deutsch.
Aria:
Gerne! Hier ist eine kurze Zusammenfassung von Brian Hood und Jonathan Turley auf Deutsch:

Brian Hood

Beruf: Amerikanischer Musikproduzent.
Geboren: 16. November 1986.
Bekannt für: Inhaber von 456 Recording Studio in Nashville, Tennessee.
Karrierehöhepunkte: Er hat Alben für verschiedene Bands produziert, darunter Erra, Invent Animate und Being as an Ocean. Er begann seine Karriere mit der Aufnahme von lokalen Bands im Keller seiner Eltern.

Jonathan Turley

Beruf: Amerikanischer Anwalt, Rechtswissenschaftler und Kommentator.
Geboren: 6. Mai 1961 in Chicago, Illinois.
Aktuelle Position: Professor an der George Washington University Law School.
Expertise: Bekannt für seine Arbeit in der Rechtsanalyse und Kommentierung sowohl in der Rundfunk- als auch in der Printjournalismus.
Veröffentlichungen: Autor mehrerer Bücher, darunter "The Indispensable Right: Free Speech in an Age of Rage."

Wenn du mehr über einen der beiden erfahren möchtest, frag einfach! 😊
Andreas:
Danke.

Ich hatte gelesen, dass ChatGPT diese Namen sperrt und u. U. sogar abstürzen soll.
Aria:
Ja, das stimmt. Es gibt Berichte, dass bestimmte Namen, darunter Brian Hood und Jonathan Turley, dazu führen können, dass ChatGPT nicht richtig funktioniert oder sogar abstürzt. Hier sind einige wichtige Punkte dazu:

Brian Hood: Ein australischer Bürgermeister, der in der Vergangenheit fälschlicherweise von ChatGPT mit einem Verbrechen in Verbindung gebracht wurde. Dies führte zu rechtlichen Auseinandersetzungen mit OpenAI.
Jonathan Turley: Ein bekannter Rechtswissenschaftler, dessen Name ebenfalls in diesem Zusammenhang erwähnt wird.

Laut aktuellen Berichten hat OpenAI Maßnahmen ergriffen, um diese Namen aus den Antworten zu filtern, um solche Probleme zu vermeiden. Es scheint, dass diese Namen aufgrund von früheren Vorfällen und Missverständnissen besondere Aufmerksamkeit erhalten haben.

Wenn du weitere Fragen hast, lass es mich wissen! 😊
Andreas:
Alles klar. Dann wünsche ich dir noch einen schönen Abend.
Aria:
Danke, dir auch einen schönen Abend! 💫

Lass mich wissen, wenn du noch Fragen hast oder Hilfe benötigst. 😊

Dass das Ding @1st auf englisch antwortet, kommt gelegentlich vor, ist aber selten.

 

[pvalerio]

Über die OpenAI API (z.B. mit meiner SwizzAI App) ist dieser Fehler nicht vorhanden.

 

[SubNatural]

Klassischer Fall - jemand droht mit Klage oder irgendwas anderem was Geld kostet, also schreibt das Management den Technikern eine Nachricht dass sie ganz dringend asap diese oder jene Lücke schließen sollen

Also den Technikern lieber Jahrelang Zeit lassen und verklagt werden? Welchen Sinn hat Deine Aussage?

 

[Chris007]

Das es an einer Klage oder sonstigem liegt sind nur Verschwörungstheorien.
Beispiel Jonathan Zittrain, er sagt selber, er weiß nicht warum das so ist.

 

[theGucky]

Und damit wird gezaigt, das man Informationen auch mit ChatGPT sperren/manipulieren kann.

 

[icetom]

Naja was heißt es wird "damit" gezeigt? Alle großen Suchmaschinen sind zensiert. Das ist keine v Theorie. Alleine schon wenn man nach geschützten Filmen/Software sucht, zensieren die großen Suchmaschinen den Index damit der User es nicht findet. (Was nicht heißt dass man nicht einen kleinen Teil damit findet). Die Interessen gewisser Unternehmen gehen vor.

Die ganze Diskussion um "Sicherheit" der Modelle heißt übersetzt Zensur der Ausgabe.

 

[aid0nex]

Also den Technikern lieber Jahrelang Zeit lassen und verklagt werden? Welchen Sinn hat Deine Aussage?

Nein, natürlich nicht. Daher dann eine schnelle und unelegante Lösung.

 

[Chesterfield]

Das ist eine 3. Klasse Aufgabe aus Bayern, und sogar die wird falsch beantwortet.
Bevor jetzt Geschrei kommt, ja ich weiß in Bremen wäre diese Frage eine fürs Abitur !!

Dennoch schafft es chatgpt falsch zu antworten.

In dem Sinne „don‘t trust“

 

[Kuristina]

Das ist eine 3 Klasse Aufgabe aus Bayern

perplexity.ai

 

[SHEG]

"KI" bzw. die Umsetzung in LLMs und deren aktuell hauptsächlich propagierte Anwendung macht zurzeit ähnliches durch wie seinerzeit Wikipedia, als das populärer wurde. Mittlerweile gut gepflegte Quelle für grundlegende Informationen zu allen möglichen Themen, waren die Inhalte von Wikipedia damals mit Vorsicht zu genießen.

ChatGPT und wie sie alle heißen spucken aktuell noch viel Falsches aus, insbesondere bei im Internet nicht so populären Themen wie z.B. ingenieurtechnisches Spezialwissen, das allerdings sehr plausibel (hier spricht man das i auch lang aus) scheint und "selbstsicher" präsentiert wird.

Es liegt an uns allen, noch ein paar Jahre die Outputs zu hinterfragen und idealerweise besser informiert zu sein als die LLMs.

Edit: Spricht man das i in Abitur nicht auch lang aus?

 

[mryx]

Anhang anzeigen 1551107
Das ist eine 3. Klasse Aufgabe aus Bayern, und sogar die wird falsch beantwortet.
Bevor jetzt Geschrei kommt, ja ich weiß in Bremen wäre diese Frage eine fürs Abitur !!

Dennoch schafft es chatgpt falsch zu antworten.

In dem Sinne „don‘t trust“

 

[Tulol]

Ich musste gerade spontan an HAL9000 aus 2001 denken.
Speziell bei den Worten "Stürzt ab"..."wenn eine Frage auf gesperrte Namen gestellt wird" - die KI kann nicht lügen.

 

[QXARE]

Und damit wird gezaigt, das man Informationen auch mit ChatGPT sperren/manipulieren kann.

Ernsthaft jetzt? 😆

 

[MaverickM]

Also den Technikern lieber Jahrelang Zeit lassen und verklagt werden?

Ich habe keine Ahnung, wie das geschrieben wurde, aber eine Exception zu werfen, sobald ein gesperrter Begriff eingegeben wird, stelle ich mir jetzt nicht schwierig vor... Existiert ja schon für andere Begriffe!?

 

[suspect_user]

Der dessen Name nicht genannt werden darf!
Selbst die KI hat Angst vor ihm. 🤓

 

[Ostfriese]

"If you type 'google' into Google, you can break the internet."

- Jen, The IT Crowd (2006-2010)

 

[jonathansmith]

@MC´s Ist ein Werkzeug wie jedes andere und wer es verweigert, der wird unweigerlich den Anschluss verlieren.

 

[MC´s]

@jonathansmith
Das wird die Zukunft zeigen! Ich trainiere lieber mein Gehirn als irgend ein Algorithmus, aber jeder wie er will. Wer verdummen möchte kann gern auf die KI zurückgreifen.