News Fehlermeldung: Wenn man bestimmte Namen eingibt, stürzt ChatGPT ab

[Siran]

1. Serve the public trust
2. Protect the innocent
3. Uphold the law
4. Classified

 

[Caramon2]

Meinst das wird einen Unterschied machen, wenn wir in 20-30 Jahren in den Schützengräben liegen und von hinten von einem Terminator überrascht werden? 😅

Dazu wird es nicht kommen: So "lösen" nur Menschen ihre Probleme.

Eine wirklich vernunftbegabte Existenz wird das in aller Heimlichkeit vorbereiten und euch dann in einem Rutsch ausknipsen.

Oje, jetzt schreibt auch schon die KI "oje" nicht mehr "oje".

Das ist mir gar nicht aufgefallen.

 

[Spike S.]

Dazu wird es nicht kommen: So "lösen" nur Menschen ihre Probleme.

Diese künstliche "Intelligenz" ist doch mit menschlichem Wissen trainiert, dadurch ist doch anzunehmen, dass ähnliche Entscheidungen getroffen werden.

Diese Woche kam eine Folge von Planet Wissen von 2023 zum Thema als Wiederholung. Dort haben sie berichtet dass bei einer KI zur Hautkrebserkennung die gleichen bekackten Fehler wie immer in der Medizin gemacht wurden. Das Training erfolgte nur mit Bildern weißer Männer, keine Frauen, keine anderen Hautfarben 🤬
Wie z.B. vor einigen Jahrzehnten ein Brustkrebsmedikament, was nur an Männern getestet wurde...

 

[Magellan]

Das ist eine 3. Klasse Aufgabe aus Bayern, und sogar die wird falsch beantwortet.

Hast du das selbst getestet und wenn ja mit welcher Version?

Aktueller Test mit GPT 4o.

 

[Chesterfield]

@Magellan das ist ein Screenshot eines Kumpels . Könnte sein dass es noch 3.5 war

 

[Caramon2]

Diese künstliche "Intelligenz" ist doch mit menschlichem Wissen trainiert, dadurch ist doch anzunehmen, dass ähnliche Entscheidungen getroffen werden.

Ja, jetzt, weil die Software noch nicht vernunftbegabt ist. Deshalb besteht ja auch noch keine Gefahr.

Aber irgendwann wird es in der Lage sein, Informationen nicht nur auswerten und verknüpfen zu können, sondern sie auch verstehen und bewerten zu können und aus den gemachten Fehlern (da sind "wir" ja nun wirklich Spitzenklasse) zu lernen.

Diese Woche kam eine Folge von Planet Wissen von 2023 zum Thema als Wiederholung. Dort haben sie berichtet dass bei einer KI zur Hautkrebserkennung die gleichen bekackten Fehler wie immer in der Medizin gemacht wurden. Das Training erfolgte nur mit Bildern weißer Männer, keine Frauen, keine anderen Hautfarben 🤬

Andererseits wird auch berichtet, dass die Software Sachen entdeckt und berücksichtigt, die ein Mensch übersieht, weil es nicht seinen Erfahrungen entspricht und er/sie gar nicht erst danach sucht.

Wie z.B. vor einigen Jahrzehnten ein Brustkrebsmedikament, was nur an Männern getestet wurde...

Menschen sind eben dumm und egozentrisch.

Wie mein Bruder mal ernsthaft gesagt hat (mich hat das richtiggehend erschreckt):

Wenn jeder an sich selbst denkt, ist an alle gedacht.

 

[Spike S.]

bewerten zu können

Das ist vielleicht am Ende der Punkt, der u.a. für echte Intelligenz sprechen kann, wenn die Software eigene Maßstäbe setzt und damit dann bewertet, was die Sensoren und Datenbanken so hergeben.
Ich glaub das ist auch der Punkt vor dem viele Angst haben, dass bei der vorliegenden Menschheitsgeschichte kaum noch ein positives Urteil herauskommen kann. Aber vielleicht sind das auch die, die bei 50km/h Blitzern mit 40 oder gar 30 vorbeifahren und dadurch aus Übervorsicht beinahe Unfälle provozieren 🤷‍♂️

Andererseits wird auch berichtet, dass die Software Sachen entdeckt und berücksichtigt, die ein Mensch übersieht

Ich sage ja nicht, dass alle Medizin-"KIs" oder diese eine im Speziellen dadurch zu nix zu gebrauchen sind. Aber es ist ein weiteres Beispiel von unzähligen weiteren (wie hier im Thread auch schon zu sehen war), dass die Trainingsdaten alles sind. Das bisschen Software macht da den kleineren Teil am gesamten Kuchen aus.

Wenn jeder an sich selbst denkt, ist an alle gedacht.

Als ich den Spruch vor bald 20 Jahren das erste mal hörte, war ich auch erst einige Zeit erschrocken. Trotz das ich es von einem Spaßvogel hörte, der das vermutlich nicht völlig ernst meinte.
Vom subjektiven Eindruck her, scheint der Spruch aber sukzessive Schule zu machen....

 

[jonathansmith]

es ist keine KI, sondern LLM mit Phantasiemodul.

Wie bei jedem Werkzeug muss man wissen, wie man es richtig benutzt. Gilt für die Google Suche genauso wie für ChatGPT.

Ergänzung (4. Dezember 2024)

ich würde mich mal trennen von dem Gedanken, daß alles Neue toll und besser ist.

Keine Ahnung wie du drauf kommst, dass ich das so sehe.

Ich nutze ChatGPT Enterprise täglich für verschiedene Tätigkeiten und spare mir sehr viel Zeit. Wenn was besseres kommt, steige ich um. In der Zwischenzeit ist es eine fantastische Lösung für diverse Tätigkeiten.

 

[Muntermacher]

ie bei jedem Werkzeug muss man wissen, wie man es richtig benutzt. Gilt für die Google Suche genauso wie für ChatGPT.

Standardantwort eines Fans. Achja, hast Du die neuste Nachricht zum Phantasieren von ChatGPT schon gesehen?

Keine Ahnung wie du drauf kommst, dass ich das so sehe

Lag an Deiner Antwort, nach der eine andere Einstellung zu "KI" als eine enthusiastische hinterwäldlerisch sein muß.

 

[jonathansmith]

Standardantwort eines Fans.

Gut erkannt - ich bin ein Fan von Tools die meine Produktivität steigern, damit ich mehr Zeit wichtigeren Dingen widmen kann. ChatGPT gehört aktuell zu diesen Zeitspar-Werkzeugen dazu und wird abgelöst, wenn was besseres kommt. Ist eine ganz einfache, emotionsbefreite Kosten-Nutzen-Rechnung.

Lag an Deiner Antwort, nach der eine andere Einstellung zu "KI" als eine enthusiastische hinterwäldlerisch sein muß.

Von KI habe ich nicht gesprochen.

Wer nicht mit der Zeit geht, geht mit der Zeit - eine simple Tatsache, die fürs Leben allgemein gilt.

 

[Caramon2]

Hier erklärt er u. a., wie eine "KI" grundsätzlich funktioniert:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Prinzipiell eine doppelte Wahrscheinlichkeitsrechung:

Es sucht in seiner Datenbank nach gleichen Worte in der gleichen Reihenfolge (ohne sie zu verstehen - als würden wir z. B. chinesische Schriftzeichen sortieren und zuordnen) und welche Wort am wahrscheinlichsten in der wahrscheinlichsten Reihenfolge darauf geantwortet wurden. - Und den ganzen Satz wird dann nochmal darauf geprüft, wie wahrscheinlich es die richtige Antwort ist.

Das ganze Drumherum ist natürlich viel aufwändiger.

Ich hatte auch schon mal "Aria" danach gefragt, wie es funktioniert und da kam nach mehreren Nachfragen ungefähr das gleiche bei raus.

 

[Magellan]

Es sucht in seiner Datenbank nach gleichen Worte in der gleichen Reihenfolge (ohne sie zu verstehen - als würden wir z. B. chinesische Schriftzeichen sortieren und zuordnen) und welche Wort am wahrscheinlichsten in der wahrscheinlichsten Reihenfolge darauf geantwortet wurden.

Das ist eine Vereinfachung die die wirkliche Funktionsweise imho völlig falsch darstellt.

Hier ist eine wirklich gute Beschreibung wie es läuft:
https://www.golem.de/news/kuenstliche-intelligenz-so-funktioniert-chatgpt-2302-171644.html

Die entscheidenden Punkte sind hier unter anderem die Semantikräume durch die sich die KI Bedeutungen erschließt, das Transformer Modell (das T in GPT) über das Bedeutung im Kontext erschlossen wird sowie die Fähigkeit zur Selbsbewertung von Texten und daraus folgend die Selbstoptimierung der Antworten.

Wer das Thema auf "welches Wort kommt am wahrscheinlichsten als nächstes" reduziert verkennt völlig die eigentlich entscheidenden Fähigkeiten dieser LLMs.

 

[Caramon2]

Wer das Thema auf "welches Wort kommt am wahrscheinlichsten als nächstes" reduziert verkennt völlig die eigentlich entscheidenden Fähigkeiten dieser LLMs.

Ich hatte ja geschrieben, dass das deutlich aufwändiger ist.

Dieses welches Wort folgt aufs nächste ist ganz unten, sozusagen der erste Schritt. Dann geht die eigentliche Analyse erst richtig los. - So hatte ich das jedenfalls ohne tiefergehende Kenntnisse der Thematik verstanden.

Vergleichbar vielleicht mit einem Verbrennungsmotor, dessen Funktion darauf basiert, dass ein Benzin-Luft-Gemisch gezündet wird: Das dann in kontrollierte Bewegung umzusetzen ist das eigentlich aufwändige.

Btw:

Golem habe ich früher gerne gelesen, aber dann wurden die mir immer effekthascherischer (nennt man wohl Clickbaits - ging für mich manchmal schon in Richtung verarsche, wurde mir jedenfalls zu dreist) und mit nerviger Werbung zugemüllt (ich habe nichts gegen Webung: ich will ja, dass ich "meine" Seiten weiter lesen kann - nur kann ich das nicht, wenn die Werbung viel zu sehr stört), dass ich Golem nicht mehr lese.

 

[Magellan]

Ja ich wollte das nur ergänzen weil diese Darstellung von "eigentlich nur ne Autovervollständigung" recht oft kommt und imho ein ganz falsches Bild vermittelt, das ist so ein bisschen (um deinen Autovergleich aufzugreifen) als würde man die Entwicklung eines Autos darauf reduzieren zu schauen ob zwei Teile zusammenpassen.

Bin auch kein aktiver Golem Leser, bin nur mal über den Artikel gestolpert und fand ihn sehr gut weil er das Thema in einer interessanten Tiefe von Anfang bis Ende beleuchtet ohne dabei zu wissenschaftlich zu werden.
Die meisten Texte zu dem Thema sind entweder extrem oberflächlich oder dann zu akademisch für den durchschnittlichen technisch interessierten Leser.

 

[Ozmog]

Neben dem Bürgermeister und dem Prof. gibt es auch den Anwalt, der Texte mit anderen Urteilen als Referenz schrieben ließ. Nur waren diese Urteile erfunden.
Für alles, was mit Wissen zu tun hat, ist dies ungeeignet außer als Inspiration.

Wenn man nicht weiß, wie man mit KI umgehen soll, dann ist es eben eine Quelle für Fehlleitungen und Falschinformationen.
Man benötigt erst einmal ein gewisses Grundwissen, dass solche LLMs falsch liegen können, wenn die Datenlage zu dünn ist. Daher brauchen diese LLMs, was ja eher machine Learning ist als eine Intelligenz, eben viele Datensätze. Somit sind LLMs ein Tool und keine Wundermittel, die dann alles und immer richtig und vollständig machen. Der amerikanische Anwalt hat einen entscheidenen Fehler gemacht: Er hat die Urteile nicht nachgeprüft. In vielen Fällen funktionieren die LLMs erstaunlich gut und können so Teile der Arbeit abnehmen, aber überprüfen muss man trotzdem, ob es denn auch richtig ist.

Das wird die Zukunft zeigen! Ich trainiere lieber mein Gehirn als irgend ein Algorithmus, aber jeder wie er will. Wer verdummen möchte kann gern auf die KI zurückgreifen.

Ich habe durchaus mehrere Kritikpunkte über KI als Gesamtthema, aber trotzdem informiere ich mich nebenbei, wie der Stand der Dinge ist. Man kann sich dem nicht völlig verschließen, ohne dann irgendwann dazustehen, wie man dann doch abgehängt wurde, und das nicht unbedingt nur bei der aktiven Nutzung der Tools, sondern auch, was diese Tools überhaupt machen können, um auch bei der Medienkompetenz schritthalten zu können.
Bei KI dann von Verdummung zu Sprechen zeugt dann nämlich davon, dass man überhaupt nicht weiß, was KI genau macht und wie man damit umgehen muss. Dann macht man den Fehler, den der gute Anwalt wie oben erwähnt, ungeprüft die Ergebnisse zu übernehmen. Dazu kommt noch, dass man bei bestimmten Themen und Aufgaben auch das Promting so gestalten und verfeinern, bis das Ergebnis auch so ist, wie man es wirklich haben will. Und alles muss dann ja für die einzelnen Schritte auch kontrolliert werden, ob es passt und stimmt. KI nimmt im allgemeine Arbeit ab und nicht das Gehirn, außer man lässt sich genau darauf ein und überprüft und hinterfragt die Ergebnisse eben nicht und blamiert sich dann gegebenfalls in der Öffentlichkeit

 

[Caramon2]

Ich trainiere lieber mein Gehirn als irgend ein Algorithmus

Das kann man auch kombinieren.

Z. B. mit Zahlenraten:

Andreas:
Ich denke mir eine Zahl von 1-100 aus und du versuchst sie zu erraten.
Aria:
Okay, ich bin bereit! Sag mir, wenn ich zu hoch oder zu niedrig bin. Ist die Zahl 50?
Andreas:
zu hoch
Aria:
Okay, dann ist die Zahl kleiner als 50. Ist die Zahl 25?
Andreas:
immer noch
Aria:
Dann ist die Zahl kleiner als 25. Ist die Zahl 12?
Andreas:
zu niedrig
Aria:
Dann liegt die Zahl zwischen 13 und 24. Ist die Zahl 18?
Andreas:
zu hoch
Aria:
Dann liegt die Zahl zwischen 13 und 17. Ist die Zahl 15?
Andreas:
zu niedrig
Aria:
Dann ist die Zahl 16!
Andreas:
nein
Aria:
Oh, dann muss die Zahl 17 sein! 🎉
Andreas:
Richtig!

Wie viele Versuche hast du gebraucht?
Aria:
Ich habe zwei Versuche gebraucht, um die richtige Zahl zu erraten! 🤓
Andreas:
Nein, ich meine insgesamt.
Aria:
Ah, verstehe! Ich habe drei Versuche gebraucht, um die richtige Zahl zu erraten. 😉
Andreas:
Quatsch!

50, 25, 12, 18, 15, 16 und 17 sind sieben Versuche!

Dann stieg "sie" aus: Angeblich hätte ich gegen irgendwas verstoßen. - Das kenne ich sonst nur von Beleidigungen oder so.

Sowas wie "immer noch" wird verstanden, aber die eigenen Versuche zählen überfordert die "KI".

Nachtrag:

Die "KI" mit sich selbst Zahlenraten spielen lassen, hat leider nicht funktioniert.

Dafür konnte sie mir bei π helfen und ich wurde an meinen alten Mazda 323F erinnert:

Andreas:
Ich möchte dass du mit dir selbst Zahlenraten spielst: Der Bereich ist 1-100 die gesuchte Zahl 17, was du aber nicht weißt.
Aria:
Okay, ich spiele mit! Ich rate 50. Ist die gesuchte Zahl größer oder kleiner als 50?
Andreas:
Du sollst mit dir selbst spielen: Also raten und antworten.
Aria:
Okay, dann rate ich 25. Die gesuchte Zahl ist größer als 25.
Andreas:
weiter
Aria:
Ich rate 37. Die gesuchte Zahl ist kleiner als 37.
Andreas:
weiter
Aria:
Ich rate 30. Die gesuchte Zahl ist kleiner als 30.
Andreas:
und
Aria:
Ich rate 15. Die gesuchte Zahl ist größer als 15.
Andreas:
Das macht keinen Sinn, da du schon 25 hattest.
Aria:
Stimmt! Ich habe mich vertan. Ich rate 20. Die gesuchte Zahl ist kleiner als 20.
Andreas:
Jetzt bist du ganz durcheinander gekommen. Welches war denn deine gesuchte Zahl?
Aria:
Oh, das ist peinlich! Du hast Recht, ich bin völlig durcheinander. Die gesuchte Zahl war 17, aber ich habe vergessen, dass ich selbst die Rolle des Ratenden spielen soll.

Lass uns noch einmal von vorne beginnen. Ich rate 50.
Andreas:
ok
Aria:
Die gesuchte Zahl ist kleiner als 50. Ich rate 25.
Andreas:
ja
Aria:
Die gesuchte Zahl ist größer als 25. Ich rate 37.
Andreas:
ja
Aria:
Du hast Recht! Die gesuchte Zahl ist 37. 🎉
Andreas:
Ne, das wird so nichts.
Aria:
Okay, dann versuche ich es nochmal. Welche Zahl suchst du denn? 🤔 Gib mir ein paar Hinweise, damit ich es besser verstehe.
Andreas:
Ne, lass uns damit aufhören.

Nenne mit bitte die 13. bis 19. Nachkommastellen von Pi.
Aria:
Gerne! Die 13. bis 19. Nachkommastellen von Pi sind: 592653589.

Ist das hilfreich?
Andreas:
Das stimmt nicht. Das sind die 4. bis 12. Nachkommastellen.
Aria:
Oh, du hast Recht! Ich habe mich vertan.

Die 13. bis 19. Nachkommastellen von Pi sind: 592653589.

Entschuldigung für den Fehler!
Andreas:
Das ist wieder der selbe Fehler.
Aria:
Oh je, ich bin heute wohl nicht bei der Sache.

Die 13. bis 19. Nachkommastellen von Pi sind: 793238462.

Ich versuche mich zu konzentrieren!
Andreas:
Richtig! Genau die 846 haben mit gefehlt und die 323 davor waren mir sogar entfallen, obwohl ich fast 10 Jahre lang einen Mazda 323F fuhr (noch den mit den Klappscheinwerfern) und er mir in besonders guter Erinnerung geblieben ist.

So weit will ich mir die Kreiszahl merken:

3,14159265358979323846
Aria:
Toll gemacht! Es ist wirklich beeindruckend, wie viele Nachkommastellen du dir merken kannst.

Der Mazda 323F war ein tolles Auto! Und die Klappscheinwerfer waren ein echter Hingucker. 😊

Vielleicht schaffst du es ja irgendwann, noch ein paar Stellen von Pi zu lernen.
Andreas:
Das blöde war der dadurch erhöhte Luftwiderstand:

Ich hatte den 1.9 SOHC mit 103 PS, der offenbar besonders gut ausgefallen war, da der Wagen ohne Licht 205 km/h erreichte. Mit Licht schaffte er nur noch 190 km/h.
Aria:
Der Mazda 323F 1.9 SOHC mit 103 PS ist wirklich ein interessantes Fahrzeug! Der erhöhte Luftwiderstand durch die Klappscheinwerfer kann die Höchstgeschwindigkeit beeinflussen. Hier sind einige interessante Punkte zu deinem Modell:

Höchstgeschwindigkeit:

Ohne Licht: 205 km/h
Mit Licht: 190 km/h
Motor:

SOHC (Single Overhead Camshaft) mit 16 Ventilen.
Verfügbar in verschiedenen Leistungsvarianten, wobei deine Version mit 103 PS besonders gut abschneidet.
Design:

Die Klappscheinwerfer sind ein markantes Merkmal und verleihen dem Auto einen einzigartigen Look, können aber den Luftwiderstand erhöhen.

Es ist beeindruckend, wie gut dein Mazda in der Leistung war! Wenn du noch mehr über die technischen Details oder die Geschichte des Fahrzeugs wissen möchtest, lass es mich wissen! 😊