News Fehler und Halluzinationen: ChatGPTs Suchfunktion erfindet Ergebnisse für DFB-Pokalspiele

[Houdini_13]

Und morgen schreibt Chatgpt, Olaf Scholz hätte das Kriegsrecht ausgerufen.
Würden auch genug Leute glauben.

 

[cruse]

Ganz schön schlecht.

Direkt wertlos. Was will ich mit ausgewürfelten Suchergebnissen?

 

[Chriz]

dass man keine Zeit spart, sich die Bugdichte aber massiv erhöht, und dazu noch sich die Burnoutmarker bei den Nutzern verstärken…

Kommt vermutlich auch stark darauf an, ob 2/3 des gesamten codes auf ChatGPT basieren oder ob man vereinzelt Funktionen und Methoden nachschlägt.
Natürlich sollte man schon wissen was man tut, es ist ein tool, keine Lösung.

ChatGPT ist mir in sofern lieber, alsdass ich hier im Gegensatz zu Wikipedia und Github auch in einen Dialog gehen kann...

 

[rob_zup]

Kooperieren die nicht mit Springer?

 

[duklum]

Ganz schwach von der KI - natürlich wird die Eintracht gewinnen

 

[duskstalker]

meine erfahrungen mit KI suchergebnissen sind auch gemischt. teilweise bekommt man da gute infos, die man sonst lange suchen muss, aber in bestimmt 50% der fälle ist die information auch einfach falsch oder quellen stimmen nicht.

eigentlich teilweise unbrauchbar bis gefährlich falsch.

 

[interesTED]

Die Suchfunktion der KI ist gar nicht zu gebrauchen. Habe sie heute nach einem Liedtext von einer plattdeutschen Gruppe gefragt (konnte nichts im Internet finden) und sie war vollkommen überzeugt, dass sie mir die ersten vier Zeilen gezeigt hat, mehr aus Lizenzgründen aber nicht. Ich verstehe platt nicht so gut, aber das, was sie mir da gezeigt hat, war zwar plattdeutsch, aber hatte nix mit dem Lied zu tun…

 

[tollertyp]

Zum Glück gibt es nicht jedes Mal eine Meldung, wenn irgendein Mensch irgendwas falsches glaubhaft behauptet. Dass KI in Sachen glaubwürdigkeit extrem menschlich ist, ist doch nichts neues.

Gibt genug Studien mittlerweile, in denen die Schlussfolgerung ist, dass man keine Zeit spart, sich die Bugdichte aber massiv erhöht, und dazu noch sich die Burnoutmarker bei den Nutzern verstärken…

Wie immer kommt es halt darauf an, wie und in welchem Umfeld man ein Werkzeug einsetzt.

 

[cruse]

Wenn sie nicht zu 100% akkurat ist, wozu brauche ich sie dann?

 

[TorenAltair]

Ich hoffe ja noch wirklich auf das Wunder, dass man doch noch auf den Trichter kommt und die Bezeichnung "AI"/"KI" fallen lässt. Leider habe ich da keine Hoffnung. Und Isaac Asimov rotiert im Grab.

 

[Botcruscher]

Multivariable statistische Dummheit eben. Es muss nur irgendwie passen damit der Milliarden-Hype weiter geht.

Wenn sie nicht zu 100% akkurat ist, wozu brauche ich sie dann?

Für Prozesse die unkritisch auch mit 95% funktionieren und dir Zeit sparen, für neue Ideen für dich und für Prozesse die tatsächlich Nähe 100% laufen. Das Anwendungsfeld ist so enorm wie die Streuung der möglichen Eignung.

 

[Red_Bull]

solange es nicht auf den roten knopf druckt....

 

[JustAnotherTux]

Direkt mal Lottozahlen anfragen

Warum nicht?

An der Wahrscheinlichkeit zu gewinnen ändert sich jedenfalls nichts

 

[pseudopseudonym]

Mir hat das heute morgen gesagt, dass Neuer sich eine Rote gefangen hat und die Bayern schon wieder früh ausm Pokal sind😂
...Naja, neue Technik und so.

 

[DeusExMachina]

Und wen, der die grundsätzliche Funktionsweise von LLM versteht, überrascht das jetzt?

Das ist ja das Problem, selbst beim verstehen der grundsätzlichen Funktionsweise scheitern zu viele. Und sehen das dann noch als Beweis dafür wie fortschrittlich das Ganze ist.

 

[usernamehere]

Schade – klar.
Es bleibt halt weiterhin ein Werkzeug und kein "Ich frag’ und es stimmt zu 100 %"-Tool. Auch wenn das nicht alle, bzw. eher die meisten, nicht verstehen.

 

[Maviapril2]

@Reglohln Links suche ich morgen raus, müsste dafür nochmal an den Arbeitslaptop gehen. Sollte ich es vergessen, bitte nochmal erinnern

 

[kolyeah]

Nur noch 1 Nuke plant und dann klappt das, versprochen!

 

[Cool Master]

“Die aktuelle KI” aka LLMs sind aber nicht darauf ausgelegt, Muster zu erkennen

Am Ende ist es eh alles Statistik... Wie man das Kind nun nennt ist egal.

 

[iSight2TheBlind]

Und dafür werden Atomkraftwerke neugebaut und Nvidia zur zeitweise wertvollsten Firma der Welt gepusht...
(Ja, ist nicht zwingend OpenAI, aber der Sektor "AI" generell)

LLMs können halt wunderbar abschätzen wie ein Text zu einer bestimmten Fragestellung typischerweise aussehen sollte und entsprechende Texte generieren, aber das führt dann eher zufällig zu faktisch korrekten Aussagen...
ChatGPT ist auch nur die große Schwester der Textvervollständigungsfunktion meiner iPhone-Standardtastatur, die die Eingabe "Mit freundlichen" zwar mit dem Wort "Grüßen" als Vorschlag fortsetzt, dann aber als nächste Vorschläge "Michael" und "Müller" bringt, weil Michael der häufigste Männername in Deutschland ist und Müller offensichtlich der häufigste Nachname, ein, zwei Stufen weiter kommt dann noch "Rechtsanwalt", weil der Nutzerkreis von Rechtsanwälten wohl so groß bei iOS ist, dass die Tastatur die Floskel "Mit freundlichen Grüßen, Michael Müller, Rechtsanwalt" crowdsourced als wahrscheinlichsten Satz erlernt hat.
Und ich heiße weder Michael Müller, noch bin ich Rechtsanwalt.

Das wird in den nächsten Jahren noch zu einigen unschönen Situationen führen, wenn Menschen der KI immer mehr vertrauen, aber die dahinter stehenden Systeme nicht verstehen und mögliche Fehlerquellen nicht erkennen.
(Und wenn man ChatGPT nach Quellen zu einer Aussage fragt erfindet es halt welche, mit Autoren aus dem Fachgebiet, aber Veröffentlichungen und Co-Autoren die immer ganz leicht von echten Veröffentlichungen abweichen, was die Kontrolle nochmal schwerer macht)

Da ist es auch problematisch, dass ChatGPT wunderbar einfach Bullshit-Texte zu allen möglichen Themen schreiben kann, notfalls indem man es eine Geschichte erzählen lässt über eine Welt mit einer flachen Erde und Reichsflugscheiben und Reptiloiden, falls es aufgrund integrierter Schranken diese Themen nicht als "Wahrheit" beschreiben kann.
Erneut ist es einfacher Bullshit und Lügen in die Welt zu bringen, als einen faktisch korrekten Text.
Schon hat man mit wenigen Prompts eine komplette Schwurblerseite gefüllt.
Und da KI nicht nur bei Texten Fortschritte (in der Verfügbarkeit) macht, kann man (bald) dazu auch noch komplette Videos generieren und einen künstlichen Sprecher, evtl. mit der Stimme einer vertrauenswürdigen Person, diese Videos einsprechen lassen.

Aus einer der besten Zeiten bewegen wir uns gerade leider (erneut) auf eine der dunkelsten Zeiten zu, wo schlimmstenfalls eine einzelne Person aus ihrem Wohnzimmer heraus Millionen (auf der ganzen Welt) radikalisieren kann.

Man muss fast hoffen, dass sich die Flacherdler und die Hohlerdler (oder andere Schwurbler- und Extremistengruppen mit entgegengesetztem Weltbild) so sehr in die Haare kriegen, dass daraus ein Bandenkrieg unter ihren Leuten entsteht und sie sich nicht auf den Rest der Bevölkerung konzentrieren können.