News ChatGPT und Desinformation: Reddit-Moderatoren beklagen Spam-Welle mit KI-Inhalten

[Turrican101]

Einfach Telefonnummer zum Registrieren angeben, sollte für 99% der Probleme reichen. Und zur Not ne Beschränkung an Posts pro Minute oder sowas.

 

[Gewuerzwiesel]

Gegen Desinformation hilft vermutlich ein Classifier den man trainiert hat menschliche von maschinellen Texten zu unterscheiden.

Ansonsten sollte doch grad gegen Spammails ChatGPT helfen. Einfach auf jede Spammail von ChatGPT eine Antwort schreiben und verschicken und so die Betrüger in endlos viele Konversationen verstricken. Die werden dann nicht mehr wissen wo sich was holen lässt und wo nicht.

 

[NameHere]

@Andy kann im weiteren Verlauf des Berichtes nichts zu Desinformation finden. Und Propaganda soll ja nicht verwendet worden. In diesem Fall ist es zu keinen der beiden Behauptungen gekommen. Das bestätigt dein eigener Bericht.

Experten befürchten angesichts des Hypes rund um generative KI-Lösungen eine Welle an Desinformation und Propaganda.

Ist das jetzt Mode, das Medien Desinformation betreiben, in dem in der Überschrift oder Einleitungssatz etwas erwähnen und es im eigentlichen Bericht zu keinem Zeitpunkt zur Sprache kommt!?

 

[S K Y N E T]

Ich weiss nicht ob wir VICE hier zitieren sollten die REDDIT Moderatoren zitieren................

 

[H3llF15H]

Oder glaubst du einfach alles was im Internet steht auch wenn es keinen Sinn ergibt?

Glaube nicht alles, was Du im Internet sieht.

- Galileo Galilei

 

[ChrissKrass]

Dann bekommen wir endlich Spammails mit vernünftigen Sätzen. ;-)

Dann hast noch mehr zutun die auf den Link oder das Bild klicken bitte nicht… die Quote ist ja jetzt schon schlecht.

 

[Fritzibox]

Wie difeniert man Desinformation? Sind Desinformationen was der Regierung nicht passt?

 

[netzgestaltung]

Eigentlich sehe ich Reddit an sich schon als Quelle von Desinformation und (pro-amerikanischer u.a.) Propaganda.

Ich kenn reddit nur aus suchergebnissen zu technischen fragen, linux, steam-deck. hab noch nie auch nur eine politische seite auf reddit angesehn/gesehen.

 

[Marcel55]

Schöne neue Welt...

 

[Haldi]

Nein
Doch
Oh...

Ich mag reddit nicht.
Reddit ist eine "globalisierung" der Foren im Internet. Sie haben durch den 'mach dein eigenes Forum Ohne Kosten' vielen das Wasser abgegraben ab auch vielen erst ermöglicht etwas zu erschaffen und so eine riesige zentralisierte Userbase erschaffen.
Aber genau dadurch sind sie auch zentraler angriffspunkt geworden.
Ich bin der Meinung das Internet sollte an vielen Stellen dezentraler werden.
Aber da 99.999% der Internet Nutzer keine Ahnung haben wie es funktioniert und nur schon zufrieden sind das es läuft sind solche ideologistische hirngespinste zur Verbesserung der Struktur nutzlos.
Die ganze Welt lebt auf einem Flickenteppich der über die Zeit gewachsen ist, weil "never change a running system" oder "so gut wie nötig, nicht so gut wie möglich" das alles finanziell irgendwie noch rentabel sein muss.

Aber ja. Wenn wir glück haben und ChatGPT in den nächsten 10-20 Jahren rund 33% aller Arbeitsplätze ersetzt haben wir vielleicht mehr Zeit um uns um solche Dinge zu kümmern.

Aber nicht grundlos gehen einige Leute beim googlen her und suchen "BEGRIFF reddit".
Ist aktuell (noch) der einfachste Weg Meinungen von echten Nutzern zu finden, eine normale Suche gibt einem jetzt schon seit Jahrne nur inhaltslosen Müll mit Afiliate-Links aus.

Aktuell noch....
Sobald das alles von Bots vollgespamt wird deren Posts man nicht unterscheiden kann wird daraus auch nichts mehr.
Und wenn das so weiter geht wird das bald schon der fall sein.
Aber Reddit wird sich schon was dagegen einfallen lassen..... oder in der bedeutungslosigkeit verschwinden.

Glaube nicht alles, was Du im Internet sieht.

Das Zitat stammt aber von Albert Einstein!

 

[Der Kabelbinder]

Mal weiter gedacht:

Auf kurz oder lang werden derartige Entwicklungen das ohnehin schon fragile Konstrukt einer freien, im Grundsatz anonymen Nutzung des Webs wahrscheinlich derart beschädigen, dass wir nicht mehr ohne strenge Authentifizierung menschlicher Nutzer auskommen.

Im besten Fall folgt dann ein randomisierter, temporärer Token, der von einer gemeinnützigen, dezentralen Organisation vergeben wird. Wenn ich ehrlich bin, dann fehlt mir für solch ein Szenario allerdings der Optimismus. Es erscheint mir naheliegender, dass das Registrierungsverfahren erst mal über die Tech-Riesen deutlich verschärft wird und die Politik nicht schnell genug sein wird, selbst entsprechende (bestenfalls datenschutzkonforme) Infrastrukturen aufzubauen.

Aber ob so oder so. Ohne Regulationen beim Zugang zu solchen Portalen wird man das Problem nicht lösen können. Die Mechanismen zur Erkennung von KI-generierten Inhalten sind nicht überzeugend, auf Dauer auch viel zu teuer in der kontinuierlichen Instandhaltung und Fehlerkorrektur. Das sind nicht mehr als vorübergehende Lösungen, die ja selbst genügend eigene Probleme verursachen. Die KI-gestützte Moderation (verifizierter menschlicher Inhalte) wird allerdings bleiben.

 

[koech]

Spannend: Welche der Vorredner (hier in diesem Thread) haben KI-generierte Texte eingesetzt?
Ich werde das mal BINGen...

 

[Krazee]

Die ganze Welt lebt auf einem Flickenteppich der über die Zeit gewachsen ist, weil "never change a running system" oder "so gut wie nötig, nicht so gut wie möglich" das alles finanziell irgendwie noch rentabel sein muss.

Äußerst treffende Beschreibung. Gerad mit Hinblick auf reddit. Entwicklungstechnisch passierte da nie was, weil "gut genug". Und jetzt kommt eine neue Welle, die dagegen schwappt, während die Tore der Plattform weit offen sind.

Sobald das alles von Bots vollgespamt wird deren Posts man nicht unterscheiden kann wird daraus auch nichts mehr.
Und wenn das so weiter geht wird das bald schon der fall sein.
Aber Reddit wird sich schon was dagegen einfallen lassen..... oder in der bedeutungslosigkeit verschwinden.

Ich glaub jetzt mal nicht, dass sich reddit irgendwas Neues einfallen lassen wird. Die verpulvern ihre Ressourcen ja lieber in z.B. Avatar NFTs ^^

Innovativ und Vorreiterrolle sind jetzt Eigenschaften, die ich nicht mit reddit in Verbindung bringe.

Totsagen will ich den "Laden" jetzt allerdings auch noch nicht. Dafür gibt es sie zu lang.

Jetzt reaktiv irgendwas auf die Schnelle zu kitten, wird auch nichts bringen. KI-Inhalte zu identifizieren und solche auch erkenntlich zu kennzeichnen, wird schwer und die Fehlerquote diesbetreffend hoch.

Daher bleibt nur abwarten und Tee zu trinken. Wenn die Inhalte unzumutbar werden sollten, dann pummeln sich die bots irgendwann sowieso nur noch gegenseitig. Das kann in keinem Interesse welcher Gruppe auch immer sein.

Der große Spagat wird sein, User zu halten und gleichzeitig KI-Inhalte drinnen zu halten. Doch ein "best of both worlds"-Szenario scheint mir in weiter Ferne.

 

[Klueze]

KI-basierte Textgenerierungssysteme sind in der Lage, große Mengen von Texten in kürzester Zeit zu produzieren. Dies kann von Vorteil sein, wenn es darum geht, schnelle Antworten auf komplexe Fragen zu liefern oder effektiv große Mengen von Daten zu verarbeiten.
Allerdings kann ihre Fähigkeit, große Mengen an Texten schnell zu generieren, auch dazu führen, dass sie von unethischen Akteuren missbraucht werden, die KIs nutzen, um Spam in Foren und anderen Online-Plattformen zu verbreiten.

okay reicht :> Ich glaube bis hierhin haben die meisten gemerkt, dass das von einer KI generiert wurde. Aber Mensch kann sich gut vorstellen dass das bald (oder schon heute mit geschickterer Nutzung) nicht mehr wirklich zu Unterscheiden ist. Tatsächlich ist die einzige Lösung die mir einfällt auch eine Bezahlschranke, die es dann unattraktiv für Botnutzer macht.
Das Thema ist glaube ich extra wichtig, da die Erfahrung und Maßnahmen die wir für dieses Thema sammeln/treffen maßgeblich Einfluss darauf haben werden, wie wir auf den Einfluss von KI in anderen Bereichen reagieren. Noch größere Sorgen mache ich mir wirklich im Bereich Politik - es ist ja nur eine Frage der Zeit bis das dort auch Missbraucht wird.

 

[Kapsi87]

Man sollte dann auch die Ki dazu benutzen Spam zu erkennen und zu filtern.

Genau, man nimmt einfach die am besten entwickelte KI und setzt diese für das "Gute" ein - die etwas schlechteren für das "Böse" ...

 

[guillome]

Diese ganzen "sozialen Plattformen" wo mehr oder weniger jeder über sämtliche Landesgrenzen hinweg irgendwas ohne Quellen posten kann ist das neue Problem dieses Jahrhunderts.
Es werden dadurch komplette Meinungen gedreht und Menschen manipuliert. Man sah das schon als Vorläufer bei verschiedenen Wahlen, Qanon, etc wo man diese Inhalte schon als Mittel zu Beinflussung eingesetzt hat. Ich glaube das wird im großen Stil die kommenden Jahre unser Geschehen beinflussen. Mit KI wird das noch einfacher werden...

Postet eine aus der Vergangenheit seriöse Nachrichtenagentur etwas, wird das gleich von der anderen Seite als Manipulation und Lüge abgetan. Die Ethik wie in der Wissenschaft gearbeitet wird (faktenbasiert mit Quellen), funktioniert bei diesen sozialen Plattformen nicht wirklich. Leider finden sie fruchtbaren Boden...

Ich habe keine grundlegende Idee was man dagegen tun könnte. Ich hoffe, dass sich die Gesellschaft nicht irgendwann selbst zerfleischt durch Hetzer die das ausnutzen wollen um für ihren Vorteil Chaos zu sähen...

 

[IHEA1234]

ist eine amerikanische Plattform, die in den USA weitaus mehr verbreitet ist, als hier. Die meisten Inhalte auf das Weltgeschehen bezogen sind über die USA, oder in einer amerikanischen Sichtweise erzählt.

Ich bin mir sicher, es gibt genügend russisch sprachige Foren, die die russsische "Sichtweise" propagieren. Und genügend chinesische Foren, die bereits für die Eroberung Taiwans trommeln. Und indisch sprachige Foren. Frisch ans Werk!

Deine Thesen sind leider so substanzlos antiamerikanisch, dass man nur schlecht darüber diskutieren kann. Sollte deine Aussage gewesen sein "Meinungsfreiheit und Informationsfreiheit ist die Keimzelle einer freien und demokratischen Gesellschaft" - dann bin ich voll auf deiner Seite.

In dem Sinne wird man in englischsprachigen Foren eine deutliche Mehrzahl von westlich aufgewachsenen Menschen finden, die zB Demokratie bevorzugen. In einem chinesisch sprachigen Forum wird man dann deutlich mehr chinesisch aufgewachsene Menschen finden, die Demokratie nie kennengelernt haben und nichts besser finden als die güte Partei, die sich um das Wohl des Volkes kümmert.

 

[lorpel]

Das ist ja erst der Anfang und die ki ist noch nicht gut. In Zukunft wird man echte Accounts mit freundlichen Menschen dahinter mit der Lupe suchen müssen.
Das ganze Problem existiert allerdings nur, weil Menschen das Spam Modell lukrativ genug machen, indem sie drauf reinfallen.
Imho gehört eine Spam Aufklärung in die Grundschule.

 

[Ennea]

"Experten" befuerchten? Aha, schon klar. Die Experten mal wieder. Von ComputerBase erwarte ich ehrlich gesagt ein bisschen mehr. An der Stelle hab ich aufgehoert zu lesen.

 

[Chris007]

Gegen Desinformation hilft vermutlich ein Classifier den man trainiert hat menschliche von maschinellen Texten zu unterscheiden.

Ansonsten sollte doch grad gegen Spammails ChatGPT helfen. Einfach auf jede Spammail von ChatGPT eine Antwort schreiben und verschicken und so die Betrüger in endlos viele Konversationen verstricken. Die werden dann nicht mehr wissen wo sich was holen lässt und wo nicht.

Heutzutage ist es so schwer geworden, menshliche Texte von KI-Texten zu unterscheiden, dass man beinahe ein forensischer Textdetektiv sein müsste, um herauszufinden, wer hinter diesen Kommentaren steckt.

Ergänzung (13. April 2023)

KI-basierte Textgenerierungssysteme sind in der Lage, große Mengen von Texten in kürzester Zeit zu produzieren. Dies kann von Vorteil sein, wenn es darum geht, schnelle Antworten auf komplexe Fragen zu liefern oder effektiv große Mengen von Daten zu verarbeiten.
Allerdings kann ihre Fähigkeit, große Mengen an Texten schnell zu generieren, auch dazu führen, dass sie von unethischen Akteuren missbraucht werden, die KIs nutzen, um Spam in Foren und anderen Online-Plattformen zu verbreiten.

okay reicht :> Ich glaube bis hierhin haben die meisten gemerkt, dass das von einer KI generiert wurde. Aber Mensch kann sich gut vorstellen dass das bald (oder schon heute mit geschickterer Nutzung) nicht mehr wirklich zu Unterscheiden ist. Tatsächlich ist die einzige Lösung die mir einfällt auch eine Bezahlschranke, die es dann unattraktiv für Botnutzer macht.
Das Thema ist glaube ich extra wichtig, da die Erfahrung und Maßnahmen die wir für dieses Thema sammeln/treffen maßgeblich Einfluss darauf haben werden, wie wir auf den Einfluss von KI in anderen Bereichen reagieren. Noch größere Sorgen mache ich mir wirklich im Bereich Politik - es ist ja nur eine Frage der Zeit bis das dort auch Missbraucht wird.

dann ist deine ki aber ein bisschen basic

also echt, diese ganze KI-Geschichte wird langsam echt nervig, oder? Ich mein, ich hab nichts gegen Technologie und Fortschritt, aber das Ganze hat halt auch seine Schattenseiten. Jetzt wird Reddit schon von Spam-Wellen überrannt, die von KI-Systemen wie ChatGPT generiert werden.

das Zeug nervt. Ständig tauchen solche Fake-Inhalte auf. Und das Schlimmste ist, dass diese KI-Systeme immer besser und raffinierter werden. Früher konnte man noch ziemlich leicht erkennen, wenn ein Beitrag von einem Bot erstellt wurde. Aber heute? Es ist fast unmöglich, das auf den ersten Blick zu erkennen.

immer noch so eindeutig? das war gpt4