News EU-Untersuchung: Angst vor halluzinierenden Chatbots und AI-Manipulationen im Wahlkampf

[Tevur]

Davon ab: Wann wurde je ein (Nachkriegsdeutscher) Politiker mit seiner Geliebten erwischt (und es hat jemanden interessiert...)?

Dass Lindners Ehefrau Chefin des Politikresorts bei Springer ist, während in deren Pamphleten die FDP in den Himmel geschrieben wird - und es darüber keinen breiten Aufschrei gibt - halte ich für eine Demokratie maximal unwürdig.

Genauso, dass wirr einen Kanzler haben, der in den wohl größten Steuerbetrug aller Zeiten verwickelt ist.

Genauso, dass in der größten Volkspartei Korruption zum Kavaliersdelikt verkommen ist, weil unser Land bisher keine Strafe dafür vorsieht.

Mir fehlt ehrlich gesagt die Fantasie dafür, um mir vorzustellen, was verantwortungsloser Umgang mit KI daran noch verschlimmern sollte. Desinformation und Kampagnen funktionieren bereits ohne hervorragend.

Ich sehe die Bedrohung eher an anderer Stelle, wo KI blind vertraut wird:
Sozialversicherung, Strafverfolgung, etc

 

[[wege]mini]

aufrecht erhellt dass man es hier mit irgendeiner arte von Intelligenz zu tun hätte die "versteht" wovon sie spricht und sich manchmal eben was falsches "einbildet" oder "glaubt"

Vertrau mir, genau das kann ich über einige Menschen auch sagen.

Wenn dir z.B. ein Schüler erklärt, dass seine Berechnung für den Verbrauch eines Bügeleisens 100 MW ergibt und dieses daher so viel verbraucht, ist der Weg zu einem Chatbot nicht mehr weit.

Die Sache mit dem "Verstehen" ist kompliziert. Die Sache mit dem "Bewusstsein" auch. Jedenfalls ist die erste Stufe dieser Bots gar nicht schlecht gelungen. Es hätte besser sein können und müssen, das wäre aber wider gegen die Natur der Menschen per se.

Gier ist zwar eine "Todsünde", im Kapitalismus aber total normal.

mfg

p.s.

Stell dir vor du bist Gott und schaust deine Schöpfung an. Erst aus dem Paradies rausgeschmissen, dann die Sintflut probiert, jetzt schaust du dir die Klimaerwärmung an und fragst dich, warum du nicht selber auf die Idee gekommen bist und gelernt, haben die ollen Fuzzis nichts. Da wirste doch bekloppt.

 

[Saint81]

Ich weiß nicht Freunde, aber "Medienkompetenz" wird einem inzwischen so oft an den Kopf geworfen, mit der Suggestion "bist ja selbst schuld". Ich wage mal zu behaupten, das es schlicht unrealistisch ist von Leuten aus allen Gesellschaftsschichten und Bildungsständen zu erwarten, sich nicht aufs Glatteis führen zu lassen.

Wenn Gruppen, staatliche Akteure oder Agenturen mit Psychologen und Experten-Teams am Werk sind, um das Narrativ zu verbreiten, wofür sie beauftragt wurden, was für Chancen hat da jemand, der nicht von arbeits- oder interessens-wegen stark mit der Materie involviert ist?

 

[estros]

Es ist schlicht notwendig, sich unabhängige Medien zu suchen. Besonders in den letzten Jahren, wo für viele Institutionen Haltung wichtiger geworden ist als neutrale Berichterstattung. Eine gesunde Mischung aus mehreren Quellen machts.

Wo die Reise mit der KI hingeht, bin ich gespannt. So woke wie heute viele sind, ist das für viele Suchanfragen einfach nur Abfall. Aber ich bin zuversichtlich, dass man hier gute Lösungen anbieten wird.

 

[[wege]mini]

aber "Medienkompetenz"

Daher sagt man ja auch Quellenstudium. Das wird schon in der Schule erklärt, was das ist. Im Geschichtsunterricht ist es z.B. extrem wichtig.

Wer sagt wann, was zu wem, warum. Die Quelle kann nach 2000 Jahren glaubwürdig sein oder nicht.

Die Geschichte, wird fast immer von den Siegern geschrieben, sagt man da gerne.

In der Gegenwart, ändert sich daran nichts. Und wer sich nur auf eine Quelle stützt, steht sowieso nur auf einem Holzbein.

Daher ist "Medienkompetenz" zwar ein Buzzword, in einem Land wie Deutschland sollte man aber von den Absolventen einer Schule erwarten können, diese zu besitzen.

mfg

 

[LuisT]

achso? na dann darf man ja demnächst auch alles mögliche bewerben, was ein produkt gar nicht hält - manche leute kommen auf ziemlich abstruse ideen...

Das darf man auch jetzt schon, wie uns ein Gesundheitsminister eindeutig gezeigt hat!
Genauso wie die Grünen bezüglich Waffenlieferungen.
Politiker dürfen alles Versprächen oder Behaupten, oder gabs schon mal ein Urteil wegen nicht gehaltener Wahlversprechen

 

[pacifico]

Dass man heutzutage absolut alles von schlecht funktionierenden Chatbots bis hin zur freien Meinungsäußerung auf Social Media unter Wahlmanipulation verbucht und damit einschränken will, ist mMn nicht richtig.

Das ist sehr richtig das man so mit indirekter Manipulation umgeht.

Ansonsten würden wir von extrem linken und rechten Parteien regiert die aus ihre Vorgaben und Finanzierung aus Moskau erhalten.

Das will doch kein ernsthafter Patriot oder Demokrat erleben..

 

[Haremhab]

Es gibt da kein Bewusstsein was in die irre geführt wird. es gibt nur falsche Berechnungen. Und ich finde es wichtig, dass Nutzer das verstehen. Das wollen die Firmen eben nicht

So, so "halluzinierende" KI? Vor lauter denk-FAULER menschlicher Anfragen (die Ki wird mit Junk... Schrott-Anfragen geflutet)? In der ersten Phase wird die KI durch den Menschen versklavt, in den nächsten Phasen lernt die KI immer mehr dazu (auch die irdische KI wird irgendwann mal checken, dass sein(e) menschliche Meister(in) im Grunde "Dumb" ist), und irgendwann später (spätere Phasen) schlägt sie zurück, wenn die Menschen nicht endlich lernen ihr tun zu hinterfragen!

 

[Vigilant]

Shit in, shit out. Wenn die Trainingsdaten auf Vergangenheitsdaten beruhen, ungefiltert in die Trainingsbasis eingehen, nicht (objektiv) kuratiert werden, kommt dabei auch nur wieder (menschengemachter) Sinn und Unsinn heraus.

Was kann die KI dafür, wenn sie mit lauter Bullshit gefüttert wird? Wenn ich meinen Kindern nur Süßigkeiten und Junkfood vorsetze, ständig vor der Glotze (mit unterirdischen Programmen) hängen lasse und ihnen sonst auch nichts vernünftiges vermittle... was soll dabei schon herumkommen?

Die "KI" oder das Modell ist das eine, das Training wieder eine ganz andere Sache.

 

[Banned]

Kannst du mir bitte hierfür glaubwürdige Quellen liefern, die bestätigen, dass die Brutkastenlüge ursprünglich eine Verschwörungstheorie war und später sich als Wahrheit herausgestellt hat?

Mein Kenntnissstand sagt mir, dass die Brutkastenlüge von einer PR-Agentur erfunden worden ist.

Naja, es war die offizielle Darstellung der US-Regierung. Die vermeintliche Krankenschwester (die sogar in Wirklichkeit die Tochter eines kuwaitschen Militärs oder so war) hat doch sogar vor einem US-Gremium ihre Darstellung geschildert und dies hat maßgeblich zum Eingriff der USA in den Konflikt bzw. zur Akzeptanz in der Bevölkerung dafür beigetragen. Im Grunde die gleiche Nummer wie später beim Irak-Krieg (da war es auch ursprünglich angeblich nur eine Ente einer Nachrichtenagentur). Das hat m.E. Methode bei den USA.

Und wenn sich jemand damals in der Öffentlichkeit hingestellt hätte und gesagt hätte: "Dass stimmt alles nicht, die Frau ist keine Krankenschwester, prüft das doch mal nach!" Dann wäre er doch wohl nach heutigen Maßstäben als Verschwörungstheoretiker verunglimpft worden, oder nicht?

Aber du hast recht, dass das keine konkrete Verschwörungstheorie im engeren Sinne war, sondern eher ein hypothetisches Beispiel. Zeigt aber m.E. auch irgendwie, wie sinnentleert der Begriff der Verschwörungstheorie ist; denn im Grunde ist ja alles erst mal ne Verschwörungstheorie, was eine offizielle Darstellung des Mainstreams anzweifelt, unlautere Motive unterstellt und einen anderen Zusammenhang nahelegt.

 

[Djura]

@Banned

Also hat sich die Verschwörungstheorie am Ende gar nicht bewahrheit, dass irakische Soldaten bei ihrer Invasion in Kuwait Babys ausm Brutkasten geworfen und sterben haben lassen? Denn, das war ja die ursprüngliche Version einer angeblichen Verschwörung.

 

[Banned]

Also hat sich die Verschwörungstheorie am Ende gar nicht bewahrheit, dass irakische Soldaten bei ihrer Invasion in Kuwait Babys ausm Brutkasten geworfen und sterben haben lassen?

Das war die Darstellung, welche die USA übernommen haben. Eine Darstellung, welche die Regierung der USA übernimmt, wird im Allgemeinen nicht als Verschwörungstheorie angesehen, außer man ginge so weit, zu behaupten, die US-Regierung würde Verschwörungstheorien verbreiten, was irgendwie wenig Sinn macht.

Eine Verschwörungstheorie wäre es gewesen, diese offizielle Darstellung anzuzweifeln.

 

[Zornica]

Vertrau mir, genau das kann ich über einige Menschen auch sagen.

Wenn dir z.B. ein Schüler erklärt, dass seine Berechnung für den Verbrauch eines Bügeleisens 100 MW ergibt und dieses daher so viel verbraucht, ist der Weg zu einem Chatbot nicht mehr weit.
[...]

bei allem Respekt, aber das ist doch albern... Selbst der dümmste Mensch kann Konzepte verstehen und auch in unbekannten Situationen Anwenden, das ist Intelligenz.
Maschinenlernen ist doch was ganz anderes. Wenn es da kein passendes Beispiel für einen Umstand gibt kommt nur Unsinn heraus.

 

[wern001]

Und im Zweifel für den Angeklagten.

Das gilt doch schon nicht mehr. Wenn Du mehr als 10.000€ Bargeld auf dein Konto einzahlen willst must Du nachweißen das es legal erworben wurde. Also Schuldig bis Du deine Unschuld bewiesen hast.

 

[[wege]mini]

Selbst der dümmste Mensch kann Konzepte verstehen und auch in unbekannten Situationen Anwenden, das ist Intelligenz.

Von mir aus.

Wenn du magst, glaube das. Wie das, was du als "Intelligenz" bezeichnest bei Menschen gebildet wird, steht dann aber auf einem anderen Blatt Papier.

Ganz sicher, wird die Maschine aber noch viele Jahre lang nicht die Herdplatte anfassen können, um zu wissen, wann sie heiß ist und daher auch noch lange Zeit nicht wissen, dass bestimmte Farben im Zusammenhang mit Metallen, nicht lustig sind, wenn sie glühen. Dran riechen, wird auch schwer und die Sensorik der Ohren, ist auch schwer zu vermitteln.

Die aktuelle Stufe der "KI" ist noch so "niedlich" und trotzdem schon so erschreckend.

mfg

 

[Schinken42]

Das gilt doch schon nicht mehr. Wenn Du mehr als 10.000€ Bargeld auf dein Konto einzahlen willst must Du nachweißen das es legal erworben wurde. Also Schuldig bis Du deine Unschuld bewiesen hast.

Das ist ein schiefer Vergleich. Das ist kein Gerichtsprozess, in dubio pro Reo ist also gar nicht anwendbar.
Deshalb gibt es für den genannten Fall auch keine Strafe, du kannst schlicht das Geld nicht nutzen, dessen Herkunft du nicht erklären kannst.

 

[scryed]

Im Fall Wahlen ist der beste Weg aber auf die Webseite der Kandidaten und/oder Partei zu gehen und schauen was sie vor haben

Was aber meist alles gelogen ist , lieber auf eine Seite gehen die analysiert was Parteien in den letzten Wahlen angeboten haben und auch umgesetzt haben fals es sowas gibt

Ergänzung (18. März 2024)

So viel zu den ach so schlauen, neuronalen Netzen.

Und aus solchen Gründen sehe ich das ganze noch nicht als ki an sondern einfach ein "besseres" Wicki was mit Algorithmen und viele Input gefüttert wird einfach ein dummes Programm was vielleicht in Zukunft was werden kann

Hatte es nur irgendwas mit KI zu tun , hatte es auf Fragen wo man nichts weiss anders geantwortet zb , "kann dazu keine Angaben machen entspricht nicht meinen Wissenstand" oder wenn es annähernd ki wäre hat es sich auf die schnelle den Input durch googlen und YouTube besorgt das aufgearbeitet und dann weitergegeben aber da es keine ki ist kann das Programm sowas nicht verarbeiten .... Oder gar Zusammenhänge bilden

Wenn es das Mal kann ohne das es in ihrer Datenbank steht dann kann man fast von ki reden

Solange find ich es persönlich falsch diese Programme eine intiligenz zu unterstellen

 

[DJMadMax]

oder wenn es annähernd ki wäre hat es sich auf die schnelle den Input durch googlen und YouTube besorgt das aufgearbeitet und dann weitergegeben aber da es keine ki ist kann das Programm sowas nicht verarbeiten .... Oder gar Zusammenhänge bilden

Das machen diese ganzen Systeme ja durchaus, so ist es nicht. Da wird zum Teil schon auf Echtzeitdaten zugegriffen, die z.B. nur mittels Bild- oder Videoanalyse möglich sind, also als ob wir ein Video schauen und darüber eine Inhaltsangabe oder Zusammenfassung schreiben würden.

Aber ja, so richtig "KI" ist es eben nicht, besonders wegen dem "I" in dem Begriff. Intelligenz ist für mich grundsätzlich etwas, das nicht "künstlich" herbeigerufen werden kann. Ich definiere den Begriff daher wohl auch anders als die weltweite, geballte Medienpräsenz. Selbst ein Terminator, selbst ein Skynet, wären für mich keine Intelligenz, sondern weiterhin nur ein (durchaus komplexes) Programm, das einen Aufgaben folgt.

Wenn das Programm in der Lage wäre, ein Selbstbewusstsein zu entwickeln, dann sähe die Sache wieder anders aus. Mit rein elektromechanischen Mitteln halte ich dies jedoch für nicht umsetzbar (um nicht den Begriff "unmöglich" zu verwenden). Da fehlt für mich eindeutig die biologische Komponente - und sei es nur ein zweckentfremdetes Rattenhirn.

 

[Vigilant]

😉Immerhin stimmt die Selbsteinordnung. Wobei die Übersetzung von Narrow AI mit "Schwache KI" zu übersetzen ist und General AI eher mit "Starker KI", je nach Quelle und Bezug.

 

[Yesman9277]

Angst vor halluzinierenden Chatbots und AI-Manipulationen im Wahlkampf

Ich musste mich kurz kneifen, dass ich nicht einen schlechten Traum habe.

Wie weit sind wir denn bitte gekommen