News EU-Untersuchung: Angst vor halluzinierenden Chatbots und AI-Manipulationen im Wahlkampf

[Andy]

Angesichts der weltweiten Wahlen im Jahr 2024 stehen die Big-Tech-Konzerne besonders im Fokus. Um generative AI-Risiken bewerten zu können, fordert die EU-Kommission im Rahmen des Digital Service Act (DSA) nun Informationen von den Suchmaschinen Google und Bing sowie von Facebook, Instagram, Snapchat, TikTok, YouTube und X an.

Zur News: EU-Untersuchung: Angst vor halluzinierenden Chatbots und AI-Manipulationen im Wahlkampf

 

[Djura]

Angesichts der Tatsache wie viele Menschen auf Fakes grundsätzlich reinfallen, ist es durchaus nachvollziehbar, dass die EU hier reingrätscht.

 

[wern001]

@Djura die nächste antwort von einem Politiker der mit der Geliebten erwischt wurde ist: Das ist ein Deepfake ich bin das nicht.

 

[Cool Master]

Zeigt wieder die fehlende Medienkompetenz der Leute... Daran sollte eh mehr gearbeitet werden und nicht nur zu Wahlen.

Im Fall Wahlen ist der beste Weg aber auf die Webseite der Kandidaten und/oder Partei zu gehen und schauen was sie vor haben. Wenn das einen anspricht geht dafür wählen wenn nicht schaut euch weiter um. Am besten ist es halt direkt zur Quelle zu gehen und nicht über zig andere Seiten darüber zu lesen. Sind wir aber ehrlich die meisten Leute sind dafür zu faul weil das Zeit und Energie kostet die man ja aufbringen muss und man lieber ein Artikel auf XYZ liest weil es so schön runtergebrochen wird.

 

[frank00000]

Wenn nicht das gewählt wird was man will muss natürlich Manipulation schuld sein.

Aber auf gar keinen Fall man selbst.

 

[Cabranium]

@Djura die nächste antwort von einem Politiker der mit der Geliebten erwischt wurde ist: Das ist ein Deepfake ich bin das nicht.

Wen juckt es wer mit wem im Bett erwischt wird?
Das ist Privatleben und hat für gewöhnlich keine Relevanz. Auch nicht bei Politikern. Das müssen die mit ihren Lebensgefährten/in ausmachen.

 

[MasterWinne]

Zeigt wieder die fehlende Medienkompetenz der Leute... Daran sollte eh mehr gearbeitet werden und nicht nur zu Wahlen.

Stimmt nur bedingt, die gesamte Medienlandschaft ist schon zu einseitig und unter Zensur, hier müsste eine Generalüberholung her. KI bzw Automation gehört deutlich nicht in die Meinungsbildende Medianlandschaft, niemals nicht.

Im Fall Wahlen ist der beste Weg aber auf die Webseite der Kandidaten und/oder Partei zu gehen und schauen was sie vor haben.

Das hat genau welchen Wert? Das ist heute längst nicht mehr das Papier Wert worauf es geschrieben steht.
Man sollte sich eher, und das ist für 95% der Medienzombies eh schon zu viel verlangt, sich die Geschichte der Parteien mind, der letzen 10 Jahren genau anschauen, und danach gehen was "Wortbeständigkeit" angeht und was sie wirklich für das Land getan und erreicht hat, und eben das mit seinen eigenen Vorstellungen abgleichen.

Aber auch hier sind die Zombies schon so hart eingelullt das sie nur die vorgebgebene Schiene mitlaufen bzw der Einfachheit und der Angst vor Repressalien in Verbindung mit beschränkter Bildungung dieser folgen.

 

[0x8100]

Wenn nicht das gewählt wird was man will muss natürlich Manipulation schuld sein.

du sagst also, dass es gar keine manipulationen gibt und das nur eine ausrede ist?

 

[KlaasKersting]

Eine Wahlmanipulation ist die Manipulation der Wahl selbst, nicht die Beeinflussung der Entscheidungsfindung des Wählers.

Dass man heutzutage absolut alles von schlecht funktionierenden Chatbots bis hin zur freien Meinungsäußerung auf Social Media unter Wahlmanipulation verbucht und damit einschränken will, ist mMn nicht richtig.

 

[wern001]

Wen juckt es wer mit wem im Bett erwischt wird?

Das läst sich doch beliebig erweitern. z.B.: Treffen mit Konkurenten für Preisabsprache

 

[0x8100]

Eine Wahlmanipulation ist die Manipulation der Wahl selbst, nicht die Beeinflussung der Entscheidungsfindung des Wählers.

achso? na dann darf man ja demnächst auch alles mögliche bewerben, was ein produkt gar nicht hält - manche leute kommen auf ziemlich abstruse ideen...

 

[Weedlord]

Sind wir aber ehrlich die meisten Leute sind dafür zu faul weil das Zeit und Energie kostet die man ja aufbringen muss und man lieber ein Artikel auf XYZ liest weil es so schön runtergebrochen wird.

Politiker aus der AFD kennen zum teil nichtmal Ihr eigenes Wahlprogramm, denke bei anderen Parteien könnte das ähnlich ablaufen. Und ich finde die Wahlprogramme teilweise auch viel zu kompliziert formuliert. Ich musste da oft Absätze mehrfach lesen um sie zu verstehen....

 

[Tevur]

Im Fall Wahlen ist der beste Weg aber auf die Webseite der Kandidaten und/oder Partei zu gehen und schauen was sie vor haben.

Wenn du irgendein teures Produkt kaufst, liest du dann nur was der Hersteller selbst auf seiner Homepage über das Produkt sagt?

Oder versuchst du vor dem Kauf, lieber noch Informationen von unabhängigen Testern oder Nutzern einzuholen? Und woher weißt du, dass diese Quellen dann vertrauenswürdig sind?

Das Dilemma gilt genauso für die Wahlentscheidung: die Gewählten schreiben ein ganz tolles Wahlprogramm, das idR keinen Realitätscheck oder keine Koalitionsverhandlung übersteht.
Bei vermeintlich unabhängiger Berichterstattung weißt du nicht, welches Parteibuch Verantwortliche oder deren Aufsicht tatsächlich im Schrank haben.
Und Medien die du gern liest/schaust, weil sie zu deiner Meinung passen, wirst du am Ende eh als ehrlicher und vertrauenswürdiger einschätzen und ihnen folgen, auch wenn du am Ende ein Kreuzchen machst, dass dir objektiv am Ende schadet.

Ich hab aber da für mich eh resigniert. Denn egal wie informiert die paar Hanseln im Land ihre Wahlentscheidung treffen, die große Mehrheit wählt eh entweder das, was sie, ihre Eltern und ihre Großeltern schon immer so gewählt haben oder sie wählen völlig unabhängig von Fakten das, was ihnen die größte Unterhaltung auf TikTok bietet

 

[MelbarKasom]

Im Fall Wahlen ist der beste Weg aber auf die Webseite der Kandidaten und/oder Partei zu gehen und schauen was sie vor haben. Wenn das einen anspricht geht dafür wählen wenn nicht schaut euch weiter um. Am besten ist es halt direkt zur Quelle zu gehen und nicht über zig andere Seiten darüber zu lesen. Sind wir aber ehrlich die meisten Leute sind dafür zu faul weil das Zeit und Energie kostet die man ja aufbringen muss und man lieber ein Artikel auf XYZ liest weil es so schön runtergebrochen wird.

Das funktioniert bestenfalls noch bei den Parteien, die ein demokratisches Fundament haben und auf diesem auch bleiben wollen uns es respektieren. So kann man durchaus z.B. in den Wahlprogrammen der Grünen, oder der FDP nachlesen, dass sie Cannabis legalisieren wollen, im nächsten Step können wir das auch im aktuellen Koalitionsvertrag als Absichtserklärung nachlesen und neuerdings auch als Gesetz lesen, welches durch den Bundestag ging und nun im Bundesrat noch eventuell in den Vermittlungsausschuss muss. Alles transparent und nachvollziehbar.

Bei der afNEE scheitert es aber schon. Das Wahlprogramm liest sich so und von millionenfacher Remigration, sogar selbst von deutschen Staatsangehörigen die nur in der Flüchtlingshilfe arbeiten, steht da nix.
Dazu brauchte es schon die Correctiv-Recherche in Potsdam dazu. Nach dieser Aufdeckung und damit konfrontiert machten viele Politiker dieser Partei die Rolle Vorwärts und behaupteten, schon immer das gewollt zu haben, das sei ja gar nichts neues.
Und genau das ist dann ein gutes Beispiel, wo das ganze nicht mehr funktioniert und es kritischen Journalismus braucht. Und diesen wird es demnächst noch sehr viel mehr und wehrhafter brauchen, genauso wie Gesetze, wenn solche KI-Inhalte und Deepfakes die Runde machen, die von Monat zu Monat immer besser werden.

 

[Axxid]

Auf jeden Fall ist jetzt schon geklärt warum bei der nächsten Wahl die “falschen Parteien” so viele Stimmen bekommen.

 

[KlaasKersting]

achso? na dann darf man ja demnächst auch alles mögliche bewerben, was ein produkt gar nicht hält - manche leute kommen auf ziemlich abstruse ideen...

Werbung ist gesetzlich geregelt, "Wahlmanipulation" auch.

Wahlbehinderung, § 107 StGB
Wahlfälschung , § 107a StGB
Fälschung von Wahlunterlagen, § 107b StGB
Verletzung des Wahlgeheimnisses, § 107c StGB
Wählernötigung, § 108 StGB
Wählertäuschung, § 108a StGB
Wählerbestechung, § 108b StGB

Keiner dieser Tatbestände wird bei den Dingen, welche nun indirekt verboten werden sollen, verwirklicht. Der Trick ist, dass man es gar nicht gesetzlich verbietet, sondern die Plattformbetreiber dazu bringt, es proaktiv zu erledigen.

Gegen die Plattformbetreiber hast du in den USA nämlich gar kein und in der EU nur ein sehr, sehr begrenztes Recht auf freie Meinungsäußerung. Das besteht in erster Linie gegen den Staat.

Daher gibt es auch keine Gesetze, die mich für diese neuen Formen der "Wahlmanipulation" bestrafen würden. Das meiste davon fällt unter freie Meinungsäußerung.

 

[Vigilant]

fehlende Medienkompetenz

Das Problem reicht weiter, tiefer und ist auch deutlich komplexer. Es reicht von einfachen Falschinformationen über die Bildung realitätsferner Narrativen bis hin zur Erschaffung wie echt wirkender "Fake-Realitäten".

Das nur mangelnder Kompetenz zuzuschreiben, würde die Herausforderung noch nicht einmal ansatzweise treffen.

 

[frank00000]

du sagst also, dass es gar keine manipulationen gibt und das nur eine ausrede ist?

Wo habe ich das genau gesagt?

Natürlich gibt es die aber sie sind nicht der Grund warum heute so gewählt wird wie gewählt wird.

Sie werden nur gerne als Begründung genutzt um von den eigenen Fehlern abzulenken und das quer durch alle Parteien egal welche von A bis L

 

[Cool Master]

Stimmt nur bedingt, die gesamte Medienlandschaft ist schon zu einseitig und unter Zensur, hier müsste eine Generalüberholung her.

Nö man muss halt selber "Arbeit" reinstecken und nicht nur eine Quelle lesen. Das ist wie bei HW Tests. Denkst du ich schaue nur bei CB vorbei und denke mir "Ja, das wird schon passen?"? Nein, ich schaue mir div. Quellen an und auch in englisch und deutsch. Daraus kommt dann in der Mitte auch etwas was der Realität entspricht.

KI bzw Automation gehört deutlich nicht in die Meinungsbildende Medianlandschaft, niemals nicht.

Klar tut sie das. KI und Automation ist im Mainstream angekommen und sollte als das betrachtet werden was es ist - ein Werkzeug. Mit diesem Werkzeug kann man gutes wie schlechtes machen siehe ein Hammer, der genau so ist. Ich kann ein Haus damit bauen oder jemand umbringen.

Das hat genau welchen Wert? Das ist heute längst nicht mehr das Papier Wert worauf es geschrieben steht.

Was soll man sonst als Grundlage nehmen sich eine Meinung zu bilden? Es sollte klar sein, dass das Parteiprogramm immer das Best-Case ist was in der Regel nie passieren wird, da es wie lange keine Einzelpartei in Deutschland mehr gab? Das müsste Schmidt gewesen sein oder?

Man sollte sich eher, und das ist für 95% der Medienzombies eh schon zu viel verlangt, sich die Geschichte der Parteien mind, der letzen 10 Jahren genau anschauen, und danach gehen was "Wortbeständigkeit" angeht und was sie wirklich für das Land getan und erreicht hat, und eben das mit seinen eigenen Vorstellungen abgleichen.

Das gehört auch dazu und darauf kommt man auch wenn man ein Ist/Soll Vergleich macht. Aber das gehört zur Medienkompetenz dazu. Wahl-O-Mat ist auch immer gut um Sachen einzugrenzen

Wenn du irgendein teures Produkt kaufst, liest du dann nur was der Hersteller selbst auf seiner Homepage über das Produkt sagt?

Siehe Antwort weiter oben

Und woher weißt du, dass diese Quellen dann vertrauenswürdig sind?

Ehrlich? Gar nicht. Solange ich die Test nicht selber wiederholt habe und innerhalb von X Prozent bin kann ich das nicht sagen.

Ich hab aber da für mich eh resigniert.

Das ist Schade aber ich würde lügen wenn ich sagen würde ich kann es nicht verstehen. Ich wähle auch keine der Großen Parteien sondern eher Freie Wähler oder andere "kleine". Damit ist die Stimme nicht völlig für nichts und immer noch besser als nicht oder ungültig wählen zu gehen.

 

[[wege]mini]

Das ist ein Deepfake ich bin das nicht.

ist zwar OT, aber den Witz kann ich mir nicht verkneifen: du hast bei fake das falsche Wort gewählt. Du wolltest das andere mit 4 Buchstaben nutzen, welches mit f beginnt

Und Politiker würden sowieso immer sagen: "Ich war das nicht."

btt:

Wenn Chatbots anfangen zu halluzinieren und nicht mehr spekulieren, wird es kompliziert. Wenn die "Macher" diese Probleme erkannt haben, sie aber in voller Absicht aus Gewinnstreben heraus nicht angegangen sind, geht es in die Richtung "kriminell".

mfg