News Strafbarkeit von KI-Fakes: Staatsschutz und Justiz ermitteln wegen Verbreitung auf Demo

[DennisK.]

Der Megatrend Künstliche Intelligenz (KI) sorgt nicht nur für hilfreiche Chatbots und neue Smartphone-Funktionen, er beschäftigt nun auch den Staatsschutz (BKA) wegen möglicher Volksverhetzung. Auf einer Kundgebung wurden durch KI manipulierte Beiträge der tagesschau abgespielt, Polizei und Justiz ermitteln inzwischen.

Zur News: Strafbarkeit von KI-Fakes: Staatsschutz und Justiz ermitteln wegen Verbreitung auf Demo

 

[KarlsruheArgus]

Mit einem Achselzucken zur Kenntnis genommen was soll man sonst zu so einer Meldung schreiben ?
Bringt stattdessen mal interessante News zu dem Thema und beleuchtet den Teil GPT4ALL und allgemein Open Source etwas mehr, so ist das hier nur reiner Copy Pasta den ich bei der Tagesschau bereits lesen durfte.

Zum Glück ist eine Freischaltung der Mods notwendig, mehr als Polemik und Hexenverbrennung hätte man sonst nicht erwarten können in der Kommentarsektion.

 

[Schneeball]

Manchmal ist die einfachste Lösung die Beste:
"KI-Fakes" die veröffentlicht werden, sind wie Karikaturen erlaubt, solange ersichtlich ist, dass es "Fakes" sind.
Ein schriftlicher Hinweis direkt im Bild/Video beispielsweise.

Wer den Hinweis entfernt und erneut veröffentlicht, trägt dann die Schuld. So wie man zensierte Inhalte nicht wiederherstellen und erneut veröffentlichten darf.
(Zensur bei Nacktheit, Zensur von verbotenen Zeichen, Namen, Adressen, usw.)

 

[Demon_666]

Das kommt davon, wenn man ohne Regularien bzw. ohne sich vorher entsprechende Gedanken zu machen eine weltverändernde Technologie an den Start bringt. Das ist ja leider erst der Anfang. Nicht immer muss man alles sofort machen, nur weil man es machen kann (siehe Gentechnik und Klonen),

Für die Medien ist es umso wichtiger, dass guter Journalismus betrieben und nicht einfach jede Meldung abgeschrieben wird, nur um möglichst schnell zu sein. Dass jedoch gerade dort ein Kahlschlag stattfindet und KI übernehmen soll, entbehrt nicht einer traurigen Ironie.

 

[kicos018]

Beispielsweise wurde die Legitimität des ZDFs missbraucht, um eine vermeintliche Kasino-App des Streamers Knossi (X) zu bewerben.

Auf YouTube gibts auch öfters mal Werbung vom Tagesschau-Sprecher Constantin Schreiber mit KI-Sprech zu irgendner zwielichtigen App.
Raffe nicht wie so was klar gefaktes monatelang im Umlauf sein kann bzw. wie quasi keine Kontrolle über die gezeigte Werbung geschieht.

 

[SweetOhm]

Wo soll das alles bloß noch hinführen ?!?
Irgend wann wird irgend wer nochmals folgende Worte von sich geben :
„Jetzt bin ich der Tod geworden, der Zerstörer von Welten“

 

[onkuri]

"Gestern haben wir in nur einem Monat 32000€ verdient!"

Das klingt absolut glaubwürdig und durchdacht. Die Schauspielfähigkeiten der beiden "Gewinner" würden nicht mal für ne SAT1-Vormittags-Reallity-Soap reichen. Brenzlig wird es aber wenn diese Betrüger dazulernen und hochwertiger produzieren.

 

[ryul]

Auf einer Kundgebung wurden durch KI manipulierte Beiträge der tagesschau abgespielt, Polizei und Justiz ermitteln inzwischen.

Lasst mich raten, war von Snicklink?

 

[[wege]mini]

Ein wehrhafter Staat muss sich (leider) mit so etwas beschäftigen.

Wenn der Staatsschutz kommt, der so überhaupt gar nicht existiert, da wir in Deutschland damit echt schlechte Erfahrungen gemacht haben und wir schon viele Staaten in Deutschland hatten, die nicht schützenswert waren, wird es aber unlustig.

Der Verfassungsschutz ist schon nicht lustig, wenn der Staatsschutz eingreift, wird es hässlich.

Volksverhetzung ist aber in jedem Fall eine Sache, da muss man eingreifen. Da kennen wir uns in Deutschland auch gut mit aus. Das braucht niemand mehr. Hatten wir, ist Scheiße.

mfg

 

[Kalsarikännit]

mir wird Angst und Bange.

 

[knoxxi]

Und das ist erst der Anfang...

So sinnvoll KI ist und sein können wird, es wird genug Bodensatz der Menschheit geben, der seine Stärken negativ nutzen wird.

 

[raychan]

War ja früher oder später zu erwarten. Spannend wird es bei der USA Wahlen und bei unser nächsten Bundestag wahl. Ich befürchte schlimmstes, da die meisten Menschen keine Zeit und/oder Lust haben sich genauer zu informieren oder 100derte Seiten von Studien durchzulesen und lieber im Sumpf der Sozialen Blase leben wie Facebook, Twitter, Youtube und co.

 

[Damien White]

Yeah, war absehbar und wird in Zukunft nicht besser.

Die Frage ist nur, wie lange kann man Deepfakes noch eindeutig als solche erkennen ... und wie geht man danach mit der Gewissheit um, dass alles ein Deepfake sein könnte?

Das wird in den kommenden Monaten (nicht Jahren) noch echt interessant. Das hier ist potentiell der Beginn einer Singularität von der niemand weis wie es sich entwickeln wird.

 

[Nuklon]

Es ist nun zu überlegen wie Originale abgesichert werden können, so dass zumindest im Internet klar ist, welche Beiträge wirklich gesendet wurden und welche Fake sind. z.B. mit PKI und den Hash Signieren. Sodass jedes Video per Zertifikat/Signatur überprüft werden kann, weil sie vom Ersteller signiert worden sind.

KI wird sich weiterentwickeln und die Anzahl der Fakes zunehmen. Lösungen dafür bietet dafür aber keiner derzeit.

 

[Gamefaq]

Willkommen in der neuen digitalen Welt. Früher konnten nur ein paar wenige (Prominente) andere von der Tonlage oder Optik imitieren. Nun kann es praktisch jeder mit dem Zugang zu einem Computer und Ki Generator Programm. Das wird nun alles noch schlimmer werden bevor es durch regulation besser wird...

Denn ähnlich wie es Webseiten gibt die die Tonspur aus einem beliebigen YouTube Link den man reinkopiert in eine Eingabefeld als mp3 extrahieren und einem zum DL dann anbieten. So wird es das dann für Stimmen geben wo man nur die Aufnahme als Stimmprobe der Person hochladen können wird und die KI wird dann einen beliebigen eingegeben Text als fertig gesprochenes dieser Person als mp3 ausgeben. Und die nächste Stufe dann das gleiche auch mit Bild als Video für jedermann als "lustige Geburtstag Überraschung" gedacht...

Alles nur eine Frage der Zeit...

 

[Willi-Fi]

Ich muss das wieder mal schriftlich festhalten:

In naher Zukunft wird das Netz mit KI Fakes überschwemmt. Jedes Land wird andere Gesetze erlassen, aber grundsätzlich wird es 1-Click-Fake-Generatoren geben. Und dann wird irgendwann zB. die Tagesschau als eines der Magazine ernannt, dass keine Fake News zeigt (dank genauster Prüfung). Aber dann klappt es mit der eigenen Berichterstattung nicht, denn schon heute wird eine Menge weggelassen oder nicht aktualisiert. Ich meine damit nicht Propaganda, ich bezweifele dass die Redaktion täglich News und Fake-News ab einem bestimmten Punkt noch trennen kann. Nachrichten kommen dann zeitversetzt und früher oder später wird jede neue Nachricht in Frage gestellt, sowohl von den Zuschauern als auch von der Konkurrenz.

Bei den Nachrichten wird es in naher Zukunft eine Revolution geben (oder sie existieren nicht in der aktuellen Form).

 

[Sinush]

Raffe nicht wie so was klar gefaktes monatelang im Umlauf sein kann [...]

Eigentlich ist es sogar sehr einfach zu erklären:

Wenn du willst, dass es wahr ist (weil es z.B. deinen Interessen dient), dann sicherst und verbreitest du es auch. Auf Demos, z.B.

 

[d3nso]

@kicos018
Naja das ganze wird eben nicht mehr von Menschen geprüft, welche Werbung wo und wann geshaltet wird entscheidet ein Algorythmus. Und solange die Werbung in der Beliebtheit steigt wird sie auch nicht offline genommen, denn Line goes up = profit
Auch durch die schiere Masse an Werbung dauert alles eben länger. Außerdem bin ich der Meinung dass die Werbeanbieter nach wie vor zu viel Spielraum bzw. zu wenig drakonische Strafen für das verbreiten von Falschinformationen/Betrugsmaschen haben.

Die schöne neue KI-Welt wird uns noch richtig hart auf die Füße fallen, und die ganzen Schwurbler nur noch mehr an ihrer verzerrten Wahrnehmung festhalten lassen. In den nächsten Jahren wird es noch richtig heiß und dass meine ich nicht im positiven Sinne...

 

[Spike S.]

Ich empfand die durchschnittliche Medienkompetenz (Informationen lesen, verstehen, einordnen, hinterfragen) vor der KI schon unterirdisch. Mit der KI jetzt habe ich keine Hoffnung mehr auf baldige Besserung, Text ist das eine, aber Audio oder Video dazu ist ein immenser Katalysator für die verschiedenen Informationsblasen.

Ich mache mir große Sorgen, was am 05.11.24 (USA) und bei den verscheidenen Landtagswahlen dieses Jahr hier in DE so herauskommt. Um Österreich darf man sich ja auch Sorgen machen.

 

[JustAnotherTux]

Raffe nicht wie so was klar gefaktes monatelang im Umlauf sein kann bzw. wie quasi keine Kontrolle über die gezeigte Werbung geschieht.

Man kann über Staatliche Kontrollen / Zensur geteilter Meinung sein aber in Deutschland wir IMO viel zu wenig gegen klar Illegale inhalte im Internet vorgegangen.

Was nicht legal ist sollte von keinem DNS Provider in Deutschland Aufgelößt werden und alle Provider aus dem Außland, welche sich nicht daran halten (DNS, VPN, Proxy usw.) sollten irerseits von den Internetprovidern blockiert werden und zwar nicht nur per DNS sondern auch per IP (IP ranges des DNS, VPN, Proxy oder Content/Service Providers, welcher Deutsches und/oder EU Recht nicht umsetzt).