News Strafbarkeit von KI-Fakes: Staatsschutz und Justiz ermitteln wegen Verbreitung auf Demo

[ZeT]

Interessant... durch KI wird verbrechen wieder lohnenswert.

"sie haben am... die Bank überfallen." - "Nö war ich nicht, das Bild muss KI generiert worden sein um mir was anzuhängen"

Das dürfte noch sehr interessant werden.

 

[Bigfoot29]

Ich frage mich ja bis heute, warum Medien keine zwangsweisen Wasserzeichen enthalten, die eindeutig klarstellen, wer der letzte Editor war. Das muss ja nichtmal für die exakte Person gelten. Es reicht ja, wenn man z.B. über eine GUID prüfen kann, ob ein Dokument von einer öffentlichen Quelle kommt, in dem die öffentliche Quelle der GUID vertraut, oder ob es irgend ein Pseudo-Gedöns ist.
Das Ganze in der Form, dass ein Audio- oder Video-Stream in Teile zerlegt wird und das dann wie eine Email signiert wird. "Dieser Block ist unverändert. Er wurde mit dem Privaten Schlüssel von X signiert. Den Weg zum öffentlichen Schlüssel hast Du gerade via Stream bekommen."

Gleiches könnte sich auch endlich für klassische Online-Medien bis hin zu Tageszeitungen (mit QR-Code z.B.) durchsetzen. Dann hätte man Quellen, denen man vertrauen kann, da ein Großteil ihrer Nachrichten sich als "wahr" herausstellen, und es gäbe dubiose Quellen, die entweder bislang kaum Material geliefert haben oder aber von eher fragwürdiger Qualität sind.
Win-Win. Und der Datenschutz (DSGVO und Co) bliebe auch gewahrt.

Selbst QANON arbeitet so. Die haben da auch ein System, womit sie verifizieren können, dass und ob eine Nachricht von einem "Gleichgesinnten" signiert wird. Funktioniert dort wohl über so eine Art Text-Block.

Warum kriegt die freie Welt sowas nicht hin? :/

Regards, Bigfoot29

 

[Haldi]

Fällt das nicht ganz einfach unter Dokumenten Fälschung und Verleumdung?
Jeder darf so viel Videos Manipulieren wie er will, aber sobald er diese veröffentlicht und damit jemandem Schadet ist es eine Straftat?

Bei den Nachrichten wird es in naher Zukunft eine Revolution geben (oder sie existieren nicht in der aktuellen Form).

Genau so wie bei den News Portalen im Internet damals?
Weilinternetseiten wie www.ufossindreal.de und www.dieilluminatenkontrollierenunsalle.de so viele echte Nachrichten bringen das niemand mehr auf blick.de liest?

 

[Mondgesang]

Nicht immer muss man alles sofort machen, nur weil man es machen kann (siehe Gentechnik und Klonen)

Ich verweise an dieser Stelle an all die Nostradamus-Prediger, die was von "abgehängt werden" sprechen, wenn man nicht SOFORT und am besten schon gestern auf jeden neuen Gaul aufspringt der irgendwas mit "digital" oder "Tech" oder neuerdings "KI" zu tun hat. Weil wir dann ja sofort abgehängt werden. Da habt ihr abgehängt.

 

[Mondgesang]

„Jetzt bin ich der Tod geworden, der Zerstörer von Welten“

Bereits passiert. Hat Cillian Murphy vor laufender Kamera gesagt. Und Christopher Nolan hat das auch noch veröffentlicht.

 

[MalWiederIch]

Willkommen in der neuen digitalen Welt. Früher konnten nur ein paar wenige (Prominente) andere von der Tonlage oder Optik imitieren. Nun kann es praktisch jeder mit dem Zugang zu einem Computer und Ki Generator Programm. Das wird.nun alles noch schlimmer werden bevor es durch regulation besser wird...

Quatsch, das war auch vorher schon der Fall - jetzt haben nur auch 14-Jährige Kleinkriminelle darauf Zugriff.

Foto-/Videobearbeitung sind nun wirklich nichts Neues und mit entsprechendem überschaubaren Aufwand auch ohne „KI“ mehr als überzeugend möglich.

Es gilt wie schon immer - nicht immer alles glauben was man hört/sieht

Oder glauben alle auch nach der Youtube-Werbung, dass sie nun reich werden?

 

[mischaef]

@KarlsruheArgus
Du darfst Dich gerne bei einbringen und etwas dazu schreiben. Wir haben hier auch nur begrenzte Ressorucen und müssen schauen, mit diesen so viele Themen wie möglich abzudecken.

 

[MalWiederIch]

Fällt das nicht ganz einfach unter Dokumenten Fälschung und Verleumdung?
Jeder darf so viel Videos Manipulieren wie er will, aber sobald er diese veröffentlicht und damit jemandem Schadet ist es eine Straftat?

Hätte ich jetzt auch so gesehen.

Genau so wie bei den News Portalen im Internet damals?
Weilinternetseiten wie www.ufossindreal.de und www.dieilluminatenkontrollierenunsalle.de so viele echte Nachrichten bringen das niemand mehr auf blick.de liest?

Manche wollen die „KI“ „gefährlicher“ wirken lassen, als sie wirklich ist …

 

[Mondgesang]

und wie geht man danach mit der Gewissheit um, dass alles ein Deepfake sein könnte?

Kann ich dir jetzt schon beantworten. Ich, 32, habe bereits letztes Jahr den Boomer-Hut aufgesetzt und glaube per se, pauschal und allgemeingültig GAR NICHTS mehr, was aus "Dem Netz" kommt oder dort zu finden ist. Weder Wort, Schrift, Ton oder Bild. Es sind Denkansätze, Indizien die auf etwas hindeuten oder etwas skizzieren. Höchstens. Und niemals mehr als das.

Schade für die, die wirklich von Hand Wahres oder zumindest Ehrliches von sich geben. Aber meiner Meinung nach der einzige Weg, um nicht komplett Plemplem im Kopf zu werden. Zudem meide ich einfach generell das Internet wo ich nur kann. Begann mit der Löschung sämtlicher Social Media oder anderer Internetauftritte im Januar diesen Jahres. Es war nicht mehr zum Aushalten und die positiven mentalen Auswirkungen dieses digitalen Detoxens merke ich bereits jetzt.

 

[MalWiederIch]

Eigentlich ist es sogar sehr einfach zu erklären:

Wenn du willst, dass es wahr ist (weil es z.B. deinen Interessen dient), dann sicherst und verbreitest du es auch. Auf Demos, z.B.

Zwar nicht mein Kommentar - aber darum ging es doch offensichtlich überhaupt nicht, wenn man den Kommentar auch gelesen hätte … es ging darum wie das Video wochenlang bei Youtube als Werbung abgespielt wurde und nicht entsprechend gesperrt wurde.

 

[MalWiederIch]

Interessant... durch KI wird verbrechen wieder lohnenswert.

"sie haben am... die Bank überfallen." - "Nö war ich nicht, das Bild muss KI generiert worden sein um mir was anzuhängen"

Das dürfte noch sehr interessant werden.

Auch heute wird ein verpixeltes Bild einer Überwachungskamera nicht ausreichen für eine Verurteilung.
Und wenn das Band von einer renommierten Bank bei der Polizei landet gibt es selbstverständlich morgens um 6 Uhr Besuch, da wird sich schon mehr finden lassen
Wenn das Band jedoch von einem Niemand übermittelt wird, wird erst einmal hinterfragt.

Eben wie heute auch schon - kommt die Mail von Chef@Firma.com wird nicht hinterfragt. Kommt die Mail von Chef@Eirma.com wird evtl. genauer geschaut.

Sprich KI-Video schön und gut, um dir was anzuhängen wird das nicht benötigt, da reicht wenn der am Bankschalter dich gesehen hat und als Beweis heute beides nicht ausreichend.

 

[QuamWave]

War ja früher oder später zu erwarten. Spannend wird es bei der USA Wahlen und bei unser nächsten Bundestag wahl. Ich befürchte schlimmstes, da die meisten Menschen keine Zeit und/oder Lust haben sich genauer zu informieren oder 100derte Seiten von Studien durchzulesen und lieber im Sumpf der Sozialen Blase leben wie Facebook, Twitter, Youtube und co.

Sehe ich bei den Deutschen weniger ein Problem. Es gibt viele die wählen SPD und CDU weil sie das immer so gemacht haben. Die kann man mit gar nichts umstimmen. Selbst wenn Darth Vader als Kanzlerkandidat aufgestellt wird.

 

[Gortha]

Man kann über Staatliche Kontrollen / Zensur geteilter Meinung sein aber in Deutschland wir IMO viel zu wenig gegen klar Illegale inhalte im Internet vorgegangen.

Was nicht legal ist sollte von keinem DNS Provider in Deutschland Aufgelößt werden und alle Provider aus dem Außland, welche sich nicht daran halten (DNS, VPN, Proxy usw.) sollten irerseits von den Internetprovidern blockiert werden und zwar nicht nur per DNS sondern auch per IP (IP ranges des DNS, VPN, Proxy oder Content/Service Providers, welcher Deutsches und/oder EU Recht nicht umsetzt).

Viel Spaß in der Volksrepublik China.

facepalm

Gruselig. Totalitäre überall in der BRD.

 

[Gortha]

Yeah, war absehbar und wird in Zukunft nicht besser.

Die Frage ist nur, wie lange kann man Deepfakes noch eindeutig als solche erkennen ... und wie geht man danach mit der Gewissheit um, dass alles ein Deepfake sein könnte?

Das wird in den kommenden Monaten (nicht Jahren) noch echt interessant. Das hier ist potentiell der Beginn einer Singularität von der niemand weis wie es sich entwickeln wird.

Einfach, galt schon immer. Für jede Art "Nach""richten" die man aus Staats- oder Privatäthern vorgesetzt bekommen hat:

Glaube Nichts - Hinterfrage Alles - Denke selbst.

 

[DKK007]

@DennisK. Das BKA hat zwar auch eine Staatsschutzabteilung ST in Meckenheim (NRW), aber in der Regel sind für kleinere Verfahren die Länder zuständig. Dort wird der Fall dann entweder vom Staatsschutzdezernat/referat in der lokalen Polizeidirektion bearbeitet oder im Landeskriminalamt (LKA).

Das BKA ist nur für herausragende Fälle zuständig, die in der Regel auch von den Generalstaatsanwaltschaften der Länder oder der Bundesanwaltschaft geführt werden.

Details regelt das BKAG in § 4.
https://www.gesetze-im-internet.de/bkag_2018/__4.html

Hinweise auf eine Zuständigkeit des BKA konnte ich aus den verlinkten Quellen nicht entnehmen.


Edit:
Die Staatsschutzfälle des BKA in den Abteilungen ST und TE sehen eher so aus:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

(Link hätte auch gereicht, aber das Forum wandelt es immer in eine Einbettung des Videos um)

 

[Hurricane271]

Wenn Menschen schon zu Corona, Ukrainekrieg und zur Regierung unironisch Postillion Artikel geteilt haben, um ihre "Ha, ich wusste ich es!" Einstellung zu untermauern.
Will ich gar nicht wissen, wie das mit den ganzen KI-Fakes aussieht.
Egal wie unglaubwürdig etwas ist, solange es in das eigene parallele Weltbild passt, wird es halt ohne zu hinterfragen geteilt.

 

[Mrompf]

Diese "Instrumente" werden vermehrt unsere deutschnationalen Russlandpatrioten, aber auch rechtsnationale Trump-Absolutisten bis zur totalen Machtübernahme nutzen, ganz nach dem putinschen Vorbild (Nordkorea, Weißrussland, Iran, Afghanistan etc.)

Und dann wird die "Freiheit" des Internets und des KI-Potenzials nur noch den Diktatoren und deren Repressionsorganen vorbehalten bleiben. Und einige der hiesigen Autokratiebefürworter werden Teil dieser Organe sein.
Denn Unterstützer solcher Systeme sehen sich nicht als Opfer solcher Maßnahmen, sondern als Profiteure eines repressiven Systems, darum favorisiert man Trump, Putin und die AFD.

 

[Beg1]

Yeah, war absehbar und wird in Zukunft nicht besser.

Die Frage ist nur, wie lange kann man Deepfakes noch eindeutig als solche erkennen ... und wie geht man danach mit der Gewissheit um, dass alles ein Deepfake sein könnte?

Es gibt ja durchaus vertrauenswürdige Plattformen, von denen man nahezu neutrale Informationen sicher beziehen kann.

Deepfakes erkennt man heutzutage teilweise kaum noch, vor allem bei Audiodateien und mehrfach nachbearbeiteten Bildern ist es fast unmöglich.

Jetzt rächt sich imho die ganze Social Media/Influencer-Welt, vor allem viele jüngere Menschen glauben ihren Idolen einfach alles, da wird nur noch wenig kritisch hinterfragt. Ich könnte wirklich abscheuliche Beispiele bringen, die Straftaten begangen haben und trotzdem noch stark gewachsen sind.

In einem Zeitalter wo die meisten dieser Leute studenlange Podcasts und Streams machen ist es natürlich besonders einfach ihre Stimme zu kopieren.

Und AI ist eine tolle Sache, allerdings werden überproportional viele Menschen die Möglichkeiten eben auch ausnutzen und ich fürchte dafür haben wir zu wenig geschultes Personal und auch rechtliche Möglichkeiten um diese Menschen ausreichend zu verfolgen.

 

[wern001]

Das ganze Deepfakes Zeug erinnert mich an Runnig Man mit Aktion Arnie

 

[KarlsruheArgus]

@mischaef
Dafür habe Ich selbst keine Zeit, wenn eure Ressourcen so knapp bemessen sind dann verstehe Ich nicht wieso so etwas aufgegriffen wird.

An die Quantität des Golem Tickers kommt Ihr nicht ran, greift dann aber etwas auf was bereits in der Tagesschau und zwei weiteren großen Medienhäusern veröffentlicht wurde.

Derartige Überschneidungen ohne wirklichen Mehrwert lassen einen als CP Pro User manchmal echt zweifeln.