News Strafbarkeit von KI-Fakes: Staatsschutz und Justiz ermitteln wegen Verbreitung auf Demo

[GokuSS4]

Lasst mich raten, war von Snicklink?

seine Beiträge sind immerhin hochwertige sachliche Kritik und vorallem mit einem Hinweis versehen. es steht immer snicklink und Satire dran. wo ist das Problem? soll bald jegliche Meinungsäußerung verboten sein? ich sehe da kein Problem, solange es gekennzeichnet ist und niemand wirklich zu schaden kommt. sonst könnt ihr auch Comedy und Satire gänzlich verbieten. am besten alles verbieten.

 

[kicos018]

Naja das ganze wird eben nicht mehr von Menschen geprüft, welche Werbung wo und wann geshaltet wird entscheidet ein Algorythmus. Und solange die Werbung in der Beliebtheit steigt wird sie auch nicht offline genommen, denn Line goes up = profit

Das ist mir bewusst, bemängeln tue ich damit ja das Monate nach dem Melden nichts passiert. In dem Fall ist das ja nicht einfach ne Werbung, die dich dazu bewegen will "in die Gruppe" zu kommen um Teil eines Pyramidensystems zu werden. Hier werden ja bewusst Persönlichkeitsrechte verletzt und der Fall würde vermutlich unter arglistische Täuschung fallen.
Am Ende verdient Alphabet dadurch ja Geld mit einer Straftat?

Außerdem bin ich der Meinung dass die Werbeanbieter nach wie vor zu viel Spielraum bzw. zu wenig drakonische Strafen für das verbreiten von Falschinformationen/Betrugsmaschen haben.

Absolut. Problem dabei ist aber, dass etliche dieser Werbetreibenden im Ausland sitzen oder zumindest über Briefkastenfirmen in DE agieren. Da wirste halt leider wenig rausholen können...

 

[Ganjafield]

Was nicht legal ist sollte von keinem DNS Provider in Deutschland Aufgelößt werden und alle Provider aus dem Außland, welche sich nicht daran halten (DNS, VPN, Proxy usw.) sollten irerseits von den Internetprovidern blockiert werden und zwar nicht nur per DNS sondern auch per IP (IP ranges des DNS, VPN, Proxy oder Content/Service Providers, welcher Deutsches und/oder EU Recht nicht umsetzt).

Klingt für mich nach einem Intranet nach chinesischem Vorbild aber nicht mehr nach einer funktionierenden Demokratie.

 

[1Striker1]

Oh dann sollte sich ja die Bild-Zeitung auch in acht nehmen, da in der Werbung auch öfter mal ein Spot läuft mit "KI-Generiert" oder ist das dann was anderes?

 

[GeleeBlau]

"DeepFakes"
"Volksverhetzung"
Mega lachkick.

Das gabs früher bei der Wochenshow mit Ingolf Lück. Wer kennst sie noch die "deepfake" clips von Rudols Scharping oder Guido Westerwelle.

 

[xxlhellknight]

Wie hier jeder sich von seiner Angst leiten lässt und sofort nach Verboten und Regulierungen ruft, zeigt mir das man sich nicht auf seine Gesellschaft verlassen kann. Behörden und große Konzerne(die Starken) haben am Ende Zugriff auf komplett uneingeschränkte ki, der Rest(die Schwachen) haben dann nur Zugriff auf eine künstlich beschränkte ki.

 

[22428216]

Das macht doch die "Bild" vom Axel Springer in ihrer Werbung auch. Nur mit Bundestagsabgeordneten. Im Radio vernimmt man sowas auch öfter.
Hier jedoch mit Hinweisen, die meiner Meinung nach noch zu unsichtbar platziert sind.

Ich finde sowas beschränkt legitim, wenn es gut gekennzeichnet ist. Generell bin ich jedoch dagegen. Warum muss man Deepfakes überhaupt machen? Wenn einer was nicht gesagt hat, muss man es auch nicht so darstellen. Das wird mehr mißbraucht als sinnvoll genutzt.


In jedem Fall ein Verbot für Demos, oder andere Veranstaltungen, wo Menschen in großer Masse auftreten. Da setzt das Denken zu schnell aus.

Das sollte auch im Interesse der Medien sein, die oft zurecht Kritik für ihre teilweise subjektive Berichterstattung erhalten.

 

[RobZ-]

Man muss eher lernen Kontrolle abzugeben. Das kann ein extrem bürokratischer Staat nun mal am schlechtesten.

 

[[wege]mini]

aber sobald er diese veröffentlicht und damit jemandem Schadet ist es eine Straftat?

So bald es veröffentlicht wird, ist es mindestens ein Delikt. Eine Straftat kann es bei Dingen werden, die in Rechtsgüter anderer Menschen eingreifen und wenn man ganze "Völker" gegeneinander aufhetzt, damit man seinen Ferrari kaufen kann, wird es zu einem Problem, dass nicht einmal die Mütter der Täter haben kommen sehen.

Wenn das eigene Gewissen schon aufgegeben hat, wird es kompliziert. Diese Menschen sind ungeeignet, in einer Welt zu leben, die so ist, wie sie aktuell sein soll und meiner Meinung nach auch sein muss.

Jetzt aber diese in irgend ein Lager zu sperren, um sie "umzuerziehen", kann man auch nicht in der Welt machen, in der ich gerne lebe.

KI ist nur ein Spiegel der Gesellschaft.

Wenn du willst, dass es wahr ist (weil es z.B. deinen Interessen dient), dann sicherst und verbreitest du es auch. Auf Demos, z.B.

Trifft es sehr gut. Hätte ich nicht besser sagen können. Gerade bei Menschen, die sich solcher Methoden bedienen, sind Eigenschaften vorhanden, die man "Puppenspielern" nachsagt und es gibt auch sehr viele Menschen, die wollen nur Puppen sein.

"Der Führer sagt wo es lang geht, dann marschieren wir. Selber denken ist zu kompliziert."

Mein Opa (Gott hab ihn selig) sagte immer: "Wenn sie das in der Zeitung schreiben dürfen, muss es doch stimmen."

Der wurde von dem Braunen aus Braunau sozialisiert. Braucht niemand, auch wenn er ein cooler Kerl war und eher am linken Rand angesiedelt war. Dort wollen wir alle nicht mehr hin. Das jetzt ein gesundes Misstrauen den Medien gegenüber in ein Extrem umschlägt, in dem man windigen Rattenfängern in einer Blase mehr glaubt als Journalisten, ist auch nicht gut.

Schon in der Schule lernt man, was Quellenstudium ist. Offensichtlich, haben zu viele dort nur die Bravo gelesen.

mfg

 

[katzenhai2]

"Guten Abend, meine Damen und Herren. Ich begrüße Sie zur Tagesschau. Heute möchten wir uns bei Ihnen entschuldigen. Seit über drei Jahren lügen wir Ihnen dreist ins Gesicht"

Auszug aus der gefälschten tagesschau-Audiodatei

Ich mag diese ganze Querdenkerszene nicht, weil sich viel zu viele Menschen davon anstecken lassen von dieser unbegründeten Hetze. Aber das oben gezeigte Zitat aus der Audiodatei fällt doch eher unter (offensichtliche) Satire!?

 

[Crowbar]

Klingt für mich nach einem Intranet nach chinesischem Vorbild aber nicht mehr nach einer funktionierenden Demokratie.

Für mich klingt das nach der Beseitigung rechtsfreier Räume und der Durchsetzung des Rechtstaates.
Verstößt ein in Deutschland ansässiges Rechenzentrum gegen bauliche Brandschutzbestimmungen wird es behördlich sanktioniert bis zur Betriebsuntersagung. Weigern sich Hoster, strafwürdige Inhalte zu beseitigen, herrschen chinesische Zustände? Das mag für dich Sinn ergeben, das restliche Volk hat nicht nur Verständnis, sondern fordert gegen Fake-Shops und anderen kriminellen Content gerichtete behördliche Maßnahmen.

 

[Eternal]

Eigentlich ist es sogar sehr einfach zu erklären:

Wenn du willst, dass es wahr ist (weil es z.B. deinen Interessen dient), dann sicherst und verbreitest du es auch. Auf Demos, z.B.

Wenn es zur eigenen Meinung passt, wird es bei weitem nicht so schnell hinterfragt - das muss ich bei mir selber leider auch immer wieder mal feststellen.

 

[DoS007]

Zum Glück ist eine Freischaltung der Mods notwendig, mehr als Polemik und Hexenverbrennung hätte man sonst nicht erwarten können in der Kommentarsektion.

Das ist deine Sicht. Ich denke hier sind genug mündige Leute unterwegs, die viele interessante, unterschiedliche Meinungen Kund tun.

Was auf jeden Fall klar wird: Der inhärent prüfbare Wahrheitsgehalt von Bild und Video reduziert sich massiv auf nahe zu gleichem Niveau wie bei Text. In Zukunft wird es noch wichtiger, - und das wird jeder Bürger:in lernen müssen - auf die Quellen zu achten. Ehrlich gesagt finde ich das sogar gut, dass das wie letztens mit den Fake-Nackt-Bildern von dieser einen Musikerin und auch hier (ich finde allein inhaltlich relativ offensichtlich, aber vermutlich nicht für jeden, der so etwas überhaupt nicht kennt usw.) in den Medien die Leute auf diese Problematik aufmerksam gemacht werden.

 

[Azdak]

Ich hab lange überlegt, ob ich etwas dazu schreiben. Naja, ich versuch mich kurz zu fassen...

Ich halte nicht Fake News und Deep-Fakes für das Kernproblem. Sie befeuern nur ein anderes, längst bestehendes Problem.

Wir leben in einer Zeit, in der Medien aller Art mit härtesten Mitteln um unsere Aufmerksamkeit kämpfen. Ihr Ziel ist es den Nutzer erst zu erreichen und ihn dann so lange wie möglich zu binden. Das "erreichen" funktioniert hervorragend mit Emotionen (und weniger gut mit Fakten) und das "halten" mit dem Kaninchenbau, in den man hinabsteigt. Es werden Methoden genutzt, die man gut aus der Glücksspiel- und Suchtforschung kennt. So funktionierte schon Facebook, so funktioniert YouTube, TikTok und die vielen anderen. Auch die "gute" Angebote nutzten diese Methoden, wie z.B. Duolingo. ...und es greift in allen Bereichen um sich. Clickbait ist ein weiteres Symptom davon. Misstrauen gegen alle und jeden, ein weiteres.

Fake News und Deep-Fakes eignen sich sowohl für das erreichen der Nutzer als auch zum Halten und sie zerstören Vertrauen. Klar werden sie genutzt. Sie "funktionieren". Daher funktionieren auch echte Bilder im falschen Kontext, schlecht gemachte Fakes und auch einfach nur grober Unfug. Wäre erkennen von Fake-News und Deep-Fakes eine Lösung, dann würden die offensichtlichen Fälschungen und Irreführungen nicht funktionieren - tun sie aber!

Wenn wir substanziell etwas dagegen tuen wollen, dann müssen wir meiner Meinung nach gegen diese suchtartigen Struckturen tun, von denen so viele Anbieter leben. Dort liegt die Ursache in meinen Augen. Damit möchte ich aber nicht sagen, wir sollten sie verbieten oder zu tote regulieren. Aber lenkend eingreifen halte ich für angebracht.
Mal ein völlig undurchdachter Gedanke: Die Besteuerung von Unternehmensgewinnen beginnt erst nach einem Freibetrag und steigt dann zunehmend in Abhängigkeit zur durchschnittlichen Konsumzeit pro Nutzer. Ein Anreiz, in kurzer Zeit seinen Content zu übermitteln. Tödlich für werbefinanzierte Angebote vermute ich. Belebend für qualitativen und hilfreichen Content hoffe ich.

 

[raychan]

Sehe ich bei den Deutschen weniger ein Problem. Es gibt viele die wählen SPD und CDU weil sie das immer so gemacht haben. Die kann man mit gar nichts umstimmen. Selbst wenn Darth Vader als Kanzlerkandidat aufgestellt wird.

Darth Vader würde ich wählen Aber keine AFD.

 

[JustAnotherTux]

Viel Spaß in der Volksrepublik China.

facepalm

Gruselig. Totalitäre überall in der BRD.

Nein danke, davon halte ich nichts.

Ich bin kein Unterstützer von staatlicher Überwachung, idealerweise müsste die Kontrolle bei der Bevölkerung liegen.

 

[JustAnotherTux]

Klingt für mich nach einem Intranet nach chinesischem Vorbild aber nicht mehr nach einer funktionierenden Demokratie.

Nein so meine ich das nicht, das ganze System müsste von Anfang an so konzipiert werden, das niemand auf die Verbindungsdaten zugreifen kann.
Zumindest nicht ohne richterliche Genemigung und am besten werden auch dann erst die Logs gespeichert.
(Also keine Vorratsdatenspeicherung)

Die Regeln welche natürlich konfigurierbar sein müssen, müssten von einer unabhänigen Stelle umgesetzt werden.

Die Internet Provider müssten diese umsetzen damit wären die Internet Provider die Unabhänige Stelle/Organisation und solange alle gegen grundsätzliche Änderungen an der Filter Logik klagen können dürfte das auch kein Problem sein.

Ich meine wir reden hier nur von der Blockade von Inhalten welche nachweißlich illegal sind und denjenigen welche nachweißlich illegale Inhalte verbreiten und/oder die Verbreitung nachweißlich unterstützen bzw. nicht blockieren. Falls eine Blockade nicht rechtmäßig wäre könnte dagegen geklagt werden.

 

[Gamefaq]

Quatsch, das war auch vorher schon der Fall - jetzt haben nur auch 14-Jährige Kleinkriminelle darauf Zugriff.

Foto-/Videobearbeitung sind nun wirklich nichts Neues und mit entsprechendem überschaubaren Aufwand auch ohne „KI“ mehr als überzeugend möglich.

Nur mit dem Unterschied das das zuvor leicht als Fälschung erkannt werden konnte was da angeboten wurde! Wenn man mehr als eine Sekunde darauf geschaut hat. Jetzt musst du ganz genau hinsehen und nach Fehlern akribisch suchen. Wenn wir von Video Fakes reden, bei Ton war es ähnlich eben weil die Stimme ähnlich aber nicht identisch (inklusive Floskeln wie das jemand gerne ein "ne" oder "ähh" usw. an jeden 2/3 Satz hängt) geklungen hat.

Und genau deswegen erreicht das ganze nun ein neues Niveau wenn man es trotz Versuch nicht mal eben als Fake erkennen kann.

 

[Th31X]

So wird es das dann für Stimmen geben wo man nur die Aufnahme als Stimmprobe der Person hochladen können wird und die KI wird dann einen beliebigen eingegeben Text als fertig gesprochenes dieser Person als mp3 ausgeben. Und die nächste Stufe dann das gleiche auch mit Bild als Video für jedermann als "lustige Geburtstag Überraschung" gedacht...

Alles nur eine Frage der Zeit...

Gibt es doch schon längst und das massenhaft. Woher kommen denn sonst die ganzen Fakes?

Schau dir mal https://elevenlabs.io/ an. Das kann sogar die Tonalität deiner eigenen Stimme (und natürlich die jedes anderen) generieren. Einfach 5 Minuten aus dem Kinderbuch vorlesen, Audio hochladen und generieren lassen. Nichts geht mittlerweile einfacher als das.

 

[DennisK.]

Mit einem Achselzucken zur Kenntnis genommen was soll man sonst zu so einer Meldung schreiben ?

Du bist nicht verpflichtet, jede Meldung zu kommentieren, auch wenn das Forum dies sehr einfach gestaltet und zu einem offenen Meinungsaustausch einlädt, den wir im Team begrüßen.

so ist das hier nur reiner Copy Pasta den ich bei der Tagesschau bereits lesen durfte

Artikel bei ComputerBase werden alleine schon aus urheberrechtlichen Gründen und den eigenen qualitativen Ansprüchen selbst geschrieben und versuchen so wenig wie möglich eine "Copy Pasta" zu sein.

Ironischerweise haben die drei im Artikel verlinkten Medien teilweise wortgenau dieselbe Meldung verfasst, was darauf schließen lässt, dass Zeit, Spiegel und Tagesschau ihren Artikel von der Meldung einer Nachrichtenagentur abgetippt haben. Das gehört zur Medienlandschaft dazu und ist imho auch nicht problematisch, für den Artikel bei Computerbase wurde jedoch nicht auf eine solche Meldung zurückgegriffen.

Das ist auch daran zu erkennen, dass der Artikel in der zweiten Hälfte einen erweiterten Fokus auf den Megatrend KI im Betrugsbereich und daraufhin noch die Brücke zum Bereich Videospiele-Leaks im Zeitalter von KI baut. Inhalte, die bei den drei im Artikel genannten Quellen aufgrund der differenten inhaltlichen Ausrichtung nicht vorhanden sind.