Strafbarkeit von KI-Fakes: Staatsschutz und Justiz ermitteln wegen Verbreitung auf Demo
Der Megatrend Künstliche Intelligenz (KI) sorgt nicht nur für hilfreiche Chatbots und neue Smartphone-Funktionen, er beschäftigt nun auch den Staatsschutz (BKA) wegen möglicher Volksverhetzung. Auf einer Kundgebung wurden durch KI manipulierte Beiträge der tagesschau abgespielt, Polizei und Justiz ermitteln inzwischen.
Deepfakes zum Anheizen der Stimmung
Wie die Zeit, der Spiegel und die Tagesschau selbst übereinstimmend berichten, haben die Staatsanwaltschaft und der Staatsschutz Ermittlungen wegen des Abspielens KI-generierter Audioaufnahmen von vermeintlichen tagesschau-Sprechern auf einer Demo eingeleitet. Die Staatsanwaltschaft ermittelt wegen des Anfangsverdachts der Verleumdung und Beleidigung, der Staatsschutz zusätzlich wegen Volksverhetzung.
Die gefälschten Nachrichtenbeiträge wurden am dieswöchigen Montag wiederholt auf Demonstrationen in Dresden abgespielt, die sich gegen die Energie- und Flüchtlingspolitik der Bundesregierung sowie die Solidarität mit der Ukraine richten. Das Abspielen der Audiodateien wurde für kommende Proteste untersagt, die Polizei werde für ihre Ermittlungen nun auch frühere Audioaufnahmen auswerten, heißt es weiter.
Audiodateien kursieren schon länger
Bereits im vergangenen November warnte Tagesschau selbst vor KI-generierten Audioaufnahmen, auf denen tagesschau-Sprecherin Susanne Daubner und -Sprecher Jens Riewa sich für angebliche „Lügen“, die sie in der Nachrichtensendung verbreitet hätten, entschuldigen. Die tagesschau konstatiert, dass eine ähnliche Aufnahme auch in Dresden abgespielt wurde.
Guten Abend, meine Damen und Herren. Ich begrüße Sie zur Tagesschau. Heute möchten wir uns bei Ihnen entschuldigen. Seit über drei Jahren lügen wir Ihnen dreist ins Gesicht
Auszug aus der gefälschten tagesschau-Audiodatei
Insgesamt sind drei Audiodateien im Umlauf, die schon damals auf Demonstrationen des Querdenkermilieus abgespielt wurden. Die Audiodateien haben sich auch auf TikTok und anderen sozialen Netzwerken verbreitet, teilweise wurden sie Tausende Male angesehen.
KI-Fakes sind im Alltag angekommen
Manipulierte Video- und Audiodateien gehören, obwohl es die technischen Möglichkeiten erst seit wenigen Monaten gibt, bereits jetzt zu einem festen Werkzeug von Betrugs- und Manipulationsmaschen. So gibt es zahlreiche Beispiele für Werbung, die vermeintliche tagesschau-Sprecher oder Influencer zeigt, in denen diese für zwielichtige Apps oder Investitionsmöglichkeiten werben. Beispielsweise wurde die Legitimität des ZDFs missbraucht, um eine vermeintliche Kasino-App des Streamers Knossi (X) zu bewerben.
Gaming-Welt bereits betroffen
Wo die Strafbarkeit von KI-generierten oder auch nur manipulierten Medien beginnt und wo sie aufhört, wird daher in Zukunft vermutlich noch öfter in den Fokus der Justiz gelangen. Dass sich mithilfe von KI auch bereits in der Spielebranche durch manipulierte Gerüchte und Leaks Aufmerksamkeit verschafft wird, ist seit dem professionell nachgebauten Gespräch des Take-Two-CEOs Strauss Zelnick zu einer angeblichen Ankündigung von GTA VI im Oktober 2023 kein Geheimnis mehr.
Die künstliche Stimme war nur schwer von der tatsächlichen zu unterscheiden, die Aufzeichnung hat sich allerdings erst durch die fehlerhaften Informationen und die fragwürdige Herkunft als Fake entlarvt. Dass aufwendig inszenierte Fakes nicht auch wirtschaftliche Auswirkungen haben könnten, ist daher nicht auszuschließen.
Fabian und 
Jan-Frederik