News Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant

[mischaef]

Spanien will als eines der ersten EU-Länder den vor rund einem Jahr beschlossenen AI Act umsetzen. Der Entwurf sieht hohe Geldstrafen für Unternehmen vor, die mithilfe künstlicher Intelligenz erstellte Inhalte nicht ausreichend kennzeichnen. Das Gesetz könnte als Modell für andere EU-Staaten dienen.

Zur News: Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant

 

[xxMuahdibxx]

Also in Deutschland ist der Entwurf 2035 fertig.

 

[Apocalypse]

Das wird der Untergang für Hasbro ;-)

 

[nciht]

Der Gesetzentwurf stellt zudem weitere Praktiken unter Strafe. Dazu gehört unter anderem der Einsatz unterschwelliger Töne und Bilder, die vom Hörer oder Zuschauer nicht bewusst wahrgenommen werden. Damit soll verhindert werden, dass bestimmte Personengruppen manipuliert werden können. Laut Lopez betrifft dies beispielsweise suchtgefährdete Menschen, die durch solche Inhalte zum Glücksspiel verleitet werden könnten, oder Spielzeuge, die Kinder zu gefährlichen Handlungen animieren.

Da freuen sich bestimmt etliche Richter, bestimmen zu dürfen, was unterschwellig ist und was nicht und was bewusst wahrgenommen wird und was nicht. Ich weiß auch nicht, was diese Sorgen um Manipulation mit KI-Bildern zu tun haben. Ich bin ja ungern verschwörerisch, aber so klingt es als wolle man nen Hintertürchen haben um einfach alles mögliche verklagen zu können.

 

[coxon]

Da Spanien als eines der ersten EU-Länder den AI Act umsetzt, könnte diese Regulierung als Blaupause oder zumindest als Orientierungspunkt für andere Staaten, einschließlich Deutschland, dienen.

Wenn ich eines über Deutschland im Jahr 2001 gelernt habe: "wir" schauen uns nichts ab von Nachbarstaaten - nein, "wir" verzapfen unseren eigenen Mist und schädigen dabei die Bürger, die Wirtschaft und unser Image. Die Umsetzung bei der Einführung des Euro haben "wir" damals verkackt, und ziemlich vieles was danach kam auch. Daher hege ich keine Hoffnung für eine gute Umsetzung, aber ich lass mich dann doch gern eines Besseren belehren.

 

[Red Sun]

Also in Deutschland ist der Entwurf 2035 fertig.

Du alter Optimist.

 

[sikarr]

Mal ganz ehrlich, so ein Quatsch, ob das Bild nun von einer KI kommt oder Photoshop spielt ja wohl eher keine Rolle oder?
So gesehen müssten ja schon bearbeitete Bilder gekennzeichnet werden oder wie ist das wenn man mit einer KI generierten Bilder als Lizenz vertreibt, ist man dann der Eigentümer oder die Budde der KI?
Wo ich das anders sehe ist das Thema Kunst oder bei Wettbewerben da muss man dann halt nachweisen das das Bild von einem Selbst kommt, z.B. durch Dokumentation des Entstehungsprozesses etc. oder aber halt durch eine Erlaubnis\Vollmacht der Person selbst etc.

Dazu gehört unter anderem der Einsatz unterschwelliger Töne und Bilder, die vom Hörer oder Zuschauer nicht bewusst wahrgenommen werden. Damit soll verhindert werden, dass bestimmte Personengruppen manipuliert werden können. Laut Lopez betrifft dies beispielsweise suchtgefährdete Menschen, die durch solche Inhalte zum Glücksspiel verleitet werden könnten, oder Spielzeuge, die Kinder zu gefährlichen Handlungen animieren.

Zählt da nicht auch Werbung im allgemeinen drunter? In den wenigsten Werbungen wird doch noch gesagt kauf das sondern es wird eher indirekt drauf verwiesen.

 

[DriveByFM]

Kann diese ganzen KI Bilder nicht mehr sehen, es nervt nur noch. Hoffentlich führt das dazu das es weniger benutzt wird, was ich aber kaum glaube.

 

[HtOW]

@DriveByFM jedes Iphone Bild wird durch KI gestütze Prozesse verbessert. Wo ist die Grenze? Was ist bearbeitet? Ist ne automatische Kontrast anpassung bereits Kennzeichungspflichtig? dynamische Interpretieren der Senordaten wie bei jedem Handy, Menschen entfernen, Maskieren, Aufhellen, Weichzeichner,...

Da gehts sicherlich nicht spezifisch um "Papst der mit ner G Klasse vor der Shischabar steht".

Wie will man das gesetzlich differenzieren.

Aber ja solche inhalte sollten immer gekennzeichnet werden, besonders aber Videos, die manipulieren effizienter.

 

[coxon]

wie ist das wenn man mit einer KI generierten Bilder als Lizenz vertreibt ist man dann der Eigentümer oder die Budder der KI?

Das ist der größte Punkt der mir bei der deutschen Umsetzung Kopfschmerzen bereitet. Deutschland ist in der Vergangenheit oftmals suboptimale Wege gegangen und nicht mal die Vorratsdatenspeicherung bekommen "wir" irgendwie hin.

Wie will man das gesetzlich differenzieren.

Geht nicht.

 

[Diablokiller999]

mal ganz ehrlich, so ein Quatsch, ob das Bild nun von einer KI kommt oder Photoshop spielt ja wohl eher keine Rolle oder?

Naja spielt es schon, da durch sowas jeder Hans-Wurst Fakes nach Lust und Laune erstellen kann, wie die AfD beweist.

Aber tendenziell würde ich sowieso Strafen auf Bildmanipulation zur Verbreitung von Lügen unter Strafe begrüßen. Was auf sozialen Plattformen abgeht, ist nicht mehr schön zu reden.

Würde sogar so weit gehen, Plattformen, die die Verbreitung von Falschmeldungen nicht aktiv unterbinden, mit in die Haft zu nehmen. Vielleicht nehmen diese Konzerne dann mal ihre Pflichten gegenüber der Gesellschaft wahr, müssen Zeitungen schließlich auch.

 

[silentdragon95]

Richtig und wichtig. Klar, "Fake"-Bilder von Personen sind nicht neu (Photoshop existiert ja nicht erst seit gestern), aber wie einfach solche Deepfakes mittlerweile zu erstellen sind (insbesondere auch in Videoform) ist absolut neu und erfordert strengere Gesetze gegen diese Praktiken.

Mindestens genau so wichtig ist aber der Teil, der es verbietet, dass Menschen anhand biometrischer Daten mithilfe künstlicher Intelligenz klassifiziert oder aufgrund dieser Daten von Leistungen ausgeschlossen werden.

 

[Kadett_Pirx]

Deutschland wird nun sogar bei seiner Kern"kompetenz", der "Regulierung", überholt lol

 

[the_IT_Guy]

@mischaef
Danke für das sehr hübsche - NICHT langweilig KI-Generierte - Titelbild.

Ich bin zwiegespalten. Einerseits sehe ich es genauso wie sikarr, wo ist der unterschied zu Bildern die mit Photoshop bearbeitet wurden?
Andererseits kann ich auch verstehen, dass es halt jetzt wesentlich einfacher ist Bilder zu erstellen, man muss nicht mehr mit Photoshop umgehen können und das erhöht natürlich das aufkommen an Fakefotos und mittlerweile auch Videos massiv.
Also man muss schon was machen. Allerdings, diejenigen die täuschen wollen werden sich nicht von einer Wasserzeichenpflicht abhalten lassen.

 

[sikarr]

Naja spielt es schon

Ja OK, falsch ausgedrückt, ich meine wo ist der Unterschied bei einem Bild was durch Photoshop, Illustrator usw. erstellt wurde und das von einer KI?
So gesehen müsste ja das bearbeitete Bild auch immer kennzeichnet werden

Ergänzung (Heute um 15:04)

Deutschland wird nun sogar bei seiner Kern"kompetenz", der "Regulierung", überholt lol

Nein, werden wir nicht, unsere Kern"kompetenz" ist die Überregulierung, wir toppen das noch, pass mal auf.

 

[calippo]

Mal ganz ehrlich, so ein Quatsch, ob das Bild nun von einer KI kommt oder Photoshop spielt ja wohl eher keine Rolle oder?

Nicht ganz, mit KI kann (fast) jeder Bilder produzieren und in einer nahezu unbegrenzten Menge und unfassbar kurzer Zeit.
Ein Photoshopkünstler kann nicht in ein paar Stunden 100 Bilder generieren und damit die sozialen Medien fluten, um irgendwas zu beeinflussen.

 

[sikarr]

@calippo schon richtig es ist einfacher geworden aber es ging auch schon früher, hat halt nur länger gedauert und\oder mehr Manpower erfordert.

 

[MC´s]

Bis das hier in DE kommt sind wieder Lichtjahre vergangen 🤣. Einfach nur peinlich was aus DE geworden ist.

 

[cypeak]

Ein Photoshopkünstler kann nicht in ein paar Stunden 100 Bilder generieren und damit die sozialen Medien fluten, um irgendwas zu beeinflussen.

das muss er doch garnicht; in einer brenzligen situation reicht ein bild oder ein videoclip und ein menschlicher pulverfass explodiert...
ich finde solche gesetzgebung für die katz (auch wenn die motivation die bürger vor negativen auswirkungen solcher möglichkeiten zu schützen versucht) - diejenigen welche so etwas einsetzen wollen, werden das trotz jedem verbot machen und den geist bekommt man nicht mehr in die flasche.
unternehmen agieren heute international und wenn etwas bei uns reguliert/verboten ist, wird es eben anderswo auf der welt entwickelt, erforscht und eigesetzt - das internet kennt keine nationalen grenzen; etwas was politik immernoch nicht verstanden hat...

 

[coxon]

Nicht ganz, mit KI kann (fast) jeder Bilder produzieren und in einer nahezu unbegrenzten Menge und unfassbar kurzer Zeit.

Naja, die Hürden für so etwas sind etwas größer als es vielleicht den Anschein macht. Mit den aktuell kostenlosen Modellen ist es nicht so einfach wirklich gute Bilder zu generieren. Für ein neues Avatar bei Steam habe ich an diesen fünf Ausführungen gefühlt bald zwei Stunden gesessen ... Und naja, die Ergebnisse waren eher so lala. Ich wollte nur einen Elmo mit einem Taser und ChatGPT hat der Figur Ohren dazu gepfriemelt. 😂

Hätte ich ein lokales LLM zur Generierung wäre es leichter, aber ich bin nicht erfahren genug, wie viele andere auch. Man bekommt nicht immer das was man haben möchte.