News EU-Parlament beschließt AI Act: Biometrie-Verbote und strikte Regeln für OpenAI und Co.

[Andy]

Lange wurde debattiert, heute hat sich das EU-Parlament auf eine finale Position zum AI Act verständigt. Wesentliche Merkmale sind: KI-Verbote im Bereich der biometrischen Überwachung, Transparenzpflichten für KI-Chatbots wie ChatGPT und Basismodelle wie GPT-4 müssen in der EU künftig vor dem Marktstart registriert werden.

Zur News: EU-Parlament beschließt AI Act: Biometrie-Verbote und strikte Regeln für OpenAI und Co.

 

[CiX]

"Zu den unannehmbaren Risiken zählten in der Vorlage der EU-Kommission bereits Systeme, die etwa menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen"

Kann mir jemand hierzu ein Beispiel nennen, wo das so passiert?

 

[XCPTNL]

In ein paar Jahren stimmt Skynet dann selbst über die Regeln ab, hebelt alle Mechanismen aus und dann fliegt uns die Kacke so richtig um die Ohren.

 

[Seiku]

Solange sie nicht die leute für ihre Texte und Bilder entlohnen, die sie dafür genutzt haben die KI zu trainieren, ist jedes Gesetz für mich nicht wirklich als fair zu betrachten.

 

[Ben99]

Die besten KIs werden also in Zukunft aus Japan kommen.

 

[pumuck|]

Kann mir jemand hierzu ein Beispiel nennen, wo das so passiert?

Chatbots in sozialen Netzwerken, News-Blasen über diverse domains hinweg, Radio und Fernsehen

 

[S.Kara]

verkündete die japanische Regierung, dass für KI-Trainingsdaten keine urheberrechtlichen Ansprüche gelten

Japan hat verstanden wie es geht, die EU legt sich mal wieder selbst Steine in den Weg.

Ich fände es viel besser wenn es andersrum wäre, also dass alles was mit KI entworfen wurde, auch wenn nur zum Teil, als solches deklariert werden müsste. Also Artikel, Bücher, Bilder, usw.

 

[madmax2010]

Kann mir jemand hierzu ein Beispiel nennen, wo das so passiert?

Amazon, Spotify, Netflix,. etc..
Bytedance (tiktok) trainiert eigene reccomender pro user.
Hier eine recht interessante publikation dazu, was bytedance da u.a tut: https://arxiv.org/pdf/2209.07663.pdf

Und wie man Gesichtsbilder zur Berechnung von Krankenkassenbeitraegen nutzen kann: https://arxiv.org/pdf/1801.07637.pdf

Die besten KIs werden also in Zukunft aus Japan kommen.

Was verstehst du unter KI und wie kommst du zu der Aussage?

 

[Fred_VIE]

"Zu den unannehmbaren Risiken zählten in der Vorlage der EU-Kommission bereits Systeme, die etwa menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen"

Kann mir jemand hierzu ein Beispiel nennen, wo das so passiert?

Ganz einfaches Beispiel sind Foren, wo die Meinung zensiert wird. A.I. findet unliebsame "Unterhaltungen" viel schneller als Menschen.

Jedesmal, wenn in einem Forum dein Beitrag "freigeschalten" werden muss, wird menschliches Verhalten manipuliert um den Freien Willen der Nutzer zu umgehen indem man den Lesern vorgaukelt, dass es bestimmte Meinungen nicht gibt. Das passiert schon seit einigen Jahren.

Eine gute A.I. könnte deine Accounts hacken, auf Social Network Seiten Videos von dir verbreiten, mit Aussagen, die du nie getroffen hast. All das geht jetzt schon. Wie lange es dauert, bis Bankkonten nicht mehr sicher sind und Leben bzw. Karrieren zerstört werden, kann man sich da leicht vorstellen.

 

[capitalguy]

Kann mir jemand hierzu ein Beispiel nennen, wo das so passiert?

die kommentare in den sozialen medien zu den weltnachrichten sind sehr, sehr stark manipuliert durch k.i.
auch diverse influencer-kanäle.

aber ich finde eine ki-massenüberwachung im strassenverkehr bringt auch vorteile, gerade in so einem dicht besiedelten land wie deutschland, da treffen einfach zu viele gestalten aufeinander.

 

[polyphase]

Aha,
also Echtzeitauswertung ist verboten.

D.h. im Umkehrschluss aber auch, wenn die Auswertung 3 Sekunden später erfolgt, ist es keine Echtzeit mehr und damit zulässig?

 

[estros]

Das klingt schon richtig kompliziert, worauf man alles achten muss und vieles ist einfach schwammig formuliert. Da gibt es jede Menge Interpretationsspielraum.

Wär es nicht insbesondere bei solchen KI Modellen sinniger, wenn sich weltweit Staaten zusammentun, um Regeln zu entwerfen. Die Modelle sind rein digital und werden global eingesetzt und stetig erweitert, da ist internationales Recht für alle Parteien klüger.

 

[wern001]

Ich schätze mal am ende der Menschheit ist eher die KI schuld als Asteroiden oder Außerirdische.

Vieles was heute als KI bezeichnet wird ist nichts weiteres als eine clevere Programmierung und hat nichts mit echter KI zu tun.

 

[Xiaolong]

Vieles was heute als KI bezeichnet wird ist nichts weiteres als eine clevere Programmierung und hat nichts mit echter KI zu tun.

Das mag technisch richtig, sein, dennoch ist/wird der impact groß, wir stehen erst am Anfang. Genau wie vor vielen Jahren mit dem Internet. Oder vor noch mehr Jahren wie Züge und Autos.

Niemand kann mit Sicherheit sagen was passieren wird, aber die Büchse ist offen und es gibt kein Zurück. Ich sehe die Entwicklung grundsätzlich positiv, weiß aber auch, dass es ein verdammt mächtiges Werkzeug sein kann und das Missbrauchspotenzial in gewissen Strukturen gewaltig ist. Respekt ist definitiv geboten. @madmax2010 hat da schon einen Vorgeschmack geliefert. Man bedenke dass die zweite Publikation von 2018 ist, 6 Jahre. Das sind Äonen in dem Umfeld.

Ich schätze mal am ende der Menschheit ist eher die KI schuld als Asteroiden oder Außerirdische.

Im Grunde ist das doch die höchste Ehre im (größtenteils) herrschenden Kapitalismus. Man optimiert sich selber weg und wird obsolet.

 

[Haldi]

Als Hochrisiko-Anwendung – also die zweithöchste der vier Stufen – sollen KI-Systeme gelten, die die Gesundheit, Sicherheit und Grundrechte von Menschen und der Umwelt erheblich gefährden.

Und wie sieht das mit Selbstschuss anlagen aus?

 

[Rickmer]

D.h. im Umkehrschluss aber auch, wenn die Auswertung 3 Sekunden später erfolgt, ist es keine Echtzeit mehr und damit zulässig?

Einen richterlichen Beschluss in 3 Sekunden erlangen wäre 'ne starke Nummer...

News nicht zuende gelesen?

 

[Unnu]

Einen richterlichen Beschluss in 3 Sekunden erlangen wäre 'ne starke Nummer...

Der muss ja auch nur ne KI sein.
Das geht schon, wenn man will.

 

[Harsiesis]

"Zu den unannehmbaren Risiken zählten in der Vorlage der EU-Kommission bereits Systeme, die etwa menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen"

Kann mir jemand hierzu ein Beispiel nennen, wo das so passiert?

TikTok als prominentes Beispiel.

 

[Chris007]

"„In Zeiten, in denen führende Technologieunternehmen vor den Gefahren ihrer eigenen Schöpfungen warnen, hat Europa die Initiative ergriffen und eine konkrete Lösung für die beginnenden Risiken, die von KI ausgehen, vorgestellt“, sagt der sozialdemokratische Abgeordnete Brando Benifei, der das Werk als Berichterstatter maßgeblich prägte."

Wenn ich mir jetzt den Lebenslauf angucke, wie hoch ist dann die Chance, dass er Experte im KI Bereich ist und/oder in dem Bereich geforscht/gearbeitet hat?

 

[[wege]mini]

dass er Experte im KI Bereich ist und/oder in dem Bereich geforscht/gearbeitet hat?

Evtl. hat er ja einen Trauzeugen oder Schwager, der Experte ist und der ihm "geholfen" hat.

Die Anzahl der Politiker, die in ihrem Ressort ausgewiesene Experten sind, ist verschwindend gering. Und sellbst wenn man mal einen findet, der z.B. bei der Armee war und dann Verteidigungsminister wird, kann es trotzdem ein Betrüger sein.

Man beschäftigt sich mit dem Problem und das ist schon mal gut. Die Zukunftsvisionen von "KIs" mit Bewusstsein sind noch sehr viele Jahre Visionen und bis dahin muss man sich mit den realen Gefahren dieser Automatisierten, sich selbst verbessernden, Programmen beschäftigen, wenn man sie in sensiblen Bereichen einsetzt.

Und ob dann Lieschen Müller einen Bericht schreibt, was sie mit ihren Mitarbeitern zusammen getragen hat oder Max Mustermann, ist belanglos. Was sie zusammengetragen haben ist von Interesse und das muss man prüfen.

mfg