EU-Untersuchung: Angst vor halluzinierenden Chatbots und AI-Manipulationen im Wahlkampf

Angesichts der weltweiten Wahlen im Jahr 2024 stehen die Big-Tech-Konzerne besonders im Fokus. Um generative AI-Risiken bewerten zu können, fordert die EU-Kommission im Rahmen des Digital Service Act (DSA) nun Informationen von den Suchmaschinen Google und Bing sowie von Facebook, Instagram, Snapchat, TikTok, YouTube und X an.

Schutzmechanismen vor AI-Manipulationen spielen in der EU insbesondere vor der Europawahl eine Rolle. EU-Bürger sind vom 6. bis zum 9. Juni aufgerufen, das Europäische Parlament zu wählen. In Deutschland findet die Wahl am 9. Juni statt.

Umgang mit Halluzinationen und Deepfakes

Von den Konzernen will die EU-Kommission wissen, wie die Plattformen die Risiken bewerten und welche Gegenmaßnahmen man ergreift. Bei den Gefahren stehen vor allem zwei Aspekte im Fokus:

• Die Konsequenzen aus dem „Halluzinieren“, also der Tendenz von generativen AI-Tools wie ChatGPT, Copilot oder Gemini, verzerrende oder irreführende Antworten zu geben. Solche Falschinformationen entstehen vor allem, wenn die Datenbasis nicht solide ist.
• Der Umgang mit bewusst generierten Falschinformationen wie Deepfakes, die mit AI-Bildgeneratoren erstellt und dann über soziale Medien verbreitet werden.

Der Fragenkatalog geht dabei noch über das Thema Wahlen hinaus. Untersucht werden Bereiche wie die Verbreitung illegaler Inhalte, der Schutz von Grundrechten, geschlechterspezifische Gewalt, den Schutz von Minderjährigen, das mentale Wohlbefinden, der Schutz persönlicher Daten sowie den Verbraucherschutz und das geistige Eigentum.

Die Fragen zu Wahlen haben aber Priorität, die müssen die Plattformbetreiber bis zum 5. April beantworten. Für die übrigen ist bis zum 26. April Zeit. Ausgewählt wurden die eingangs genannten Plattformen, weil diese im DSA-Prozess als sehr große Online-Plattformen („Very Large Online Platform“; VLOP) und sehr große Suchmaschinen („Very Large Online Search Engine“; VLOSE) eingestuft wurden.

Der Digital Service Act (DSA) ist somit der Hebel, den die EU-Kommission nutzt, bevor der AI Act greift. Beim Umgang mit Inhalte auf Online-Plattformen zeigt sich aber bereits, wie eng die Gesetzespakete miteinander verbunden sind.

Google Gemini beantwortet keine Wahlfragen

Wie sich der Wahlprozess schützen lässt, beschäftigt derzeit praktisch alle Betreiber von generativen AI-Tools. So hat OpenAI – die bei der EU-Liste wegen der Größe nicht auftauchen – bereits ein Maßnahmenpaket angekündigt. Ebenso will Midjourney verhindern, dass Bilder mit Trump oder Biden generiert werden.

• Deepfakes in der US-Wahl: Midjourney will Trump und Biden aus dem Bildgenerator verbannen
• US-Präsidentschaftswahlkampf: OpenAI will ChatGPT und Dall-E 3 vor Wahlen in 2024 absichern
• AI-Fake-Porn von Taylor Swift: US-Administration will verschärfte Regeln gegen Deepfakes
• Fehler bei Diversität: Google lässt Gemini vorerst keine Menschen generieren

Google geht derzeit noch einen Schritt weiter, der AI-Chatbot Gemini beantwortet vorerst keine Fragen zur US-Wahl. Stellt man entsprechende Anfragen, lautet die Antwort: „Ich lerne noch, wie diese Frage beantwortet werden kann. Verwende inzwischen die Google Suche.“ Der Konzern zieht also die Reißleine. Ohnehin stand Google bereits wegen geschichtsverfälschenden Darstellungen in der Kritik, deswegen lassen sich vorerst keine Bilder von Menschen generieren. Ein entsprechendes Debakel wollte man offensichtlich nicht wiederholen.

Allerdings gelten die Restriktionen nur bei der amerikanischen Präsidentschaftswahl. Anfragen zur Europawahl beantwortet Gemini.

Mit Problemen kämpft allerdings auch Microsoft. Der AI-Bildgenerator Designer konnte missbraucht werden, um gewalttätige und sexuelle Inhalte zu erstellen – und verstieß obendrein noch gegen das Urheberrecht. Mit dem Tool sollen auch die Fake-Nacktbilder von Taylor Swift erstellt worden sein, die zeitweise auf X kursierten.

Pikant für Microsoft: Laut einer CNBC-Recherche warnte ein Entwickler bereits vor Monaten intern vor den Problemen. Angemessen reagiert wurde aber offenbar nicht. Nun erfolgten aber Anpassungen, Microsoft blockiert nun verstärkt Prompt-Eingaben, um den Missbrauch zu unterbinden.