Autonome Cyberangriffe: KI-Agenten erstellen aus Sicherheitspatches Exploits

Michael Schäfer
35 Kommentare
Autonome Cyberangriffe: KI-Agenten erstellen aus Sicherheitspatches Exploits
Bild: TyliJura | gemeinfrei

Google warnt im aktuellen KI-Bedrohungsbericht vor zunehmend autonomen KI-Werkzeugen für Cyberangriffe. Ein entdecktes Framework entwickelte dabei aus Sicherheitspatches selbstständig Exploits. Der Bericht beschreibt zudem weitere KI-gestützte Angriffe, Manipulation politischer Debatten und Googles automatisierte Gegenmaßnahmen.

KI entwickelt Exploits ohne menschliches Eingreifen

Die Google Threat Intelligence Group (GTIG) und das US-amerikanische Cybersicherheitsunternehmen Mandiant berichten über einen Angriff, bei dem ein KI-Agent veröffentlichte Sicherheitsupdates eigenständig untersuchte und daraus funktionsfähige Exploits entwickelte, die auf ungepatchten Systemen verwendet werden konnten. Nach Angaben der Forscher handelt es sich um den ersten beobachteten Fall, in dem ein solches System sowohl die Entwicklung als auch die Ausführung von Angriffen vollständig ohne menschliches Eingreifen übernahm.

Dokumentiert wird der Vorfall im KI-Bedrohungsbericht für das vierte Quartal 2026. Gegenüber dem dritten Quartal erkennt Google darin einen erheblichen Fortschritt beim Einsatz großer Sprachmodelle (LLMs) zur automatisierten Schwachstellensuche und deren anschließender Ausnutzung.

Exploit-Agent analysiert Software-Patches automatisch

Bei ihren Untersuchungen stießen die Sicherheitsforscher unter anderem auf einen öffentlich zugänglichen Staging-Server, auf dem ein Framework namens exploit_agent betrieben wurde. Dieses kombinierte mehrere KI-Agenten und konnte sowohl leistungsfähige externe als auch lokal ausgeführte Sprachmodelle einbinden. Da die verwendeten Werkzeuge russischsprachig waren, vermutet Google einen russischsprachigen Betreiber hinter dem System.

Das Framework untersuchte den Erkenntnissen nach kontinuierlich Sicherheitsupdates verbreiteter Webanwendungen und verglich dafür den Programmcode vor und nach einem Patch, identifizierte potenzielle Schwachstellen und entwickelte passende Exploits, die anschließend automatisch ausgeführt werden konnten. Damit automatisierte das System eine vollständige Angriffskette von der Analyse bereits geschlossener Sicherheitslücken bis zur praktischer Ausführung.

Gestohlene Daten und Angriffe auf französische Websites

Neben dem Framework entdeckten die Forscher auf dem Server zudem Daten bereits kompromittierter Organisationen sowie mehrere Skripte für weiterführende Angriffe. Diese ermöglichten die Erkundung interner Netzwerke, Brute-Force-Angriffe und die Installation von Webshells zur Fernsteuerung kompromittierter Webserver. Andere Werkzeuge dienten dazu, bereits vorhandene Webshells konkurrierender Angreifer gezielt zu entfernen. Aus den ebenfalls aufgefundenen Telemetriedaten schließt Google, dass der Betreiber insbesondere französische Websites aus der Medien- und Unterhaltungsbranche sowie dem Bildungsbereich ins Visier genommen hatte.

Weitere KI-Frameworks bei Cyberangriffen im Einsatz

Google sieht in dem Vorfall einen übergreifenden Trend. Sowohl finanziell motivierte Cyberkriminelle als auch Spionagegruppen experimentieren zunehmend mit autonomen Multi-Agenten-Systemen, die komplexe Angriffe über mehrere aufeinanderfolgende Schritte hinweg eigenständig koordinieren und ausführen können.

Neben dem quelloffenen Penetrationstest-Werkzeug ARTEX nennt GTIG die Frameworks CAIRN, CyberStrikeAI, HexStrike AI und PentAGI. Letzteres wurde zusammen mit Proxy-Diensten bei Angriffen auf Unternehmen der Luft- und Raumfahrtbranche beobachtet. Auch mutmaßlich mit der Volksrepublik China verbundene Spionagegruppen gehören zu den Akteuren, die entsprechende Systeme bereits erproben.

Zunehmenden Einsatz autonomer Angriffswerkzeuge erwartet

Die grundlegenden Angriffsmethoden bleiben dabei weitgehend unverändert, weiterhin dienen gestohlene Zugangsdaten und ungepatchte Systeme als Einfallstore. Neu ist allerdings die Möglichkeit, einzelne Angriffsschritte automatisch miteinander verknüpfen und dadurch innerhalb deutlich kürzerer Zeit eine wesentlich größere Zahl potenzieller Ziele anzugreifen zu können.

Bereits im September berichtete GreyNoise über eine groß angelegte Angriffskampagne gegen PaperCut-Druckmanagementserver, bei der zwei Schwachstellen bereits nur vier Tage nach ihrer Offenlegung ausgenutzt wurden. Vermutlich verwendete der Angreifer LLMs zur Entwicklung und Erprobung von Exploits sowie zur Zielauswahl. Im August 2026 untersuchte GTIG außerdem eine Plattform mit Gemini-API-Anbindung, die politische Diskussionen insbesondere in Europa und dem Nahen Osten beeinflussen sollte. Sprachmodelle erhielten dafür Anweisungen, regionale Dialekte, Umgangssprache und absichtliche Schreibfehler einzusetzen, um authentischer zu wirken.

Ein weiterer Anbieter entwickelte eine Plattform zur Verwaltung von mehr als 100.000 Konten. Virtuelle Smartphones, Proxyserver und automatisierte Interaktionen sollten dabei die Erkennung gefälschter Profile erschweren und deren Aktivitäten weniger auffällig erscheinen lassen.

Die Sicherheitsforscher erwarten aufgrund der Vorkommnisse eine weitere Verbreitung KI-gestützter Angriffssysteme. Niedrige Einstiegshürden, die unkomplizierte Einbindung zusätzlicher Exploits und umfangreiche Automatisierungsmöglichkeiten begünstigen nach Einschätzung von Google diese Entwicklung. Besonders kritisch ist dabei die schrumpfende Zeitspanne zwischen der Veröffentlichung eines Sicherheitspatches und der Verfügbarkeit funktionsfähiger Exploits. Dadurch könnten bereits geschlossene, aber noch nicht überall behobene Schwachstellen künftig wesentlich schneller für automatisierte Angriffe ausgenutzt werden.

Google setzt auf automatisierte Gegenmaßnahmen

Die Erkenntnisse stammen laut Google aus Mandiants Untersuchungen realer Sicherheitsvorfälle, der internationalen Beobachtung von Angreifergruppen und aktiven Schutzsystemen. Als Gegenmaßnahmen nennt das Unternehmen mehrstufige Sicherheitsmechanismen innerhalb seiner KI-Modelle, die gezielte Sperrung missbräuchlicher Konten und Projekte sowie automatisierte Erkennungs- und Reaktionssysteme.

Allerdings sieht GTIG weiterhin auch deutliche technische Grenzen autonomer Angriffswerkzeuge. Viele Frameworks verursachen auffälligen Netzwerkverkehr, hinterlassen identifizierbare Kennungen und forensisch nachvollziehbare Spuren. Fehlerhafte oder frei erfundene LLM-Ausgaben können zudem die Zuverlässigkeit automatisierter Angriffe erheblich beeinträchtigen.

Google setzt deshalb auf spezialisierte Erkennungsregeln, automatisierte Schwachstellensuche und zusätzliche Schutzmechanismen für seine KI-Modelle. Mit Google AI Threat Defense und BeyondZero sollen beispielsweise Sicherheitsüberwachung und Abwehrmaßnahmen stärker automatisiert werden. Ziel ist es, auf Cyberangriffe künftig mit einer Geschwindigkeit reagieren zu können, die dem zunehmenden Einsatz autonomer KI-Systeme entspricht.

Unsere Community-Benchmarks: Mach mit!
- MrH OpenCL Bench (neu!)
- Blender Benchmark (neu!)
- 3DMark Steel Nomad + X
- Cinebench 2026
- Apple M1 – M6
Als bevorzugte Quelle auf Google hinzufügen
Dir gefällt ComputerBase? Lasse dir unsere neuesten Artikel in der Google-Suche ganz oben anzeigen!