Autonome Cyber-Angriffe: KI als Gamechanger

Cyberkriminelle verlagern KI-gestützte Angriffsfunktionen direkt auf den Endpoint. Getarnt als legitime Software enthalten Programme eigene Modelle oder API-Anbindungen, die zur Laufzeit Schwachstellen analysieren und maßgeschneiderte Malware generieren. Beispiele wie PromptFlux oder PromptLock zeigen: KI-Malware wird adaptiv, autonom und plattformübergreifend – und senkt zugleich die Einstiegshürden für Angreifer erheblich.

Geschrieben von Uwe Sievers

Abstrakte Darstellung von KI-Malware auf Laptop, die vernetzte Geräte befällt

KI ist inzwischen allgegenwärtig, beispielsweise im Sport und in der Landwirtschaft. So liefert etwa der WM-Fußball per Sensoren laufend Daten, die KI zur Spielanalyse nutzt. In der Landwirtschaft erkennt KI Pflanzen und ermöglicht eine gezielte, laserbasierte Unkrautbekämpfung, die als umweltschonender gilt. Doch das sind nur die legalen Beispiele – auch Cyberkriminelle setzen auf das Potenzial der künstlichen Intelligenz. So auch für neuartige Angriffe, die Verteidiger unter Druck setzen.

Zur Themenseite KI & IT-Security

Cyberkriminelle setzen auf neue KI-Angriffsformen

Doch fortschrittliche KI-Nutzung findet sich auch im kriminellen Bereich. Immer raffinierter werden dabei die Methoden, denn in beeindruckendem Tempo setzen Cyberkriminelle kreative Ideen um. Sie schleusen beispielsweise scheinbar harmlose Software auf die Rechner ihrer Opfer. Keinem Endpoint-Protection-System (EDR) erscheint das normalerweise verdächtig. Die Software enthält jedoch Algorithmen, um mittels KI Schadcode zu erzeugen und direkt anzuwenden. Diese Malware ist dann an das System angepasst, berücksichtigt installierte Anwendungen und wird ebenso auf die verwendete Endpoint-Security zugeschnitten.

Endpunktsicherheit im Zeitalter von RaaS

Ein solcher Schädling ist PromptFlux. Diese Malware wurde von Googles Threat Intelligence Group (GTIG) identifiziert. Deren Analyse ergab, dass PromptFlux Googles KI kontaktiert, indem es die API vom KI-System Gemini nutzt, um den eigenen VBScript-Code in regelmäßigen Abständen neu zu schreiben und zu verschleiern. Cyberkriminelle verfügen damit über Tools, die ihr eigenes Verhalten während der Laufzeit dynamisch verändern können. PromptFlux versucht dadurch auch, über längere Zeit unentdeckt zu bleiben. Nach einem vergleichbaren Prinzip funktioniert Promptsteal. Diese Malware wird aber eher verwendet, um Systeme auszuspionieren und Informationen zu exfiltrieren. Der Schadcode wurde bereits gegen die Ukraine eingesetzt. Promptsteal tarnt sich als Bildgenerator und setzt sich unter anderem im Windows-Autostartordner fest.

Noch raffinierter geht PromptLock vor. Diese Schadsoftware gilt als erste Ransomware mit echter KI-Integration und wurde von Forschern des Security-Spezialisten ESET entdeckt. „PromptLock bringt ein eigenes Sprachmodell mit, installiert es auf dem lokalen System und erzeugt damit im laufenden Angriff automatisch Skripte“, erläutert Juraj Janosik, Director of Artificial Intelligence bei ESET, während seines Vortrags auf einer Security-Konferenz. Die Malware nutze ein frei verfügbares Sprachmodell. Sie kommt ohne Verbindung zur Cloud aus und kann unabhängig von Command-and-Control-Servern agieren. Die KI erstellt die Angriffsskripte also direkt auf dem infizierten Rechner und entscheidet eigenständig, welche lokalen Dateien durchsucht und verschlüsselt werden. Sie läuft plattformübergreifend auf Windows, Linux und macOS und generiert Skripte in der Programmiersprache LUA, die den zur Ausführung notwendigen Interpreter mitführen.

KI im Unternehmen wird zur Gefahr – Awareness-Schulung unverzichtbar

Auch Smartphones von KI-Malware betroffen

Malware mit KI-Nutzung macht auch vor mobilen Geräten nicht halt. Ebenfalls von ESET entdeckt wurde PromptSpy, die erste bekannte Android-Malware, die generative KI wie Google Gemini auf Smartphones direkt in ihren Ausführungsablauf integriert. Dabei tarnt sich die Malware als harmlose Anwendung, nutzt die KI jedoch, um die Benutzeroberfläche des Smartphones zu analysieren und zu bedienen. Dies ermöglicht hoch entwickelte und automatisierte Angriffe, wie etwa den Diebstahl von Banking-Daten.

Sicherheitsexperten weisen darauf hin, dass der Code einiger Malware darauf hindeutet, dass sich diese noch in der Entwicklung befinden. Finale Versionen könnten deutlich raffinierter und radikaler wirken und dürften alsbald ihr Unwesen treiben.

KI-Angriffe in sozialen Netzwerken

Ganz anders setzten Cyberkriminelle KI kürzlich bei Instragram ein. Sie nutzten eine Schwachstelle in Metas KI-gestütztem Account-Recovery-System für Instagram aus. Dahinter verbirgt sich ein automatisierter Wiederherstellungsprozess mittels eines KI-Chatbots. Ziel der Angreifer waren Nutzerkonten Dritter, vorrangig von Prominenten.

Viel KI-Know-how war für diesen Angriff allerdings nicht notwendig. „Die Angreifer mussten demnach lediglich den KI-Support-Bot von Meta bitten, die entsprechenden Konten mit einer neuen E-Mail-Adresse zu verknüpfen, um den Account zu übernehmen“, schreibt das Nachrichtenmagazin „Der Spiegel“. Demnach hatten sie es unter anderem auf Accounts prominenter US-Politiker abgesehen, die sie dazu nutzten, islamistische Propaganda zu verbreiten. Laut Meta wurden mehr als 20.000 Instagram-Konten kompromittiert.

Experten warnen, dass die Automatisierung derartiger hochsensibler Prozesse besondere Gefahren birgt, insbesondere wenn ein KI-System unüberwacht sicherheitsrelevante Änderungen vornehmen kann. Wenn ein KI-System aktiv Sicherheitsfunktionen übernimmt, werde der Support-Workflow selbst zur Angriffsfläche. Genau darin läge die Security-Relevanz dieses Falles.

Für IT-Sicherheitsforscher bildet KI-Malware, wie die oben erwähnten, ein deutliches Warnsignal. Die großen LLM-Betreiber wie Google oder OpenAI passen ihre KI-Modelle nach solchen Entdeckungen zwar an die Entwicklung an, um eine missbräuchliche Nutzung zu unterbinden, doch Cyberkriminelle stellen sich meist schnell darauf ein. Der ewige Wettlauf zwischen Angreifern und Verteidigern geht damit auf einer neuen Ebene weiter.

Ergänzend dazu weist Janosik auf einen weiteren Aspekt hin: „Interessanterweise beobachten wir jedoch auch, dass dank dieser KI-Tools und agentenbasierten Arbeitsabläufe viele der Werkzeuge, die zuvor nur typischen APT-Gruppen und den 'Big Four' Russland, China, Iran und Nordkorea zur Verfügung standen, nun auch in die Hände gewöhnlicher Cyberkrimineller gelangen. KI senkt also gewissermaßen die Einstiegshürde für Angreifer“.

Das KI-Orchester: Warum Multi-Agenten-Systeme einen Dirigenten brauchen